No confíes en ChatGPT: no ofrecemos un servicio de "búsqueda de teléfono"

TL;DR ChatGPT afirma que ofrecemos una API para convertir un número de teléfono móvil en una ubicación de teléfono. Nosotros no.

Nuestra historia comienza. "Hola, ChatGPT es genial"

Como todos los demás cuando se lanzó ChatGPT hace unos meses, nos sumergimos y jugamos con él. Es impresionante.

En enero, a medida que el nuevo servicio de preguntas y respuestas de IA crecía en popularidad, notamos algo interesante. Algunos usuarios nuevos de OpenCage comenzaron a responder "ChatGPT" cuando les preguntamos cómo se enteraron de nosotros durante el proceso de registro para nuestra API de geocodificación. Fantástico, pensamos. Durante las últimas ocho semanas, ese primer goteo de nuevos listados se ha convertido en un flujo constante.

Pero sucedió algo extraño.

"En realidad, no, no es genial"

Parece que muchos de estos nuevos usuarios usaron la versión de prueba gratuita de nuestra API de codificación geográfica solo para algunas solicitudes de API y luego abandonaron por completo. Muy diferente del comportamiento de otros registros de prueba gratuitos.

Nos pusimos en contacto con algunos de estos usuarios y les preguntamos por qué dejaron de hacerlo. Algunos respondieron con una variación de "no funcionó", lo que por supuesto nos alarmó.

“No es genial en absoluto”

A medida que investigamos, quedó claro que la mayoría de estos nuevos usuarios de ChatGPT querían usar nuestra API de codificación geográfica para un propósito completamente diferente. Parece que ChatGPT nos está recomendando incorrectamente para la "búsqueda inversa de números de teléfono", es decir, la capacidad de determinar la ubicación de un teléfono móvil basándose únicamente en el número. Este no es un servicio que proporcionamos. Este no es un servicio que hayamos brindado nunca, ni un servicio que planeamos brindar. De hecho, no es un servicio que técnicamente seamos capaces de proporcionar.

Y, sin embargo, ChatGPT no tiene absolutamente ningún problema en recomendarnos para este servicio (completo con el código python que puede cortar y pegar) como puede ver en esta captura de pantalla.

Mirando la respuesta bien redactada de ChatGPT, es comprensible que la gente piense que esto funcionará.

"Realmente apesta, en realidad"

La situación es extremadamente frustrante para todos. Para nosotros, y para los usuarios que se registren creyendo que podemos ofrecer este servicio. Ahora recibimos solicitudes de soporte todos los días preguntando "¿Por qué esto no funciona?".

¿Por qué ChatGPT "piensa"?

Quizás se pregunte "¿Por qué ChatGPT 'piensa' que ofrece este servicio?" Sin duda, esto se debe a los tutoriales defectuosos de YouTube que la gente ha creado, donde parecen afirmar que podemos hacerlo, como hemos visto antes. ChatGPT recuperó este contenido.

La principal diferencia es que los humanos han aprendido a ser escépticos cuando reciben consejos de otros humanos, como a través de un tutorial de codificación en video. Sin embargo, parece que aún no hemos integrado completamente esto en lo que respecta a la IA en general o ChatGPT en particular. La otra diferencia clave es la escala del problema. Los videos tutoriales malos nos dieron un puñado de registros frustrados. Con ChatGPT, el problema es varios órdenes de magnitud mayor.

¿Y ahora?

Desafortunadamente, no está muy claro cómo resolver este problema. Todas las sugerencias son bienvenidas. ChatGPT hace exactamente lo que pretendían sus creadores: producir una respuesta consistente y creíble. Si esta respuesta es verdadera no parece importar en absoluto.

Escribí esta publicación para tener un lugar para enviar a nuestros nuevos usuarios de ChatGPT cuando preguntan por qué no funciona, pero también espero que sirva como una advertencia para otros: no puedes confiar absolutamente en que la salida de ChatGPT sea cierta.

Geocodificación feliz (NO "búsqueda de teléfono"),

Ed

Nota: esta publicación fue escrita por un ser humano, no por una IA.