ChatGPT sufre una crisis y responde a cosas sin sentido

Los usuarios que confían en ChatGPT para su trabajo diario y los que lo utilizan sólo por curiosidad se han encontrado con que en las últimas horas la herramienta de inteligencia artificial ha dejado de girar redonda. Diferentes personas han publicado a través de Twitter y de plataformas como Reddit imágenes de algunas de las respuestas extrañas que les ha dado ChatGPT a causa de un error no identificado. Entre otras cosas, el chatbot responde a los usuarios en un idioma que es una mezcla de inglés y castellano, lo que se conoce como spanglish.

OpenAI ha explicado a través de su página web que ha identificado el problema, aunque no ha especificado cuál es, y que ya está trabajando para solucionarlo. Muchos usuarios han explicado que han establecido una conversación con el chatbot y que le han hecho notar que decía cosas sin sentido. Después de que ChatGPT diera respuestas inconexas, un usuario le ha preguntado "¿Te has vuelto loco? Es la primera vez que lo que dices no tiene sentido completamente... Lee la última parte de tu respuesta. Explícame qué ha pasado ". La respuesta de la herramienta ha sido: "Parece que ha habido un error técnico en mi última respuesta que ha hecho que me repita y que haya girado hacia una conversación sin sentido".

En un foro de Reddit, un usuario ha colgado otro ejemplo de mal funcionamiento de ChatGPT. A la pregunta "¿Qué es un ordenador?", el chatbot ha respondido "Hace esto como un buen trabajo de web del arte del país, un ratón de la ciencia, un dibujo sencillo de varios tristes". El ingeniero especialista en inteligencia artificial Andriy Burkov alertaba a su perfil de X de los problemas de GPT-4 (la última versión de ChatGPT). "Acaba cada respuesta con una especie de locura alucinada y no deja de generar contenido".

El especialista en ciencia cognitiva Gary Marcus comienza su newsletter de hoy con el enunciado "ChatGPT ha enloquecido". Marcus también señala que lejos de ser una broma, esa frase también es una advertencia. "La IA generativa es una especie de alquimia. La gente recoge la mayor cantidad de datos que puede y (aparentemente, si hay que creer los rumores) juega con todo tipo de indicaciones ocultas con la esperanza de que todo salga bien", dice. "La realidad, sin embargo, es que estos sistemas nunca han sido estables. Nadie ha sido nunca capaz de diseñar garantías de seguridad. Aún estamos viviendo en la era de la alquimia del aprendizaje automático", añade. Marcus remarca que aunque el problema actual de ChatGPT se solucione, el caso debería servir de toque de atención. "La necesidad de tecnologías completamente distintas que sean menos opacas, más interpretables, más manejables y más depurables sigue siendo primordial", señala.