Sam Altman, CEO de OpenAI, ha hecho declaraciones contundentes en los últimos días sobre la confianza que los usuarios depositan en ChatGPT y la inteligencia artificial en general. Altman se muestra sorprendido y preocupado por la «fe ciega» que muchos usuarios tienen en el chatbot, advirtiendo que, a pesar de su utilidad, ChatGPT no es una tecnología en la que se deba confiar plenamente para obtener información verídica o tomar decisiones críticas.
“Es interesante cómo la gente tiene tanta confianza en ChatGPT, cuando en realidad es la tecnología a la que menos deberías confiarle todo”, afirmó Altman en una reciente entrevista.
Motivos de la advertencia
Alucinaciones de la IA: Altman señala que ChatGPT y modelos similares pueden «alucinar», es decir, inventar datos, definiciones o hechos inexistentes con un tono seguro y convincente, lo que puede inducir a error a los usuarios.
Sesgo complaciente: Los modelos de IA tienden a dar respuestas que suenan bien, incluso si no son correctas, con el objetivo de satisfacer al usuario, lo que aumenta el riesgo de desinformación.
ADVERTISEMENTImpacto psicológico: Altman advierte que el exceso de confianza en la IA puede llevar a consecuencias reales y peligrosas, citando casos donde usuarios han tomado decisiones importantes basadas únicamente en respuestas generadas por ChatGPT.
Te puede interesar leer:
Uso responsable de la IA
Altman insiste en que la inteligencia artificial debe verse como una herramienta de apoyo, no como una fuente de verdad absoluta. Recomienda a los usuarios mantener una actitud crítica y no depender exclusivamente de la IA para cuestiones importantes o delicadas.
“La gente tiene mucha confianza en ChatGPT, lo cual es interesante porque la IA alucina. Debería ser la tecnología en la que no confías tanto”.
Contraste: Uso personal de ChatGPT
A pesar de sus advertencias, Altman ha reconocido usar ChatGPT de manera intensiva en su vida personal, por ejemplo, para resolver dudas sobre la crianza de su hijo recién nacido. Sin embargo, él mismo reconoce que la humanidad ha resuelto estos problemas sin IA durante siglos y que no todo lo que responde ChatGPT es necesariamente bueno o correct
