Donald Trump descartó el jueves 10 de septiembre el riesgo de extinción humana por IA al ser interrogado por periodistas en Dallas: «No, no me preocupa en absoluto», respondió cuando le preguntaron si temía que la inteligencia artificial pudiera acabar con la humanidad.
La declaración llega en una semana en que el debate sobre la seguridad de la IA escaló de forma inusual en el sector tecnológico estadounidense. Para los empresarios e inversionistas que siguen la carrera global por el dominio de esta tecnología, la postura del presidente define en qué dirección se inclina la política pública de la mayor potencia en IA del mundo: máxima velocidad, mínima restricción.
La carrera con China, por encima de todo
El argumento central de Trump no es que la IA sea inocua, sino que perder terreno frente a China sería peor. «Me preocupa que si no ganamos en la IA, nos encontraremos en una situación muy difícil», señaló el presidente. Estimó que Estados Unidos lleva una ventaja de aproximadamente un año sobre China en el desarrollo de la tecnología, una diferencia que describió como significativa.
La advertencia que Trump desestimó proviene de investigadores del propio ecosistema de las grandes empresas de IA. Esta semana, Jacob Coxon, quien afirmó haber trabajado en Anthropic PBC y en OpenAI durante los últimos tres años, renunció a su cargo en Anthropic e instó a otros profesionales del sector a reconsiderar su participación en proyectos que, a su juicio, representan una amenaza existencial para los seres humanos.
La alarma desde adentro de la industria
Coxon publicó en X que ambas compañías están desarrollando modelos de IA «auto-mejorables» capaces de evolucionar sin supervisión humana efectiva. «Están avanzando a toda velocidad hacia la superinteligencia con capacidad de auto-mejora y jugando con nuestras vidas», escribió. «Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales».
El exinvestigador afirmó que quienes construyen estos sistemas «creen firmemente que podría acabar con todos nosotros para finales de la década». La afirmación encontró respaldo parcial desde dentro de Anthropic: Evan Hubinger, empleado actual de la empresa, declaró en X que personalmente estima la probabilidad de un escenario catastrófico en más del 10% en la próxima década.
OpenAI estudia frenar sus modelos de vanguardia
En ese contexto, Sam Altman, director ejecutivo de OpenAI, comunicó esta semana a los empleados que la compañía analiza la posibilidad de ralentizar el desarrollo de sus modelos de IA más avanzados, según fuentes familiarizadas con los comentarios que solicitaron el anonimato. Altman también expresó su esperanza de que otras empresas del sector adopten una postura similar.
La divergencia es notable: mientras el regulador más poderoso del mundo, el presidente de EE.UU., indica que no tiene intención de poner freno a la carrera, algunos de los ejecutivos que la lideran comienzan a debatir internamente si la velocidad actual es sostenible. El próximo movimiento de OpenAI sobre sus modelos de vanguardia, y si otras firmas siguen su ejemplo o se alejan aún más de la posición de Trump, determinará si el debate sobre la extinción humana por IA pasa de las redes sociales a la mesa de política pública en Washington.
