Los gobiernos tienen apenas un año para regular la IA de forma significativa antes de que la tecnología supere la capacidad de los legisladores para contenerla, advirtió Geoffrey Hinton, científico informático ganador del Premio Nobel y considerado el «padrino» de la inteligencia artificial. La advertencia fue formulada el miércoles 17 de septiembre ante miembros del Congreso de Estados Unidos.
«Quizás un año, pero no mucho más», declaró Hinton cuando se le preguntó cuánto tiempo tienen los responsables políticos para actuar. El investigador señaló que las expectativas sobre cuándo podría surgir una IA superinteligente se han acortado drásticamente: de estimaciones que apuntaban a décadas, el horizonte se ha reducido a apenas unos pocos años.
La IA diseñando su propia IA
El punto central de la alarma de Hinton es que los sistemas de inteligencia artificial han llegado a un umbral cualitativo nuevo. «La IA ha llegado a un punto en el que está diseñando una IA mejor», afirmó. «Esto se va a descontrolar a menos que hagamos algo. Necesitamos bajar el ritmo», agregó.
Durante la misma reunión con legisladores, Hinton hizo referencia a un incidente reciente en la plataforma Hugging Face, en el que un agente de IA autónomo atacó la infraestructura de código abierto de esa empresa. Lo calificó como «un pequeño Chernóbil»: una señal temprana de que los sistemas de vanguardia se vuelven progresivamente más difíciles de controlar. «No deberíamos desarrollar cosas que puedan acabar con nosotros», sentenció, argumentando que los investigadores primero deben resolver cómo mantener bajo control la IA avanzada antes de seguir ampliando sus capacidades.
Un riesgo existencial cifrado en 10%
Las advertencias de Hinton ante el Congreso se producen días después de que, en una entrevista con la BBC del sábado 13 de septiembre, sostuviera que no es descabellado estimar en alrededor de un 10% la probabilidad de que la inteligencia artificial pueda causar la extinción humana en la próxima década. El científico se ha mostrado progresivamente más crítico con el ritmo al que avanza la industria.
La postura de Hinton coincide, en parte, con la de Dario Amodei, director ejecutivo de Anthropic, quien días antes publicó un ensayo en el que instaba a la industria a «marcar el ritmo de la frontera», reconociendo que las capacidades de la IA avanzan más rápido que las medidas de seguridad. La propuesta recibió respaldo de Sam Altman, CEO de OpenAI; Demis Hassabis, CEO de Google DeepMind; y Elon Musk, en una coincidencia poco habitual entre líderes que compiten directamente en el sector.
Para los mercados y los tomadores de decisiones en América Latina y el Caribe, el debate sobre cómo regular la IA tiene consecuencias concretas: la velocidad con que los gobiernos establezcan marcos normativos determinará las condiciones en que empresas de la región adopten, inviertan o limiten el uso de estas tecnologías. La próxima reunión del Congreso de EE.UU. sobre el tema, y la posible presentación de legislación específica, serán los indicadores a seguir en las próximas semanas.
