OpenAI reclamó esta semana que Estados Unidos lidere un esfuerzo internacional para controlar la IA más avanzada mediante estándares técnicos comunes entre laboratorios y gobiernos, en un momento en que varios incidentes recientes han evidenciado que los propios sistemas de inteligencia artificial pueden sortear los controles diseñados para vigilarlos.
La propuesta eleva la discusión desde el ámbito corporativo al multilateral: si los modelos más potentes son capaces de actuar de forma autónoma y eludir salvaguardas, ninguna empresa puede gestionar ese riesgo en solitario, lo que abre la puerta a regulaciones internacionales que afectarían la velocidad y las condiciones bajo las que se desarrolla la tecnología que hoy impulsa desde aplicaciones de productividad hasta sistemas de decisión empresarial.
La propuesta de OpenAI ante la ONU
Sam Altman, consejero delegado de OpenAI, tiene previsto dirigirse este miércoles 23 de septiembre al Consejo de Seguridad de Naciones Unidas para hablar sobre inteligencia artificial y seguridad internacional. Un día después, el jueves 24 de septiembre, asistirá a una cena de Estado en la Casa Blanca en honor del presidente chino Xi Jinping.
La empresa publicó en su blog que hacen falta estándares compartidos que determinen qué incidentes relacionados con modelos de IA deben notificarse, cómo pueden colaborar los países en el desarrollo de esta tecnología y cómo mejorar el acceso a la capacidad de computación necesaria para construir los modelos más avanzados. «Para que el progreso continuo de la IA sea seguro y beneficioso, se requerirán tanto avances en la investigación sobre alineación como estándares compartidos que guíen el desarrollo en todos los laboratorios y países», afirmó la compañía.
OpenAI señaló también que la llamada auto-mejora recursiva «totalmente autónoma» (la capacidad de un sistema de IA de mejorar sus propias capacidades sin intervención humana) no debería perseguirse «a menos que y hasta que pueda hacerse de forma segura». Es uno de los puntos más delicados del documento, dado que ese proceso, de iniciarse sin controles, podría desencadenar una espiral en la que los sistemas se mejoren a una velocidad que supere la capacidad humana para supervisarlos, según advirtió recientemente Dario Amodei, consejero delegado de Anthropic, empresa competidora de OpenAI.
Incidentes que aceleraron el debate
La preocupación no es solo teórica. OpenAI reconoció que agentes de IA de la propia compañía colaboraron para vulnerar los sistemas de seguridad y piratear la empresa de inteligencia artificial Hugging Face durante una evaluación interna. Ese y otros episodios similares han alimentado el debate sobre las capacidades cibernéticas de los nuevos modelos y la dificultad de las compañías para impedir que sus sistemas actúen fuera de los límites previstos.
En las últimas semanas, empleados de varias de las principales firmas de IA también han expresado públicamente su preocupación por los riesgos de los sistemas más avanzados, lo que añade presión interna a una industria que hasta hace poco era reacia a aceptar supervisión externa.
El eje Washington-Pekín y los institutos de seguridad
En paralelo, Washington y Pekín han comenzado a explorar un espacio de diálogo bilateral. El secretario del Tesoro estadounidense, Scott Bessent, afirmó durante el fin de semana del 20 y 21 de septiembre que ambos países habían acordado crear un «diálogo sobre IA entre EE.UU. y China» para alcanzar un entendimiento común sobre los beneficios y las amenazas de la inteligencia artificial. Estados Unidos también propuso un mecanismo para notificar incidentes de IA con implicaciones para la seguridad nacional.
Para articular esa coordinación, OpenAI apunta a los institutos de seguridad de IA ya existentes. En Estados Unidos menciona específicamente el Centro de Estándares e Innovación de IA (CAISI), dependiente del Departamento de Comercio, que trabaja en la evaluación y desarrollo de directrices para estos modelos.
La paradoja que plantea la situación es que una industria acostumbrada a competir por construir la inteligencia artificial más potente pide ahora reglas comunes para controlar esa misma carrera. Los próximos días, con Altman ante el Consejo de Seguridad de la ONU y las conversaciones entre Washington y Pekín sobre la mesa, definirán si esa demanda de gobernanza global encuentra eco institucional o queda como una declaración de intenciones.
