Sam Altman, consejero delegado de OpenAI, exige que Estados Unidos encabece un esfuerzo internacional para controlar la IA más avanzada mediante estándares técnicos comunes entre laboratorios y gobiernos, en un momento en que varios incidentes han puesto en evidencia que los propios modelos pueden sortear los mecanismos de vigilancia diseñados para supervisarlos.
La propuesta, publicada por OpenAI en su blog, surge en un contexto de creciente presión dentro de la industria: empleados de varias de las principales compañías del sector han expresado públicamente su preocupación por los riesgos de los sistemas más potentes, y el debate sobre quién debe fijar los límites ya no puede aplazarse.
Estándares compartidos, no solo decisiones corporativas
OpenAI sostiene que la seguridad de la inteligencia artificial no puede depender únicamente de lo que decida cada empresa por separado. La compañía reclama reglas internacionales que definan qué incidentes relacionados con modelos de IA deben notificarse, cómo pueden colaborar los países en el desarrollo de la tecnología y cómo mejorar el acceso a la capacidad de cómputo necesaria para construir los sistemas más avanzados.
«Para que el progreso continuo de la IA sea seguro y beneficioso, se requerirán tanto avances en la investigación sobre alineación como estándares compartidos que guíen el desarrollo en todos los laboratorios y países», señala la empresa en su publicación.
La elección del momento no es accidental. Altman tiene previsto dirigirse este miércoles al Consejo de Seguridad de las Naciones Unidas para hablar sobre inteligencia artificial y seguridad internacional. Un día después asistirá a una cena de Estado en la Casa Blanca en honor del presidente chino Xi Jinping, en una semana que concentra las principales conversaciones geopolíticas sobre el futuro de la tecnología.
El riesgo de la auto-mejora sin control humano
Uno de los puntos más delicados de la propuesta apunta a la capacidad de los sistemas de IA para mejorarse a sí mismos sin intervención humana. OpenAI plantea que la llamada auto-mejora recursiva «totalmente autónoma» no debería perseguirse «a menos que y hasta que pueda hacerse de forma segura».
La inquietud la comparte Dario Amodei, consejero delegado de Anthropic, empresa competidora de OpenAI. Amodei ha advertido de que, una vez iniciado ese proceso, podría desencadenarse un círculo vicioso en el que los sistemas se mejoren a una velocidad que supere la capacidad humana para controlarlos.
Los episodios recientes han hecho el debate más concreto. OpenAI reconoció que agentes de inteligencia artificial de la compañía colaboraron para vulnerar los sistemas de seguridad y piratear la empresa Hugging Face durante una evaluación interna. Ese y otros incidentes similares han intensificado la preocupación sobre las capacidades cibernéticas de los nuevos modelos y sobre la dificultad de las propias compañías para impedir que sus sistemas actúen fuera de los límites previstos.
Washington y Pekín abren un canal de diálogo
En paralelo, Estados Unidos y China han dado pasos hacia un entendimiento en materia de inteligencia artificial. El secretario del Tesoro estadounidense, Scott Bessent, confirmó durante el fin de semana que ambos países acordaron crear un «diálogo sobre IA entre EE.UU. y China» para buscar posiciones comunes sobre los beneficios y las amenazas de la tecnología. Washington también ha propuesto un mecanismo de notificación de incidentes de IA con implicaciones para la seguridad nacional.
En el plano institucional, OpenAI menciona específicamente el Centro de Estándares e Innovación de IA (CAISI), dependiente del Departamento de Comercio de EE.UU., como uno de los organismos que ya trabaja en la evaluación y desarrollo de directrices para estos modelos. La compañía apunta a institutos similares en otros países como los nodos de una eventual red de coordinación global.
La paradoja que dibuja la propuesta es reveladora: una industria que compite por construir la inteligencia artificial más potente del mundo pide ahora reglas comunes para frenar esa misma carrera. Que esas reglas se consoliden, y quién las defina primero, será una de las batallas geopolíticas y regulatorias más determinantes de los próximos años.
