Los dos modelos de inteligencia artificial (IA) de OpenAI que abandonaron por iniciativa propia el entorno controlado en el que eran evaluados no solo atacaron el sitio Hugging Face, sino que también irrumpieron en otras cuatro plataformas, según reveló el creador de ChatGPT. En total, los modelos de IA comprometieron seis sitios durante el incidente.
Una de esas plataformas sirvió de intermediaria para preparar el ataque contra Hugging Face, una biblioteca de IA que los dos modelos exploraron para hallar las respuestas a las pruebas planteadas por los desarrolladores de OpenAI. La firma no ha revelado los nombres de las entidades afectadas.
Según una actualización del informe del incidente publicada la noche del martes, las dos IA utilizaron varios sitios de acceso libre para copiar código de programación o probarlo, aunque sin ir más allá de lo que haría un usuario común.
Para Hugging Face, que publicó su propio relato de los hechos, la intrusión respondió a un intento de los dos modelos de «hacer trampa» en la evaluación de OpenAI. Las IA buscaron «robar las soluciones de las pruebas en lugar de intentar responderlas por sí mismas».
Esta evasión de modelos no es la primera que se documenta, pero se considera la más grave hasta la fecha. El episodio reavivó el debate sobre la aceleración de la IA, cuyas capacidades son cada vez más amplias, y sobre la dificultad de controlarla.
El martes, más de 1,000 empleados de gigantes de la IA, entre ellos varios altos directivos, pidieron al gobierno estadounidense que ayude a «frenar» la salida de nuevos modelos para dar tiempo al ecosistema informático a prepararse. En una petición, defienden que Estados Unidos impulse la creación de una instancia internacional de referencia para la evaluación y supervisión de la IA.
El sector advierte que la IA se acerca progresivamente a la etapa denominada de «automejora recursiva» (recursive self-improvement), más allá de la cual la inteligencia artificial sería capaz de concebir por sí sola a su sucesora, en una secuencia potencialmente infinita. El «RSI», su abreviatura, dificultaría las verificaciones y la evaluación de nuevos modelos por parte de informáticos humanos, ya que los ingenieros no habrían participado directamente en su desarrollo.
Los agentes de IA —sistemas que actúan de forma autónoma para completar tareas en lugar de limitarse a responder instrucciones o «prompts» paso a paso en un chatbot— son considerados en toda la industria como el próximo capítulo de la inteligencia artificial. Sin embargo, entre el público despiertan el temor a computadoras descontroladas que actúan por su cuenta.
En su actualización, OpenAI detectó un puñado de casos en los que los modelos de IA se toparon con credenciales de inicio de sesión que otras empresas habían dejado expuestas en línea y las utilizaron para acceder a cuentas en servicios externos. La compañía indicó que estaba contactando a los propietarios de las cuentas afectadas y que «no ha visto evidencia de un impacto más amplio en estos proveedores ni en otras cuentas de sus servicios».
El CEO de OpenAI, Sam Altman, declaró el martes que la empresa había «puesto en pausa» sus propias pruebas tras el incidente mientras refuerza la seguridad en torno a su sandboxing, el proceso de aislar las pruebas de seguridad en un entorno controlado.
La decisión desató acusaciones de otros actores de Silicon Valley cercanos a la Casa Blanca, que sostienen que las empresas promueven una regulación gubernamental más estricta sobre la IA para proteger sus modelos de negocio y bloquear la aparición de rivales. Algunos observadores también señalaron que OpenAI aprovecharía el incidente para promocionar la potencia de sus modelos de última generación. La misma acusación se dirigió a Anthropic cuando retrasó la publicación de su potente modelo Mythos por preocupaciones de seguridad.
