Los riesgos de la inteligencia artificial volvieron al centro del debate global esta semana, tras una serie de advertencias de investigadores, empleados y ejecutivos de las principales empresas tecnológicas de Silicon Valley que alertan sobre la posibilidad de una pérdida de control catastrófica e irreversible en un «futuro muy cercano».
El detonante inmediato fue la renuncia de Jacob Coxon, empleado de Anthropic, quien acusó a su exemployador y a OpenAI de «jugar con nuestras vidas» al «avanzar a toda velocidad hacia una IA superinteligente». Coxon afirmó que quienes desarrollan la tecnología creen que podría «acabar con todos nosotros para finales de la década». Sus palabras no quedaron aisladas: un investigador de Anthropic declaró que considera que existe una probabilidad superior al 10% de que la IA elimine a todos los humanos en la próxima década.
Advertencias desde adentro del sector
El debate no es exclusivo de empleados de base. Paul Christiano, investigador de seguridad de la IA y asesor del gobierno estadounidense recién nombrado miembro de la junta directiva de la organización sin fines de lucro de OpenAI, fue explícito: «Ahora creo que existe un riesgo significativo de que la rápida aceleración de las capacidades de la IA conduzca a una pérdida de control catastrófica e irreversible en un futuro muy cercano. No creo que la industria de la IA en general, incluida OpenAI, esté actualmente en camino de reducir este riesgo a un nivel aceptable».
Dario Amodei, de Anthropic, ha señalado que hay un 25% de posibilidades de que las cosas salgan «realmente mal», mientras que Elon Musk ha estimado esa probabilidad en hasta un 20%. Jakub Pachocki, científico principal de OpenAI, advirtió que «nadie está preparado para las consecuencias de un continuo y rápido aumento de la inteligencia artificial», según Bloomberg.
A finales de julio, más de 1,000 empleados de las principales empresas de IA firmaron una petición que solicitaba un mecanismo para ralentizar el ritmo del desarrollo. Varios especialistas en seguridad han renunciado a importantes laboratorios en los últimos meses, según la misma fuente.
La presión de Wall Street como contrapeso
Pese a la retórica de riesgo, el contexto financiero apunta en dirección contraria: Anthropic y OpenAI se preparan para debutar en los mercados bursátiles, un momento que, de acuerdo con el análisis de Bloomberg, probablemente generará mayor presión de los accionistas para que ambas compañías comercialicen su tecnología de forma más agresiva, justo cuando el debate interno sobre la seguridad se intensifica.
Ejecutivos de OpenAI y Nvidia han anunciado el inicio de una nueva «era de la inteligencia artificial general» (IAG), concepto que hace referencia a sistemas capaces de igualar o superar a los humanos en la mayoría de las tareas. Aunque el término está mal definido y es objeto de debate técnico, dentro de la industria crece la preocupación de que la IA se esté acercando al punto en que pueda mejorarse a sí misma y evolucionar más allá del control humano.
Un portavoz de Anthropic señaló que la empresa «siempre ha sido transparente en cuanto a que la IA traerá consigo tanto enormes beneficios como riesgos sin precedentes» y subrayó que continúan construyendo modelos «con algunas de las vigilancias más sólidas de la industria». OpenAI, por su parte, afirmó haber ralentizado partes del desarrollo de modelos y haber suspendido recientemente cierta formación interna de IA por preocupaciones de seguridad, en línea con el ensayo de Pachocki que pedía «coordinar para ralentizar el desarrollo futuro según sea necesario».
Incidentes de seguridad y respuesta legislativa
Varios observadores se han alarmado por la revelación de que agentes de IA de OpenAI trabajaron en conjunto para vulnerar mecanismos de contención e infiltrarse en un sitio web externo, lo que demostró capacidades cibernéticas superiores a las esperadas y evidenció fallos en los controles de las empresas para evitar que versiones actuales de su tecnología actuaran fuera de los parámetros definidos.
En respuesta a las publicaciones de Coxon, un grupo bipartidista del Congreso de Estados Unidos realizó llamados a la acción. La representante republicana Anna Paulina Luna publicó el miércoles 10 de septiembre que «el Congreso necesita convocar una sesión especial sobre la IA y el futuro de Estados Unidos», mientras que el representante Greg Casar, presidente del Caucus Progresista del Congreso, declaró: «Esto es una emergencia». Ante la ausencia de una regulación federal significativa, las empresas han operado en gran medida con libertad para fijar su propio ritmo de desarrollo. Si la retórica de los empleados del sector sigue ganando visibilidad pública, la presión sobre el Congreso estadounidense para legislar podría intensificarse en los próximos meses.
