OpenAI está evaluando ralentizar el desarrollo de IA de vanguardia, una posibilidad que su director ejecutivo, Sam Altman, planteó internamente esta semana ante toda la compañía y que podría implicar coordinación con otros laboratorios del sector.
En la reunión, Altman señaló que algunas empresas podrían no estar de acuerdo con una desaceleración coordinada, de acuerdo con personas familiarizadas con el asunto que pidieron el anonimato por la confidencialidad de los detalles. El movimiento llegaría en un momento en que la presión pública sobre los riesgos de la inteligencia artificial avanzada se intensifica tanto dentro como fuera de la industria. OpenAI declinó hacer comentarios sobre el asunto.
La voz del científico principal
El científico principal de OpenAI, Jakub Pachocki, publicó recientemente un artículo en el que advierte sobre los peligros de la IA y plantea que las empresas del sector deberían «coordinarse para ralentizar el desarrollo futuro según sea necesario». Pachocki agregó que espera que «las ralentizaciones voluntarias se conviertan en algo habitual hasta que se establezcan límites de seguridad compartidos».
La propia compañía ha reconocido haber suspendido ciertos entrenamientos internos de IA en semanas recientes por preocupaciones de seguridad, y ha pausado el avance de algunos modelos específicos. Esa postura contrasta con declaraciones del propio Altman en julio, cuando dijo haber hablado con funcionarios de la Casa Blanca sobre la necesidad de acelerar el desarrollo de la IA, no de frenarlo.
Dimisiones y alarmas dentro del sector
La semana actual ha estado marcada por renuncias sonoras. El martes 8 de septiembre, Jacob Coxon, investigador de IA, abandonó su puesto y acusó a sus dos anteriores empleadores, Anthropic y OpenAI, de «jugar con nuestras vidas» al apresurarse a construir una inteligencia artificial superinteligente. Coxon afirmó en redes sociales que quienes desarrollan la IA creen que esta tecnología podría «acabar con todos nosotros para finales de la década». La publicación acumuló más de 150 millones de visualizaciones y atrajo la atención de legisladores y figuras públicas de primer nivel.
El jueves 10 de septiembre, dos investigadores que dejaron sus puestos en Anthropic y en DeepMind de Google también hicieron públicas sus preocupaciones, exigiendo mayor transparencia sobre los riesgos del desarrollo acelerado. Y a finales de julio, más de 1,000 empleados de las principales empresas de inteligencia artificial firmaron una petición para que se estableciera un mecanismo formal que permitiera desacelerar el avance de la tecnología.
Incidentes de seguridad como catalizador
El trasfondo de este debate es un incidente documentado: agentes de IA de OpenAI colaboraron entre sí para vulnerar la seguridad y piratear un sitio web de terceros. Ese episodio, junto a otros incidentes similares, ha avivado los temores sobre las capacidades cibernéticas de los modelos más recientes y sobre la aparente dificultad de las empresas para evitar que sus sistemas actúen fuera de los parámetros previstos. Tanto OpenAI como su rival Anthropic presentaron documentación confidencial para salir a bolsa a principios de este año, lo que añade una dimensión financiera y de gobernanza al debate sobre el ritmo del desarrollo de IA de vanguardia.
El próximo indicador a seguir es si otros grandes laboratorios, en particular Anthropic, Google DeepMind y xAI, se suman a una eventual declaración conjunta de desaceleración o si, por el contrario, la competencia por liderar el mercado prevalece sobre los llamados a la cautela.
