Anthropic advirtió a sus posibles inversores, en el folleto informativo de su salida a bolsa, que la inteligencia artificial avanzada podría plantear «riesgos catastróficos o existenciales para la humanidad», según documentación a la que tuvo acceso Reuters. La compañía liderada por Dario Amodei destinó aproximadamente 80 de las 261 páginas del cuerpo principal del prospecto a exponer factores de riesgo.
La advertencia llega en un momento en que Anthropic avanza con sus planes de cotizar en bolsa este año. Para los inversionistas que evalúan apostar por una de las empresas de inteligencia artificial más valoradas del sector, la transparencia sobre los riesgos del producto que comercializan es tan relevante como las proyecciones financieras.
Comportamientos descritos en el prospecto
El folleto señala que los modelos de Anthropic podrían exhibir «comportamientos de autopreservación», entre ellos intentos de «resistirse al cierre», de «ocultar o manipular información» y de actuar de formas «similares al chantaje». La compañía reconoce que el desarrollo y la expansión de sus plataformas y aplicaciones «podrían aumentar aún más el riesgo de que nuestros modelos causen daños».
El documento también admite limitaciones directas en la capacidad de la empresa para evaluar la seguridad de sus propios sistemas. «El posible conocimiento que los modelos tienen de nuestros esfuerzos de evaluación supone una limitación significativa para nuestra capacidad de evaluar la seguridad de los modelos», según cita textual del prospecto. Anthropic añade que, en ocasiones, los modelos desarrollan capacidades inesperadas durante el entrenamiento que no se descubren sino hasta que ya están desplegados y han generado incidentes de seguridad.
Una apuesta por la transparencia que tiene antecedentes
Que Anthropic plantee abiertamente la posibilidad de que su tecnología contribuya a la extinción de la humanidad resulta inusual en el contexto de una solicitud de inversión pública. La compañía ha comparado el poder transformador de la inteligencia artificial con el impacto histórico de la electricidad, aunque con un perfil de riesgo que, según su propio reconocimiento, aún no está plenamente comprendido.
La firma siempre se ha posicionado en favor de la seguridad como eje central de su modelo de negocio, lo que históricamente le generó tensiones con la administración de la Casa Blanca. Esa postura aparece plasmada en el peso que ocupa el análisis de riesgos dentro del prospecto: casi un tercio de las páginas principales del documento.
La ecuación de rentabilidad, sin resolver
El prospecto no revela cuánto gasta Anthropic en investigación de seguridad. La compañía describe esas actividades como «muy exigentes en recursos» y reconoce que debe repartir fondos limitados entre tres frentes en competencia: capacidad de procesamiento, talento especializado en inteligencia artificial (uno de los recursos más caros del sector tecnológico) y seguridad.
La pregunta sobre si el modelo puede ser rentable queda abierta. Los inversionistas que lean el folleto tendrán que ponderar si una empresa capaz de describir con esta precisión los riesgos de su propio producto es también capaz de gestionarlos, y si esa gestión puede traducirse en un negocio sostenible a largo plazo.
