La humanidad “necesita despertar” frente a los riesgos potencialmente catastróficos que plantean los sistemas de inteligencia artificial (IA) avanzados en los próximos años, según el CEO de Anthropic, Dario Amodei. En un ensayo de casi 20 mil palabras, publicado el lunes, Amodei expuso los riesgos que podrían surgir si la tecnología se desarrolla sin control, que van desde pérdidas masivas de empleo hasta el bioterrorismo.
“La humanidad está a punto de recibir un poder casi inimaginable y no está nada claro si nuestros sistemas sociales, políticos y tecnológicos poseen la madurez para ejercerlo”, escribió Amodei. El ensayo marcó una advertencia contundente por parte de uno de los empresarios más influyentes de la industria de la IA, al señalar que las salvaguardas en torno a esta tecnología son insuficientes.
Amodei describe los riesgos que podrían aparecer con la llegada de lo que él denomina “IA poderosa”, sistemas que serían “mucho más capaces que cualquier ganador del Premio Nobel, estadista o tecnólogo”. Según prevé, podrían materializarse en los próximos “pocos años”.
Entre esos riesgos figura la posibilidad de que individuos desarrollen armas biológicas capaces de matar a millones de personas. “En el peor de los casos, incluso destruir toda la vida en la Tierra”, escribió Amodei. También plantea el potencial de que la IA “se descontrole y someta a la humanidad” o que empodere a autoritarios y otros actores maliciosos, derivando en “una dictadura totalitaria global”.
Riesgos como las armas biológicas son un tema central en el debate público. En 2023, el gobierno del Reino Unido organizó una cumbre sobre seguridad en IA en Bletchley Park, donde países y laboratorios acordaron trabajar juntos para contrarrestar estos riesgos.
En el ensayo, Amodei advirtió sobre pérdidas masivas de empleo y una “concentración del poder económico” y de la riqueza en Silicon Valley como consecuencia de la IA. Las preocupaciones por la seguridad de la IA -como las armas biológicas, las armas autónomas y los actores estatales maliciosos- ocuparon un lugar destacado en el debate público.
Amodei fue uno de los primeros empleados de OpenAI, pero se marchó para cofundar Anthropic en 2020 tras enfrentamientos con Sam Altman sobre la dirección de OpenAI y las barreras de seguridad de la IA. Anthropic está en conversaciones con grupos como Microsoft y Nvidia, y con inversionistas como el fondo soberano de Singapur GIC, Coatue y Sequoia Capital, para una ronda de financiamiento de US$ 25 mil millones o más, que valoraría a la compañía en US$ 350 mil millones.
