La humanidad “necesita despertar” frente a los riesgos potencialmente catastr\u00f3ficos que plantean los sistemas de inteligencia artificial (IA) avanzados en los pr\u00f3ximos a\u00f1os, seg\u00fan el CEO de Anthropic, Dario Amodei. En un ensayo de casi 20 mil palabras, publicado el lunes, Amodei expuso los riesgos que podr\u00edan surgir si la tecnolog\u00eda se desarrolla sin control, que van desde p\u00e9rdidas masivas de empleo hasta el bioterrorismo.<\/p>\n
\u201cLa humanidad est\u00e1 a punto de recibir un poder casi inimaginable y no est\u00e1 nada claro si nuestros sistemas sociales, pol\u00edticos y tecnol\u00f3gicos poseen la madurez para ejercerlo\u201d, escribi\u00f3 Amodei. El ensayo marc\u00f3 una advertencia contundente por parte de uno de los empresarios m\u00e1s influyentes de la industria de la IA, al se\u00f1alar que las salvaguardas en torno a esta tecnolog\u00eda son insuficientes.<\/p>\n
Amodei describe los riesgos que podr\u00edan aparecer con la llegada de lo que \u00e9l denomina \u201cIA poderosa\u201d, sistemas que ser\u00edan \u201cmucho m\u00e1s capaces que cualquier ganador del Premio Nobel, estadista o tecn\u00f3logo\u201d. Seg\u00fan prev\u00e9, podr\u00edan materializarse en los pr\u00f3ximos \u201cpocos a\u00f1os\u201d.<\/p>\n
Entre esos riesgos figura la posibilidad de que individuos desarrollen armas biol\u00f3gicas capaces de matar a millones de personas. \u201cEn el peor de los casos, incluso destruir toda la vida en la Tierra\u201d, escribi\u00f3 Amodei. Tambi\u00e9n plantea el potencial de que la IA \u201cse descontrole y someta a la humanidad\u201d o que empodere a autoritarios y otros actores maliciosos, derivando en \u201cuna dictadura totalitaria global\u201d.<\/p>\n
Riesgos como las armas biol\u00f3gicas son un tema central en el debate p\u00fablico. En 2023, el gobierno del Reino Unido organiz\u00f3 una cumbre sobre seguridad en IA en Bletchley Park, donde pa\u00edses y laboratorios acordaron trabajar juntos para contrarrestar estos riesgos.<\/p>\n
En el ensayo, Amodei advirti\u00f3 sobre p\u00e9rdidas masivas de empleo y una \u201cconcentraci\u00f3n del poder econ\u00f3mico\u201d y de la riqueza en Silicon Valley como consecuencia de la IA. Las preocupaciones por la seguridad de la IA -como las armas biol\u00f3gicas, las armas aut\u00f3nomas y los actores estatales maliciosos- ocuparon un lugar destacado en el debate p\u00fablico.<\/p>\n
Amodei fue uno de los primeros empleados de OpenAI, pero se march\u00f3 para cofundar Anthropic en 2020 tras enfrentamientos con Sam Altman sobre la direcci\u00f3n de OpenAI y las barreras de seguridad de la IA. Anthropic est\u00e1 en conversaciones con grupos como Microsoft y Nvidia, y con inversionistas como el fondo soberano de Singapur GIC, Coatue y Sequoia Capital, para una ronda de financiamiento de US$ 25 mil millones o m\u00e1s, que valorar\u00eda a la compa\u00f1\u00eda en US$ 350 mil millones.<\/p>\n","protected":false},"excerpt":{"rendered":"
La humanidad “necesita despertar” frente a los riesgos potencialmente catastr\u00f3ficos que plantean los sistemas de inteligencia artificial (IA) avanzados en los pr\u00f3ximos a\u00f1os, seg\u00fan el CEO de Anthropic, Dario Amodei. En un ensayo de casi 20 mil palabras, publicado el lunes, Amodei expuso los riesgos que podr\u00edan surgir si la tecnolog\u00eda se desarrolla sin control, […]<\/p>\n","protected":false},"author":2,"featured_media":23024,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"jnews-multi-image_gallery":[],"jnews_single_post":[],"jnews_primary_category":[],"jnews_social_meta":[],"jnews_paywall_metabox":[],"jnews_review":[],"enable_review":"","type":"","name":"","summary":"","brand":"","sku":"","good":[],"bad":[],"score_override":"","override_value":"","rating":[],"price":[],"jnews_override_counter":[],"jnews_post_split":[],"footnotes":""},"categories":[85],"tags":[],"class_list":["post-23025","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-economia"],"jetpack_featured_media_url":"https:\/\/laserenaradio.cl\/web\/wp-content\/uploads\/2026\/01\/mediapiaiextstaticimg_webpCEOAnthropic_1.webp","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/laserenaradio.cl\/web\/wp-json\/wp\/v2\/posts\/23025","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/laserenaradio.cl\/web\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/laserenaradio.cl\/web\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/laserenaradio.cl\/web\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/laserenaradio.cl\/web\/wp-json\/wp\/v2\/comments?post=23025"}],"version-history":[{"count":1,"href":"https:\/\/laserenaradio.cl\/web\/wp-json\/wp\/v2\/posts\/23025\/revisions"}],"predecessor-version":[{"id":23026,"href":"https:\/\/laserenaradio.cl\/web\/wp-json\/wp\/v2\/posts\/23025\/revisions\/23026"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/laserenaradio.cl\/web\/wp-json\/wp\/v2\/media\/23024"}],"wp:attachment":[{"href":"https:\/\/laserenaradio.cl\/web\/wp-json\/wp\/v2\/media?parent=23025"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/laserenaradio.cl\/web\/wp-json\/wp\/v2\/categories?post=23025"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/laserenaradio.cl\/web\/wp-json\/wp\/v2\/tags?post=23025"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}