Qué es el Plan IA360: el "acuerdo de país" presentado por Pedro Sánchez para el despliegue de la IA en España

Mucho se ha hablado durante años de los peligros de la inteligencia artificial, pero nunca antes los principales referentes del sector se habían pronunciado con tanta claridad sobre el riesgo: “La industria debe ir más despacio”, afirmó Dario Amodei, director ejecutivo de Anthropic.

“Dario tiene razón”, opinó Elon Musk, que coincidió en su valoración con su rival Sam Altman, CEO de OpenAI, quien escribió: “Estoy de acuerdo con Dario en que necesitamos moderar el ritmo en la frontera del desarrollo. Este ha sido uno de los temas principales de las conversaciones que hemos mantenido en OpenAI durante las últimas semanas”.

---

En los días previos, las declaraciones de un exempleado de Anthropic situaron a ambas compañías en el centro de la polémica tras una publicación en X (antes Twitter) que superó los 170 millones de visualizaciones:

La semana trágica de la inteligencia artificial

“Hoy he renunciado a Anthropic. He pasado los últimos tres años realizando investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están avanzando directamente hacia una superinteligencia capaz de mejorarse a sí misma y están apostando con nuestras vidas”, publicó Jacob Coxon.

Posteriormente afirmó que parte de quienes desarrollan inteligencia artificial creen que podría acabar con nuestra civilización antes de que termine esta década. “En OpenAI, muchos no han asumido plenamente lo que está en juego a escala civilizatoria. En Anthropic sí son conscientes de ello, pero están atrapados en una carrera por llegar primero”, añadió Coxon.

Casi al mismo tiempo, Anthropic presentó un inquietante informe en el que indicaba que, durante los últimos meses, había bloqueado a investigadores que utilizaban Claude para el desarrollo de armas biológicas, es decir, para la creación de virus, organismos vivos o productos tóxicos capaces de causar la muerte. Aunque la compañía desconoce si el objetivo era científico o militar, la plataforma impidió ese uso. También restringió el acceso de científicos que intentaban utilizar sistemas de inteligencia artificial desarrollados por empresas estadounidenses desde regiones donde dicho acceso está limitado.

---

Repercusiones geopolíticas de la crisis

Volker Türk, Alto Comisionado de la ONU, ya manifestó su preocupación: “Los derechos humanos están en riesgo, incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad (...) La IA agéntica podría paralizar servicios esenciales, fracturar las comunicaciones, desestabilizar infraestructuras críticas y golpear el corazón mismo de las instituciones democráticas”.

Sin embargo, algunos analistas sostienen que Amodei, Musk y Altman buscan transmitir una imagen de responsabilidad para avanzar hacia un modelo de autorregulación. En la carrera por llegar antes, tal y como señaló Coxon, las empresas siguen registrando pérdidas. El debate surge además en vísperas de una eventual salida a Bolsa de ambas compañías, aunque todavía no se han fijado fechas.