Aniquilará la IA a la humanidad en una década, advierten

The Independent

Periódico La Jornada
Jueves 10 de septiembre de 2026, p. 6

Empleados actuales y antiguos de Anthropic, empresa estadunidense de inteligencia artificial fundada por antiguos líderes de OpenAI, afirman creer que la IA podría acabar con la humanidad en los próximos 10 años.

“¡Realmente creemos que la IA podría acabar con todos los humanos! Personalmente, creo que esto ocurrirá en más de 10 por ciento de los casos en la próxima década. Creo que Anthropic está haciendo todo lo posible, pero aún no tenemos un plan para resolver el problema de la alineación para la superinteligencia y no estamos claramente encaminados a lograrlo”, escribió Evan Hubinger, líder de ciencia de alineación de Anthropic.

Sus comentarios se produjeron después de que Jacob Coxon, investigador de IA antrópica, renunciara a la empresa y publicara en X un artículo donde detallaba su salida.

A su vez, el empresario estadunidense Elon Musk escribió en la plataforma X que la “inteligencia artificial (IA) y los robots duplicarán con creces la economía mundial en menos de 10 años”, en medio de preocupaciones sobre el desarrollo acelerado y sin control de dichos modelos.

El pasado primero de septiembre, durante una reunión de ministros de Finanzas del G-20, Musk ya había señalado que era probable que la IA aumentara la economía mundial entre 20 y 30 por ciento.

“Quienes desarrollan la IA creen firmemente que podría acabar con todos nosotros para finales de la década”, afirmó Coxon. “Esto no es una estrategia de marketing. De hecho, muchos ejecutivos e investigadores intentan sonar sensatos en la prensa, pero en privado los oigo expresar su temor. Ninguna otra actividad humana representa este nivel de peligro”.

Estas declaraciones se producen en un momento en que la IA se está convirtiendo en una parte cada vez más habitual de la vida diaria de millones de estadunidenses, al tiempo que aumentan los temores sobre los peligros potenciales de esta tecnología. La preocupación por que la IA se vuelva incontrolable no es nueva, ya que Elon Musk y destacados investigadores y académicos han advertido repetidamente que los sistemas cada vez más potentes podrían suponer graves riesgos para la humanidad.

Alrededor de las dos de la madrugada del miércoles, Samuel Marks, responsable de la supervisión escalable de Anthropic, también respondió a la publicación de Coxon, afirmando que estaba escribiendo esto a título personal, no en nombre de mi empleador, Anthropic.

“Los desarrolladores de IA creen que su tecnología podría provocar la extinción humana (o consecuencias igualmente nefastas). Esto podría ocurrir en los próximos años. En general, cuanto más alto sea el cargo del empleado, mayor será su preocupación”, escribió Marks.

OpenAI, una empresa de inteligencia artificial independiente pero líder en el sector, declinó hacer comentarios sobre la publicación de Coxon cuando fue contactada por The Independent. Sin embargo, un portavoz señaló varias actualizaciones que la empresa ha publicado en las pasadas semanas, en las que detalla sus esfuerzos por mejorar la seguridad y la coherencia de la IA. Esto incluye la investigación sobre monitoreo y medidas de seguridad, el aplazamiento del desarrollo cuando sea necesario y el apoyo a estándares de seguridad compartidos y la coordinación internacional.

En otras partes de sus publicaciones de renuncia, Coxon dijo que pasó los tres años anteriores realizando investigaciones de prentrenamiento tanto en OpenAI como en Anthropic, y afirmó que ninguna de las dos compañías está actuando de manera responsable.

“Están corriendo a toda velocidad hacia la superinteligencia auto-mejorada y jugando con nuestras vidas”, escribió Coxon en X.

La automejora se refiere a la idea de que los sistemas de IA podrían mejorar sus propias capacidades con poca intervención humana. La automejora recursiva, como se la suele llamar, aún no es posible, pero los laboratorios de IA están trabajando para lograrla.

“No subestimen el poder de esta tecnología. Pronto se convertirá en sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos sido testigos del progreso en cada uno de estos ámbitos, y este progreso no se está ralentizando”, afirmó Coxon.

La preocupación por la IA se ha intensificado debido a incidentes recientes que involucran sistemas de inteligencia artificial, incluido un modelo de OpenAI que vulneró la seguridad de Hugging Face en julio.

Por su parte, Anthropic afirma estar centrada en el desarrollo de una IA potente, segura y fiable. Su chatbot, Claude, está entrenado para seguir principios de seguridad diseñados para ofrecer respuestas útiles, evitando comportamientos dañinos o arriesgados y recurriendo a la intervención humana cuando sea necesario.

Los legisladores también están adoptando diferentes enfoques para abordar los sistemas de IA cada vez más potentes. El senador de Vermont Bernie Sanders y el representante de Texas Greg Casar han propuesto una legislación que prohibiría la superinteligencia artificial, mientras Sanders y la representante de Nueva York Alexandria Ocasio-Cortez han pedido por separado una moratoria sobre los nuevos centros de datos de IA.

Su preocupación radica en que la rápida expansión de la infraestructura de IA podría aumentar la demanda de electricidad y empeorar el impacto ambiental.

Otros legisladores se centran más en la seguridad de la IA y el control humano. El Congreso ha considerado una legislación que exigiría a los desarrolladores de IA incorporar un mecanismo de seguridad, como un interruptor de apagado, que permita desactivar de forma segura los sistemas avanzados si se vuelven incontrolables o funcionan sin supervisión humana. La representante de Florida Anna Paulina Luna también ha solicitado al Congreso que celebre una sesión especial dedicada a determinar si Estados Unidos está preparado para los riesgos potenciales que plantea la IA cada vez más avanzada.

Los representantes de Massachusetts Lori Trahan y el de California Jay Obernolte impulsan un proyecto de ley bipartidista sobre la seguridad de la IA, pero los legisladores siguen divididos sobre hasta dónde debería llegar el gobierno en la regulación de la industria.