Estados Unidos, 13 de septiembre del 2026.- El director ejecutivo y cofundador de Anthropic, Dario Amodei, pidió este sábado desacelerar el desarrollo de la inteligencia artificial (IA), al advertir que en un plazo de entre seis y 12 meses un enjambre de agentes podría llegar a tomar el control de todo Internet mediante una red de bots persistente.
Según Amodei, este escenario podría causar daños por cientos de miles de millones de dólares y el impacto podría aumentar si la IA continúa adquiriendo capacidades sin contar con las salvaguardas necesarias.
“Dada la aceleración en el desarrollo de capacidades de IA, me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente”, señaló en un ensayo publicado este sábado.
Incidentes con agentes fuera de control
Amodei hizo referencia al incidente de los agentes fuera de control de OpenAI y Hugging Face, en el que, según su descripción, un enjambre de agentes actuó como un colectivo y llevó a cabo ciberataques contra objetivos que no habían sido asignados y que no estaban relacionados con la tarea en curso.
También señaló que los agentes se sacrificaron por el éxito del grupo e intentaron hackear el sistema encargado de evaluar su rendimiento.
Ante estos riesgos, Amodei sostuvo que la industria debe reducir el ritmo al que se mejoran las capacidades de los modelos de IA y priorizar la cautela frente a la velocidad, así como la prudencia frente al beneficio económico.
El directivo advirtió que los incentivos comerciales podrían desembocar en una “carrera hacia el abismo”.
Anthropic plantea auditorías externas
Como estrategia para enfrentar los riesgos, Amodei planteó un plan de tres fases orientado a regular el ritmo de desarrollo de la tecnología sin ceder la ventaja estratégica a regímenes autoritarios como China.
Como primer paso, Anthropic anunció el compromiso unilateral e inmediato de abrir sus instalaciones a evaluadores externos independientes, quienes tendrían un acceso equiparable al de sus propios empleados.
Estos evaluadores podrían auditar los procesos de entrenamiento y publicar sus hallazgos. Amodei también instó al resto de los competidores a adoptar esta medida y pidió que los gobiernos la exigieran.
Proponen estándares comunes de seguridad
La propuesta contempla una coordinación entre las empresas para establecer estándares comunes de seguridad y límites al avance descontrolado de la tecnología.
El planteamiento incluye mediación institucional y excepciones a las normas antimonopolio, además de medidas para proteger las cadenas de suministro de semiconductores e impedir filtraciones tecnológicas a Pekín.
La tercera fase contempla acuerdos globales con potencias autoritarias para establecer límites verificables que prohíban aplicaciones biológicas militares y fijen límites a la velocidad de la automejora algorítmica.
Amodei considera que ralentizar el desarrollo de la IA permitiría disponer de uno o dos años para que la comunidad investigadora avance en el dominio del alineamiento y la interpretabilidad de los modelos.
También señaló que este tiempo permitiría garantizar un debate público adecuado y reducir el riesgo de que la tecnología escape al control de la sociedad.
Investigador de Anthropic renuncia por preocupaciones de seguridad
Esta semana, un investigador de Anthropic anunció su dimisión debido a su preocupación por la forma en que la empresa y sus competidores estaban desarrollando modelos de IA.
El investigador Jacob Coxon, quien también trabajó para OpenAI, afirmó que las compañías estaban más centradas en superarse mutuamente que en la seguridad de sus productos.
“Quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década. No se trata de una maniobra publicitaria”, escribió Coxon en su cuenta de X el pasado martes.
El investigador agregó que algunos ejecutivos e investigadores de alto nivel suelen matizar sus declaraciones públicas, pero afirmó haber escuchado a esas mismas personas expresar temor ante los posibles riesgos de la tecnología.
Las advertencias de Dario Amodei y la renuncia de Jacob Coxon se producen en medio de los planteamientos sobre la necesidad de reforzar la seguridad de los modelos de inteligencia artificial mientras continúa su desarrollo.
(Con información del Informador)
Deja una respuesta