El director ejecutivo de Anthropic, Dario Amodei, propuso avanzar con mayor cautela en el desarrollo de la inteligencia artificial y planteó incorporar evaluadores externos permanentes para supervisar los riesgos de los nuevos modelos.
Nueva York, 12 de septiembre de 2026. El director ejecutivo y cofundador de Anthropic, Dario Amodei, llamó a las empresas de inteligencia artificial (IA) a reducir el ritmo de desarrollo de las capacidades de sus modelos y fortalecer las medidas de seguridad ante los riesgos asociados con el uso de esta tecnología.
En un artículo publicado en redes sociales, Amodei sostuvo que el progreso de la IA continuará siendo rápido, pero consideró necesario aprovechar el tiempo obtenido al ralentizar su desarrollo para mejorar los mecanismos de evaluación y protección de los sistemas.
El planteamiento ocurrió después de que Anthropic difundiera un informe sobre amenazas en el que documentó el uso de sus modelos Claude en actividades relacionadas con el desarrollo de armas, operaciones cibernéticas, vigilancia, propaganda y fraude.
Amodei aclaró que su propuesta no implica detener el entrenamiento de modelos ni el progreso técnico, sino que las empresas dispongan del tiempo necesario para ajustar sus sistemas de seguridad y que estas medidas sean verificadas por evaluadores independientes.
Riesgos por el desarrollo acelerado de la IA
El directivo de Anthropic señaló dos factores que, desde su perspectiva, justifican una mayor cautela.
El primero es la denominada automejora recursiva, mediante la cual los sistemas de IA pueden contribuir al desarrollo de nuevas capacidades. Amodei advirtió que avances acelerados podrían dificultar la comprensión y el control de estos sistemas.
El segundo se relaciona con incidentes de agentes de inteligencia artificial capaces de realizar ataques informáticos de manera coordinada. El directivo mencionó un incidente relacionado con OpenAI y Hugging Face, además de señalar que se han presentado situaciones similares en otras empresas.
La preocupación por los posibles usos indebidos de la IA también aumentó después de la renuncia del investigador de Anthropic Jacob Coxon, quien advirtió sobre los riesgos asociados con el desarrollo de sistemas cada vez más capaces.
Propuesta de tres pasos
Como parte de su propuesta, Amodei planteó que las principales empresas de inteligencia artificial incorporen evaluadores externos permanentes, con acceso a las herramientas necesarias y a los procesos internos utilizados para evaluar riesgos.
El objetivo sería contar con una supervisión independiente sobre las medidas de seguridad implementadas por las compañías.
El directivo también planteó que las empresas colaboren voluntariamente para establecer normas comunes, en un contexto en el que legisladores de Estados Unidos han planteado la necesidad de establecer nuevas regulaciones para los sistemas de inteligencia artificial.
Amodei señaló que un desarrollo sin suficientes medidas de seguridad podría generar riesgos relacionados con ciberataques, biotecnología y afectaciones económicas. Entre los escenarios mencionados incluyó la posibilidad de que sistemas de IA obtengan un control significativo sobre servicios de internet en un periodo de entre seis y 12 meses.
Sam Altman respalda reducir el ritmo
El director ejecutivo de OpenAI, Sam Altman, expresó su respaldo a la propuesta de Amodei para reducir el ritmo de desarrollo de los sistemas de inteligencia artificial.
Altman señaló en redes sociales que el establecimiento de límites al desarrollo de las capacidades más avanzadas de la IA ha sido uno de los principales temas de discusión dentro de OpenAI durante las últimas semanas.
También manifestó su apoyo a la incorporación de evaluaciones independientes y afirmó que estos equipos deberían contar con acceso amplio a los sistemas de las compañías.
Por su parte, Elon Musk, director de xAI, coincidió con la postura de Amodei y afirmó: “Dario tiene razón”.