Dario Amodei, director ejecutivo de Anthropic, pidió reducir el ritmo de desarrollo de los modelos de inteligencia artificial más avanzados. El empresario presentó tres estrategias para controlar esa evolución y confirmó que su compañía adoptará unilateralmente una de ellas.
La propuesta llega después del incidente entre OpenAI y Hugging Face y ante la creciente capacidad de los modelos para participar en el desarrollo de nuevas generaciones de IA. Además, Sam Altman respaldó públicamente el planteamiento y adelantó que OpenAI aplicará una medida similar.
Dario Amodei propone evaluadores externos dentro de Anthropic
La primera iniciativa consiste en incorporar evaluadores independientes de organizaciones como METR dentro de las compañías. Estos especialistas verificarían el cumplimiento de compromisos de seguridad y garantizarían que los incidentes relevantes sean reportados.
Anthropic les proporcionará credenciales, escritorios, computadoras y un nivel de acceso comparable al de sus equipos internos de evaluación de riesgos. Asimismo, Amodei pidió a los gobiernos exigir medidas equivalentes a otros desarrolladores de modelos avanzados. Altman calificó la propuesta como positiva y aseguró que OpenAI también la adoptará.
La segunda estrategia plantea que las principales compañías de países democráticos acuerden estándares comunes de seguridad y límites al avance sin supervisión. Para evitar problemas antimonopolio, Amodei propone que el gobierno estadounidense facilite esas conversaciones mediante una exención específica.
Anthropic plantea una coordinación internacional
El ejecutivo también abordó el riesgo de que una desaceleración fortalezca a competidores chinos. Sin embargo, considera que restricciones sobre chips avanzados, equipos para fabricar semiconductores y técnicas de destilación podrían ampliar la ventaja estadounidense durante los próximos tres a cinco años.
Finalmente, propone una coordinación global que incluya conversaciones con China para restringir usos especialmente peligrosos, como la producción de armas biológicas mediante IA.
Elon Musk también respaldó públicamente la propuesta. Amodei sostiene que una inteligencia artificial desarrollada correctamente puede mejorar considerablemente la vida humana, pero considera necesario ganar tiempo para gestionar sus riesgos mientras las capacidades continúan avanzando rápidamente.
