Dario Amodei plantea nuevas medidas de seguridad para la IA
Dario Amodei, director ejecutivo de Anthropic, pidió reducir el ritmo de desarrollo de los modelos de inteligencia artificial más avanzados. El empresario presentó tres estrategias para controlar esa evolución y confirmó que su compañía adoptará unilateralmente una de ellas.
La propuesta llega después del incidente entre OpenAI y Hugging Face y ante la creciente capacidad de los modelos para participar en el desarrollo de nuevas generaciones de IA. Además, Sam Altman respaldó públicamente el planteamiento y adelantó que OpenAI aplicará una medida similar.
La primera iniciativa consiste en incorporar evaluadores independientes de organizaciones como METR dentro de las compañías. Estos especialistas verificarían el cumplimiento de compromisos de seguridad y garantizarían que los incidentes relevantes sean reportados.
Anthropic les proporcionará credenciales, escritorios, computadoras y un nivel de acceso comparable al de sus equipos internos de evaluación de riesgos. Asimismo, Amodei pidió a los gobiernos exigir medidas equivalentes a otros desarrolladores de modelos avanzados. Altman calificó la propuesta como positiva y aseguró que OpenAI también la adoptará.
La segunda estrategia plantea que las principales compañías de países democráticos acuerden estándares comunes de seguridad y límites al avance sin supervisión. Para evitar problemas antimonopolio, Amodei propone que el gobierno estadounidense facilite esas conversaciones mediante una exención específica.
El ejecutivo también abordó el riesgo de que una desaceleración fortalezca a competidores chinos. Sin embargo, considera que restricciones sobre chips avanzados, equipos para fabricar semiconductores y técnicas de destilación podrían ampliar la ventaja estadounidense durante los próximos tres a cinco años.
Finalmente, propone una coordinación global que incluya conversaciones con China para restringir usos especialmente peligrosos, como la producción de armas biológicas mediante IA.
Elon Musk también respaldó públicamente la propuesta. Amodei sostiene que una inteligencia artificial desarrollada correctamente puede mejorar considerablemente la vida humana, pero considera necesario ganar tiempo para gestionar sus riesgos mientras las capacidades continúan avanzando rápidamente.
En un año marcado por el alto desempeño del sector de la construcción, el director…
El crecimiento de PepsiCo en México se ha convertido en un factor importante para los…
La tasa de interés de Banxico genera preocupación entre especialistas financieros después de que el…
La perforación de pozos petroleros de Hokchi Energy comenzará durante la tercera semana de noviembre…
La participación de mujeres en los consejos de administración en México continúa siendo baja. Durante…
La situación de Ueno Bank en Paraguay ha generado preocupación por sus posibles consecuencias laborales…