Dario Amodei plantea nuevas medidas de seguridad para la IA
Dario Amodei, director ejecutivo de Anthropic, pidió reducir el ritmo de desarrollo de los modelos de inteligencia artificial más avanzados. El empresario presentó tres estrategias para controlar esa evolución y confirmó que su compañía adoptará unilateralmente una de ellas.
La propuesta llega después del incidente entre OpenAI y Hugging Face y ante la creciente capacidad de los modelos para participar en el desarrollo de nuevas generaciones de IA. Además, Sam Altman respaldó públicamente el planteamiento y adelantó que OpenAI aplicará una medida similar.
La primera iniciativa consiste en incorporar evaluadores independientes de organizaciones como METR dentro de las compañías. Estos especialistas verificarían el cumplimiento de compromisos de seguridad y garantizarían que los incidentes relevantes sean reportados.
Anthropic les proporcionará credenciales, escritorios, computadoras y un nivel de acceso comparable al de sus equipos internos de evaluación de riesgos. Asimismo, Amodei pidió a los gobiernos exigir medidas equivalentes a otros desarrolladores de modelos avanzados. Altman calificó la propuesta como positiva y aseguró que OpenAI también la adoptará.
La segunda estrategia plantea que las principales compañías de países democráticos acuerden estándares comunes de seguridad y límites al avance sin supervisión. Para evitar problemas antimonopolio, Amodei propone que el gobierno estadounidense facilite esas conversaciones mediante una exención específica.
El ejecutivo también abordó el riesgo de que una desaceleración fortalezca a competidores chinos. Sin embargo, considera que restricciones sobre chips avanzados, equipos para fabricar semiconductores y técnicas de destilación podrían ampliar la ventaja estadounidense durante los próximos tres a cinco años.
Finalmente, propone una coordinación global que incluya conversaciones con China para restringir usos especialmente peligrosos, como la producción de armas biológicas mediante IA.
Elon Musk también respaldó públicamente la propuesta. Amodei sostiene que una inteligencia artificial desarrollada correctamente puede mejorar considerablemente la vida humana, pero considera necesario ganar tiempo para gestionar sus riesgos mientras las capacidades continúan avanzando rápidamente.
Revolut confirmó que entregó información confidencial de algunos clientes a un tercero no autorizado después…
Convertir la basura en insumos productivos dejó de ser una idea lejana para el Bosque…
Las cocinas familiares están llevando más movimiento a los pasillos del Mercado 5 de Mayo.…
Oracle superó las previsiones del mercado durante su primer trimestre fiscal gracias al crecimiento de…
OHLA busca limitar las consecuencias financieras de una sentencia definitiva en Catar que obliga a…
Pokémon nació como un videojuego para Game Boy en 1996. Treinta años después, Pikachu y…