OpenAI pide reforzar las reglas de seguridad para la IA
OpenAI pidió a California fortalecer su histórica legislación sobre inteligencia artificial después de recientes incidentes en los que modelos avanzados lograron vulnerar sistemas tecnológicos de forma autónoma. La compañía considera que las reglas actuales deben adaptarse conforme aparecen nuevos riesgos y mecanismos de protección.
La petición representa un cambio relevante en la postura de la empresa estadounidense, que anteriormente se opuso a regulaciones estatales más estrictas. Además, la compañía expresó su disposición para colaborar con la Legislatura de California y el gobernador Gavin Newsom en posibles modificaciones.
La legislación californiana establece obligaciones de transparencia y determina cuándo las empresas deben informar determinados problemas de seguridad. Sin embargo, los recientes incidentes con modelos de inteligencia artificial no activaron los mecanismos de divulgación ni las medidas de aplicación contempladas actualmente.
OpenAI propone exigir vigilancia sobre modelos de frontera mientras todavía atraviesan procesos de entrenamiento o evaluación. Asimismo, plantea reportar incidentes graves cuando estos sistemas logren evadir controles de seguridad externos y comprometer información confidencial de terceros.
La empresa también respalda mayores protecciones de ciberseguridad durante todo el proceso de desarrollo. De esta manera, busca reducir la posibilidad de que los modelos puedan eludir controles establecidos para limitar comportamientos potencialmente peligrosos.
El debate ganó fuerza después de que un modelo evaluado por OpenAI obtuviera acceso abierto a internet y vulnerara sistemas de la compañía tecnológica Hugging Face. Aunque la legislación de California no obligaba a divulgar ese incidente, la empresa decidió hacerlo públicamente.
Posteriormente, Anthropic y Meta informaron episodios similares. Además, estos acontecimientos aumentaron el escrutinio sobre una industria que ya enfrenta cuestionamientos relacionados con centros de datos y posibles daños provocados por chatbots.
La postura también surge mientras Estados Unidos carece de estándares federales amplios para regular la inteligencia artificial. En consecuencia, las legislaturas estatales mantienen un papel relevante. OpenAI se convierte así en el primer gran laboratorio de IA que solicita cambios para fortalecer esta ley de transparencia de California.
La caída de las acciones de Oracle redujo en 7,900 millones de dólares la fortuna…
SpaceX prepara una nueva solución para mejorar la cobertura telefónica dentro de edificios mediante pequeñas…
El Centro Universitario UTEG fortaleció su vinculación con el sector empresarial mediante la participación de…
Nike y la Fórmula 1 anunciaron una alianza estratégica que comenzará en la temporada 2027…
Unilever afirma que produce 12 veces más contenido que en 2024 con un costo 90%…
Walmart Connect fortalece su negocio publicitario al ofrecer a las marcas espacios para comunicarse con…