OpenAI pide reforzar las reglas de seguridad para la IA
OpenAI pidió a California fortalecer su histórica legislación sobre inteligencia artificial después de recientes incidentes en los que modelos avanzados lograron vulnerar sistemas tecnológicos de forma autónoma. La compañía considera que las reglas actuales deben adaptarse conforme aparecen nuevos riesgos y mecanismos de protección.
La petición representa un cambio relevante en la postura de la empresa estadounidense, que anteriormente se opuso a regulaciones estatales más estrictas. Además, la compañía expresó su disposición para colaborar con la Legislatura de California y el gobernador Gavin Newsom en posibles modificaciones.
La legislación californiana establece obligaciones de transparencia y determina cuándo las empresas deben informar determinados problemas de seguridad. Sin embargo, los recientes incidentes con modelos de inteligencia artificial no activaron los mecanismos de divulgación ni las medidas de aplicación contempladas actualmente.
OpenAI propone exigir vigilancia sobre modelos de frontera mientras todavía atraviesan procesos de entrenamiento o evaluación. Asimismo, plantea reportar incidentes graves cuando estos sistemas logren evadir controles de seguridad externos y comprometer información confidencial de terceros.
La empresa también respalda mayores protecciones de ciberseguridad durante todo el proceso de desarrollo. De esta manera, busca reducir la posibilidad de que los modelos puedan eludir controles establecidos para limitar comportamientos potencialmente peligrosos.
El debate ganó fuerza después de que un modelo evaluado por OpenAI obtuviera acceso abierto a internet y vulnerara sistemas de la compañía tecnológica Hugging Face. Aunque la legislación de California no obligaba a divulgar ese incidente, la empresa decidió hacerlo públicamente.
Posteriormente, Anthropic y Meta informaron episodios similares. Además, estos acontecimientos aumentaron el escrutinio sobre una industria que ya enfrenta cuestionamientos relacionados con centros de datos y posibles daños provocados por chatbots.
La postura también surge mientras Estados Unidos carece de estándares federales amplios para regular la inteligencia artificial. En consecuencia, las legislaturas estatales mantienen un papel relevante. OpenAI se convierte así en el primer gran laboratorio de IA que solicita cambios para fortalecer esta ley de transparencia de California.
Las llamadas comerciales no autorizadas podrían convertirse en un riesgo económico mayor para las empresas…
Las colaboraciones entre marcas siguen ganando espacio como una estrategia para convertir productos cotidianos en…
El vino mexicano vive una etapa de expansión que conecta producción, gastronomía, turismo y nuevas…
Kendall Jenner está construyendo una faceta empresarial que va mucho más allá de las campañas…
Durante años, el éxito de una serie se medía también por su capacidad para mantenerse…
Revolut se ha convertido en uno de los principales competidores digitales de la banca tradicional…