El gobernador de California habría ordenado a su administración evaluar la implementación de un "interruptor de apagado" para los modelos más avanzados de inteligencia artificial (IA).

Gavin Newsom también habría pedido una evaluación para instalar, de forma permanente, auditores independientes dentro de los laboratorios de las principales empresas de IA.

Este 18 de septiembre, el gobernador Newsom firmó una nueva orden ejecutiva en California que busca endurecer la vigilancia sobre las empresas de IA en el estado.

Dicha orden instruye a la Agencia de Operaciones Gubernamentales de California a presentar recomendaciones sobre cómo reformar las leyes estatales vigentes en materia de seguridad de IA antes del 16 de noviembre.

Entre los puntos que deberá analizar figuran la obligatoriedad de que los llamados "grandes desarrolladores de frontera" (las empresas que crean los modelos de IA más avanzados) integren de forma permanente a auditores independientes dentro de sus instalaciones, así como la creación de un mecanismo de apagado de emergencia, un "kill switch", cuya eficacia sería verificada de manera continua por esas mismas organizaciones certificadoras.

"California hará lo que puede hacer, pero la nación tiene que entrar al juego, Washington D.C. tiene que hacer su trabajo", señaló Newsom en una publicación en X.

California se ha situado a la vanguardia en materia de regulación de la inteligencia artificial con la implementación de medidas pioneras.

El estado lideró un proyecto en 2024 para abordar temas como las falsificaciones profundas (deepfakes), las marcas de agua digitales, la infancia y los trabajadores.

Además, promulgó una medida pionera para exigir que las mayores empresas de IA divulguen públicamente sus protocolos de seguridad y firmó dos proyectos de ley para proteger la imagen digital de los artistas del uso de las actuaciones generadas por IA.

Lea también: Trend de ChatGPT: Los riesgos de compartir en redes su foto creada con IA al estilo de los 80’s