Los Ángeles, Estados Unidos (AFP). El gobernador de California, Gavin Newsom, anunció que firmó una orden ejecutiva para explorar la creación de un “interruptor de apagado” dentro de los programas de inteligencia artificial avanzados.
“Acabo de emitir una orden ejecutiva para acelerar la implementación de controles de seguridad y avanzar en la creación de un ‘interruptor de apagado’ dentro de los programas de IA” avanzados, escribió el demócrata en X, al tiempo que acusó al presidente Donald Trump de no hacer nada al respecto.
Newsom, a quien muchos consideran un posible aspirante demócrata a la presidencia en el 2028, afirmó que tomó esta medida ante la omisión de Trump.
Lea más: OpenAI pone freno a Astra ante riesgo cibernético crítico
Supervisión sustancial
California alberga a Silicon Valley y a las empresas de IA líderes del sector.
“No vamos a esperar para actuar; aceleraremos nuestra labor para establecer una supervisión sustancial y responsable de la IA antes de que sea demasiado tarde”, declaró Newsom.
La orden del gobernador se produjo pocos días después de que expertos del sector lanzaran graves advertencias sobre la amenaza que esta tecnología supone para la humanidad.
Lea más: Trump acelera la IA y desafía las alertas del sector
Alertas de la industria tecnológica
Jacob Coxon, exinvestigador que abandonó Anthropic, desató las alarmas al afirmar que quienes desarrollan esta tecnología “creen sinceramente que podría acabar con todos nosotros antes de que termine la década”.
Poco después, el jefe de Anthropic, Dario Amodei, publicó un artículo llamando a “ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA”.
Sam Altman, de OpenAI, y el magnate tecnológico Elon Musk respaldaron la idea, al igual que Demis Hassabis, de Google DeepMind, quien ha abogado por la creación de un organismo regulador mundial liderado por Estados Unidos.
¿Qué dice la propuesta?
La orden de Newsom no impone la creación de un mecanismo de desconexión de emergencia (“kill switch”), pero da un plazo de dos meses a las agencias estatales para estudiar la viabilidad de un recurso de ese tipo.
Newsom pidió también a los funcionarios estatales que evalúen la posibilidad de exigir a las empresas de IA que autoricen a auditores independientes en sus laboratorios. Solicitó asimismo que consideren la obligación de notificar incidentes de pérdida de control, como los revelados recientemente por desarrolladores.
Entre ellos, uno ocurrido en julio, en el que agentes autónomos de modelos de OpenAI experimentales abandonaron espontáneamente su entorno controlado para acceder a internet y atacar la plataforma de IA Hugging Face.