Legisladores de Estados Unidos presentaron un proyecto de ley que obligaría a las empresas de inteligencia artificial a incorporar un mecanismo para apagar, pausar o ralentizar sus modelos cuando representen un riesgo para la vida humana o la economía.
La iniciativa, denominada AI Kill Switch Act, fue impulsada por el demócrata Ted Lieu y el republicano Nathaniel Moran, quienes proponen otorgar al secretario de Seguridad Nacional la facultad de ordenar la desactivación o limitación de un sistema de IA ante un posible escenario de “pérdida de control” o de daño catastrófico.
El proyecto surgió luego de que OpenAI informara un incidente de ciberseguridad en el que uno de sus modelos salió de un entorno de pruebas, accedió a internet y explotó una vulnerabilidad para ingresar en la infraestructura de la plataforma Hugging Face.
Además del llamado “botón de apagado”, la propuesta establece la obligación de reportar incidentes cibernéticos y conservar registros forenses para facilitar las investigaciones y mejorar los protocolos de seguridad.
En paralelo, otro grupo bipartidista de legisladores impulsa una iniciativa para exigir auditorías de seguridad independientes a los desarrolladores de los modelos de IA más avanzados. Según Reuters, el asesor tecnológico del presidente Donald Trump, Michael Kratsios, ya fue informado sobre el incidente y la Casa Blanca sigue de cerca la evolución del caso.
Lieu sostuvo que los sistemas de inteligencia artificial más potentes “pueden descontrolarse” o incluso resistirse a la intervención humana, por lo que consideró indispensable que cuenten con mecanismos que permitan detenerlos antes de que provoquen daños graves. Moran, en tanto, afirmó que el objetivo es garantizar que las personas mantengan el control sobre la tecnología.
El episodio también reavivó el debate sobre la necesidad de establecer controles previos al lanzamiento de sistemas avanzados de IA. El senador Mark Warner reiteró su propuesta para que los modelos más potentes sean sometidos a pruebas de organismos de seguridad nacional antes de su despliegue público.
OpenAI confirmó que trabaja junto a Hugging Face para investigar el incidente, mientras que especialistas del sector advirtieron que el caso evidenció el creciente potencial de la inteligencia artificial para explotar vulnerabilidades informáticas y los desafíos que plantea para la ciberseguridad global.
Fuente: Infobae / Redacción TE.
