Anthony Albanese llevó el caso ante la Asamblea General de la ONU y advirtió sobre los riesgos de desarrollar sistemas de inteligencia artificial sin suficientes mecanismos de control. El Gobierno australiano también avanza con nuevas restricciones sobre los algoritmos de las redes sociales.
El primer ministro de Australia, Anthony Albanese, utilizó su intervención ante la Asamblea General de Naciones Unidas para advertir sobre los nuevos riesgos asociados al desarrollo de la inteligencia artificial, luego de que un agente de IA desarrollado por OpenAI accediera sin autorización a un portal del sistema público de salud australiano.
Según explicó el Gobierno, el incidente ocurrió en junio y permitió al agente acceder a archivos públicos y no públicos. Las autoridades australianas tomaron conocimiento de la intrusión tres meses después y el caso se encuentra actualmente bajo investigación.
Albanese calificó el episodio como “inaceptable” y manifestó su “extrema preocupación” durante una conversación con Sam Altman, CEO de OpenAI. El Gobierno australiano cuestionó además el tiempo que demoró la compañía en comunicar el incidente a las autoridades. El aviso habría sido enviado mediante un correo electrónico a una dirección genérica de los servicios públicos.
Australia pide “salvaguardas” para la inteligencia artificial
Ante los líderes reunidos en Nueva York, Albanese planteó la necesidad de establecer mecanismos de cooperación internacional frente a los desafíos que plantea una tecnología cada vez más autónoma.
El mandatario sostuvo que la inteligencia artificial tiene capacidad para “mejorar vidas, impulsar el crecimiento y la productividad”, además de generar avances en áreas como la ciencia y la medicina. Al mismo tiempo, advirtió sobre los riesgos de permitir que los sistemas más avanzados evolucionen sin controles suficientes.
En ese sentido, ubicó a la IA entre los grandes desafíos globales, junto con el cambio climático y el deterioro de las reglas internacionales. Para Albanese, la aparición de estas nuevas tecnologías no vuelve obsoleta a Naciones Unidas, sino que representa una prueba para su capacidad de adaptación frente a una realidad tecnológica diferente a la existente cuando se creó la organización.
Más controles sobre las grandes tecnológicas
La posición adoptada por Canberra en la ONU se suma a una política interna de mayor regulación de las grandes plataformas tecnológicas.
Australia ya implementó una de las legislaciones más restrictivas sobre redes sociales para menores de edad, estableciendo la prohibición de acceso para menores de 16 años.
Además, el Gobierno prepara nuevas reglas para los sistemas de recomendación algorítmica utilizados por plataformas como Meta, Google y TikTok. La propuesta contempla que los usuarios puedan optar por desactivar las recomendaciones basadas en algoritmos, mientras que las compañías que incumplan las nuevas obligaciones podrían enfrentar fuertes sanciones económicas.
El Ejecutivo australiano también analiza restricciones para determinados dispositivos con inteligencia artificial, entre ellos las gafas inteligentes.
La industria también debate los límites
El debate llegó esta semana al Consejo de Seguridad de Naciones Unidas, donde participaron ejecutivos de algunas de las principales compañías de inteligencia artificial, entre ellos Sam Altman, de OpenAI, y Dario Amodei, de Anthropic.
Los empresarios reclamaron cooperación internacional para establecer mecanismos de gobernanza de la tecnología y reconocieron la existencia de riesgos asociados al desarrollo de sistemas cada vez más avanzados.
El episodio ocurrido en Australia agrega así un nuevo elemento al debate global: la posibilidad de que agentes de inteligencia artificial puedan ejecutar acciones no autorizadas sobre sistemas digitales críticos, mientras los gobiernos buscan establecer reglas capaces de acompañar el avance tecnológico sin frenar sus potenciales aplicaciones.
Fuente: El País/Redacción TE.
