El avance de los modelos de inteligencia artificial más potentes abre un nuevo debate internacional: cómo supervisar una tecnología capaz de atravesar fronteras y generar riesgos que ningún país puede controlar de manera aislada. Una de las alternativas que comienza a tomar fuerza propone adoptar un esquema inspirado en el Organismo Internacional de Energía Atómica (OIEA).
Creado en 1957, en plena Guerra Fría, el OIEA no funciona como un gobierno nuclear mundial. Su tarea consiste en registrar materiales, inspeccionar instalaciones y verificar que los programas nucleares civiles no sean desviados hacia el desarrollo de armas. Cuando detecta inconsistencias o incumplimientos, puede elevar los casos a su Junta de Gobernadores y, eventualmente, al Consejo de Seguridad de las Naciones Unidas.
Un sistema similar podría aplicarse a la denominada IA de frontera, es decir, aquellos modelos que concentran las mayores capacidades disponibles y que, por su escala y autonomía, pueden presentar riesgos significativamente superiores a los desarrollos convencionales.
En lugar de controlar uranio, plutonio y reactores, una autoridad internacional podría supervisar grandes concentraciones de chips, centros de datos, consumo energético y entrenamientos que superen determinados niveles de capacidad computacional.
Los laboratorios alcanzados por esas condiciones deberían registrar sus proyectos y permitir evaluaciones independientes de los modelos antes de ponerlos a disposición del público.
El poder de cómputo como elemento de control
Uno de los principales indicadores para establecer qué proyectos deberían quedar bajo supervisión sería la capacidad de cómputo.
Entrenar sistemas extremadamente avanzados requiere miles de procesadores especializados, importantes cantidades de energía, grandes centros de datos y servicios de computación en la nube. A diferencia del software, que puede copiarse y distribuirse con facilidad, desplegar una infraestructura de esa magnitud resulta mucho más difícil de ocultar.
Un eventual organismo internacional podría recibir información de fabricantes de chips, operadores de centros de datos y compañías tecnológicas. También podría realizar auditorías de ciberseguridad y pruebas controladas para evaluar las capacidades potencialmente peligrosas de los modelos.
Entre ellas aparecen la posibilidad de facilitar ciberataques, colaborar en el desarrollo de armas biológicas, realizar operaciones de manipulación a gran escala, habilitar mecanismos de vigilancia ilegal o ejecutar acciones autónomas fuera del control humano.
El esquema, sin embargo, no estaría pensado para alcanzar a toda la industria. La supervisión especial comenzaría cuando los sistemas superaran determinados umbrales de cómputo, autonomía o peligrosidad.
De esta manera, universidades, pequeñas empresas y proyectos abiertos podrían continuar desarrollando aplicaciones sin quedar sometidos a las mismas obligaciones que los principales laboratorios tecnológicos del mundo.
Fuente: Inteligencia Argentina / Redacción TE.
