El Gobierno de Estados Unidos y referentes de algunas de las principales compañías tecnológicas del mundo firmaron un acuerdo voluntario destinado a reforzar los controles de seguridad sobre el desarrollo de los modelos más avanzados de inteligencia artificial.
El entendimiento fue firmado por el presidente Donald Trump junto a ejecutivos de Google, Anthropic, Meta, OpenAI, SpaceX y Nvidia, entre ellos Sundar Pichai, Dario Amodei, Mark Zuckerberg, Greg Brockman, Elon Musk y Jensen Huang.
El documento fue denominado “Acuerdo de la Casa Blanca sobre la superinteligencia: compromiso conjunto sobre las responsabilidades de la IA de frontera” y busca establecer criterios comunes para las empresas que trabajan con sistemas ubicados en la vanguardia del desarrollo tecnológico.
Uno de los puntos centrales establece que las compañías deberán contar con procesos y controles internos sólidos para supervisar el funcionamiento de sus modelos y detectar rápidamente eventuales inconvenientes durante las etapas de entrenamiento y despliegue.
Cuatro niveles de supervisión para los modelos de IA
El acuerdo plantea un esquema compuesto por cuatro niveles de control. El primero contempla mecanismos internos destinados a supervisar las capacidades y el comportamiento de los modelos durante su desarrollo y utilización.
Además, las compañías deberán disponer de equipos internos con autoridad suficiente para verificar el funcionamiento de esos controles. A esto se sumarán evaluaciones realizadas por auditores o revisores externos independientes.
El cuarto nivel prevé la conformación de un comité independiente dentro del consejo de administración, encargado de supervisar los mecanismos implementados y recibir los informes elaborados tanto por los equipos internos como por los evaluadores externos.
Los controles estarán especialmente orientados a riesgos vinculados con la ciberseguridad, la bioseguridad y posibles amenazas químicas. También se buscará evitar que los sistemas avanzados de inteligencia artificial puedan acceder o interferir de manera no intencionada en sistemas técnicos.
Otro de los compromisos asumidos contempla reuniones periódicas entre las empresas participantes para avanzar en la definición de estándares y buenas prácticas comunes para el sector.
Un acuerdo sin obligaciones legales
Pese al alcance del entendimiento y al peso de las compañías involucradas, el acuerdo no tiene carácter legalmente vinculante. Se trata de un compromiso voluntario y, por el momento, no establece obligaciones jurídicas para las empresas tecnológicas.
La iniciativa representa, sin embargo, un nuevo paso en el debate internacional sobre cómo supervisar el rápido avance de la inteligencia artificial, especialmente ante la aparición de modelos cada vez más potentes y capaces de intervenir en múltiples actividades económicas, científicas y productivas.
Estados Unidos busca así establecer un marco común de seguridad junto a las compañías que protagonizan la carrera global por el desarrollo de la IA, en momentos en que gobiernos y organismos internacionales discuten qué nivel de regulación debería aplicarse a una tecnología que continúa expandiendo sus capacidades.
Fuente: Cadena 3 / Redacción TE.
