El gobierno de Axel Kicillof estableció por primera vez un conjunto de normas obligatorias para el uso de sistemas de inteligencia artificial (IA) en toda la administración pública provincial. La resolución, publicada en el Boletín Oficial, fija criterios estrictos de seguridad, transparencia y control humano, y prohíbe prácticas como el “scoring social”.
La decisión llega días después de la polémica generada por Zárate, luego de que el municipio designara a un chatbot —“ZARA”— con rango de directora para la atención al vecino. Ese caso expuso vacíos regulatorios sobre el uso de IA con funciones administrativas y aceleró la definición de un marco normativo.
Un sistema de IA bajo reglas obligatorias
La normativa, elaborada por la Subsecretaría de Gobierno Digital, regula todo el ciclo de vida de los sistemas de IA utilizados por el Estado provincial: desde su desarrollo y adquisición hasta su uso y supervisión. A partir de ahora, cualquier organismo que implemente estas tecnologías deberá ajustarse a estándares de equidad, transparencia, sustentabilidad y auditabilidad.
El eje central es un esquema de clasificación por niveles de riesgo, inspirado en el AI Act europeo. La Provincia adopta cuatro categorías:
- Riesgo inaceptable: prohibido. Incluye sistemas que atenten contra la seguridad, los derechos fundamentales o el orden democrático, así como técnicas subliminales o modelos de “clasificación social”.
- Alto riesgo: permitidos con fuertes controles. Abarca identificación biométrica, gestión de infraestructura crítica y herramientas usadas en ámbitos sensibles como educación, justicia, empleo o administración pública. Exigen una evaluación de impacto algorítmica antes de ser implementados.
- Riesgo limitado: sistemas como chatbots informativos, que solo requieren mecanismos de transparencia para advertir al ciudadano que interactúa con una máquina.
- Riesgo nulo: herramientas sin impacto directo en personas —como filtros de spam— que solo deben cumplir buenas prácticas técnicas.
Registro obligatorio y nuevas exigencias al Estado
Los organismos provinciales deberán:
- realizar evaluaciones preliminares de riesgos,
- gestionar y revisar periódicamente posibles impactos,
- evitar sesgos o discriminación, especialmente contra grupos vulnerables,
- garantizar la retención de datos para auditorías,
- obtener consentimiento informado en el tratamiento de datos personales,
- informar siempre cuándo una interacción es generada por IA.
Además, deberán inscribir todos los sistemas de IA en un registro provincial administrado por la Subsecretaría de Gobierno Digital.
Sustentabilidad como criterio regulatorio
La resolución incorpora un aspecto novedoso: la obligación de medir y minimizar el impacto ambiental de los sistemas de IA. La Provincia exige que sean “sostenibles y sustentables”, reconociendo el creciente consumo energético asociado al entrenamiento y uso de modelos avanzados.
El texto también obliga a las áreas del Estado a capacitarse de forma continua para acompañar la evolución tecnológica. La premisa es que la administración pública debe actualizarse al ritmo de la IA que pretende regular.
Fuente: El Crónista/Redacción TE.
