El gobierno de Santa Fe estableció un protocolo para el uso de Inteligencia Artificial Generativa (IAG) en el ámbito de la Administración Pública, debido al avance exponencial de estas tecnologías.
Mediante el decreto 2726 firmado este lunes 3 de noviembre por el gobernador Pullaro y el ministro de Gobierno, se aprobó el protocolo que será de aplicación obligatoria para todo el personal que preste servicios en el ámbito de la Administración Pública Centralizada y Descentralizada, bajo cualquier modalidad de contratación, incluyendo funcionarios, empleados de planta permanente y
personal contratado.
La autoridad de aplicación será la Secretaría de Tecnologías para la Gestión, que tendrá que dictar las normas aclaratorias y/o complementarias que resulten necesarias para la correcta implementación del decreto; además de elaborar y publicar guías de buenas prácticas, manuales de uso para los distintos sistemas de IAG implementados.
Ante el incumplimiento de este protocolo, podrá haber sanciones disciplinarias, cuya graduación se valorará si hubo intencionalidad, el perjuicio causado y la jerarquía del responsable. Pero además podría derivar en una acción civil o penal, si así lo consideran las víctimas.
Inteligencia Artificial Generativa
En los fundamentos del decreto, se indica que la Inteligencia Artificial (IA) es un sistema diseñado por los seres humanos que, dada una serie de objetivos, pueden realizar predicciones, recomendaciones o tomar decisiones que influyen en entornos reales o virtuales, replicando determinadas facetas de la inteligencia humana. Mientras que la Inteligencia Artificial Generativa (IAG) es una subcategoría de la IA y designa a aquellos sistemas capaces de “crear contenido novedoso en diversos formatos a partir de los datos con los que fueron entrenados, ofreciendo un potencial significativo para optimizar y eficientizar las tareas administrativas y potenciar el análisis técnico y jurídico”.
Por tal motivo, la adopción de dichas tecnologías debe ser planificada, gradual y presidida por el principio de prudencia, a fin de mitigar los riesgos inherentes a una dependencia tecnológica excesiva, a la perpetuación de sesgos o a la vulneración de derechos fundamentales. “Este nuevo escenario exige actualizar las garantías de responsabilidad, trazabilidad y competencia administrativa que rigen en la Administración Pública” señala la normativa.
La IA no reemplaza la voluntad administrativa
En otro tramo de los fundamentos, se remarca hay un contexto de “creciente autonomía operativa” y que “resulta necesario establecer límites precisos al empleo de herramientas de IA por parte de los usuarios, garantizando que tales soluciones no sustituyan funciones reservadas a órganos o funcionarios legalmente competentes”. En este sentido, aclara que “la IA debe ser una herramienta de apoyo, no de reemplazo de la voluntad administrativa legítima”.
Y que “es un deber indelegable del Estado ejercer su potestad regulatoria para garantizar que la innovación tecnológica redunde en beneficio de toda la sociedad, fortaleciendo la inclusión y protegiendo a los sectores más vulnerables”.
“La adopción responsable y ética de la Inteligencia Artificial Generativa constituye una oportunidad estratégica para potenciar la eficiencia, la calidad y la accesibilidad de los servicios públicos, con el fin último de generar mayor valor para la ciudadanía y fortalecer la gestión administrativa” menciona el decreto, remarcando que la actual Constitución Provincial, en su Artículo 29, dispone que “la Provincia o los terceros que presten servicios de interés público deben adoptar sistemas algorítmicos transparentes y auditables y promover mecanismos de evaluación de impacto y resguardo frente a sesgos o discriminación”.
