23. El Estado inteligente ante el ciudadano libre
Saber más no confiere derecho a decidir más
El Estado moderno puede reunir expedientes, presupuestos, mapas, registros y modelos de lenguaje. Puede descubrir un pago duplicado antes de que lo encuentre un auditor y facilitar a una persona la lectura de una norma. Esa capacidad altera una relación de poder: la administración sabe más sobre cada habitante y puede actuar más deprisa. La doctrina debe preguntarse si ese aumento de inteligencia institucional amplía la libertad de la persona o la convierte en objeto de clasificación permanente.
La tesis es que el Estado inteligente merece ese nombre cuando aumenta la capacidad del ciudadano de comprenderlo, corregirlo y limitarlo. Un gobierno que predice conductas pero no permite impugnar un dato tiene poder computacional, no inteligencia cívica. Una plataforma que resuelve un trámite para los conectados y borra el canal presencial para los demás puede ahorrar personal mientras excluye. El criterio ético no es la cantidad de algoritmos, sino la calidad de derechos, servicios y responsabilidad que permanecen después de introducirlos.
El capítulo II.18 diseñó infraestructura federada de datos e IA y II.19 separó alertas de hallazgos; II.21 subordinó la IA judicial a contradicción y decisión humana. Este capítulo pregunta qué principio común justifica esos límites. La respuesta no puede ser «desconfiar siempre» de la técnica, porque sin datos y capacidad analítica se pueden conservar errores que perjudican a los más débiles. Tampoco puede ser «confiar en la eficiencia», porque la eficiencia sin propósito puede acelerar una injusticia.
Información pública y asimetría de comprensión
La administración conserva información necesaria para recaudar, prestar servicios y controlar legalidad. No toda información debe circular: hay datos de salud, afiliación y domicilio protegidos. Pero las reglas de una decisión pública y la evidencia agregada de sus resultados sí deben ser comprensibles. La Ley 27.275 desarrolla acceso a información con excepciones y la Ley 25.326 fija derechos sobre datos personales. Las dos normas expresan una doble obligación: abrir aquello que permite controlar al poder y resguardar aquello cuya exposición puede dañar a la persona. B05 B06
La transparencia no consiste en subir millones de filas ilegibles. Un presupuesto abierto debería permitir ir de una promesa a crédito, contrato, pago y entrega, con definiciones de cada columna. Una resolución automatizada debería señalar qué dato aplicó y cómo rectificarlo. La información accesible requiere lenguaje claro, formatos utilizables y canales de ayuda; también versiones técnicas para periodistas, investigadores y opositores. Ocultar reglas detrás de una interfaz amable puede ser tan opaco como publicar documentos ininteligibles.
La idea de soberanía tecnológica no justifica cerrar el conocimiento en una empresa estatal o un proveedor nacional. Si se concentra en pocos administradores el acceso a datos y modelos, cambia la bandera del monopolio sin cambiar la dependencia. La soberanía valiosa es capacidad institucional de cambiar proveedor, auditar sistema, proteger información y mantener servicio. La titularidad pública puede ayudar en algunos componentes; la interoperabilidad, las competencias profesionales y la supervisión externa son igual de decisivas.
El problema de la predicción
Un modelo puede estimar dónde hay riesgo de abandono escolar, evasión, error de pago o demora judicial. Los datos pasados contienen decisiones pasadas. Si un barrio recibió menos inspecciones, el registro puede mostrar menos infracciones, no más cumplimiento. Si un grupo denunció menos por desconfianza, puede figurar como grupo sin problemas. Usar el pasado como etiqueta de verdad confunde ausencia de registro con ausencia de daño. El modelo puede entonces dirigir recursos a quienes ya eran visibles y reforzar invisibilidad.
La respuesta no es prohibir toda predicción. Es precisar finalidad y comparar su valor con alternativas menos intrusivas: reglas simples, muestras aleatorias, visitas de campo y escucha de usuarios. La prueba debe incluir falsos negativos y efectos distributivos, no solo precisión promedio entre casos señalados. Cada predicción necesita fecha, fuente, incertidumbre y decisión humana que pueda apartarse con razón. Las guías UNESCO y NIST ofrecen vocabularios de impacto, gobernanza y riesgo, pero no reemplazan derecho argentino ni validación local. B81 B83
Las sanciones y prestaciones son decisiones especialmente sensibles. Si un algoritmo sugiere negar un beneficio, la persona debe conocer el motivo relevante, rectificar datos y acceder a revisión en tiempo útil. Una apelación que llega después de perder alimentos o vivienda no repara plenamente el daño. El costo administrativo de esa garantía debe figurar en el proyecto tecnológico. Un sistema que solo es rentable porque elimina revisión necesaria no ha demostrado eficiencia social.
Control del gasto y control del controlador
Auditar contratos con IA puede encontrar relaciones que un humano no ve: facturas repetidas, patrones de licitación, ampliaciones anómalas. También puede señalar equivocadamente a un proveedor o pasar por alto una colusión diseñada para escapar de sus reglas. El órgano de control mantiene competencia y debe conocer tasas de error y capacidad de revisión, como explicó II.19. B04 Pero existe un problema más amplio: quien compra o desarrolla el modelo puede definir qué considera «anomalía» y qué no. Por eso deben auditarse los datos de entrenamiento, los umbrales, cambios de versión y las áreas donde el modelo calla.
Un consejo temporal de veedores, diseñado en II.20, puede aportar experiencia usuaria y preguntas públicas. Su voz debe tener respuesta institucional sin sustituir al auditor profesional. La combinación de conocimiento experto, mirada ciudadana y potestad legal evita que cada actor se atribuya un poder total. El sistema funciona si la discrepancia queda registrada: el auditor puede rechazar una observación vecinal con razones; los veedores pueden señalar que la entrega formal no llegó al barrio; el proveedor puede impugnar un dato erróneo.
El poder de medir y el derecho a no ser reducido
Toda política necesita indicadores. Ninguna persona coincide con su puntuación. Un tablero sanitario puede mostrar menor espera y esconder que las personas más complejas ya no consiguen turno. Un índice de «riesgo laboral» puede asignar más inspecciones a un sector y desatender explotación en otro. La evaluación debe combinar series, auditoría de casos y testimonio contradictorio. El ciudadano no tiene derecho a que el Estado ignore evidencia; tiene derecho a no ser tratado como resultado definitivo de una fórmula.
La filosofía de comunidad organizada puede aportar una idea de reciprocidad: el Estado recibe datos para servir a una población que conserva voz y derechos. Esa reciprocidad se rompe si la persona debe entregar información íntima para cada servicio, mientras no puede conocer presupuesto, contrato ni criterio que la afecta. La minimización de datos y la publicidad de decisiones no son gestos liberales ajenos a la justicia social: evitan que el más débil deba pedir favores para corregir un error estatal.
Livia — contrapunto crítico. La expresión «IA nacional» puede reunir orgullo legítimo y una concentración peligrosa. Preguntaría quién administra las llaves, qué institución puede apagar un modelo, cómo se corrige un dato replicado por varias oficinas y qué opción tiene alguien que no quiere interactuar con un asistente automático. También pediría publicar fallos y costos de mantenimiento. Si una persona solo puede discutir con otro algoritmo, la promesa de inteligencia pública se habrá invertido.
El Estado del siglo XXI no se hace justo por calcular más. Se hace más responsable cuando usa su capacidad de cálculo para hacer visibles errores propios, distribuir mejor servicios y aceptar límites que una persona común pueda ejercer. La inteligencia pública comienza cuando el ciudadano puede decir «ese dato es falso» y alguien con autoridad tiene que escucharlo.
Referencias específicas
- B04. Ley 24.156, sistemas de control.
- B05. Ley 27.275, acceso a información pública.
- B06. Ley 25.326, protección de datos personales.
- B81. UNESCO, Recomendación sobre la Ética de la IA.
- B83. NIST, AI RMF 1.0, guía voluntaria.