La inteligencia artificial es la promesa tecnológica del momento, también en el sector público. Y se entiende: bien usada, puede mejorar servicios, bajar tiempos y liberar a los servidores de tareas repetitivas.
Pero en un Estado donde la identidad no siempre se verifica bien, los datos tienen duplicados y errores, las entidades no se hablan entre sí y la seguridad es desigual, la IA no resuelve esos problemas. Los hereda. Y muchas veces los agranda.
El orden que propongo
- Identidad: saber quién es quién, de forma confiable.
- Datos: con fuente oficial, responsable definido y calidad.
- Interoperabilidad: que las entidades los puedan intercambiar.
- Seguridad: protección y trazabilidad del intercambio.
- Procesos: rediseñados antes de copiarlos a un sistema.
- Automatización: sobre reglas claras y estables.
- Inteligencia artificial: cuando aporte valor que se pueda comprobar.
Cada nivel se apoya en los anteriores. Un modelo de IA que trabaja sobre datos sin responsable y sin calidad produce resultados sin responsable y sin calidad.
No es una fila india
El orden no obliga a esperar que cada nivel esté perfecto para empezar el siguiente. Puede haber pilotos en paralelo, aprendizaje temprano y experimentos acotados. Esperar a que todo esté perfecto es otra forma de no hacer nada.
Lo que no se puede es saltarse los cimientos y llamarle a eso modernización.
Y el Perú ya tiene un marco legal sobre inteligencia artificial y una Estrategia Nacional de Inteligencia Artificial. Cuando hablo de este orden, hablo de madurez técnica e institucional para usarla bien, no de que falte política.
IA sobre datos en mal estado
Cuando se pone IA sobre datos duplicados, incompletos, inconsistentes, sin responsable o sin permisos claros, el resultado es predecible: respuestas que suenan bien pero no son confiables, y errores que se multiplican rápido. Un error que antes afectaba un expediente, automatizado, puede afectar miles.
El problema no es la IA
Nada de esto es un argumento contra la inteligencia artificial. Bien aplicada, puede apoyar o automatizar ciertas tareas, según el nivel de riesgo y lo que permita el marco vigente:
| Uso | Ejemplo |
|---|---|
| Clasificación | Ordenar solicitudes o documentos por tipo |
| Búsqueda | Encontrar información en grandes volúmenes de normas o expedientes |
| Detección de anomalías | Encontrar patrones raros en contrataciones o pagos |
| Asistencia | Orientar al ciudadano o al servidor en un trámite |
| Predicción | Anticipar la demanda de servicios |
| Automatización | Resolver tareas repetitivas con reglas claras |
Son ejemplos, no un plan de adopción. Y los usos predictivos exigen mucho cuidado: algunos pueden ser de alto riesgo.
Cuando se afectan derechos: cinco condiciones
Si un sistema de IA interviene en decisiones que afectan de forma importante los derechos o intereses de una persona, tiene que cumplir cinco condiciones:
- Gobernanza definida: quién responde por el sistema.
- Explicación de la decisión: la persona afectada tiene que poder entender por qué.
- Supervisión humana.
- Evaluación de sesgo: verificar que no discrimina.
- Protección de datos personales.
Y además, información suficiente, mecanismos de revisión y supervisión según el marco legal aplicable.
Dos precisiones para hablar con propiedad
IA no es sinónimo de automatización. La mayor parte de lo que el Estado necesita automatizar son reglas, no modelos. Verificar si se cumple un requisito, calcular un monto o mandar una notificación no requiere inteligencia artificial. Requiere procesos bien definidos y sistemas que se comuniquen.
Ninguna tecnología debería presentarse como condición del éxito de la reforma. Las reformas que dependen de una tecnología específica envejecen con ella.
Cómo lo aplicaría
- Evaluar la madurez de identidad, datos, interoperabilidad y seguridad en cada sector antes de proyectos grandes de IA.
- Priorizar los cimientos en la inversión digital.
- Permitir pilotos acotados de IA, con evaluación de riesgo, métricas y la posibilidad de pararlos.
- Aplicar las cinco condiciones a todo uso que afecte derechos.
- Separar en cada proyecto qué se resuelve con reglas y qué necesita modelos.
En mi propuesta, CENIT se encargaría de los cimientos comunes. CENIT es mi propuesta; hoy no existe.
La objeción obvia: no podemos esperar mientras el mundo avanza
No propongo esperar. Por eso el orden no es una fila india: se pueden hacer pilotos en paralelo. Lo que advierto es contra los proyectos grandes montados sobre bases débiles.
Y hay algo que me parece bien: la IA también puede ayudar a mejorar la calidad de los datos, por ejemplo detectando duplicados. Ese uso encaja perfecto en el orden que propongo. La IA al servicio de los cimientos, no en su reemplazo.
Qué cambia para el ciudadano
Servicios públicos que usan tecnología avanzada cuando aporta valor, sobre datos confiables y con garantías. Y protección frente a decisiones automáticas que te afecten sin explicación ni posibilidad de revisión.
Hacia 2050
La inteligencia artificial va a ser parte del Estado del futuro. Que sea una herramienta de mejor servicio o una fuente de errores a gran escala depende de los cimientos que construyamos antes. Quiero un Perú con identidad confiable, datos de calidad, interoperabilidad y seguridad, sobre los que la IA pueda aportar valor comprobable.
Conclusión
La IA puede acelerar un buen sistema. También puede acelerar el desorden de uno malo.
Fuentes
- Propuesta de Letras de Cambio sobre madurez digital del Estado e inteligencia artificial. CENIT es una propuesta editorial de Letras de Cambio; no es una entidad existente.