Una persona llama a un servicio municipal y pregunta por los documentos que necesita para solicitar una atención. Mientras tanto, una profesional intenta localizar la versión correcta de un protocolo entre muchas carpetas. En otra sala, un equipo revisa una agenda y detecta una ausencia de cobertura.
Son escenas distintas. En algunas, la inteligencia artificial podría ayudar. En otras, una automatización sencilla será suficiente. En ninguna deberíamos confundir un sistema que organiza información con una autoridad que decide sobre la vida de alguien.
Empezar por casos de uso modestos y verificables
Orientación sobre información pública. Un asistente puede ayudar a encontrar horarios, requisitos generales o canales de contacto, siempre que indique fuentes actualizadas y permita derivar a una persona cuando no comprenda la consulta.
Búsqueda documental autorizada. Un profesional puede recuperar procedimientos vigentes, con control de permisos y referencias a sus originales. La respuesta generada debe poder verificarse; una cita inventada puede causar errores.
Apoyo a tareas administrativas. Borradores de comunicaciones, clasificación inicial de incidencias operativas o resúmenes de información no sensible podrían ahorrar tiempo si existe revisión humana y registro de cambios.
Coordinación de servicios. Detectar huecos en un calendario o recordar actuaciones pendientes no exige diagnosticar a nadie. El diseño puede limitar los datos que procesa y reservar las decisiones a responsables autorizados.
La regla común es preguntar qué problema resolvemos, qué datos son necesarios y cómo reconoceremos un resultado incorrecto.
Lo que nunca debería perderse: la capacidad de decir «no»
Una persona atendida necesita comprender quién decide, por qué y cómo puede pedir revisión. Una profesional debe poder corregir una propuesta del sistema. Y la administración debe saber si una herramienta utiliza datos personales, qué proveedores intervienen y qué ocurre si falla.
El Reglamento europeo de IA utiliza un enfoque basado en riesgos. Determinados sistemas usados en servicios públicos o empleo pueden exigir controles reforzados, y hay prácticas prohibidas. Entre ellas se encuentra, salvo excepciones médicas o de seguridad previstas por la norma, la inferencia de emociones mediante IA en lugares de trabajo y centros educativos.
Esto importa especialmente cuando alguien promete «medir empatía» de trabajadores o interpretar el estado emocional de personas a partir de una cámara. No es una característica que deba incorporarse a un servicio público por entusiasmo tecnológico.
Cinco controles antes de probar
Finalidad clara. Explicar por escrito qué hace la herramienta y qué no hace. Evitar comenzar con un proveedor y buscar después una necesidad que lo justifique.
Protección de datos. Determinar responsables, bases jurídicas, categorías de datos, accesos, conservación, proveedores y necesidad de una evaluación de impacto cuando corresponda. La anonimización debe ser real, no una sustitución superficial de nombres.
Riesgo y supervisión. Clasificar el caso de uso, identificar los derechos afectados, definir límites y asignar responsables humanos capaces de detener el sistema.
Calidad y evidencia. Medir errores, omisiones y efectos en diferentes grupos de personas. Una respuesta agradable no demuestra que sea correcta.
Alternativa accesible. La ciudadanía debe poder obtener atención por otros canales cuando sea necesario. Un chatbot no puede convertirse en una barrera nueva.
Aprender de las herramientas públicas
La Federación Española de Municipios y Provincias difundió en 2026 orientaciones para incorporar IA con garantías en entidades locales. También se han presentado metodologías de evaluación gradual del riesgo para administraciones. El denominador común es que la gobernanza no puede dejarse para después de la compra.
Antes de desplegar, una prueba controlada con datos ficticios y escenarios bien documentados ayuda a conocer límites. Después hace falta seguimiento de errores y mecanismos de retirada. Un proyecto piloto no acredita por sí solo resultados positivos en producción.
La mejor pregunta no es «¿cuánta IA usamos?»
Quizá sea: «¿ha mejorado la atención, ha reducido tareas repetidas sin generar nuevos riesgos y pueden explicarse las decisiones?».
La respuesta exige escuchar a profesionales, administraciones y personas usuarias. La IA puede convertirse en una herramienta valiosa de apoyo. Pero el criterio profesional, los derechos y la responsabilidad pública no deberían delegarse en un texto generado automáticamente.