La ONU pone una regla a la IA municipal: las decisiones deben seguir en manos humanas

La inteligencia artificial ya puede contestar reclamos, ordenar trámites y ayudar a decidir dónde invertir recursos públicos. Pero hay una pregunta que ninguna municipalidad debería dejarle a una máquina: ¿quién responde si se equivoca? La ONU acaba de publicar una guía para que las ciudades aprovechen estas herramientas sin entregarles el volante.

Este miércoles 4 de noviembre, la Unión Internacional de Telecomunicaciones (UIT) y ONU-Hábitat presentaron en Barcelona una nueva caja de herramientas para ciudades inteligentes centradas en las personas. Su nombre oficial es Toolbox for People-Centred Smart Cities in the AI Era, y está dirigida a alcaldes, administradores urbanos y equipos responsables de servicios públicos.

El documento no plantea prohibir la automatización. Busca algo más exigente: que cada implementación parta de un problema real de la ciudad, tenga límites definidos y permita identificar a las personas responsables de las decisiones. Una plataforma rápida no es necesariamente una política pública justa.

Entre los ejemplos que cita la organización figuran asistentes virtuales para atender vecinos, sistemas que sugieren qué caminos reparar y programas que apoyan decisiones administrativas. Los beneficios posibles incluyen respuestas más oportunas y mejor uso de recursos; los riesgos van desde sesgos y errores hasta vulneraciones de privacidad.

Cuatro criterios antes de poner una IA en el municipio

La primera recomendación parece simple, pero cambia el orden de la conversación: primero viene el problema urbano y después la tecnología. No corresponde comprar una solución con IA y recién entonces buscarle algo que hacer. Conviene determinar a quién ayuda, qué datos necesita y cómo se medirá si realmente mejoró el servicio.

La segunda es mantener las decisiones públicas bajo supervisión humana significativa. Eso requiere que los funcionarios entiendan la intervención del sistema, puedan revisar sus recomendaciones y tengan autoridad para detenerlo. Una pantalla con el botón «aceptar» no garantiza por sí sola que exista control efectivo.

La tercera pide aumentar los resguardos según el posible daño. No es lo mismo usar IA para ordenar horarios de recolección que aplicarla a decisiones sobre beneficios, vivienda o fiscalización. Cuando aumentan las consecuencias para una persona, también deben crecer las exigencias de evaluación, transparencia y rendición de cuentas.

La cuarta reconoce un punto poco habitual en el entusiasmo tecnológico: decidir no usar inteligencia artificial también puede ser correcto. Si la herramienta no resuelve un problema relevante, usa información poco confiable o vuelve opaco un procedimiento, detener el proyecto es una decisión responsable, no un fracaso.

Qué puede aprender Chile de esta guía

La publicación no crea una obligación legal para los municipios chilenos ni anuncia que aquí vaya a implementarse un sistema específico. Su utilidad está en ofrecer preguntas para evaluar proyectos: quién fiscaliza, qué ocurre si un vecino reclama, cómo se corrige un dato errado y si existen alternativas para las personas que no utilizan canales digitales.

En servicios tan cotidianos como permisos, luminarias, recorridos y atención ciudadana, un algoritmo puede detectar patrones que un equipo humano tardaría mucho más en descubrir. Pero la calidad de una municipalidad no se mide solo en segundos ahorrados. También importa que sus decisiones sean comprensibles, reclamables y equitativas.

La UIT explicó que la iniciativa se apoya en experiencias de ciudades como Helsinki y eThekwini, en Sudáfrica, y coincide con diez años del programa United for Smart Sustainable Cities. Junto con la guía se presentaron publicaciones sobre gobernanza de IA, plataformas de datos y protección de infraestructura digital pública.

Para quienes siguen cómo la tecnología cambia el trabajo y los servicios, OHZOM ha abordado también sensores que permiten monitorear estanques de agua en Chile y soluciones chilenas de monitoreo industrial. En ambos casos, el interés está en convertir datos en acciones comprobables, no simplemente en sumarle IA a todo.

La información oficial de la UIT incluye acceso a los documentos. El mensaje central queda claro: una ciudad inteligente puede utilizar máquinas cada vez más capaces, pero la responsabilidad sobre sus habitantes no se puede tercerizar a un modelo.