Chile quiere poner reglas a los agentes de IA que actúan solos: qué propone el proyecto de ley

Los agentes de inteligencia artificial ya pueden abrir aplicaciones, consultar bases de datos y ejecutar tareas digitales sin pedir aprobación para cada pequeño paso. Eso puede ahorrar trabajo, pero también abre una pregunta incómoda: ¿quién responde cuando uno de esos sistemas se equivoca o accede a información que no debía tocar? Un proyecto ingresado al Senado chileno el 28 de octubre busca establecer controles para empresas que utilicen estos agentes. Se trata de una propuesta en discusión, no de una obligación vigente.

La iniciativa corresponde al boletín 18820-19 y plantea modificar la Ley 21.663, que establece el marco de ciberseguridad. Según los antecedentes legislativos, la propuesta fue presentada por cinco senadores y quedó en primer trámite constitucional, en la comisión de Desafíos del Futuro, Ciencia, Tecnología e Innovación. No registra aprobación legislativa ni promulgación. En temas regulatorios, distinguir entre un proyecto y una ley vigente es tan importante como diferenciar una prueba de laboratorio de un producto comercial.

El problema de fondo es la autonomía del software. Un chatbot que solamente sugiere una respuesta no tiene los mismos riesgos que un agente autorizado para descargar archivos, cambiar permisos o modificar servicios empresariales. Este último puede encadenar acciones a alta velocidad, incluso cuando una instrucción inicial fue ambigua. Si su cuenta tiene privilegios excesivos, un error de programación o una instrucción maliciosa podría extenderse a sistemas sensibles.

Qué cambia con esta tecnología

Entre las medidas descritas para el proyecto están asignar identidades digitales identificables a los agentes, limitar permisos, llevar registros de sus operaciones y contar con mecanismos para detenerlos de manera segura. La idea sería que cada sistema automatizado tenga responsabilidades técnicas delimitadas, en lugar de trabajar con claves compartidas por toda una organización. También se contempla una supervisión más exigente para ciertas instituciones y servicios considerados esenciales.

Estas propuestas no significan que cada persona que use ChatGPT, Gemini o Claude deba registrar su cuenta en una base estatal. El foco informado está en instituciones privadas comprendidas en el marco de ciberseguridad y que operen agentes sobre redes o sistemas. Los detalles concretos de cobertura y sanciones deben leerse en el texto del proyecto y podrían modificarse durante la tramitación. No existe una nueva multa aplicable hoy por usar un agente de IA.

Para entenderlo, pensemos en una empresa de distribución que utiliza un agente para consultar pedidos y programar despachos. Si solo necesita leer estados de entrega, no debería tener permiso para cambiar todas las cuentas de clientes. Si un día comienza a intentar acciones inesperadas, la organización necesita poder suspenderlo, revisar registros y comprender qué hizo. Son principios de seguridad que también resultan útiles antes de que una ley los exija.

Por qué importa en Chile

Chile ya discute la relación entre automatización, privacidad y seguridad empresarial. En OHZOM abordamos cómo funcionan los controles de identidad digital en bancos y el riesgo de extensiones maliciosas en entornos de desarrollo. Ambas historias recuerdan que otorgar acceso a un sistema tiene consecuencias prácticas, incluso cuando la interfaz parece fácil de utilizar.

El debate también enfrenta desafíos: las empresas pequeñas podrían necesitar apoyo para cumplir medidas nuevas, mientras las compañías grandes ya administran múltiples identidades técnicas y automatizaciones. Un buen marco debería distinguir riesgos y evitar requisitos tan generales que resulten imposibles de auditar. Por eso importa observar la discusión parlamentaria y conocer las observaciones de profesionales de ciberseguridad, empresas y organizaciones civiles.

Antes de que exista una obligación legal nueva, las organizaciones pueden hacer un inventario simple: qué agentes utilizan, a qué servicios se conectan, qué información consultan y quién puede desactivarlos. Ese ejercicio ayuda incluso cuando las herramientas cambian de proveedor o modelo. Un registro comprensible permite investigar errores y responder ante incidentes sin depender de recuerdos de quienes instalaron el sistema. Un proyecto de ley podría transformar estas buenas prácticas en deberes específicos, pero esa discusión todavía está abierta.

Por ahora, la recomendación para organizaciones es aplicar el principio de mínimo privilegio, registrar operaciones automatizadas y definir responsabilidades humanas, independientemente del resultado legislativo. El proyecto abre una conversación relevante, pero todavía no establece reglas definitivas. Fuentes: ficha oficial del Senado y seguimiento de tramitación del boletín 18820-19.