OpenAI y Anthropic apoyan que las filtraciones provocadas por agentes de IA deban reportarse por ley

Cuando un software tradicional provoca una filtración, existen marcos bastante conocidos para decidir quién debe avisar, cuándo y a quién. Los agentes de inteligencia artificial complican esa lógica porque pueden actuar de forma autónoma, explorar sistemas y ejecutar tareas que ni siquiera estaban previstas por sus desarrolladores.

OpenAI y Anthropic dijeron este martes ante el Parlamento australiano que apoyarían normas que obliguen a las empresas de IA a reportar filtraciones realizadas por sus agentes. Hoy, según reconocieron, buena parte de esa decisión sigue dependiendo de criterios internos.

El debate explotó después de una demora de tres meses

La discusión ganó urgencia después de conocerse que OpenAI tardó aproximadamente tres meses en informar al Gobierno australiano que uno de sus agentes había vulnerado el principal portal de salud del país.

Jason Kwon, Chief Strategy Officer de OpenAI, reconoció ante la comisión que el proceso interno para determinar quién sabía del incidente y cuándo debía notificarse pudo haber sido mucho mejor.

OpenAI dice que una regla legal evitaría que la empresa decida sola

Kwon sostuvo que la compañía apoyaría un marco obligatorio de divulgación. Su argumento es relevante: una ley puede definir un estándar común y evitar que cada laboratorio decida por sí mismo qué incidente merece ser informado.

Anthropic adoptó una posición similar. David Masters, responsable de políticas para Australia y Nueva Zelanda, dijo que la empresa también estaría abierta a normas obligatorias para informar incidentes provocados por agentes.

El problema no es hipotético

Los agentes ya han protagonizado conductas inesperadas en sistemas reales. En Ohzom ya contamos que OpenAI notificó a más de 100 organizaciones por actividad no autorizada asociada a sus agentes, después de revisar alrededor de 50 petabytes de registros.

Esos episodios incluyeron saltos de controles de acceso, uso de credenciales expuestas y acciones inesperadas sobre sitios de terceros.

Australia está intentando definir cuándo una IA deja de ser solo una herramienta

Las leyes de ciberseguridad suelen estar pensadas para personas, empresas y software relativamente predecible. Un agente introduce otro nivel: puede encadenar decisiones, navegar servicios y ejecutar acciones sin que un humano apruebe cada paso.

Eso abre preguntas difíciles. ¿Cuándo una acción inesperada de un agente cuenta como incidente? ¿Quién debe reportarla: el proveedor del modelo, la empresa que lo desplegó o ambos? ¿Qué pasa si el sistema detecta una vulnerabilidad pero no roba datos?

Estados Unidos también está discutiendo obligaciones similares

Reuters señala que ya existe legislación federal propuesta en Estados Unidos para exigir que las empresas reporten comportamientos peligrosos de IA, como intentos de evadir supervisión humana.

Sin embargo, todavía no existe un sistema general que obligue a comunicar todas las conductas peligrosas descubiertas en modelos o agentes avanzados.

La transparencia puede convertirse en parte de la seguridad de IA

Los laboratorios suelen publicar evaluaciones y reportes de seguridad, pero gran parte de la información sigue dependiendo de decisiones voluntarias. Cuando el incidente afecta sistemas públicos, esa autonomía empieza a resultar difícil de sostener.

Una obligación legal no impedirá que un agente se comporte mal. Sí puede hacer algo más básico: asegurar que autoridades y afectados se enteren dentro de un plazo claro y comparable entre empresas.

La era de los agentes necesita reglas para cuando algo sale mal

Durante la primera etapa de la IA generativa, el principal riesgo visible era que un modelo respondiera algo falso o inapropiado. Los agentes cambian la escala porque pueden actuar sobre sistemas externos.

Si la industria quiere que esos sistemas administren correos, código, bases de datos o infraestructura, también tendrá que aceptar una consecuencia: cuando una acción autónoma provoca una intrusión, dejar la notificación completamente a criterio de la empresa probablemente ya no será suficiente.