OpenAI y Anthropic apoyan auditorías de IA, pero discuten cuánto pueden publicar los evaluadores

Que una empresa revise la seguridad de su propia inteligencia artificial es importante. Que una organización externa pueda comprobar sus resultados es todavía mejor. El problema aparece cuando esa revisión encuentra algo que el fabricante considera un secreto industrial.

Una investigación publicada por Reuters el 13 de octubre describe las negociaciones sobre qué libertad tienen los auditores para publicar sus evaluaciones de modelos desarrollados por OpenAI y Anthropic. Las dos empresas sostienen que respaldan revisiones independientes, pero también quieren proteger información sensible.

Independencia no es solo entrar a mirar

Una auditoría útil necesita acceso suficiente al funcionamiento y los resultados del sistema, además de libertad para comunicar hallazgos relevantes. Si la empresa revisada controla qué aspectos pueden difundirse, la confianza pública puede verse limitada incluso cuando el trabajo técnico haya sido riguroso.

Pero tampoco resulta razonable publicar instrucciones que faciliten ataques o información confidencial sin evaluar sus consecuencias. Ahí está el conflicto: distinguir una redacción legítima por seguridad de una restricción que impida conocer riesgos.

Qué proponen los laboratorios de IA

Según Reuters, entre los mecanismos discutidos figuran observaciones editoriales de las empresas, supervisión de personal autorizado y restricciones para evitar fugas de propiedad intelectual. OpenAI y Anthropic señalan que la metodología y los resultados deben mantenerse independientes, aunque en ciertos casos buscan revisar información que podría exponerse públicamente.

Eso no significa que exista una norma universal ya aprobada ni que todos los evaluadores hayan aceptado las mismas condiciones.

Por qué importan los detalles del informe

Un hallazgo de seguridad puede cambiar la decisión de un usuario, una empresa o una institución pública de desplegar un modelo. Sin información suficiente, las organizaciones quedan obligadas a confiar en promesas comerciales.

En otros campos de alto riesgo, los procesos de evaluación buscan separar al fabricante de quien verifica. Los sistemas de IA más capaces plantean el desafío adicional de que algunas capacidades peligrosas podrían replicarse si se describen con demasiado detalle.

La confianza se construye antes de un incidente

Para que las auditorías sean creíbles hace falta acordar reglas previas: acceso a evidencia, declaración de conflictos de interés, protección de información confidencial y criterios claros para publicar resultados. Cada restricción debe tener una justificación verificable, no depender simplemente de si el hallazgo incomoda al proveedor.

La discusión no es académica. Cada vez más empresas incorporan asistentes y agentes en actividades delicadas. Saber cómo se revisaron sus riesgos importa tanto como conocer cuántas preguntas responden por segundo.