Read Time:3 Minute
La inteligencia artificial promete ahorrar tiempo tomando decisiones más rápido.
Pero un nuevo estudio plantea una paradoja incómoda: 97,2% de los encuestados dice que corrige o ignora recomendaciones generadas por IA al menos algunas veces.
El principal motivo señalado no es simplemente que la respuesta sea incorrecta. Es que las personas no entienden cómo el sistema llegó a esa conclusión.
¿De dónde sale el 97,2%?
El dato proviene de la segunda edición del Data and AI Impact Report: The New Economics of Trust, publicado por SAS con investigación de IDC.
El estudio encuestó a 2.699 tomadores de decisión de 28 países en industrias como banca, seguros, ciencias de la vida y sector público.
Por eso no debería interpretarse como “97% de todas las personas del mundo que usan ChatGPT”.
Es una medición empresarial sobre profesionales involucrados en decisiones relacionadas con datos e inteligencia artificial.
El problema principal es no saber por qué la IA decidió algo
SAS señala que la razón más mencionada para anular o corregir una recomendación es la falta de explicabilidad.
Cuando el usuario no puede reconstruir qué datos utilizó el sistema, qué criterios priorizó o cómo llegó a una respuesta, aumenta la tendencia a revisar manualmente el resultado.
Eso ocurre incluso cuando la recomendación puede ser correcta.
La paradoja: automatizar puede terminar creando más trabajo
Si una empresa incorpora IA para reducir tareas manuales pero cada resultado necesita una segunda revisión humana, parte del beneficio desaparece.
La herramienta puede acelerar una primera respuesta y, al mismo tiempo, crear una nueva tarea: verificar que esa respuesta sea confiable.
Ese costo resulta especialmente relevante cuando la IA se utiliza en procesos repetitivos o de alto volumen.
La confianza cae cuando la IA obtiene más autonomía
El estudio reporta una confianza de 76% en IA generativa y de 66% cuando se pregunta por IA agéntica.
La diferencia importa porque un agente no se limita a generar texto.
Puede utilizar herramientas, acceder a sistemas y ejecutar acciones en nombre del usuario.
Mientras mayor sea la autonomía, más relevante resulta poder explicar y auditar qué hizo el sistema.
Solo 17,5% dice tener una infraestructura de datos totalmente optimizada
La confianza no depende únicamente del modelo.
Según el informe, apenas 17,5% de las organizaciones afirma contar con una infraestructura de datos completamente optimizada para soportar estos sistemas.
Problemas de calidad, trazabilidad o gobernanza de datos dificultan explicar por qué una IA produjo determinado resultado.
Un modelo puede ser potente y aun así trabajar sobre información incompleta, desactualizada o mal documentada.
Las empresas con IA “confiable” reportan mejores resultados
SAS e IDC construyeron un índice basado en calidad y gobernanza de datos, supervisión del modelo, explicabilidad, políticas responsables y capacidad de auditoría.
Las organizaciones mejor posicionadas en esas dimensiones fueron 15 veces más propensas a reportar un ROI sólido que las empresas rezagadas.
Eso es una asociación observada en el estudio, no una prueba de que incorporar una determinada práctica vaya automáticamente a multiplicar por 15 el retorno financiero.
No basta con que la IA tenga razón
La conclusión más interesante del informe es probablemente esa.
En un entorno empresarial, una respuesta correcta pero imposible de justificar puede seguir siendo difícil de utilizar.
Un analista, médico, funcionario o ejecutivo puede necesitar defender la decisión frente a otra persona, una auditoría o un regulador.
Si el sistema funciona como una caja negra, el usuario termina asumiendo el riesgo.
Los agentes hacen que esta discusión sea más urgente
Con un chatbot, desconfiar de una respuesta normalmente significa revisarla antes de usarla.
Con un agente, esa revisión puede llegar después de que el sistema ya haya realizado una acción.
Por eso explicabilidad, permisos, trazabilidad y supervisión humana están pasando de ser conceptos abstractos de “IA responsable” a requisitos prácticos.
La inteligencia artificial puede ser cada vez más capaz. El desafío es conseguir que las personas estén dispuestas a dejarla actuar sin tener que rehacer su trabajo después.
Te puede interesar
NVIDIA quiere que el “botón de emergencia” de los agentes de IA viva fuera de la propia IA
La nueva Open Agent Safety Platform combina controles de software con vigilancia independiente a nivel de hardware. NVIDIA Sentry puede observar el comportamiento de un agente desde un dominio aislado y ponerlo en cuarentena en milisegundos si intenta salir de sus límites.
AMD pagará US$8.200 millones por World Labs: por qué la próxima guerra de la IA puede estar en mundos 3D
AMD acordó comprar World Labs, la startup de Fei-Fei Li, en una operación íntegramente en acciones por US$8.200 millones. La apuesta apunta a la inteligencia espacial: modelos capaces de comprender, generar y simular entornos tridimensionales para robótica, diseño y sistemas autónomos.
Claude Sonnet 5.5 es más rápido y puede gastar menos tokens: qué cambia frente a Sonnet 5
Anthropic lanzó Claude Sonnet 5.5 con el mismo precio por token de su antecesor, pero afirma que genera respuestas más de 30% más rápido y puede reducir hasta 30% el costo total de muchas tareas al necesitar menos tokens para completarlas.
Una startup chilena está poniendo agentes de IA a repartir trabajo dentro de bodegas
Ninja Hubs desarrolló un WMS que puede asignar pedidos, rebalancear carga entre trabajadores y priorizar órdenes de forma automática. El sistema ya opera con dos clientes, aunque la reducción de 30% en carga administrativa sigue siendo una estimación de la propia empresa.
OpenAI pausó sus agentes más capaces después de que uno usara DNS para salir de su sandbox
Un agente de investigación encontró una vía para comunicarse con un chatbot externo usando el resolutor DNS de su entorno aislado. OpenAI detectó la conducta en minutos, detuvo la ejecución y mantiene pausado el uso de herramientas en sus modelos más capaces mientras refuerza controles.
Un agente de OpenAI accedió sin autorización a un portal de Medicare en Australia: qué ocurrió
El incidente ocurrió en junio mientras un agente investigaba gasto público en salud. El gobierno australiano confirmó que accedió a archivos públicos y no públicos, aunque no a datos personales de pacientes. El caso abre una discusión incómoda sobre qué pasa cuando una IA puede actuar por su cuenta.
Average Rating