La inteligencia artificial promete ahorrar tiempo tomando decisiones más rápido.
Pero un nuevo estudio plantea una paradoja incómoda: 97,2% de los encuestados dice que corrige o ignora recomendaciones generadas por IA al menos algunas veces.
El principal motivo señalado no es simplemente que la respuesta sea incorrecta. Es que las personas no entienden cómo el sistema llegó a esa conclusión.
¿De dónde sale el 97,2%?
El dato proviene de la segunda edición del Data and AI Impact Report: The New Economics of Trust, publicado por SAS con investigación de IDC.
El estudio encuestó a 2.699 tomadores de decisión de 28 países en industrias como banca, seguros, ciencias de la vida y sector público.
Por eso no debería interpretarse como “97% de todas las personas del mundo que usan ChatGPT”.
Es una medición empresarial sobre profesionales involucrados en decisiones relacionadas con datos e inteligencia artificial.
El problema principal es no saber por qué la IA decidió algo
SAS señala que la razón más mencionada para anular o corregir una recomendación es la falta de explicabilidad.
Cuando el usuario no puede reconstruir qué datos utilizó el sistema, qué criterios priorizó o cómo llegó a una respuesta, aumenta la tendencia a revisar manualmente el resultado.
Eso ocurre incluso cuando la recomendación puede ser correcta.
La paradoja: automatizar puede terminar creando más trabajo
Si una empresa incorpora IA para reducir tareas manuales pero cada resultado necesita una segunda revisión humana, parte del beneficio desaparece.
La herramienta puede acelerar una primera respuesta y, al mismo tiempo, crear una nueva tarea: verificar que esa respuesta sea confiable.
Ese costo resulta especialmente relevante cuando la IA se utiliza en procesos repetitivos o de alto volumen.
La confianza cae cuando la IA obtiene más autonomía
El estudio reporta una confianza de 76% en IA generativa y de 66% cuando se pregunta por IA agéntica.
La diferencia importa porque un agente no se limita a generar texto.
Puede utilizar herramientas, acceder a sistemas y ejecutar acciones en nombre del usuario.
Mientras mayor sea la autonomía, más relevante resulta poder explicar y auditar qué hizo el sistema.
Solo 17,5% dice tener una infraestructura de datos totalmente optimizada
La confianza no depende únicamente del modelo.
Según el informe, apenas 17,5% de las organizaciones afirma contar con una infraestructura de datos completamente optimizada para soportar estos sistemas.
Problemas de calidad, trazabilidad o gobernanza de datos dificultan explicar por qué una IA produjo determinado resultado.
Un modelo puede ser potente y aun así trabajar sobre información incompleta, desactualizada o mal documentada.
Las empresas con IA “confiable” reportan mejores resultados
SAS e IDC construyeron un índice basado en calidad y gobernanza de datos, supervisión del modelo, explicabilidad, políticas responsables y capacidad de auditoría.
Las organizaciones mejor posicionadas en esas dimensiones fueron 15 veces más propensas a reportar un ROI sólido que las empresas rezagadas.
Eso es una asociación observada en el estudio, no una prueba de que incorporar una determinada práctica vaya automáticamente a multiplicar por 15 el retorno financiero.
No basta con que la IA tenga razón
La conclusión más interesante del informe es probablemente esa.
En un entorno empresarial, una respuesta correcta pero imposible de justificar puede seguir siendo difícil de utilizar.
Un analista, médico, funcionario o ejecutivo puede necesitar defender la decisión frente a otra persona, una auditoría o un regulador.
Si el sistema funciona como una caja negra, el usuario termina asumiendo el riesgo.
Los agentes hacen que esta discusión sea más urgente
Con un chatbot, desconfiar de una respuesta normalmente significa revisarla antes de usarla.
Con un agente, esa revisión puede llegar después de que el sistema ya haya realizado una acción.
Por eso explicabilidad, permisos, trazabilidad y supervisión humana están pasando de ser conceptos abstractos de “IA responsable” a requisitos prácticos.
La inteligencia artificial puede ser cada vez más capaz. El desafío es conseguir que las personas estén dispuestas a dejarla actuar sin tener que rehacer su trabajo después.
Te puede interesar
Apple estudia cómo usamos la IA para preguntar por nuestra salud
Apple inició un estudio sobre las consultas de salud a herramientas de IA, con hasta 200.000 participantes en Estados Unidos. Chile queda fuera por ahora.
Alibaba presenta Qwen4-Max: IA de 2,4 billones de parámetros
Qwen4-Max tiene 2,4 billones de parámetros y un contexto de un millón de tokens, según Alibaba. Qué hace y qué está por demostrar.
Pax Silica: países aliados buscan asegurar los chips y la energía de la IA
Estados Unidos y países aliados acuerdan proteger las cadenas de chips, minerales y energía para inteligencia artificial. Qué implica Pax Silica y por qué interesa a Chile.
Startups chilenas pueden postular a IA de voz de ElevenLabs hasta el 30 de noviembre
El Ministerio de Ciencia y ElevenLabs abrieron postulaciones para hasta 100 startups. El plazo vence el 30 de noviembre a las 15:00.
LongCat-2.5: la IA china de 1,6 billones de parámetros libera sus pesos
Meituan liberó los pesos de LongCat-2.5 bajo licencia MIT. Tiene 1,6 billones de parámetros totales y unos 48.000 millones activos por token.
NVIDIA presenta resultados sin Jensen Huang: las claves del cambio de CEO
NVIDIA llega a los resultados del 17 de noviembre tras la salida de Jensen Huang. Colette Kress dirige la empresa interinamente.

Average Rating