CTCI e ICARE: qué aportan las humanidades al debate de inteligencia artificial

La inteligencia artificial puede resumir informes y procesar datos a una velocidad que impresiona. Lo que no puede resolver por sí sola es una pregunta mucho más humana: ¿deberíamos usarla para tomar cierta decisión? Esa fue parte de la conversación que impulsaron el Consejo CTCI e ICARE en Chile. Porque tener una IA que funciona no garantiza que se esté usando bien.

El encuentro se realizó el 26 de octubre y presentó el documento Custodiar lo humano en la transformación, de acuerdo con el comunicado remitido a OHZOM.

Una IA puede dar una respuesta, pero ¿es la correcta?

Participaron personas vinculadas al mundo empresarial, académico y a las ciencias sociales. La intención fue conectar perspectivas que a menudo avanzan por separado.

Un sistema puede optimizar una decisión según criterios definidos, pero los parámetros no garantizan resultados justos para todas las personas. Alguien debe decidir qué objetivos merecen perseguirse.

Filosofía, historia y sociología aportan preguntas sobre consecuencias y responsabilidades. Ese trabajo complementa, no reemplaza, la comprensión técnica.

Las decisiones sobre sistemas de IA incluyen asuntos difíciles de traducir a una tabla de rendimiento. Una herramienta puede ser rápida y precisa al clasificar registros, pero usarla para tomar decisiones sobre personas plantea preguntas adicionales. ¿Quién define los objetivos? ¿Cómo se corrigen sesgos? ¿Puede alguien reclamar si recibe una respuesta equivocada? Estas cuestiones no desaparecen al mejorar la calidad técnica de un modelo; deben incorporarse al diseño y a su aplicación.

Las humanidades permiten explorar antecedentes y consecuencias que a veces quedan fuera de un desarrollo tecnológico apresurado. La historia puede revelar cómo ciertas decisiones institucionales afectaron a comunidades; la filosofía ayuda a clarificar valores y responsabilidades; las ciencias sociales estudian cómo se comportan las personas en contextos reales. El conocimiento de esas áreas resulta más útil cuando participa desde el inicio de un proyecto y no solo en su presentación final.

La colaboración interdisciplinaria tampoco es sencilla. Los equipos pueden utilizar vocabularios y métodos diferentes. Para avanzar necesitan acordar preguntas comunes, datos relevantes y criterios de evaluación. Un ingeniero puede requerir definiciones operacionales, mientras que un investigador social enfatiza experiencias difíciles de cuantificar. Esa tensión puede mejorar el resultado si se maneja con respeto y objetivos claros, en lugar de convertir una perspectiva en adorno de la otra.

Cómo llevar el debate ético de la sala de reuniones a la realidad

En educación, el desafío consiste en enseñar herramientas digitales junto con capacidad crítica. Saber redactar una instrucción para una IA no garantiza comprender cómo se entrenó el sistema, de dónde vienen sus datos ni qué riesgos existen al utilizar una respuesta. Los futuros profesionales necesitan poder distinguir información verificada de texto persuasivo y reconocer cuándo corresponde acudir a especialistas de otras áreas.

Las empresas enfrentan una versión muy práctica del mismo dilema. Un estudio que cubrimos mostró la cautela empresarial ante agentes de IA sin supervisión. Automatizar respuestas a clientes puede reducir tiempos de espera, pero también agravar errores cuando un caso necesita atención humana. Implementar IA para apoyar decisiones de selección laboral exige revisar criterios, documentación y recursos de apelación. No se trata de impedir innovaciones, sino de definir los controles apropiados antes de que las personas dependan de ellas.

En una empresa, automatizar turnos puede reducir esfuerzo administrativo y a la vez provocar decisiones que afecten injustamente a ciertos trabajadores. La evaluación necesita varias disciplinas.

El valor del diálogo entre CTCI e ICARE dependerá de qué ocurra después del encuentro. Un debate conectado es el de las auditorías independientes de sistemas de IA. Una reunión puede instalar una pregunta y acercar actores, pero no prueba por sí misma cambios concretos en instituciones. Las iniciativas futuras deberían medirse por resultados verificables, formación, proyectos y mecanismos de colaboración sostenidos. Hablar de tecnología centrada en las personas requiere demostrar qué decisiones cambian efectivamente gracias a ese compromiso.

El encuentro no representa por sí solo una nueva norma. Su impacto dependerá de medidas verificables que adopten instituciones y empresas.

Un proyecto responsable debería explicar a quién beneficia, quién puede reclamar cuando falla y qué información utiliza.

La participación de representantes diversos abre una oportunidad para convertir conceptos abstractos en proyectos concretos. Formación, guías de evaluación y colaboración sostenida podrían ser resultados útiles, siempre que existan responsables y objetivos medibles. Sin ese seguimiento, un diálogo interesante corre el riesgo de quedar reducido a una declaración de principios.

El Consejo CTCI ofrece información institucional. La transformación digital necesita tanto preguntas humanas como soluciones técnicas.