El conversatorio “La encíclica Magnifica humanitas en diálogo: aportes desde la Filosofía y la Teología” se realizará el lunes 19 de octubre, de 16 a 18, en la sede San Jerónimo de Reconquista de la UCSF.
Una persona abre el teléfono para informarse. Encuentra una noticia, mira un video, recibe una recomendación y consulta a un asistente de inteligencia artificial. Nadie le ordena qué pensar. Puede cerrar la aplicación, buscar otras fuentes o rechazar una respuesta. Sin embargo, durante ese recorrido alguien ha seleccionado los asuntos que aparecen, el orden en que se presentan y las alternativas que merecen su atención. La libertad de elegir permanece, pero se ejerce sobre un escenario que esa persona no ha elegido.
Esta escena permite formular una pregunta que suele quedar detrás de las discusiones sobre inteligencia artificial: ¿quién diseña las condiciones en las que decidimos? Hablamos mucho de usuarios responsables, contenidos confiables y protección de datos. Hablamos menos de los entornos que hacen que ciertas opciones resulten evidentes y otras ni siquiera lleguen a ser consideradas.
La encíclica Magnifica Humanitas, de León XIV, ofrece un punto de partida para esa pregunta. Al situar la IA en la continuidad de las grandes transformaciones sociales que interpelaron a la Iglesia desde Rerum novarum, invita a considerar sus consecuencias sobre la convivencia. Su preocupación por la dignidad humana incluye el poder tecnológico, su concentración en actores privados y su incidencia en las decisiones y el imaginario colectivo.
Esa preocupación permite explorar una dimensión de la libertad que a menudo se pierde cuando imaginamos la tecnología como un instrumento colocado frente a un individuo ya formado. Aprendemos a prestar atención, a desear y a juzgar en relación con otros, dentro de instituciones, lenguajes y prácticas. Las tecnologías participan de esa formación. La pregunta por lo que hacemos con ellas se prolonga, entonces, en otra: ¿cómo intervienen en nuestra manera de percibir lo que podemos hacer?
Hacer lo que deseamos y poder examinar nuestros deseos son capacidades diferentes. Una recomendación puede responder a un interés sin ayudarnos a preguntarnos si queremos seguir cultivándolo. Ampliar las opciones disponibles es una parte de la tarea. También importa que podamos detenernos ante ellas, considerar sus consecuencias y revisar qué buscamos. La capacidad de un sistema para anticipar nuestras preferencias puede resultar útil; su contribución a la libertad depende también de que favorezca ese examen.
Los sistemas de recomendación llevan años ordenando la visibilidad de noticias, productos y personas. Los asistentes generativos agregan una mediación diferente: pueden elaborar explicaciones, proponer cursos de acción y acompañar la interpretación de una situación. Aunque no son tecnologías idénticas, su combinación puede integrar en un mismo recorrido la selección de un asunto y la orientación sobre cómo comprenderlo. Allí se disputa algo más que nuestra atención: se configura el horizonte de nuestras preguntas.
El alcance de ese desplazamiento también se advierte en las organizaciones. Microsoft presentó una estrategia denominada Frontier Tuning, con la que propone adaptar modelos de IA a los flujos de trabajo mediante las trazas de tareas realizadas por agentes: secuencias de pasos, decisiones y acciones. Según la empresa, el conocimiento institucional puede incorporarse al modelo dentro de un entorno controlado por la organización. Su promesa es aumentar la eficiencia y mantener el control humano.
La propuesta abre una cuestión que no se resuelve midiendo productividad. Cuando una institución incorpora sistemas que aprenden de sus procedimientos y después intervienen en ellos, cabe preguntar qué criterios se consolidan, qué alternativas se vuelven habituales y qué capacidades se dejan de ejercitar. Aprender de una práctica existente puede ayudar a mejorarla; también puede reproducir sus limitaciones. La participación humana en una decisión será más efectiva si incluye la posibilidad de discutir cómo se construyeron las opciones disponibles.
Nada de esto implica que un algoritmo determine por completo nuestra conducta. Las personas pueden resistir, reinterpretar y transformar los entornos que habitan. Pero esas posibilidades dependen de condiciones concretas. Conocer otras perspectivas, disponer de tiempo para reflexionar o poder cuestionar una recomendación modifica la calidad de una elección. La libertad necesita oportunidades reales de revisión, además de un botón para aceptar o rechazar.
Hannah Arendt ofrece una distinción fecunda para pensar este problema. En La vida del espíritu, escribe: «La necesidad de la razón no está inspirada por la búsqueda de la verdad, sino por la búsqueda del sentido». Desde esa distinción identifica una falacia metafísica fundamental: interpretar el sentido según el modelo de la verdad. Su observación permite reconocer que verificar un hecho y comprender qué significa en nuestra vida son actividades relacionadas, pero diferentes.
La distinción importa en una época en la que la discusión sobre IA se concentra en errores, falsificaciones y desinformación. Es indispensable establecer si una afirmación es verdadera. Pero, aun cuando disponemos de información correcta, queda abierta la pregunta por su importancia: qué merece nuestra preocupación, cómo afecta a otros, qué responsabilidades plantea y qué futuro queremos construir. Ninguna acumulación de datos elimina la necesidad de pensar esas preguntas.
Cuando esas preguntas conciernen a nuestra vida en sociedad, necesitamos poder confrontarlas con las perspectivas de otros. Una democracia requiere un mundo común: acontecimientos, problemas e instituciones que podamos reconocer y discutir desde posiciones diferentes. Compartir ese mundo permite examinar qué importancia tiene lo que sucede, disentir sobre su interpretación y actuar juntos. La pluralidad necesita algo compartido para que las diferencias lleguen a encontrarse.
La personalización puede facilitar el acceso a conocimientos y ampliar perspectivas. También puede debilitar ese encuentro si cada recorrido informativo confirma expectativas previas y reduce la exposición a preguntas incómodas. El riesgo político aparece cuando dejamos de discutir interpretaciones de un asunto común y comenzamos a perder incluso la posibilidad de reconocer cuál es el asunto. Una sociedad puede disponer de muchos contenidos verdaderos y, sin embargo, encontrar dificultades crecientes para comprender qué les sucede a sus integrantes.
Aquí la defensa de la dignidad humana adquiere una exigencia institucional. Educar personas capaces de discernir sigue siendo necesario. A la vez, importa saber quién establece los criterios de visibilidad, qué intereses los orientan y cómo pueden ser cuestionados. Pedir atención reflexiva dentro de ambientes que premian la reacción inmediata coloca sobre el individuo una tarea que también corresponde a quienes diseñan esos ambientes.
La responsabilidad de dar razones se extiende también a los usos institucionales de la IA. Cuando estos sistemas intervienen en decisiones que afectan derechos y oportunidades, explicar cómo funcionan es necesario, pero queda por discutir por qué se eligieron sus objetivos y qué consecuencias tienen para las personas. Una herramienta puede agilizar un procedimiento y dejar abierta la pregunta por la justicia de sus prioridades. Quienes resultan afectados necesitan poder examinar esas razones y participar en su revisión. Su intervención será más amplia si comienza cuando se definen los problemas y las reglas, antes de que las alternativas queden establecidas.
Una política de la IA debería ampliar la capacidad colectiva de intervenir en tales decisiones. Esto supone espacios de participación para definir sus objetivos y criterios, mecanismos para examinar los sistemas que organizan información y oportunidades, y procedimientos para impugnar sus resultados. También requiere ámbitos públicos de educación y conversación que permitan encontrarse con perspectivas diferentes. En escuelas, universidades y organizaciones, adoptar IA exige discutir qué funciones conviene delegar y qué prácticas queremos preservar porque en ellas aprendemos a juzgar.
La imagen de Babel, presente en la encíclica, puede leerse desde esta preocupación. Una construcción técnicamente coordinada puede fracasar como experiencia de convivencia. La conexión, la velocidad y la uniformidad de los procedimientos no garantizan la comprensión entre las personas. Construir juntos requiere poder discutir también la dirección de la obra.
Volvamos a la persona que abrió el teléfono. Su capacidad de elegir importa, pero importa igualmente que encuentre alternativas, que tenga interlocutores con quienes examinarlas y que pueda participar en la discusión de los criterios que organizan lo que se le presenta.
Custodiar lo humano exige cuidar ese espacio de formación y encuentro. La pregunta por quién diseña nuestra libertad nos concierne como ciudadanos: ¿qué capacidad queremos conservar para decidir juntos las condiciones en las que viviremos?
Nota de opinión de Federico Viola, doctor en Filosofía, docente y director del Instituto de Filosofía de la Facultad de Filosofía y Humanidades de la UCSF; y Federico Aldao, profesor de Filosofía, tesista de la Licenciatura en Filosofía, docente y becario investigador del mismo instituto.
