Las cruzadas en tiempos de IA
Lo que está haciendo el Vaticano frente a los riesgos de la inteligencia artificial va tomando forma de una cruzada. No llama a empuñar la espada para combatir esta herramienta. Nada de eso. De hecho, reconoce que puede contribuir al progreso humano. Es, más bien, una cruzada moral. Una convocatoria al mundo para evitar que el avance tecnológico vulnere la dignidad humana.
Primero fue la encíclica Magnifica Humanitas. La reflexión moral de la Iglesia católica sobre la inteligencia artificial tiene sus bases en ese documento. Salta a la vista una advertencia: los riesgos de otorgar facultades humanas a los llamados sistemas inteligentes.
La máquina puede analizar millones de datos en segundos y ofrecer una respuesta, pero jamás podrá distinguir entre el bien y el mal. Y ciertamente nunca asumirá la responsabilidad ética de una mala decisión.
Luego, el papa León XIV acudió a la UNESCO. Advirtió que la tecnología necesita una orientación moral para evitar que se convierta en un instrumento de dominación. Y señaló que los papeles se invirtieron: llamamos inteligentes a las máquinas, pero permitimos que los sistemas juzguen a las personas como si fueran máquinas, con criterios de eficiencia y productividad.
Conviene recordar que en esta columna ya nos ocupamos de esos dos momentos. Los abordamos en “Magnifica Humanitas ante la IA” y “David contra la IA”, respectivamente.
Lo interesante es que todo ha ocurrido en apenas siete meses, de mayo a la fecha. El papa no descansa y no dejará ningún cabo suelto.
Hay nuevos movimientos que demuestran que el Vaticano está intensificando su cruzada. Ya no se limita a alzar la voz. También busca influir en la discusión y marcar agenda. La movilización va en serio y pisa terrenos distintos a la perspectiva moral. La ciencia, la sociedad y hasta la política son aristas cada vez más visibles en las reflexiones de la Iglesia.
Aquí un cirio de muestra. A finales de octubre, el Vaticano convocó a un grupo de científicos especialistas en inteligencia artificial. No hubo casualidades entre los invitados. Acudió el estadounidense Max Tegmark, uno de los científicos más críticos de los riesgos de esta tecnología sin controles.
Tegmark encontró en el Vaticano un aliado para su propia cruzada. Devolvió la cortesía. Dijo que “con un sólido liderazgo moral, el Vaticano puede orientar el desarrollo de la inteligencia artificial hacia un camino centrado en el ser humano”.Es revelador que un científico del Instituto Tecnológico de Massachusetts reconozca a la Iglesia como un interlocutor válido para reorientar el avance tecnológico.
Hay una buena coincidencia con lo que venimos sosteniendo en anteriores colaboraciones: a la inteligencia artificial le vendría bien una reflexión moral.
Se trata, por lo que logré entender de algunas intervenciones, de poner a las personas, sus derechos y su dignidad, por encima de los avances tecnológicos.
No podría estar más de acuerdo. Pensemos en una empresa. Una persona no debería ser tratada como si fuera un dato. Utilizar un algoritmo para decidir su permanencia en un trabajo con los mismos criterios que se evalúa a una máquina no es una forma inteligente de tratar a un ser humano.
Si alguna vez has visto que a una persona se le trata como una máquina de producción: “No es eficiente, no rinde. Despídanlo”; entonces me darás la razón de que la perspectiva del Vaticano merece mayor atención.
