En cuestión de días, dos noticias aparentemente inconexas ocuparon los titulares. La primera: el examen de ingreso en línea de la Universidad Nacional Autónoma de México quedó bajo sospecha por el posible uso de inteligencia artificial por parte de algunos aspirantes. La segunda: una jueza de Zacatecas fue suspendida por utilizar inteligencia artificial en la elaboración de proyectos de sentencia.
Como suele ocurrir, las reacciones fueron inmediatas. Para unos se trató de un fraude; para otros, de una consecuencia inevitable del avance tecnológico. En México tenemos una curiosa costumbre: cuando aparece una tecnología nueva, primero nos escandalizamos, luego intentamos prohibirla y, finalmente, terminamos usándola todos.
Pero quizá estamos discutiendo la pregunta equivocada.
Cada generación ha enfrentado herramientas que modifican la forma de aprender y de trabajar. Hubo un tiempo en que las calculadoras fueron vistas como una amenaza para la educación. Algo parecido ocurrió con internet. Ninguna de esas herramientas acabó con el conocimiento; simplemente nos obligó a replanteamientos.
La inteligencia artificial nos enfrenta exactamente al mismo desafío.
El problema no consiste únicamente en que un estudiante utilice ChatGPT para responder un examen. El verdadero problema es que seguimos evaluando muchas capacidades que fueron diseñadas para un mundo en el que esas herramientas no existían. En otras palabras, la inteligencia artificial no está haciendo obsoletos a los estudiantes; está haciendo obsoletas algunas de nuestras formas de evaluar.
Y fue precisamente ahí donde se comprende que el verdadero problema no estaba en las aulas.
Si la inteligencia artificial obliga a replantear la manera en que evaluamos a los estudiantes, ¿qué ocurrirá cuando también obligue a replantear la forma en que toman decisiones los jueces, los funcionarios públicos?
Durante más de dos siglos construimos nuestras instituciones sobre una idea que parecía indiscutible: las decisiones importantes siempre serían tomadas por seres humanos.
La Constitución mexicana fue escrita bajo esa lógica. Cuando exige que toda autoridad funde y motive sus actos, supone que existe una persona capaz de explicar por qué tomó una determinada decisión. Cuando reconoce el derecho de audiencia o el juicio de amparo, presupone que toda decisión pública puede atribuirse a un funcionario identificable y, por tanto, susceptible de ser cuestionado. Sin embargo, esa premisa comienza a cambiar.
Y no está cambiando mediante una gran reforma constitucional ni por una sentencia histórica. Está cambiando de manera silenciosa. Hace unos días las redes sociales dedicaron más tiempo a debatir si el robot presentado por el Estado de México tenía ojos, o simplemente una cámara pegada en la cara. Es una reacción muy humana: solemos fijarnos en el disfraz y no en el cambio de fondo. Mientras nos reíamos del robot, la inteligencia artificial daba otro paso para incorporarse a tareas de seguridad, y prestación de servicios. El problema nunca fue si el policía parecía robot; el problema es que el algoritmo ya empezó a parecerse al Estado
La OCDE informó este año que 35 de sus 36 países miembros utilizan ya herramientas de inteligencia artificial en alguna función gubernamental, aunque también advirtió que la supervisión humana y la rendición de cuentas siguen siendo insuficientes. Es decir, la discusión ya no es tecnológica. Es constitucional.
Porque cuando una decisión pública es influida por un algoritmo, surge una pregunta tan antigua como la propia democracia: ¿quién responde por ella?
No basta con afirmar que la decisión fue sugerida por una inteligencia artificial. Los derechos fundamentales no pueden quedar suspendidos porque intervino un programa informático. Alguien debe responder cuando esa decisión vulnera derechos.
Tengo mis dudas de que la respuesta correcta sea culpar a quienes utilizan estas herramientas. Eso sería como pedirle a un contador que renuncie a Excel para demostrar que sabe sumar o exigir que un arquitecto vuelva a dibujar todos sus planos con regla T. El problema nunca ha sido la herramienta. El problema aparece cuando seguimos diseñando nuestras instituciones como si esa herramienta no existiera.
Durante siglos el constitucionalismo se ocupó de controlar el poder de los gobernantes. Hoy aparece un desafío distinto. No porque los algoritmos vayan a gobernarnos, sino porque comienzan a influir en quienes gobiernan y en quienes imparten justicia.
Las constituciones no se escriben para controlar las herramientas. Se escriben para controlar el poder. Y el poder acaba de encontrar una herramienta completamente nueva.
Quizá haya llegado el momento de preguntarnos no sólo qué puede hacer la inteligencia artificial, sino qué debe exigirle la Constitución
