Monterrey, NL.- Especialistas y exinvestigadores alertan sobre el rápido avance de la inteligencia artificial y la falta de medidas de seguridad.
Coxon, quien trabajó también en OpenAI, creadora de ChatGPT, considera que ambas compañías privilegian la competencia por desarrollar los modelos más avanzados sobre las medidas necesarias para garantizar su seguridad.
“No subestimen el poder de esta tecnología”, escribió Coxon en X. “Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales.
“Todos hemos sido testigos de los avances en cada uno de estos ámbitos, y el progreso no se está desacelerando”.
En la misma red social agregó que las personas que están desarrollando IA creen sinceramente que ésta podría “matarnos a todos” antes de que termine esta década.
“Esto no es una estrategia de mercadotecnia. En todo caso, muchos ejecutivos e investigadores de alto nivel moderarán sus palabras ante la prensa para parecer sensatos, pero escucho a esas mismas personas expresar temor en privado”, dijo.
“Ninguna otra actividad humana representa este nivel de peligro”.
Evan Hubinger, quien fue jefe de Coxon en Anthropic y es responsable de investigación en alineación -área que busca que los modelos actúen conforme a los objetivos establecidos-, ha expresado temores similares.
“¡De verdad creemos que la IA puede matar a todo el mundo! Yo personalmente creo que la probabilidad es superior al 10 por ciento en la próxima década”, escribió Hubinger en X.
“Creo que el riesgo de los modelos actuales es bajo. Lo que me preocupa es la superinteligencia surgida de la automejora recursiva, que está ocurriendo más rápido de lo que pensábamos”.
Coxon no es el primero que deja Anthropic entre advertencias sobre el rumbo tecnológico. En febrero, Mrinank Sharma, quien encabezaba un equipo de investigación de salvaguardas, anunció su salida mediante una carta difundida en X.
“El mundo está en peligro. Y no sólo por la IA o las armas biológicas, sino por toda una serie de crisis interconectadas que se desarrollan en este mismo momento”, escribió.
“Parece que nos acercamos a un umbral en el que nuestra sabiduría debe crecer en la misma medida que nuestra capacidad para afectar al mundo, o tendremos que enfrentar las consecuencias”.
Sharma cerró su carta con “The Way It Is” (Así son las cosas), poema del estadounidense William Stafford (1914-1993), del que destacan estos versos:
“Hay un hilo que sigues. Pasa entre cosas que cambian. Pero él no cambia”.
VOCES DE ALERTA
A estos movimientos se suma la salida, aunque por motivos distintos, de Brad Lightcap, uno de los ejecutivos de mayor trayectoria en OpenAI.
Lightcap anunció el 11 de agosto que dejaría la compañía para emprender un nuevo proyecto. El ejecutivo se incorporó a OpenAI en 2018, fue director de Operaciones y desde abril encabezaba proyectos especiales.
Al explicar su decisión, dijo que llevaba meses pensando en el siguiente horizonte tecnológico y en aquello que podría obstaculizar la misión de OpenAI.
También consideró que existen asuntos importantes que el mundo deberá resolver correctamente al entrar en la siguiente etapa.
Las preocupaciones por el avance de la IA fueron expresadas también por Bill Gates.
El cofundador de Microsoft publicó el 26 de agosto el ensayo “La turbulenta era de la inteligencia artificial ya está aquí”, en el que advirtió sobre sus efectos en el empleo y cuestionó que los gobiernos estén preparados para enfrentarlos, informó Financial Times.
“Muchos empleos desaparecerán para siempre”, escribió Gates, quien propuso reservar determinadas actividades sólo para seres humanos y aplicar impuestos a los robots y los tokens, las unidades de datos procesadas por los sistemas de IA, señaló el diario británico.
“La IA será el mayor factor de igualdad jamás inventado o la peor fuente de injusticia”, advirtió Gates.
NO CEDER EL CONTROL
El caso de Coxon resulta significativo porque Anthropic surgió con una preocupación especial por la seguridad y la ética, señaló Pablo Torres, profesor de la Escuela de Humanidades del Tec de Monterrey.
«Y ahorita que renuncia Jacob Coxon, él dice que las compañías están jugando con nuestras vidas, que existe el riesgo de que la IA llegue a procesos para mejorarse a sí misma.
“Obviamente nos pone en un universo apocalíptico, en pensar en desconectarse de todo, pero no es para llegar a ese punto. Me recuerda 2001: Odisea del espacio, donde la computadora va liquidando a todos los seres humanos con excepción de uno, que es el que logra desconectarla. ¡Cincuenta años después estamos discutiendo eso!”.
El catedrático llama a no delegar en estas herramientas las capacidades que corresponden a las personas.
“No debemos dejar que todo lo queramos resolver con IA. Dejamos mucho de nuestro pensamiento crítico atrás. Y ahora, si tú te fijas, te ofrece: ‘Te organizo el calendario, correos, archivos’.
“En algún momento le das acceso a tu vida y lo que no sabes es qué está haciendo con esa información. Te puede manejar contraseñas, archivos. No te das cuenta de que está tomando control de todo”.
Torres no propone una desconexión total, pero sí mantener una actitud crítica.
“Las empresas te van atando”, expresa.
El profesor recomienda leer Magnifica Humanitas, encíclica del Papa León XIV publicada el 15 de mayo, en la que el Pontífice dedica un apartado a “desarmar” la inteligencia artificial.
“Desarmar la IA significa sustraerla a la lógica de la competencia armamentística, que hoy ya no es sólo militar sino económica y cognitiva”, señala el líder mundial de los católicos en el documento publicado por el Vaticano.
El papa explica que esa competencia incluye la carrera por algoritmos más eficaces y bancos de datos más amplios para obtener ventajas geopolíticas o comerciales.
“Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano”, escribe León XIV. “No basta regularla; es necesario desarmarla y hacerla acogedora”.
Para Torres, es importante que el Gobierno le entre a la regulación y los usuarios no olviden el pensamiento crítico. (AGENCIA REFORMA)
