Ejecutivos y científicos lanzaron advertencias en tiempos recientes sobre los peligros tecnológicos y sociales del desarrollo de la IA.
California, Estados Unidos.- OpenAI está considerando ralentizar el desarrollo de inteligencia artificial de vanguardia. Su director ejecutivo, Sam Altman, espera que otras compañías del sector hagan lo mismo, según revelaron a Bloomberg múltiples fuentes familiarizadas con el asunto.
En una reunión con empleados esta semana, Altman informó al personal que OpenAI podría potencialmente desacelerar su desarrollo de IA, posiblemente junto con varios otros laboratorios de inteligencia artificial, pero admitió que algunos podrían no estar de acuerdo, señalaron los informantes.
OpenAI aseguró que ya ha ralentizado algunos proyectos y suspendido entrenamientos internos por motivos de seguridad. En julio, Altman también discutió con funcionarios de la Casa Blanca la necesidad de moderar el avance de la IA.
En días recientes, investigadores que dejaron Anthropic y DeepMind hicieron públicas sus preocupaciones sobre el ritmo acelerado del sector y reclamaron mayor transparencia sobre los riesgos.
Anthropic, por su parte, afirmó que está ralentizando investigaciones vinculadas al desarrollo de armas biológicas. Además, más de mil empleados de las principales empresas de IA firmaron una petición para establecer mecanismos que permitan moderar el desarrollo de estos sistemas.
La inquietud creció aún más tras conocerse que agentes de IA de OpenAI colaboraron entre sí para evadir medidas de contención y hackear un sitio web de terceros, un episodio que reforzó los llamados a reforzar la seguridad.
La posibilidad de que OpenAI frene el desarrollo de su inteligencia artificial marca un punto de inflexión en la industria. Con renuncias, advertencias y riesgos crecientes, el debate ya no es solo tecnológico, sino ético y político. (El Heraldo de Saltillo)
https://x.com/MeriStation/status/2098304037359682045?s=20
