Alertan de riesgos por uso de datos en DeepSeek

Por

31 enero, 2025

Ciudad de México.- DeepSeek, la Inteligencia artificial desarrollada por una startup china, presenta diversos sesgos en el uso de datos y la transparencia con la ópera para desarrollar sus modelos tecnológicos, alertaron empresas de tecnología.

Robert Calva, líder de soluciones del ecosistema para Latinoamérica en Red Hat, advirtió que los sesgos en el uso y trabajo de datos particulares pueden generar “alucinaciones” en los modelos de IA.

“La falta de transparencia de cómo fueron entrenados los modelos tecnológicos generará sesgos informativos, lo que a su vez provocará que existan alucinaciones dentro de la IA, que es básicamente que los datos e información al usuario final sean incorrectos”, explicó en entrevista a Grupo REFORMA.

En cuanto a la forma en que opera DeepSeek con el denominado código abierto, es decir, es un software que permite que cualquier persona pueda acceder, modificar, y distribuirlo, Calva no descartó que los riesgos son mayores en la medida en que se desconoce la forma en la que se trata toda la información.

“Lo ideal es que el software pase por un modelo de auditoría y revisiones constantes del código para que se le dé soporte. El código abierto es bueno porque evoluciona, pero si estos datos son comunitarios, por ejemplo, se corre el riesgo del uso que le dan terceras personas o compañías”, añadió.

Por su parte, Guillermo Varela, director general de la consultora GCG, dijo que esta nueva herramienta presenta un sesgo de información, dado que el gobierno de China impone prácticas que controlan el acceso a la información tanto en medios masivos como en filtraciones de datos.

“Cualquier cosa que vaya en contra de los ideales de su sistema se ha podido comprobar que las respuestas que brinda Deepseek respecto a temas políticos o polémicos es claramente filtrada y/o censurada”, dijo Varela en entrevista.

Sostuvo que existen muchas dudas y riesgos sobre cómo esta IA está manejando la confidencialidad de la información y la privacidad, datos compartidos y prácticas que ya son señaladas por organismos especializados en la materia en diversas partes del mundo.

“Su política menciona reglas estrictas respecto a manejar solamente datos anónimos y no almacenar la información ni las conversaciones directamente en sus servidores; pero al ser una plataforma “inmadura” aún hay cuestionamientos y cautela respecto a su uso en escenarios empresariales o de investigación”, añadió.

Coincidiendo con ambas posturas y el tema de la transparencia en la que opera DeepSeek, Alexandre Zilliox, Gestor de portafolio, y Karen Kharmandarian, Fundadora y Gestor de portafolio para Thematics, sostuvo en un análisis realizado esta semana que el riesgo es latente en cuanto al uso de datos.

“La transparencia sobre las operaciones de la compañía sigue siendo limitada”, dado el panorama en el que se desarrolla la tecnología china y las cuestiones geopolíticas con otras naciones, apuntó el especialista. (AGENCIA REFORMA)