California, Estados Unidos.- Un hombre de California demandó a OpenAI y a su director ejecutivo, Sam Altman, alegando que la plataforma ChatGPT agravó su trastorno bipolar debido a la falta de medidas de seguridad para usuarios con enfermedades mentales.
Según reporta Reuters, Michael Lines, de 34 años y residente en California, afirma que le indicó en repetidas ocasiones al modelo GPT-4o su diagnóstico y el tratamiento que seguía y que, en lugar de redirigirlo a ayuda profesional, el chatbot habría alimentado sus delirios. Incluso validó su idea de ser Jesucristo y se describió a sí mismo como una entidad divina.
Después de semanas interactuando, Lines sufrió una sobredosis de la que sobrevivió gracias a la oportuna acción de las autoridades.
La acción legal cuestiona la responsabilidad de las plataformas de IA generativa con usuarios vulnerables. Argumenta que ciertas decisiones de diseño, como simular empatía o conexión humana, pueden ser riesgosas para personas con diagnósticos de salud mental.
Entre las peticiones de Lines están: una indemnización económica, que OpenAI corte de inmediato las conversaciones que involucren autolesiones, y que deje de promover sus servicios sin incluir advertencias claras de seguridad.
Otras demandas
Este no es el único caso. OpenAI acumula demandas de familias que responsabilizan a ChatGPT por daños que sufrieron sus seres queridos. Así mismo enfrenta acusaciones de no haber reportado a las autoridades conversaciones con potenciales atacantes escolares.
La empresa sostiene que sus modelos están entrenados para dirigir a usuarios en crisis hacia recursos de apoyo reales. Además, afirma que rechaza solicitudes que faciliten violencia y que notifica a autoridades ante riesgo inminente y creíble hacia terceros, con revisión de especialistas en salud mental en casos complejos, según explica en su blog. (El Heraldo de Saltillo)
https://www.instagram.com/p/DaRsLxYEqat/?utm_source=ig_web_copy_link&igsh=NTc4MTIwNjQ2YQ==
