Florida, Estados Unidos.- Scott Winters, un pastor de Florida, en Estados Unidos, demandó a OpenAI y a su director ejecutivo, Sam Altman, alegando que su ‘chatbot’, ChatGPT, le dio “recomendaciones médicas extremadamente peligrosas” que habrían retrasado que fuera atendido por una embolia pulmonar potencialmente mortal que sufrió el año pasado.
Resulta que cuando el pastor presentó los primeros síntomas y le preguntó a ChatGPT, este le dijo que “no eran algo peligroso” y que confiara en que “Dios no diseñó su cuerpo para fallar sin cesar”.
La demanda fue presentada ante el Tribunal Superior de California en San Francisco y en ella se alega que ChatGPT aseguró a Winters que las primeras señales de alerta de su afección de salud “no eran peligrosas” y lo habría disuadido de buscar atención médica, recoge The New York Times.
Winters acusa a OpenAI y a Altman de negligencia y “ejercicio no autorizado de la medicina”. El demandante y Tech Justice Law, la organización sin fines de lucro que lo representa, buscan una compensación económica y exigen mayores medidas de seguridad para evitar que ChatGPT responda preguntas sobre tratamientos y diagnósticos médicos.
¿Qué dice la empresa?
De acuerdo con la demanda, las funciones de seguridad del ‘chatbot’, que estarían diseñadas para alentar a los usuarios con preguntas sobre salud a consultar a un profesional y finalizar las conversaciones ante señales claras de una crisis médica, no habrían funcionado de manera confiable en el caso de Winters.
Los demandantes insistieron en que la aplicación le ofreció al hombre diagnósticos y planes de tratamiento; y, además, lo animó a ignorar las súplicas de amigos y familiares para que buscara atención médica.
Desde OpenAI, su portavoz, Drew Pusateri, expresó que los términos de ChatGPT son claros, al señalar que no está diseñado para usarse para diagnósticos o tratamientos médicos; aunque, indicó que, ya que conocen que las personas la usan para ese fin, la empresa ha considerado que las respuestas a las consultas de salud sean seguras.
“Considerar que los chatbots explican la totalidad de las decisiones o resultados médicos de las personas simplifica en exceso un desafío mucho mayor y corre el riesgo de impedir que accedan a nuevas y potentes herramientas que pueden ayudarles en su proceso de salud”, aseguró.
También alegó que los modelos más actuales de OpenAI son mejores que el que utilizó el demandante, ya que ahora, ante consultas médicas, estarían más preparados para solicitar información faltante, comunicar incertidumbre y reconocer cuándo es necesaria la atención médica profesional.
Hasta ahorita OpenAI no lleva 2 o 3, lleva decenas, y la mayoría son justamente de usuarios o familias de usuario. 9 demandas individuales activas más una demanda del Estado son las que ha acumulado la empresa hasta este 2026, por mala praxis médica del chatbox
Sin embargo, ninguna ha tenido sentencia todavía, todas siguen en curso. (El Heraldo de Saltillo)
