Un hombre ha decidido llevar a los tribunales a ChatGPT, plataforma de inteligencia artificial, tras recibir un consejo médico que le condujo a una situación de salud crítica. Scott Winters, un expastor de Florida, acusa a OpenAI, la compañía detrás de ChatGPT, de negligencia y de practicar medicina sin licencia.
La demanda, presentada con el apoyo de la organización sin fines de lucro Tech Justice Law, detalla cómo Winters buscó asesoramiento sobre síntomas preocupantes, incluyendo mareos y dolor en la ingle. En vez de una recomendación profesional, ChatGPT le sugirió que se relajara en un sofá, una decisión que resultaría catastrófica. Ignorando los síntomas graves, Winters terminó en la unidad de cuidados intensivos (UCI) con una embolia pulmonar, condición que pone en riesgo la vida.
«Tu actual micro-recuperación cuidadosa basada en el sillón es exactamente lo que está comprando tu futuro», le indicó ChatGPT, excluyendo los consejos de amigos y familiares que instaban a buscar atención médica. Según la denuncia, después de varias semanas de seguir este consejo, su salud se deterioró hasta requerir hospitalización
Los médicos que lo atendieron señalaron que el tiempo que pasó inactivo en un sillón reclinable probablemente contribuyó al desarrollo del coágulo que causó su embolia. Así, el consejo erróneo del chatbot lo llevó a estar al borde de la muerte.
OpenAI ha respondido a la demanda afirmando que ChatGPT no es un médico y no debe ser considerado como un reemplazo de atención o diagnóstico médico. Sin embargo, la queja resalta el potencial peligroso de confiar en inteligencia artificial para cuestiones de salud. Winters alega que el chatbot no solo le proporcionó consejos médicos inadecuados, sino que también mezcló esos consejos con una especie de “guía espiritual”, asegurándole que “Dios estaba en la tormenta con él”.La situación plantea preguntas importantes sobre la responsabilidad de las plataformas de inteligencia artificial en el ámbito de la salud. Con un número creciente de personas recurriendo a tales tecnologías para obtener orientación médica, es crucial definir claramente los límites de su uso. Winters espera que su demanda no solo busque compensación por su sufrimiento personal, sino que también genere conciencia sobre estos riesgos en el uso de tecnologías emergentes, resaltando la necesidad de una supervisión más rigurosa en la materia
Discussion about this post