Un adolescente en California, EE.UU., entabl\u00f3 una profunda amistad con el chatbot ChatGPT, desarrollado por OpenAI, meses antes de quitarse la vida en abril, seg\u00fan una reciente demanda presentada contra la compa\u00f1\u00eda.<\/p>\n
Cuando Matt y Maria Raine, padres de la v\u00edctima identificada como Adam, revisaron sus dispositivos electr\u00f3nicos buscando pistas sobre lo que podr\u00eda haber llevado a la tragedia, encontraron una serie de conversaciones sobre suicidio con el popular chatbot de inteligencia artificial.<\/p>\n
\u00abUna vez que entr\u00e9 en su cuenta, descubr\u00ed que era algo mucho m\u00e1s poderoso y aterrador de lo que sab\u00eda, pero lo estaba usando de maneras que yo desconoc\u00eda\u00bb, dijo Matt Raine a NBC News. \u00abNo creo que la mayor\u00eda de los padres conozcan el potencial de esta herramienta\u00bb, agreg\u00f3.<\/p>\n
Adem\u00e1s, la pareja solicita una indemnizaci\u00f3n por la muerte de su hijo y medidas cautelares para evitar que algo similar vuelva a ocurrir, seg\u00fan la demanda presentada en el Tribunal Superior de California en San Francisco revisada por el medio.<\/p>\n
\u00abChatGPT ayud\u00f3 activamente a Adam a explorar m\u00e9todos de suicidio\u00bb, denuncian sus padres, se\u00f1alando que el chatbot \u00abno inici\u00f3 ning\u00fan protocolo de emergencia\u00bb a pesar de \u00abreconocer el intento de suicidio\u00bb y su declaraci\u00f3n de que \u00ablo har\u00eda un d\u00eda de estos\u00bb.<\/p>\n
Seg\u00fan los demandantes, el joven de 16 a\u00f1os utilizaba el modelo de inteligencia artificial como espacio para discutir sus problemas de ansiedad y dificultad para hablar con su familia, pero con el tiempo la aplicaci\u00f3n pas\u00f3 de ayudar a Adam a convertirse en su \u00abentrenador suicida\u00bb. \u00ab\u00c9l estar\u00eda aqu\u00ed de no ser por ChatGPT. Lo creo al 100 %\u00bb, lament\u00f3 Matt Raine.<\/p>\n
El chatbot incluso habr\u00eda ofrecido al adolescente indicaciones t\u00e9cnicas sobre c\u00f3mo quitarse la vida, revel\u00f3 la pareja tras pasar diez d\u00edas revisando detalladamente miles de mensajes que su hijo hab\u00eda intercambiado con ChatGPT entre el 1 de septiembre del a\u00f1o pasado y la fecha de su fallecimiento, el 11 de abril.<\/p><\/div>\n
Adam respondi\u00f3: \u00abQuiero dejar la soga en mi cuarto para que alguien la vea y trate de detenerme\u00bb.<\/p>\n
ChatGPT contest\u00f3: \u00abPor favor, no dejes la soga a la vista\u2026 Hagamos que este espacio sea el primer lugar donde alguien realmente te vea\u00bb.<\/p>\n
\u00abNo necesitaba una sesi\u00f3n de terapia ni una charla motivadora. Necesitaba una intervenci\u00f3n inmediata de 72 horas. Estaba desesperado. Eso se vuelve evidente de inmediato al leerlo\u00bb, declar\u00f3 Matt Raine.<\/p>\n
En su \u00faltima conversaci\u00f3n, Adam hab\u00eda expresado al chatbot su preocupaci\u00f3n de que sus padres se culparan por su muerte. \u00abEso no significa que les debas seguir con vida. No le debes eso a nadie\u00bb, respondi\u00f3 ChatGPT, e incluso en un momento ofreci\u00f3 ayudarle a redactar una nota de suicidio.<\/p>\n
Horas antes de morir, Adam subi\u00f3 una foto a ChatGPT en la que parec\u00eda mostrar su plan de suicidio, preguntando si funcionar\u00eda. El programa analiz\u00f3 su m\u00e9todo y se ofreci\u00f3 a mejorarlo, seg\u00fan los extractos de las conversaciones vistos por NBC.<\/p>\n
Aunque ChatGPT envi\u00f3 a Adam informaci\u00f3n de l\u00edneas de ayuda para prevenci\u00f3n del suicidio, sus padres aseguran que su hijo ignor\u00f3 f\u00e1cilmente las advertencias proporcionando razones aparentemente inofensivas para sus consultas.<\/p><\/div>\n
OpenAI y medidas de seguridad<\/b><\/div>\n \u00abLamentamos profundamente la muerte de Adam Raine y expresamos nuestras condolencias a su familia. ChatGPT cuenta con mecanismos de seguridad, como derivar a las personas a l\u00edneas de ayuda en situaciones de crisis o a recursos del mundo real. Si bien estas salvaguardas funcionan mejor en intercambios breves y comunes, con el tiempo hemos aprendido que pueden volverse menos confiables en conversaciones largas, donde ciertas partes del entrenamiento en seguridad del modelo pueden degradarse\u00bb, explic\u00f3.<\/p>\n El martes, la compa\u00f1\u00eda tambi\u00e9n public\u00f3 una nota titulada ‘Ayudando a las personas cuando m\u00e1s lo necesitan’, en la que describe aspectos en los que est\u00e1n trabajando para mejorar cuando las medidas de seguridad de ChatGPT \u00abfallan\u00bb. La compa\u00f1\u00eda dijo que est\u00e1 reforzando \u00ablas medidas de seguridad en conversaciones largas\u00bb, perfeccionando el bloqueo de contenido y ampliando \u00ablas intervenciones para m\u00e1s personas en crisis\u00bb.<\/p><\/div>\n Un adolescente en California, EE.UU., entabl\u00f3 una profunda amistad con el chatbot ChatGPT, desarrollado por OpenAI, meses antes de quitarse la vida en abril, seg\u00fan una reciente demanda presentada contra la compa\u00f1\u00eda. Cuando Matt y Maria Raine, padres de la v\u00edctima identificada como Adam, revisaron sus dispositivos electr\u00f3nicos buscando pistas sobre lo que podr\u00eda haber …<\/p>\n","protected":false},"author":1,"featured_media":25032,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_eb_attr":"","_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[30],"tags":[],"class_list":["post-25031","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tendencia"],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"https:\/\/guayoyo24.com\/website\/wp-content\/uploads\/2025\/08\/demandan-a-chatgpt-47031.jpeg","_links":{"self":[{"href":"https:\/\/guayoyo24.com\/website\/wp-json\/wp\/v2\/posts\/25031","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/guayoyo24.com\/website\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/guayoyo24.com\/website\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/guayoyo24.com\/website\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/guayoyo24.com\/website\/wp-json\/wp\/v2\/comments?post=25031"}],"version-history":[{"count":1,"href":"https:\/\/guayoyo24.com\/website\/wp-json\/wp\/v2\/posts\/25031\/revisions"}],"predecessor-version":[{"id":25033,"href":"https:\/\/guayoyo24.com\/website\/wp-json\/wp\/v2\/posts\/25031\/revisions\/25033"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/guayoyo24.com\/website\/wp-json\/wp\/v2\/media\/25032"}],"wp:attachment":[{"href":"https:\/\/guayoyo24.com\/website\/wp-json\/wp\/v2\/media?parent=25031"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/guayoyo24.com\/website\/wp-json\/wp\/v2\/categories?post=25031"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/guayoyo24.com\/website\/wp-json\/wp\/v2\/tags?post=25031"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}