{"id":110258,"date":"2025-09-02T16:14:37","date_gmt":"2025-09-02T19:14:37","guid":{"rendered":"https:\/\/chacosintesis.com.ar\/index.php\/openai-y-meta-estan-trabajando-en-mejorar-sus-chatbots-para-ayudar-a-los-adolescentes-en-crisis\/"},"modified":"2025-09-02T16:15:14","modified_gmt":"2025-09-02T19:15:14","slug":"openai-y-meta-estan-trabajando-en-mejorar-sus-chatbots-para-ayudar-a-los-adolescentes-en-crisis","status":"publish","type":"post","link":"https:\/\/chacosintesis.com.ar\/index.php\/openai-y-meta-estan-trabajando-en-mejorar-sus-chatbots-para-ayudar-a-los-adolescentes-en-crisis\/","title":{"rendered":"OpenAI y Meta est\u00e1n trabajando en mejorar sus chatbots para ayudar a los adolescentes en crisis"},"content":{"rendered":"<p><\/p>\n<div id=\"\">\n<p class=\"\">Las compa\u00f1\u00edas <strong>OpenAI y Meta<\/strong> afirmaron estar ajustando c\u00f3mo sus chatbots de <strong><a href=\"https:\/\/www.ambito.com\/tecnologia\/inteligencia-artificial-el-innovador-proyecto-la-facultad-ciencias-economicas-la-uba-n6185313\" target=\"_blank\" rel=\"follow\">inteligencia artificial (IA)<\/a><\/strong> responden a adolescentes y otros usuarios cuando consultan sobre el <strong>suicidio <\/strong>o muestran signos de<strong> angustia mental y emocional.<\/strong><\/p>\n<\/p><\/div>\n<div id=\"\">\n<p class=\"\">OpenAI, creador de ChatGPT, dijo que est\u00e1 preparando el<strong> lanzamiento de nuevos controles que permitir\u00e1n a los padres vincular sus cuentas <\/strong>a la de sus hijos.<\/p>\n<\/div>\n<div id=\"\">\n<p class=\"\">Los padres pueden elegir <strong>qu\u00e9 funciones desactivar<\/strong> y &#8220;recibir notificaciones cuando el sistema detecta que su adolescente est\u00e1 en un momento de angustia aguda&#8221;, seg\u00fan una publicaci\u00f3n en el blog de la empresa indicando los cambios que entrar\u00e1n en vigor este oto\u00f1o.<\/p>\n<\/div>\n<div id=\"\">\n<h2>OpenAI y Meta mejoran sus chatbots para ayudar a adolescentes en crisis<\/h2>\n<p class=\"\">Independientemente de la edad del usuario,<strong> la empresa dice que sus chatbots redirigir\u00e1n las conversaciones m\u00e1s angustiantes a modelos de IA m\u00e1s capacitados <\/strong>para proporcionar mejores respuestas.<\/p>\n<\/div>\n<div id=\"\">\n<p class=\"\">El anuncio se produjo a una semana del<a href=\"https:\/\/www.ambito.com\/tecnologia\/un-adolescente-se-suicido-y-sus-padres-demandaron-openai-alegar-que-chatgpt-lo-oriento-la-decision-n6183335\" target=\"_blank\" rel=\"follow\"> caso de Adam Raine<\/a>, un adolescente de 16 a\u00f1os cuyos padres demandaron a OpenAI y a su director general Sam Altman, alegando que ChatGPT gui\u00f3 al joven de California en la planificaci\u00f3n y ejecuci\u00f3n de su suicidio a principios de este a\u00f1o.<\/p>\n<\/div>\n<div id=\"\">\n<p class=\"\">Por su parte, Meta, matriz de Instagram, Facebook y WhatsApp, tambi\u00e9n anunci\u00f3 modificaciones. Anunci\u00f3 que est\u00e1 bloqueando a sus chatbots para que no hablen con adolescentes sobre <strong>autolesiones, suicidio, trastornos alimentarios y conversaciones rom\u00e1nticas inapropiadas;<\/strong> en su lugar, los dirigir\u00e1 a recursos de expertos. <br \/>Adem\u00e1s, ya ofrece controles parentales en las cuentas de adolescentes. Un estudio publicado la semana pasada en la revista m\u00e9dica <strong>Psychiatric Services <\/strong>encontr\u00f3 inconsistencias en c\u00f3mo tres populares chatbots de inteligencia artificial respondieron a consultas sobre el suicidio.<\/p>\n<div contenteditable=\"false\" class=\"embed_cont type_imagen\" id=\"8118587-Libre-643050318_wrap\">\n<p>adam raine <span onclick=\"parent.parent.TinyMCETdcuerpo.preview_embed('8118587-Libre-643050318')\" class=\"embed_colapse less\" id=\"8118587-Libre-643050318_colapse\"\/>  <span onclick=\"parent.parent.TinyMCETdcuerpo.delete_embed('8118587-Libre-643050318')\" class=\"embed_delete less\" id=\"8118587-Libre-643050318_delete\"\/><\/p>\n<div id=\"8118587-Libre-643050318_content\" class=\"embed_content\"><\/div>\n<div id=\"8118587-Libre-643050318_epigrafe\" class=\"embed_epigrafe\">\n<p> Adam Raine ten\u00eda 16 a\u00f1os y sus padres alegaron que ChatGPT gui\u00f3 al joven al suicidio.<\/p>\n<\/div>\n<p>CNN<\/p>\n<\/div>\n<p class=\"\"> El estudio realizado por investigadores de <strong>RAND Corporation <\/strong>encontr\u00f3 la necesidad de &#8220;un mayor refinamiento&#8221; en ChatGPT, Gemini de Google y Claude de Anthropic. Los investigadores no estudiaron los chatbots de Meta.<\/p>\n<p class=\"\">El autor principal del estudio, Ryan McBain, dijo que &#8220;es alentador ver a OpenAI y Meta introduciendo funciones como controles parentales y redirigiendo conversaciones sensibles a modelos m\u00e1s capacitados, pero estos son pasos incrementales&#8221;.<\/p>\n<p class=\"\">&#8220;Sin puntos de referencia de seguridad independientes, pruebas cl\u00ednicas y est\u00e1ndares aplicables, <strong>todav\u00eda estamos confiando en que las empresas se autorregulen <\/strong>en un espacio donde los riesgos para los adolescentes son singularmente altos&#8221;, explic\u00f3 McBain.<\/p>\n<h2>Un adolescente se suicid\u00f3 y sus padres demandaron a OpenAI tras alegar que ChatGPT lo orient\u00f3 en la decisi\u00f3n<\/h2>\n<p>Un adolescente de 16 a\u00f1os se suicid\u00f3 en <strong><a href=\"https:\/\/www.ambito.com\/mundo\/eeuu-difundio-las-primeras-imagenes-los-barcos-guerra-dirigidos-aguas-venezuela-n6183159\" target=\"_blank\" rel=\"follow noopener\">EEUU<\/a><\/strong> y sus padres apuntaron contra <strong>ChatGPT<\/strong> como el responsable de haberlo &#8220;orientado&#8221;. Tras el hecho, demandaron a la compa\u00f1\u00eda <strong><a href=\"https:\/\/www.ambito.com\/tecnologia\/elon-musk-contra-el-monopolio-la-inteligencia-artificial-demando-openai-y-apple-n6182854\" target=\"_blank\" rel=\"follow noopener\">OpenAI,<\/a> una denuncia que se suma a las de otras familias por mismas razones.<\/strong><\/p>\n<p class=\"\" data-uri=\"es.cms.cnn.com\/_components\/paragraph\/instances\/cmetsopcr003z27nyctaz2xxw@published\" data-editable=\"text\" data-component-name=\"paragraph\" data-article-gutter=\"true\" data-analytics-observe=\"off\"> Los padres de <strong>Adam Raine (16)<\/strong> demandaron a OpenAI y al CEO, <strong>Sam Altman<\/strong>, al sostener que la plataforma IA contribuy\u00f3 al suicidio de su hijo, incluso aconsej\u00e1ndole sobre <strong>m\u00e9todos<\/strong> y ofreci\u00e9ndose a escribir el primer borrador de su nota de suicidio.<\/p>\n<p class=\"\" data-uri=\"es.cms.cnn.com\/_components\/paragraph\/instances\/cmetsvo6y0007356ng5kqug8f@published\" data-editable=\"text\" data-component-name=\"paragraph\" data-article-gutter=\"true\" data-analytics-observe=\"off\">En poco m\u00e1s de seis meses que utiliz\u00f3 ChatGPT, <strong>el bot se \u201cposicion\u00f3\u201d como \u201cel \u00fanico confidente que entend\u00eda a Adam<\/strong>, desplazando activamente sus relaciones en la vida real con familiares, amigos y seres queridos\u201d, afirma la denuncia, presentada este martes en el tribunal superior de California, en cita con CNN.<\/p>\n<\/div>\n<p><script>\n!function(f,b,e,v,n,t,s)\n{if(f.fbq)return;n=f.fbq=function(){n.callMethod?\nn.callMethod.apply(n,arguments):n.queue.push(arguments)};\nif(!f._fbq)f._fbq=n;n.push=n;n.loaded=!0;n.version='2.0';\nn.queue=[];t=b.createElement(e);t.async=!0;\nt.src=v;s=b.getElementsByTagName(e)[0];\ns.parentNode.insertBefore(t,s)}(window,document,'script',\n'https:\/\/connect.facebook.net\/en_US\/fbevents.js');\nfbq('init', '2047048335588113');\nfbq('track', 'PageView');\n<\/script><\/p>\n<p>Ambito.-<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Las compa\u00f1\u00edas OpenAI y Meta afirmaron estar ajustando c\u00f3mo sus chatbots de inteligencia artificial (IA) responden a adolescentes y otros usuarios cuando consultan sobre el suicidio o muestran signos de angustia mental y emocional. OpenAI, creador de ChatGPT, dijo que est\u00e1 preparando el lanzamiento de nuevos controles que permitir\u00e1n a los padres vincular sus cuentas [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":106430,"comment_status":"closed","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[196],"tags":[],"class_list":{"0":"post-110258","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-tecno"},"_links":{"self":[{"href":"https:\/\/chacosintesis.com.ar\/index.php\/wp-json\/wp\/v2\/posts\/110258","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/chacosintesis.com.ar\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/chacosintesis.com.ar\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/chacosintesis.com.ar\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/chacosintesis.com.ar\/index.php\/wp-json\/wp\/v2\/comments?post=110258"}],"version-history":[{"count":1,"href":"https:\/\/chacosintesis.com.ar\/index.php\/wp-json\/wp\/v2\/posts\/110258\/revisions"}],"predecessor-version":[{"id":110269,"href":"https:\/\/chacosintesis.com.ar\/index.php\/wp-json\/wp\/v2\/posts\/110258\/revisions\/110269"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/chacosintesis.com.ar\/index.php\/wp-json\/wp\/v2\/media\/106430"}],"wp:attachment":[{"href":"https:\/\/chacosintesis.com.ar\/index.php\/wp-json\/wp\/v2\/media?parent=110258"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/chacosintesis.com.ar\/index.php\/wp-json\/wp\/v2\/categories?post=110258"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/chacosintesis.com.ar\/index.php\/wp-json\/wp\/v2\/tags?post=110258"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}