{"id":195322,"date":"2026-01-21T10:08:05","date_gmt":"2026-01-21T13:08:05","guid":{"rendered":"https:\/\/chacosintesis.com.ar\/index.php\/puede-desnudarnos-grok-que-fue-lo-que-paso-con-la-ia-de-elon-musk-y-como-podemos-protegernos\/"},"modified":"2026-01-21T10:08:44","modified_gmt":"2026-01-21T13:08:44","slug":"puede-desnudarnos-grok-que-fue-lo-que-paso-con-la-ia-de-elon-musk-y-como-podemos-protegernos","status":"publish","type":"post","link":"https:\/\/chacosintesis.com.ar\/index.php\/puede-desnudarnos-grok-que-fue-lo-que-paso-con-la-ia-de-elon-musk-y-como-podemos-protegernos\/","title":{"rendered":"\u00bfPuede desnudarnos Grok?: qu\u00e9 fue lo qu\u00e9 pas\u00f3 con la IA de Elon Musk y c\u00f3mo podemos protegernos"},"content":{"rendered":"

<\/p>\n

\n
\n

Embed – https:\/\/publish.x.com\/oembed?url=https:\/\/x.com\/samstein\/status\/1942692222144840050&partner=&hide_thread=false <\/span><\/p>\n<\/p><\/div>\n

Grok, la IA \u201cdisruptiva\u201d: \u00bferror t\u00e9cnico o dise\u00f1o de producto?<\/h2>\n

Repasado el episodio, es v\u00e1lido preguntarse: lo ocurrido con Grok, \u00bffue un error o es el resultado de un dise\u00f1o de producto?<\/strong><\/p>\n

Para entender las causas detr\u00e1s del hecho, \u00c1mbito <\/strong>dialog\u00f3 con Nicol\u00e1s D’Ippolito<\/strong>, PhD en Ciencias de la Computaci\u00f3n por Imperial College London y Licenciado por la UBA, VP de IA en Veritran y director de la Maestr\u00eda en IA de la Universidad de San Andr\u00e9s, quien describi\u00f3 la misi\u00f3n asignada como \u201cun juego de adivinar la caja negra\u201d.<\/strong><\/p>\n

\n

Embed – https:\/\/publish.x.com\/oembed?url=https:\/\/x.com\/ParsaTajik\/status\/2006815682466550194&partner=&hide_thread=false <\/span><\/p>\n

\n
\n
\n

Hey! Thanks for flagging. The team is looking into further tightening our gaurdrails<\/p>\n

\u2014 Parsa T (@ParsaTajik) January 1, 2026<\/a><\/p><\/blockquote>\n<\/div><\/div>\n<\/p><\/div>\n

D\u2019Ippolito explic\u00f3 que los modelos que funcionan detr\u00e1s de la creaci\u00f3n de im\u00e1genes son generalmente de la familia de los conocidos como diffusion. \u201c\u00bfC\u00f3mo funcionan? Pon\u00e9s una foto de un perro y le dec\u00eds: esto es un perro. Y despu\u00e9s lo que hace es meterle ruido a la imagen, pixelado. <\/strong>Y ese pixelado lo que va haciendo es \u2018compactando\u2019 la informaci\u00f3n y hace esto hasta que llega una imagen totalmente negra y dice \u2018esto es un perro\u2019. Entonces, lo que sabe hacer el modelo es ir de \u2018negro a perro\u2019\u201d.<\/strong><\/p>\n

\n

image <\/span> <\/p>\n

<\/div>
\n
\n

A grandes rasgos, el modelo pasa de una imagen “con ruido” hasta la solicitud del usuario.<\/p>\n<\/div>\n<\/figcaption><\/figure>\n

\u201cEl tema es que no sabemos cu\u00e1l fue el proceso de \u2018compactamiento\u2019<\/strong> y con qu\u00e9 se entren\u00f3, c\u00f3mo y qu\u00e9 tom\u00f3 de la imagen\u201d, ahond\u00f3 el investigador.<\/p>\n

En este punto, record\u00f3 que \u201cel efecto esperado y natural de cualquier modelo de IA es que genere algo que antes nunca vio, pero que est\u00e1 basado en ecos de cosas que vio<\/strong>\u201d y puso el foco, justamente, sobre los datos que se usan en las instancias de entrenamiento: \u201cCuando genera algo que no esper\u00e1s, que no te gusta, puede ser que repita exactamente lo que vio<\/strong>\u201d.<\/p>\n

Al ser consultado por el esc\u00e1ndalo, el investigador puso sobre la mesa una hip\u00f3tesis clara: \u201cEl problema de fondo con Grok espec\u00edficamente es que lo ocurrido es una decisi\u00f3n de producto, no un problema t\u00e9cnico<\/strong>\u201d. Y agreg\u00f3: \u201cClaro que es vista como la m\u00e1s disruptiva<\/strong>, porque est\u00e1 tomada la decisi\u00f3n para que eso pase. Por ejemplo, es el \u00fanico que te deja desde el principio hacer cosas que tienen copyright\u201d.<\/p>\n

\n

image <\/p>\n

\"El<\/div>
\n
\n

El comunicado oficial de Grok ante la denuncia masiva por contenido MASI.<\/p>\n<\/div>\n<\/figcaption><\/figure>\n

En este punto, sirve la comparaci\u00f3n con otras IA generativas sobre las que el D’Ippolito asegur\u00f3 que todas \u201ctienen un \u2018motor\u2019 m\u00e1s o menos parecido\u201d <\/strong>que les permitir\u00eda crear las mismas im\u00e1genes sexualizadas a las que lleg\u00f3 Grok. <\/strong>Por lo que, el problema no estar\u00eda en su concepci\u00f3n. \u201cEl tema no es el ‘motor’. En este caso es el ‘chasis’, el ‘volante’, por decir. Hay autos que tienen \u2018filtros\u2019 que se reflejan en un l\u00edmite de velocidad, pero que no es un tema del motor en s\u00ed. Esto es lo mismo\u201d, ahond\u00f3.<\/strong><\/p>\n

Esta capacidad de generaci\u00f3n provoc\u00f3 que, durante los \u00faltimos 3 a\u00f1os, otras IA presentaran errores o bugs no deseados en sus respuestas. Sin ir m\u00e1s lejos, hubo un momento en que ChatGPT<\/strong> pod\u00eda ense\u00f1ar c\u00f3mo hacer una bomba casera. <\/strong><\/p>\n

\n

image <\/span> <\/p>\n

\"Elon<\/div>
\n
\n

Elon Musk, satirizado por su propia IA.<\/p>\n<\/div>\n<\/figcaption><\/figure>\n

\u201cEl bug puede estar, pero el error est\u00e1 en que el producto no est\u00e9 con ingenier\u00eda en software<\/strong> que establezca reglas de otro tipo<\/strong>, validando qu\u00e9 est\u00e1s haciendo. Que digan \u2018che, me est\u00e1 pidiendo que entregue una foto de alguien desnudo\u2019\u201d, agreg\u00f3 D\u2019Ippolito. Seg\u00fan su explicaci\u00f3n, eso se genera con \u201csoftware a mano\u201d <\/strong>que bloquee, en el citado ejemplo, todas las formas en las que se puede “pedir armar una bomba\u201d <\/strong>y as\u00ed filtrar \u201ctodos los prompts que sean variaciones de eso\u201d.<\/strong><\/p>\n

\u201cNo es tan dif\u00edcil de hacer. No lo est\u00e1n queriendo hacer\u201d<\/strong>, asegur\u00f3. \u201cSi sub\u00eds una foto de un tercero, una de un menor de edad\u2026 a xAI no le cuesta nada preguntar qui\u00e9nes son estas personas, d\u00f3nde est\u00e1n, si ten\u00e9s su consentimiento. Esa informaci\u00f3n la pod\u00e9s preguntar y la pod\u00e9s filtrar\u201d, agreg\u00f3 el experto en IA.<\/p>\n

Explicar t\u00e9cnicamente los guardrails que tienen las IA generativas para lograr outputs que se ajusten a los t\u00e9rminos y usos que determina la herramienta no es el objetivo de esta nota. Sin embargo, no est\u00e1 de m\u00e1s destacar que estos mecanismos existen y son utilizados. <\/strong>Los mismos pueden ser filtros de Input <\/strong>(de intenci\u00f3n, por ejemplo, que analizan el objetivo que tiene el usuario con su solicitud o buscan keywords problem\u00e1ticas) o de output <\/strong>(cuando la AI Generativa procesa el pedido, devuelve una respuesta y r\u00e1pidamente la censura).<\/p>\n

Tambi\u00e9n es verdad que los filtros pueden, en ocasiones, vencerse a trav\u00e9s de m\u00e9todos de ofuscaci\u00f3n<\/strong>, por ejemplo. Sin embargo, las solicitudes de los usuarios en X fueron, en su mayor\u00eda, bastante directas.<\/strong><\/p>\n

Parte de la hip\u00f3tesis de D\u2019Ippolito no solo se basa en la reiteraci\u00f3n de Grok, sino que la propia empresa demor\u00f3 varios d\u00edas en desactivar la herramienta<\/strong>. Primero, para suscriptores no pagos (el 9 de enero) y luego, con los \u00faltimos anuncios hechos menos de una semana atr\u00e1s.<\/p>\n

\n

image <\/p>\n

\"Musk,<\/div>
\n
\n

Musk, Grok y “una constituci\u00f3n moral”.<\/p>\n<\/div>\n<\/figcaption><\/figure>\n

\u201cYo adem\u00e1s quisiera saber qu\u00e9 hacen con las fotos que generaste y con la previa de las fotos\u201d, <\/strong>agreg\u00f3 D\u2019Ippolito, una preocupaci\u00f3n que est\u00e1 por dem\u00e1s justificada si comprendemos que los t\u00e9rminos y condiciones de uso de xAI detallan que la empresa tiene derecho a \u201c<\/em><\/strong> usar, copiar, almacenar, modificar, distribuir, reproducir, publicar, mostrar en foros p\u00fablicos\u201d, sobre las im\u00e1genes generadas.<\/strong><\/p>\n

Grok, deepfakes y regulaci\u00f3n: qu\u00e9 puede hacer el usuario en Argentina<\/h2>\n

Antes de abordar la legislaci\u00f3n vigente en la Argentina, es clave remarcar que el uso de Grok en el episodio analizado viol\u00f3 los t\u00e9rminos y condiciones tanto de xAI como de la red social X<\/strong>, que proh\u00edben \u201crepresentar im\u00e1genes de personas de forma pornogr\u00e1fica\u201d y \u201cla sexualizaci\u00f3n o explotaci\u00f3n de los ni\u00f1os\u201d.<\/p>\n

\n

image <\/p>\n

\"Parte<\/div>
\n
\n

Parte de los t\u00e9rminos y condiciones de X.<\/p>\n<\/div>\n

X<\/p>\n<\/figcaption><\/figure>\n

La problem\u00e1tica se agranda si resaltamos que no existe hoy en la Argentina una ley integral que penalice la generaci\u00f3n, divulgaci\u00f3n o tenencia de contenido sexualizado creado con IA a partir de personas reales sin consentimiento.<\/strong><\/p>\n

La situaci\u00f3n cambia un poco en casos de menores de edad. En di\u00e1logo con este medio, la abogada especialista en G\u00e9nero, Cibercrimen y Evidencia Digital, Florencia Zerd\u00e1<\/strong>, detall\u00f3: \u201cEl art.128 del C\u00f3digo Penal castiga lo que es la producci\u00f3n, financiamiento y tenencia de material de abuso sexual infantil\u201d, y si bien aunque \u201cno aplica para los generados con IA, hay muchos proyectos de ley que buscan penalizar los porn deepfakes para menores de edad\u201d.<\/p>\n

El marco jur\u00eddico es tambi\u00e9n ligeramente diferente para las mujeres, principales afectadas por este tipo de problem\u00e1ticas<\/strong>. \u201cEn cuestiones de g\u00e9nero est\u00e1 la ley Olimpia que modifica la ley integral de violencia hacia la mujer e incorpora la violencia digital\u201d, coment\u00f3 Zerd\u00e1. Seg\u00fan la legislaci\u00f3n, se entiende por violencia digital <\/strong>a \u201ctoda conducta, acci\u00f3n u omisi\u00f3n en contra de las mujeres basada en su g\u00e9nero que sea cometida (\u2026) con la asistencia, utilizaci\u00f3n y\/o apropiaci\u00f3n de las tecnolog\u00edas de la informaci\u00f3n y la comunicaci\u00f3n, con el objeto de causar da\u00f1os f\u00edsicos, psicol\u00f3gicos, econ\u00f3micos, sexuales o morales\u201d.<\/p>\n

\n

Diputados sesi\u00f3n (2) <\/p>\n

\"\"<\/div>
<\/figcaption><\/figure>\n

\u201cEsto establece una serie de medidas de protecci\u00f3n, que son medidas cautelares que pueden solicitar las v\u00edctimas ante la justicia\u201d ahond\u00f3 Zerd\u00e1. Entre las mismas, se incluye \u201cla posibilidad de que las mujeres puedan pedir a un juez que se elimine el contenido que est\u00e9 subido a una p\u00e1gina de Internet<\/strong>, que sea una forma de violencia digital, por ejemplo, un montaje realizado con inteligencia artificial\u201d.<\/p>\n

\u201cEl problema es que muchas veces estas plataformas est\u00e1n en el extranjero y no tienen canales de comunicaci\u00f3n tan directos. Hay m\u00e1s trabas y hay que tramitar los pedidos v\u00eda exhorto<\/strong>\u201d, ahond\u00f3 seg\u00fan su experiencia al frente de GENTIC , organizaci\u00f3n que promueve el activismo contra la ciberviolencia de g\u00e9nero<\/p>\n

Seg\u00fan la especialista, hoy \u201cse puede denunciar penalmente\u201d a quien realice estos actos aunque todav\u00eda \u201cno es un delito tipificado en nuestro C\u00f3digo Penal\u201d.<\/strong><\/p>\n

En este apartado, D\u2019Ippolito afirm\u00f3 que las empresas deben comenzar a aplicar ciertas t\u00e1cticas que permitan, aunque sea, mitigar los da\u00f1os del mal uso de sus herramientas: \u201cVos le podr\u00edas pedir a las compa\u00f1\u00edas que generen una marca esteganogr\u00e1fica<\/strong>, que es algo que est\u00e1 escondido en una imagen\u201d, informaci\u00f3n de utilidad mayor en la investigaci\u00f3n posterior durante un peritaje inform\u00e1tico. \u201cLa verdad que hoy no escuch\u00e9 que lo hagan, pero es absolutamente factible<\/strong>\u201d, sentenci\u00f3.<\/p>\n

\u201cTiene que haber regulaci\u00f3n y el Estado tiene que tener lo que tiene que tener para imponerse\u201d, adhiri\u00f3 el investigador sobre las posibles soluciones y puso como norte la Ley de Inteligencia Artificial de la Uni\u00f3n Europea.<\/strong><\/p>\n

M\u00e1s all\u00e1 de legislar, Zerd\u00e1 tambi\u00e9n advirti\u00f3: \u201cLa ley penal llega cuando el da\u00f1o ya est\u00e1 hecho, esto hay que prevenirlo. La Ley Olimpia prev\u00e9 la creaci\u00f3n de contenidos curriculares en las escuelas en todos los estadios para que se les ense\u00f1e a los chicos buenas pr\u00e1cticas en el uso de las TIC, c\u00f3mo identificar las violencias digitales”.<\/strong><\/p>\n

A pesar de leves espasmos legislativos \u2013 a los que hay que sumar la Ley 14.297 de Santa Fe <\/strong>y el proyecto de ley Bel\u00e9n, impulsado por la ONG Gentic <\/strong>\u2013 los esfuerzos por poner un l\u00edmite a Grok y otras IA Generativas parecen, por el momento, insuficientes. Y mientras esta tecnolog\u00eda avanza, el usuario parece estar cada vez m\u00e1s desprotegido.<\/p>\n<\/p><\/div>\n