Bruselas abrió una nueva causa contra la red social de Elon Musk por imágenes sexuales falsas generadas con IA, incluidas de menores, y amplió una investigación previa bajo la Ley de Servicios Digitales.
La Comisión Europea abrió una nueva investigación contra la red social X, propiedad de Elon Musk, por la generación de imágenes sexuales falsas mediante inteligencia artificial, incluidas representaciones de mujeres y menores desnudos, y advirtió que reforzará los controles para garantizar la protección de los usuarios y el cumplimiento de las normas digitales vigentes.
El Ejecutivo comunitario anunció que el procedimiento se centra en el funcionamiento de Grok, el asistente de inteligencia artificial integrado en X, que permite crear imágenes falsas de desnudos a partir de fotografías reales. Según Bruselas, esta práctica podría violar las obligaciones que impone la Ley de Servicios Digitales (DSA), que exige a las plataformas proteger a los usuarios frente a contenidos ilegales y dañinos.
La presidenta de la Comisión Europea, Ursula von der Leyen, fue tajante al explicar el alcance de la decisión. “Europa no tolerará comportamientos insensatos”, afirmó, y apuntó directamente a “las imágenes falsas de desnudos de mujeres y niños”. En la misma línea, sostuvo: “Nuestra posición es clara: no confiaremos el consentimiento ni la protección de la infancia a plataformas tecnológicas para que los vulneren y los moneticen”.
Grok bajo la lupa y antecedentes recientes
La investigación busca determinar si X incumplió de forma sistemática las normas europeas que regulan el entorno digital. Aunque la empresa había limitado inicialmente el acceso a la función de generación de desnudos, a mediados de enero anunció que solo restringiría su uso en aquellos países donde este tipo de imágenes es ilegal, una decisión que encendió alarmas en Bruselas.
En paralelo, la Comisión decidió ampliar el alcance de una investigación previa abierta en diciembre de 2023 contra X, también bajo el paraguas de la DSA. Ese expediente ya había derivado en una multa de 120 millones de euros, lo que marca un antecedente relevante en la relación entre la UE y la red social.
Millones de imágenes sexualizadas en pocos días
Los datos aportados por organizaciones civiles reforzaron la preocupación europea. Un estudio del Center for Countering Digital Hate señaló que Grok generó cerca de tres millones de imágenes sexualizadas de mujeres y niños en apenas 11 días, un promedio de 190 imágenes por minuto. Otra investigación, realizada por AI Forensics, indicó que más de la mitad de las 20.000 imágenes analizadas mostraban personas con poca ropa: el 81% eran mujeres y el 2% aparentaban ser menores de edad.
image
Varios países europeos, entre ellos Francia y el Reino Unido, ya iniciaron procedimientos legales y, en algunos casos, suspendieron o bloquearon el acceso a X. La nueva ofensiva regulatoria podría, además, profundizar las tensiones con Estados Unidos. El presidente Donald Trump acusó en reiteradas ocasiones a Bruselas de atacar a las grandes tecnológicas estadounidenses.
En diciembre pasado, la administración norteamericana sancionó al excomisario Thierry Breton, uno de los impulsores de la DSA, y a otros funcionarios vinculados a la regulación del sector tecnológico y la lucha contra la desinformación. Aun así, desde la Comisión Europea insisten en que el objetivo es claro: reforzar la protección de los ciudadanos y marcar límites precisos al uso de la inteligencia artificial en plataformas digitales.
Ambito.-