La Unión Europea abrió el lunes una investigación formal contra X, la plataforma de redes sociales propiedad de Elon Musk, tras la difusión de imágenes deepfake sexualizadas no consensuadas generadas por su chatbot de inteligencia artificial, Grok.

Lo que una mente sucia y la IA pueden hacer

El escrutinio desde Bruselas se intensificó luego de que Grok provocara una reacción global al permitir a los usuarios crear y editar imágenes con rostros de personas reales, en las que aparecían mujeres con bikinis transparentes u otra ropa reveladora. De acuerdo con los investigadores, algunas de estas imágenes parecían incluso incluir a menores de edad, lo que llevó a varios gobiernos a prohibir el servicio o emitir advertencias públicas.

El Ejecutivo comunitario, que representa a los 27 países del bloque, analiza ahora si X ha hecho lo suficiente para contener la propagación de contenido ilegal, tal como lo exigen las regulaciones digitales europeas. Entre los riesgos señalados se encuentran las “imágenes sexualmente explícitas manipuladas”, un tipo de contenido que, según la Comisión Europea, “puede equivaler a material de abuso sexual infantil”.

La Comisión advirtió que la evaluación preliminar indica que estos riesgos se han materializado y subrayó que la difusión de este tipo de material expone a los ciudadanos europeos a “daños graves”. Los reguladores evaluarán si Grok cumple con las obligaciones establecidas en la Ley de Servicios Digitales (DSA, por sus siglas en inglés), el marco normativo diseñado para proteger a los usuarios frente a contenidos y productos perjudiciales en internet.

En respuesta a una solicitud de comentarios, una portavoz de X remitió a una declaración previa de la compañía en la que asegura estar “comprometida a hacer de X una plataforma segura para todos” y mantener una política de “tolerancia cero” frente a la explotación sexual infantil, la desnudez no consensuada y el contenido sexual no deseado.

En ese comunicado, fechado el 14 de enero, X también señaló que dejaría de permitir representaciones de personas en “bikinis, ropa interior u otra vestimenta reveladora”, aunque solo en aquellos lugares donde este tipo de contenido sea ilegal.

Deepfakes sexuales, una forma de degradación: Henna Virkkunen

Para Henna Virkkunen, vicepresidenta ejecutiva de la Comisión Europea, el caso va más allá de un simple incumplimiento técnico. 

“Los deepfakes sexuales no consensuados de mujeres y niños son una forma violenta e inaceptable de degradación”, afirmó. “Con esta investigación, determinaremos si X ha cumplido con sus obligaciones legales bajo la DSA, o si ha tratado los derechos de los ciudadanos europeos, incluidos los de mujeres y niños, como daños colaterales de su servicio”.

De forma paralela, la Comisión anunció que ampliará otra investigación ya en curso contra X, abierta en 2023, para evaluar el cumplimiento general de la DSA. Ese proceso derivó en diciembre pasado en una multa de 120 millones de euros por incumplimientos relacionados con requisitos de transparencia, y continúa sin resolución definitiva.

Con información de AP