La Comisión Europea da un nuevo paso en su batalla para que las grandes tecnológicas cumplan con las leyes europeas. Acaba de lanzar una investigación sobre Grok, la herramienta de inteligencia artificial de la red social X, a cuenta de la función que permite imágenes sexualizadas de menores y otros contenidos ilegales, “incluido el contenido que pueda constituir material de abuso sexual infantil”, según ha anunciado el Ejecutivo de la UE.
La Comisión sospecha que la empresa de Elon Musk “expone a los ciudadanos de la UE a graves daños”
La Comisión Europea da un nuevo paso en su batalla para que las grandes tecnológicas cumplan con las leyes europeas. Acaba de lanzar una investigación sobre Grok, la herramienta de inteligencia artificial de la red social X, a cuenta de la función que permite imágenes sexualizadas de menores y otros contenidos ilegales, “incluido el contenido que pueda constituir material de abuso sexual infantil”, según ha anunciado el Ejecutivo de la UE.
Este expediente se suma al que ya tiene abierto la firma matriz, X, también propiedad del magnate Elon Musk, desde diciembre de 2023 para averiguar si su sistema de recomendaciones cumple con las obligaciones a la hora de gestionar riesgos que se pueden general en la red social, desde la desinformación hasta la difusión de discursos de odio.
El nuevo frente que se abre entre Bruselas y Musk, muy beligerante contra las políticas europeas en materia de protección de los derechos de los ciudadanos, se daba casi por descontado desde hace semanas. A finales de 2025 explotó la nueva polémica provocada por Grok, una herramienta de inteligencia artificial que en noviembre había negado el holocausto. Esta vez era por la posibilidad de generar imágenes sexualizadas, también de menores. En solo 11 días, entre el 29 de diciembre y el 8 de enero, sus usuarios crearon 11 millones de imágenes manipuladas de este tipo, entre ellas más de 23.000 de menores.
La inmensa polvareda que levantó en la opinión pública llevó a la presidenta de la Comisión, Ursula von der Leyen, a declarar que la UE no delegará en Silicon Valley la protección de la infancia: “No externalizaremos la protección infantil y el consentimiento a Silicon Valley. Si ellos no actúan, lo haremos nosotros”. “Me horroriza que una plataforma tecnológica permita a los usuarios desnudar digitalmente a mujeres y niños en Internet. Es un comportamiento inconcebible. Y el daño causado por esto es muy real”, señaló Von der Leyen.
El comunicado del departamento que dirige la vicepresidenta Henna Virkkunen, responsable de tecnología y seguridad, deja clara su preocupación: “Los riesgos parecen haberse materializado, exponiendo a los ciudadanos de la UE a graves daños”. Los siguientes pasos buscan confirmar estas sospechas sobre el incumplimiento de las obligaciones establecidas en el reglamento de servicios digitales (DSA, por sus siglas en inglés) o si, por el contrario, X mitiga los riesgos vinculados a “la violencia de género y las graves consecuencias para el bienestar físico y mental causados por la implementación de Grok en su plataforma”.
Cuando comenzaron a surgir los primeros problemas con los programas de inteligencia artificial que se usaban para desnudar adultos o menores, la respuesta inicial fue actuar contra los usuarios. En el caso de las adolescentes de Almendralejo, se denunció a los compañeros que las dañaron con esas imágenes, pero no se actuó contra la compañía que puso a su disposición esa posibilidad a golpe de clic.
Ahora, esta vía se está explorando cada vez más. Países como Indonesia o Malasia han decidido prohibir Grok. En Italia, se decidió el pasado octubre por bloquear la app Clothoff. En EE UU y en China, se ha actuado en los tribunales contra los dueños de estas empresas cuyo único modelo de negocio es generar estos desnudos. El Gobierno de España acaba de presentar un anteproyecto para reformar el derecho al honor, a la intimidad personal y familiar y a la propia imagen, que actualiza la ley de 1982 para mencionar específicamente las “ultrasuplantaciones realizadas con inteligencia artificial”, es decir, los deepfakes que alteran la imagen de las personas sin su permiso.
Diseño engañoso de X
Además de esto, Bruselas ahonda en el expediente que X tiene abierto desde diciembre de 2023 ahora que la empresa ha decidido cambiar el sistema de recomendación basado en Grok. Parte de esta investigación, acabó en una multa a la empresa de 120 millones de euros por varios elementos: falta de transparencia en la publicidad, diseño engañoso de la marca azul que aparenta certificar la veracidad de un perfil y por el acceso a los datos de los investigadores. Con esta sanción se inauguró el régimen de multas que contempla el DSA.
Esa sanción, impuesta en diciembre pasado, se acercó al importe máximo que se puede imponer con este reglamento: llegó al 5,4% de la facturación anual de la empresa. En el caso de la investigación que se ha iniciado este lunes, la multa podría ser aún mayor. El castigo máximo que se permite está en el 6% de los ingresos en un año en todo el mundo de una empresa en el caso de los incumplimientos más graves. El reglamento también permite la aplicación de las medidas provisionales para mitigar el riesgo.
Este castigo provocó una virulenta reacción de varios miembros del Gobierno estadounidense, encabezados por su propio presidente, Donald Trump. “Es asquerosa”, llegó a decir en un nuevo ejemplo de los ataques contra la UE desde el otro lado del Atlántico a cuenta de la regulación digital. Este ha sido uno de los caballos de batalla con los que Washington más está cargando contra Bruselas. De hecho, sus máximos responsables de Comercio, el secretario, Howard Lutnick, y el representante, Jamieson Greer, llegaron a vincular directamente la negociación para resolver asuntos comerciales pendientes, como los aranceles adicionales al acero y el aluminio, a que la UE flexibilizara las regulaciones digitales.
La crítica de Washington se centra, principalmente, en el reglamento de servicios digitales, más focalizado en los contenidos de las plataformas como X, Facebook o YouTube que en el de mercados. El argumento que utilizan desde Washington es que el DSA coarta la libertad de expresión y castiga especialmente a las empresas estadounidenses. Desde la UE la respuesta a la primera acusación es que este derecho fundamental no puede poner en riesgo otros derechos, ni poner en riesgo a colectivos vulnerables, como el de los menores de edad.
Sobre la segunda, la contestación es que las obligaciones adicionales que impone la norma responden a unos criterios objetivos. Estas obligaciones recaen sobre las designadas grandes plataformas electrónicas: una etiqueta que recae en aquellas utilizadas por más del 10% de la población de la UE, es decir, al menos por unos 45 millones de usuarios. De las 17 compañías que cumplían inicialmente este requisito, solo dos son europeas, Booking y Zalando.
Tecnología en EL PAÍS
