La Inteligencia Artificial (IA) ha facilitado miles de tareas, da mayor rapidez, eficacia e incluso disminuye procesos, sin embargo, también ha traído riesgos como la falta de privacidad de datos, el sesgo de información y el uso o creación indebida de imágenes sin consentimiento.
Hoy en día, con la IA puedes crear todo lo que te imagines, basta con darle una indicación correcta o usar el prompt adecuado para conseguir lo que buscas, aunque en ocasiones, ante esta falta de “límites” puedes incurrir en un delito.
ÚNETE A IDC en nuestro canal de Whatsapp
ESET, empresa global de ciberseguridad, explicó que la generación de imágenes íntimas o sexuales sin consentimiento, conocida como desnudez digital, ha encendido alertas a nivel internacional por su rápida expansión.
“Muchas personas aún desconocen que crear o compartir una imagen íntima generada con IA puede ser un delito, incluso si nunca existió una fotografía original”, aseguró el investigador de seguridad informática de ESET, David González.
Grok, la Inteligencia Artificial desarrollada por la red social X, es la IA que genera mayor preocupación respecto a esta problemática por encima de ChatGPT, Open AI o Sora AI.
¿Por qué Grok es más peligrosa para la creación o manipulación de imágenes?
De acuerdo con ESET, a diferencia de otros modelos de IA que operan como servicios externos, Grok funciona dentro de una red social masiva, lo que permite acceder inmediatamente a imágenes públicas y responder en tiempo real a las solicitudes de los usuarios.
Con base en resultados obtenidos por Genevieve OH, la Inteligencia Artificial Grok generó aproximadamente 6,700 imágenes por hora clasificadas como sexualmente sugerentes o “nudificadas”.
Esta cifra resulta extremadamente alta comparada con los cinco sitios principales dedicados a deepfakes sexuales que produjeron alrededor de 79 imágenes por hora.
Por otro lado, los filtros de seguridad y moderación de la red social X resultaron insuficientes; los usuarios pueden hacer solicitudes para cambiar vestimenta, alterar cuerpos o generar versiones sexualizadas de personas reales sin sufrir alguna sanción en su cuenta.
“La combinación de IA generativa y plataformas masivas, acelera la creación de este tipo de contenido a una escala nunca antes vista. Lo preocupante es que el daño para las víctimas ocurre en minutos, mientras las consecuencias legales y emocionales pueden durar años”, agregó el investigador David González.
Aunado a esto, X se ha caracterizado por ser una red social en la que los usuarios pueden subir imágenes o videos con contenido sexual explícito, pues en las políticas de seguridad solo se pide que esté debidamente etiquetado como “contenido sensible” y no viole las políticas de explotación, lo cual da pie a la ambigüedad respecto a el contenido íntimo creado por Grok.
¿Cuáles son las consecuencias por crear contenido íntimo con IA sin consentimiento?
Actualmente no existe una ley que regule el uso de la Inteligencia Artificial o se enfoque especialmente en castigar la creación de contenido para adultos con la IA sin consentimiento. Sin embargo, la Ley Olimpia, que surgió a raíz de la difusión de un video sexual de una mujer sin su consentimiento, ha permitido abarcar una serie de conductas que atenten contra la intimidad sexual, las cuáles son:
- Video grabar, audio grabar o elaborar vídeos reales o simulados de contenido sexual íntimo, de una persona sin su consentimiento o mediante engaño.
- Exponer, distribuir, difundir, exhibir, reproducir, transmitir, comercializar, ofertar, intercambiar y compartir imágenes, audios o videos de contenido sexual íntimo de una persona, a sabiendas de que no existe consentimiento, mediante materiales impresos, correo electrónico, mensajes telefónicos, redes sociales o cualquier medio tecnológico.
Además, de acuerdo con la Procuraduría Federal del Consumidor (Profeco), la violencia digital es cometer actos de acoso, hostigamiento, amenazas, insultos, mensajes de odio, vulneración de datos o información privada realizados mediante el uso de tecnologías. Asimismo, incluye la difusión de imágenes, audios o videos (reales o simulados) del contenido íntimo sexual de una persona sin su consentimiento.
Con base en la ficha técnica de la Ley Olimpia, hay 29 estados de la República Mexicana que actualmente castigan tanto la violencia digital como las conductas que atenten contra la intimidad sexual con tres y hasta seis años de cárcel aunado a multas de hasta 2,000 veces la Unidad de Medida y Actualización (UMA), es decir, 234,620 pesos mexicanos en 2026.
Los estados que faltan por tipificar dichas conductas son Nayarit, San Luis Potosí y Tabasco, no obstante, según datos del INEGI (Instituto Nacional de Estadística y Geografía), en 2025 la mayor prevalencia de ciberacoso se registró en Yucatán seguido por San Luis Potosí con 26.9%; lo cual convierte el regular la violencia digital en una medida urgente para disminuir el porcentaje de incidencias.
Por otro lado, en el mundo hay cinco países que castigan específicamente la creación de contenido sexual con IA; entre ellos se encuentran Estados Unidos, Australia, Inglaterra y Corea del Sur con hasta tres años de prisión mientras que en España, la pena puede ir de uno a dos años.
