El poder judicial ha dado instrucciones a la Autoridad Nacional del Ambiente y los Recursos Naturales (Enacam) para cerrar un dominio web que utiliza inteligencia artificial para generar imágenes inmorales falsificadas.
Una jueza de Paso de los Libres tomó medidas en un caso de difusión de contenido inapropiado, luego de la denuncia del padre de una adolescente cuya imagen fue manipulada digitalmente para mostrarla en una situación íntima.
Por InfoArticulos
Jueves 22 de Mayo de 2025 - 22:27
El poder judicial ha dado instrucciones a la Autoridad Nacional del Ambiente y los Recursos Naturales (Enacam) para cerrar un dominio web que utiliza inteligencia artificial para generar imágenes inm
Una jueza correntina ordenó al Ente Nacional de Comunicaciones (Enacom) bloquear inmediatamente un sitio web que utiliza inteligencia artificial para crear imágenes manipuladas.
El programa permite a personas anónimas generar contenido falso con rostros reales en cuerpos ajenos, o incluso eliminarles digitalmente la ropa para simular que estaban desnudas.
La jueza Marta Rut Legarreta intervino tras la denuncia del padre de una de las afectadas, quien presentó el nombre del programa utilizado para generar imágenes de desnudez falsas con rostros reales sin consentimiento.
La medida cautelar se dictó en el marco de una causa por vulneración de derechos de adolescentes y regirá hasta que se acredite el cese del riesgo de daño, priorizando el interés superior de las adolescentes afectadas.
La jueza Legarreta emitió la resolución tras tomar conocimiento del uso de esta herramienta tecnológica y su difusión a través de WhatsApp, advirtiendo que el daño concreto se produjo por el funcionamiento de esta aplicación que permite crear y compartir contenido sexual simulado sin verificar edad ni consentimiento.
El Poder Judicial correntino precisó que la magistrada basó su decisión en los riesgos concretos que representa el entorno digital cuando no existen filtros preventivos, especialmente para niñas y adolescentes, advirtiendo que el entorno digital no garantiza barreras efectivas de edad ni consentimiento, lo que expone especialmente a niños y adolescentes a formas modernas de violencia simbólica, digital y psicológica.
La magistrada fundamentó su decisión en tratados internacionales y leyes nacionales de protección a la infancia y prevención de violencia de género, entre ellas la 'Ley Olimpia' (N° 27.736), que reconoce la violencia digital como una modalidad de agresión hacia las mujeres.
Y ordenó la intervención del Enacom, solicitando el bloqueo inmediato del acceso desde Argentina al sitio web de la aplicación y a sus servidores DNS, y la notificación a la Unidad Fiscal Especializada en Ciberdelincuencia (Ufeci) para que colabore en las investigaciones e impulse medidas que permitan identificar a los responsables.
Según se informó, la causa se inició a partir de la denuncia de un progenitor, quien presentó el nombre de la aplicación utilizada para manipular imágenes de adolescentes, generando contenido sexual falso sin consentimiento.
Se trata de una herramienta digital que emplea modelos avanzados de inteligencia artificial para eliminar digitalmente ropa en fotografías y simular imágenes íntimas.
El contenido habría sido difundido por WhatsApp y el juzgado destacó que el daño concreto se produjo por el uso de esta aplicación que permite crear imágenes falsas sin control ni verificación, vulnerando la privacidad, dignidad e identidad de las víctimas.
El informe técnico elaborado por el Área de Seguridad Informática de la Dirección de Informática del Poder Judicial de Corrientes describió en detalle el funcionamiento de la aplicación.