Buenos Aires: deepfakes sexuales con IA en una escuela

En un colegio de Lomas de Zamora, provincia de Buenos Aires, denunciaron a alumnos por difundir imágenes sexuales creadas con inteligencia artificial de sus compañeras. C5N informó que más de 50 alumnas habrían sido afectadas. Otras coberturas agregaron que la Justicia investiga la creación y circulación de deepfakes elaborados a partir de fotografías reales de menores.

¿Qué se denunció en la escuela?

Se denunció la creación y difusión de material sexual falso hecho con IA a partir de fotos reales de alumnas. Según Infobae, en su cobertura de EFE, familias llevaron el caso a la Justicia por deepfakes sexuales elaborados con imágenes de al menos 40 menores en un colegio de las afueras de Buenos Aires.

La misma cobertura indicó que dos adolescentes de 15 años fueron imputados y que la investigación seguía abierta para determinar la participación de otros estudiantes y el alcance de la difusión. La versión de La Voz añadió que el material habría circulado también entre estudiantes de otras escuelas y en sitios para adultos, aunque ese dato quedó atribuido a esa fuente.

¿Qué medidas tomó la Justicia?

La Justicia secuestró teléfonos y allanó viviendas en el marco de la causa, según las coberturas disponibles. Perfil informó que fueron allanadas las casas de cuatro estudiantes de tercer año y que la medida fue autorizada por el Juzgado de Garantías del Joven N.º 3 de Lomas de Zamora.

La Voz señaló además que se secuestraron teléfonos de dos adolescentes imputados para reconstruir cómo se creó, circuló y eventualmente se vendió el contenido. Diario Popular, por su parte, reportó que las imágenes y videos falsos habrían sido organizados en catálogos con datos reales de unas 45 adolescentes y ofrecidos mediante grupos de WhatsApp y plataformas digitales.

¿Qué alcance tuvo el caso?

El alcance reportado varió según la cobertura, pero todas coincidieron en un volumen alto de víctimas potenciales y en la circulación fuera del ámbito escolar. C5N habló de más de 50 alumnas afectadas, mientras Infobae, a partir de EFE, mencionó al menos 40 menores. Perfil ubicó la investigación en imágenes de aproximadamente 50 compañeras de distintos cursos.

Ese cruce de cifras muestra que la causa sigue en desarrollo y que la Justicia todavía intenta establecer cuántos estudiantes participaron, cómo se organizó la difusión y si hubo una eventual comercialización del material. En paralelo, Chequeado publicó una guía sobre qué hacer si una hija o hijo es víctima de un deepfake sexual creado con IA, en medio de un tipo de daño que ya empezó a aparecer en el ámbito escolar.

¿Cómo se conecta con otras estafas y con la vigilancia digital?

El caso convive con un escenario regional de fraude digital más industrializado y con un marco estatal que amplía el monitoreo automatizado de fuentes abiertas. iProUP informó, a partir de una investigación de Group-IB, que Argentina representó el 14,3% de las operaciones latinoamericanas rastreadas en una muestra de Classiscam.

Según esa cobertura, Classiscam usa bots de Telegram para generar páginas fraudulentas y permite elegir el servicio a imitar y la moneda de la operación. Group-IB también identificó dominios preparados para suplantar servicios usados en Argentina, entre ellos Mercado Libre y Mercado Pago.

La misma investigación mencionada por iProUP describió CallFlow como una herramienta de fraude telefónico en desarrollo que combina un modelo de lenguaje, reconocimiento de voz y voz sintética. En paralelo, El País informó que la Resolución 428/2024 del Ministerio de Seguridad habilita el monitoreo sistemático de fuentes abiertas y el uso de tecnologías automatizadas para analizar información en línea, y que el Decreto 383/2025 incorporó el ciberpatrullaje como facultad de la Policía Federal sin autorización judicial cuando se trata de fuentes abiertas.