Desde la aparición de ChatGPT en 2022, la inteligencia artificial (IA) ha ganado reconocimiento y popularidad, siendo utilizada en una variedad de tareas. Sin embargo, no siempre se emplea con buenas intenciones. La Internet Watch Foundation (IWF) ha lanzado una alerta preocupante: la IA está siendo utilizada para manipular imágenes de menores de edad, provocando un aumento alarmante del 360% en la publicación de fotos sexuales de niños y niñas de entre 7 y 10 años en la web.

Este problema afecta principalmente a la población femenina, ya que el 50% de las imágenes manipuladas por IA reportadas en 2022 involucraban a niñas de entre 11 y 13 años. La tecnología, que algunos creen que puede ser detectada cuando altera imágenes, está demostrando ser cada vez más difícil de distinguir de la realidad, con consecuencias graves para la salud física y mental de los menores.

Un caso reciente en España involucró a una docena de niñas de entre 11 y 17 años, quienes denunciaron que fotos manipuladas de ellas desnudas estaban circulando en los teléfonos de sus compañeros. En Latinoamérica, al menos 12 alumnas de un colegio en Lima, Perú, de entre 13 y 16 años, fueron víctimas de una situación similar, con imágenes íntimas alteradas por IA que terminaron en manos de depredadores sexuales.

Estos incidentes muestran el peligroso uso de la IA por parte de delincuentes, que terminan filtrando millones de imágenes sexuales de menores manipuladas a redes de tráfico en distintas partes del mundo. Según la IWF, solo en la primera mitad de 2022 se identificaron 20,000 páginas web con imágenes de abuso sexual “autogeneradas”, resultado de la coacción a niños y niñas de 7 a 10 años.

Martha Castellanos, vicerrectora académica de la Fundación Área Andina, destaca la importancia de educar a los menores sobre el uso de su patrimonio personal, que incluye las fotos y videos que publican, así como su comportamiento en redes sociales. “Ellos deben ser conscientes de que una expresión o un gesto pueden ser malinterpretados y manipulados con las tecnologías avanzadas que existen”, afirma.

Los especialistas coinciden en que es fundamental limitar y educar sobre el uso de la tecnología y las redes sociales desde una edad temprana. Save the Children, en su informe “Derechos Sin Conexión”, hace un llamado a las empresas detrás de las plataformas digitales para que asuman la responsabilidad de proteger a los niños, niñas y adolescentes no solo en el acceso a contenidos, sino también en el diseño de productos que puedan generar adicciones.

El acompañamiento de los padres es clave en la protección de la salud física y mental de los menores. Alejandro Castañeda, jefe del Centro de Internet Seguro-Viguías de Red Papaz, subraya que en casos donde los niños son víctimas de fotos íntimas manipuladas por IA, es crucial no culpabilizar al afectado, recordando que “al final, siempre la víctima será el niño”.