El uso de herramientas basadas en IA estaría facilitando nuevas formas de acoso, explotación y violencia digital contra niños y adolescentes, lo que llevó a Naciones Unidas a pedir acciones urgentes a gobiernos y empresas tecnológicas.
El sistema de Naciones Unidas advirtió sobre el crecimiento acelerado de amenazas contra niños y adolescentes asociadas al uso de la inteligencia artificial, que van desde el acoso sexual y el ciberacoso hasta la creación de deepfakes y material sexual falso con fines de extorsión.
De acuerdo con datos recopilados por organismos internacionales, los casos de abuso infantil facilitado por la tecnología en Estados Unidos pasaron de 4.700 en 2023 a más de 67.000 en 2024, una cifra que encendió las alertas globales por el impacto de estas prácticas en la salud mental y la seguridad de los menores.
Las agencias de la ONU señalaron que la proliferación de contenido dañino generado por IA ha superado la capacidad de respuesta de gobiernos, familias y plataformas digitales, lo que ha motivado un llamado urgente para adoptar medidas coordinadas de protección infantil en entornos digitales.
El director de la Oficina de Desarrollo de las Telecomunicaciones de la Unión Internacional de Telecomunicaciones (UIT), Cosmas Zavazava, explicó que los riesgos abarcan desde el acoso sexual hasta la manipulación de imágenes y la incorporación de funciones perjudiciales en plataformas digitales, situaciones que, en muchos casos, derivan en daños físicos y psicológicos.
Organizaciones defensoras de los derechos de la infancia advirtieron que los depredadores utilizan sistemas de inteligencia artificial para analizar el comportamiento en línea, el estado emocional y los intereses de los niños, con el fin de personalizar estrategias de acoso y manipulación.
Uno de los fenómenos que más preocupa es la generación de imágenes falsas de carácter sexual a partir de fotografías reales de menores, una práctica que ha impulsado nuevas formas de extorsión sexual y explotación digital.
Ante este panorama, algunos países comenzaron a adoptar medidas restrictivas. A finales de 2025, Australia se convirtió en el primer Estado en prohibir el acceso a redes sociales a menores de 16 años, tras constatar que la exposición a contenidos violentos, de odio o perturbadores superaba los posibles beneficios.
En paralelo, organismos de la ONU suscribieron en enero de 2026 una Declaración Conjunta sobre Inteligencia Artificial y Derechos del Niño, en la que identifican una falta generalizada de alfabetización en IA entre niños, padres, docentes y responsables políticos.
El documento también pone el foco en la responsabilidad de las empresas tecnológicas, al señalar que la mayoría de las herramientas basadas en inteligencia artificial no han sido diseñadas considerando de manera prioritaria el bienestar y los derechos de la infancia.
Finalmente, Naciones Unidas reiteró que la protección de los niños en el entorno digital es una cuestión de derechos humanos y pidió a los Estados fortalecer los marcos de gobernanza de la IA, garantizar sistemas transparentes y responsables, y promover políticas que prioricen el interés superior de los menores frente al avance de las nuevas tecnologías.
