El Alto Comisionado de Derechos Humanos advirtió que, sin salvaguardas éticas y sociales, la inteligencia artificial puede amplificar prejuicios, aumentar la polarización y generar daños en el mundo real.
El Alto Comisionado de la ONU para los Derechos Humanos alertó sobre los riesgos de un desarrollo acelerado y sin regulación adecuada de la inteligencia artificial, al señalar que podría escapar al control humano y tener consecuencias negativas en las sociedades.
Durante la Cumbre sobre el Impacto de la IA en Nueva Delhi, el alto comisionado, Volker Türk, comparó esta situación con la creación de un “monstruo de Frankenstein” cuando los desarrolladores carecen de una comprensión profunda de los principios éticos y sociales fundamentales.
Indicó que un conocimiento superficial de estos principios puede derivar en tecnologías cuyos efectos no sean plenamente previstos y que, sin conciencia de los riesgos, pueden causar daños significativos.
Riesgos de desigualdad y discriminación
El funcionario identificó la inequidad como uno de los principales desafíos. Señaló que, si los datos utilizados para entrenar sistemas de inteligencia artificial provienen de contextos limitados o si el desarrollo está concentrado en grupos homogéneos, se pueden incorporar sesgos que afecten a poblaciones vulnerables.
Subrayó la necesidad de garantizar una participación más amplia y diversa en el diseño de estas herramientas, con el fin de evitar exclusiones y posibles prácticas discriminatorias.
Impacto en el tejido social
El Alto Comisionado también advirtió sobre la propagación de desinformación y discursos de odio a través de plataformas digitales potenciadas por inteligencia artificial, lo que puede derivar en sociedades polarizadas.
Mencionó, además, el aumento de la misoginia en entornos digitales y su efecto en la participación de las mujeres en la vida pública, al señalar que algunas consideran retirarse debido al acoso en redes sociales.
Llamado a establecer salvaguardas
Türk planteó que las empresas tecnológicas deberían realizar evaluaciones de impacto en derechos humanos al diseñar, lanzar y comercializar herramientas de inteligencia artificial, similar a los estándares exigidos en otras industrias.
Recordó que algunas compañías del sector cuentan con presupuestos superiores a los de varios Estados, lo que les otorga una influencia global significativa, con capacidad para orientar el uso de estas tecnologías hacia fines como la salud, la educación y el desarrollo sostenible, o hacia aplicaciones que pueden generar riesgos.
Al referirse al futuro, señaló la importancia de avanzar hacia un desarrollo inclusivo de la inteligencia artificial, en el que el poder no esté concentrado en un número reducido de empresas y se integren diversas realidades sociales. Advirtió que, sin una visión compartida y responsable, la expansión descontrolada de esta tecnología podría agravar la polarización y los conflictos.
