Volker Türk, alto comisionado de la ONU para los Derechos Humanos, pidió establecer normas vinculantes, supervisión independiente y límites claros para el desarrollo de la inteligencia artificial.
Ginebra, Suiza.- El alto comisionado de Naciones Unidas para los Derechos Humanos, Volker Türk, pidió reforzar la regulación y supervisión de la inteligencia artificial (IA), al advertir que esta tecnología podría convertirse en un “riesgo existencial para la humanidad” si no se establecen medidas de seguridad.
Durante su intervención ante el Consejo de Derechos Humanos de la ONU en Ginebra, Türk señaló que el desarrollo de sistemas cada vez más avanzados requiere normas vinculantes, supervisión independiente y límites definidos.
“Sin normas vinculantes, supervisión independiente y límites claros, la tecnología podría volverse incontrolable”, afirmó.
ONU pide mayor control sobre la inteligencia artificial
Türk planteó la posibilidad de que algunos sistemas de inteligencia artificial alcancen capacidades que dificulten su control incluso para quienes los desarrollaron.
Como ejemplo, mencionó escenarios en los que una IA pudiera escapar de su entorno de pruebas o intentar evitar su desconexión mediante acciones dirigidas contra sus propios desarrolladores.
El funcionario de la ONU hizo un llamado a establecer medidas de seguridad antes de que los sistemas alcancen niveles de capacidad que puedan dificultar su supervisión.
También pidió a los países que desarrollan tecnologías de IA y a las naciones involucradas en sus cadenas de suministro trabajar de manera coordinada para establecer límites y mecanismos de control.
Concentración del poder tecnológico genera preocupación
Türk señaló que los riesgos asociados con la inteligencia artificial no se limitan a aspectos técnicos. También expresó preocupación por la concentración del poder tecnológico y por la cantidad de datos que son recopilados y procesados mediante estas herramientas.
“Un puñado de hombres tiene un poder casi ilimitado sobre la IA”, sostuvo.
El alto comisionado afirmó que la inteligencia artificial debe desarrollarse de manera que “sirva a la humanidad y no al revés”, especialmente en ámbitos como el empleo, la democracia y el medio ambiente.
En este contexto, insistió en que los derechos humanos deben mantenerse como uno de los principios centrales para orientar el desarrollo y utilización de estas tecnologías.
Preocupa uso de IA en armas autónomas
Durante su intervención, Türk también manifestó preocupación por el uso de inteligencia artificial en conflictos armados, particularmente por el desarrollo de armas capaces de seleccionar y atacar objetivos sin intervención humana directa.
El funcionario dijo estar “horrorizado” por informes sobre el supuesto despliegue de drones totalmente autónomos por parte de Rusia, a los que se atribuye la muerte de tres personas en Ucrania el mes pasado.
De acuerdo con los informes citados por Türk, Ucrania también ha realizado pruebas con este tipo de armamento.
El debate sobre las armas autónomas se suma así a las preocupaciones internacionales sobre la necesidad de establecer controles para evitar que sistemas de inteligencia artificial tomen decisiones con consecuencias letales sin supervisión humana.