/image%2F1488937%2F20261007%2Fob_cac47e_ai.png%3Fw%3D736%26f%3D2063ec7530924cfd431890f3d38c09a4)
El secretario general de la ONU, Volker Türk, advierte que la IA sin control podría socavar la privacidad, la igualdad y el debate público, mientras que la supervisión tiene dificultades para mantenerse al día. Foto LINKEDIN
El alto comisionado de la ONU para los derechos humanos insta a establecer salvaguardias obligatorias y una supervisión independiente de los sistemas de IA potentes.
Poblaciones enteras podrían quedar aisladas algún día de las comunicaciones, el agua potable, la calefacción y los servicios financieros "con solo pulsar un botón", advirtió el alto comisionado de las Naciones Unidas para los Derechos Humanos, a medida que los sistemas de IA cada vez más potentes generan preocupación por la seguridad de las infraestructuras críticas.
Volker Türk lanzó esta advertencia en una cumbre sobre IA y derechos humanos celebrada en Oxford el 5 de octubre, afirmando que el mundo se estaba quedando sin tiempo para establecer salvaguardias efectivas a medida que la inteligencia artificial avanza a un ritmo sin precedentes.
Los riesgos de la IA podrían alcanzar los servicios esenciales.
Türk advirtió que los peligros que plantea la IA no siempre se manifiestan a través de fallos evidentes. En cambio, afirmó que podrían socavar gradualmente la igualdad, la libertad, la privacidad y el debate público, describiendo el riesgo como «dejar que la distopía se infiltre sin ser detectada».
La advertencia se extiende más allá de los usuarios individuales e incluye infraestructuras críticas. En una carta enviada en septiembre a gobiernos y empresas de IA de vanguardia, Türk afirmó que los fallos en sistemas de IA potentes podrían paralizar servicios esenciales. Asimismo, solicitó garantías obligatorias de derechos humanos y la debida diligencia durante todo el desarrollo e implementación de la IA.
Según afirmó, los países que albergan empresas de IA o que influyen en sus cadenas de suministro deben garantizar que estas actúen de forma responsable y rindan cuentas cuando no lo hagan. Türk también abogó por una mayor cooperación en materia de seguridad de la IA y una supervisión independiente. Las leyes vigentes en áreas como la responsabilidad, la ciberseguridad y la protección de datos podrían ofrecer cierta protección, aunque señaló que también podrían ser necesarios nuevos enfoques legales.
La IA podría cambiar la guerra y la educación
Türk también advirtió sobre el uso de la IA en la guerra, e instó a tomar medidas urgentes para evitar que las máquinas decidan quién vive y quién muere. Afirmó que la IA ya está cambiando la naturaleza de la guerra y sostuvo que las decisiones que afectan la vida humana deben permanecer bajo un control humano efectivo. El Alto Comisionado de las Naciones Unidas para los Derechos Humanos también expresó su preocupación por el impacto de la IA en la educación.
Citó estudios que sugieren que los estudiantes que dependen en gran medida de la IA pueden retener menos información y desarrollar habilidades de pensamiento independiente más débiles. Esto planteó a Türk una cuestión más amplia: si la sociedad podría llegar a un punto en el que las personas ya no sean capaces de comprender, cuestionar o dirigir de manera significativa tecnologías cada vez más poderosas.
Esfuerzos de la ONU y normas voluntarias sobre IA
Türk hizo referencia a los recientes esfuerzos internacionales para fortalecer la gobernanza de la IA , incluyendo el Diálogo Global sobre Gobernanza de la IA y el Panel Científico Internacional Independiente sobre IA. También destacó un llamamiento conjunto, respaldado por 29 países y la Unión Europea, para endurecer los controles sobre los modelos de IA de vanguardia.
Sus declaraciones se produjeron tras los nuevos compromisos asumidos por empresas de IA y gobiernos para mejorar las medidas de seguridad y la evaluación de riesgos. Un acuerdo voluntario firmado en la Casa Blanca el 29 de septiembre por el presidente estadounidense Donald Trump y destacados ejecutivos de IA estableció estándares de seguridad voluntarios e incluyó el compromiso de colaborar con auditores independientes.
Según documentos de la ONU, Trump calificó los controles de "moralmente vinculantes". Sin embargo, Türk argumentó que los compromisos voluntarios por sí solos no brindarían suficiente protección. "Ya no podemos permitirnos esperar ni confiar en la buena voluntad", afirmó.
Aumenta la presión para una supervisión más estricta de la IA
La advertencia de Türk surge en un momento en que gobiernos y legisladores sopesan si las leyes vigentes son suficientes para hacer frente a sistemas de IA cada vez más avanzados. En la ciudad de Nueva York, el Ayuntamiento celebró una inusual sesión plenaria el 5 de octubre para analizar los riesgos de la IA. Los legisladores examinaron diez proyectos de ley destinados a regular la IA o establecer salvaguardias, y representantes de importantes empresas tecnológicas como Anthropic, OpenAI, Google y Meta comparecieron ante el Consejo.
Türk ha pedido una mayor cooperación en materia de seguridad de la IA, supervisión independiente y una mayor participación de la sociedad civil y de las personas cuyos derechos podrían verse afectados por esta tecnología. Afirmó haber contactado en septiembre con gobiernos y empresas de IA de vanguardia para instarles a tomar medidas que reduzcan los riesgos potenciales. «Muy pocos están cumpliendo sus promesas», declaró Türk. Y añadió: «Si no actuamos con rapidez, nos arriesgamos a sufrir consecuencias imprevisibles, tanto para nosotros como para las generaciones futuras.
Akshay Puri
/image%2F1488937%2F20261007%2Fob_b991c9_adobestock-sheep-tv-scaled.jpeg%3Fx24571)
/image%2F1488937%2F20261007%2Fob_cc45fa_redesocialesyfindelpensamiento.webp%3Fw%3D748%26ssl%3D1)
/image%2F1488937%2F20261006%2Fob_813760_htxdyodxcaaeiq.jpg)
/image%2F1488937%2F20261006%2Fob_68f7bc_sized-depositphotos-566958310-s-1392x9.jpg)
/image%2F1488937%2F20261007%2Fob_cac47e_ai.png%3Fw%3D736%26f%3D2063ec7530924cfd431890f3d38c09a4)
/image%2F1488937%2F20261007%2Fob_b991c9_adobestock-sheep-tv-scaled.jpeg%3Fx24571)
/image%2F1488937%2F20261007%2Fob_cc45fa_redesocialesyfindelpensamiento.webp%3Fw%3D748%26ssl%3D1)
/image%2F1488937%2F20261006%2Fob_813760_htxdyodxcaaeiq.jpg)