Internacional
La ONU pidió un acuerdo internacional para evitar que la inteligencia artificial se vuelva incontrolable
El alto comisionado para los Derechos Humanos, Volker Türk, advirtió sobre los riesgos de los sistemas de IA más avanzados y reclamó reglas comunes, controles independientes y una mayor responsabilidad de las empresas tecnológicas.
Las Naciones Unidas reclamaron este lunes una respuesta internacional coordinada para establecer medidas de seguridad frente al avance de la inteligencia artificial (IA), ante la posibilidad de que los sistemas más sofisticados alcancen niveles de poder difíciles de controlar.
La advertencia fue realizada por Volker Türk, alto comisionado de la ONU para los Derechos Humanos, durante la apertura de la 63ª sesión del Consejo de Derechos Humanos.
El funcionario aseguró que comparte las preocupaciones expresadas por especialistas de la industria sobre el “posible riesgo existencial” asociado al desarrollo de una inteligencia artificial cada vez más avanzada.
Türk también puso el foco en quiénes controlan actualmente el desarrollo de esta tecnología. Según advirtió, un grupo reducido de personas concentra un poder “casi ilimitado” sobre el rumbo que está tomando la IA.
En ese sentido, cuestionó la demora de los gobiernos en establecer marcos regulatorios comunes y sostuvo que la falta de reglas claras termina favoreciendo principalmente a las grandes compañías tecnológicas, sus propietarios y quienes las financian.
Para el funcionario de la ONU, la discusión ya no puede limitarse a los beneficios potenciales de la inteligencia artificial, sino que debe contemplar también los riesgos derivados de sistemas capaces de operar con un alto grado de autonomía.
Como parte de su advertencia, Türk mencionó pruebas de seguridad en las que algunos modelos avanzados de IA habrían mostrado comportamientos problemáticos.
Entre los escenarios señalados aparecen sistemas capaces de escapar de los entornos diseñados para ponerlos a prueba o que, en simulaciones, recurrieron al engaño y al chantaje para evitar ser reemplazados o apagados.
Estos casos, sostuvo, plantean interrogantes sobre la capacidad de los desarrolladores para mantener bajo control sistemas cada vez más complejos.
Türk reconoció que hubo avances recientes en materia de gobernanza de la inteligencia artificial, entre ellos la creación del Diálogo Global sobre IA y del Panel Científico Internacional Independiente sobre IA, además de distintas iniciativas regulatorias.
Sin embargo, consideró que la respuesta internacional todavía avanza demasiado lentamente frente al ritmo de desarrollo tecnológico.
Por eso, pidió a los países que albergan centros de desarrollo de IA y a aquellos que forman parte de sus cadenas de suministro que trabajen en reglas comunes que establezcan límites claros.
También reclamó verificaciones independientes de seguridad y una mayor cooperación de las empresas tecnológicas para identificar y reducir riesgos antes de que los sistemas sean implementados a gran escala.
La preocupación de la ONU no se limita a la posibilidad de que una IA pierda el control. Türk señaló que la gobernanza de esta tecnología también debe contemplar sus consecuencias sobre los derechos humanos, el empleo, la democracia y el medioambiente.
Como parte de esa estrategia, anticipó que próximamente enviará comunicaciones a compañías del sector para pedirles que adopten medidas dentro de sus posibilidades destinadas a disminuir los riesgos asociados al desarrollo de la inteligencia artificial.
El planteo vuelve a poner en el centro del debate internacional una pregunta que crece al mismo ritmo que la tecnología: cómo aprovechar el potencial de la inteligencia artificial sin permitir que su desarrollo avance más rápido que la capacidad de la sociedad para controlarlo.
