«La actual carrera hacia una IA cada vez más potente supone un salto cualitativo hacia mayores riesgos existenciales para todos los aspectos de nuestras vidas», aseguró el jefe de derechos humanos de la ONU en un comunicado, después de que empleados de ese sector tecnológico hayan urgido a ralentizar el avance de esa tecnología.

La IA agéntica, que va más allá de la convencional y puede tomar sus propias decisiones, está mostrando fallos que «podrían paralizar servicios esenciales, fracturar las comunicaciones, desestabilizar infraestructuras críticas y golpear en el corazón mismo de las instituciones democráticas», advirtió Türk.

«Poblaciones enteras podrían quedar sin acceso a agua, calefacción o servicios financieros», agregó el alto comisionado, quien aseguró que la IA «ya está acelerando el ritmo de las guerras, ampliando su alcance y erosionando las salvaguardias que se interponen entre nosotros y el lanzamiento de armas de destrucción masiva».

Las advertencias del jefe de derechos humanos de la ONU se producen después de que personalidades como Dario Amodei, consejero delegado de Anthropic; el director ejecutivo de OpenAI, Sam Altman; o el magnate Elon Musk reclamaran frenar deliberadamente el ritmo de desarrollo de los modelos de IA más avanzados frente a riesgos como la pérdida de control sobre los sistemas.

Según Türk, Estados y empresas deben movilizarse con urgencia a través de foros multilaterales para gobernar la IA sobre la base del derecho internacional y los derechos humanos.

«Ningún país puede gobernar esta tecnología por sí solo, ninguna empresa debería poder decidir por sí sola qué riesgos debe aceptar el mundo, y ninguna persona debería verse obligada a renunciar a sus derechos humanos a cambio de promesas de progreso tecnológico», resumió el alto comisionado austríaco.

De interés: Candidato a dirigir la OIT promete abordar retos de la IA para el mundo laboral

Con información de EFE Servicios

Fuente de imagen referencial: EFE/UN Human Rights Office Of The High Commissioner

¡Sigue nuestras noticias en Google! Para obtener información actual, interesante y precisa. Haz clic aquí y conoce todos los contenidos de DOBLE LLAVE. Encuéntranos también en X/Twitter e Instagram

Mientras Amodei, fundador de Anthropic, acusó ahora a la industria de «mentir» sobre los riesgos de la IA y pidió que el Gobierno intervenga, algo que respaldaron los demócratas, Trump y los republicanos rechazaron regulaciones con el argumento que Estados Unidos debe evitar que China tome el liderazgo de la tecnología.

Trump tachó de «fuerzas negativas» a quienes piden regular la inteligencia artificial, al considerar que Estados Unidos está «liderando ante China en IA», es «el país más sofisticado del mundo» y él desea «mantenerlo de esa manera».

«Podemos poner salvaguardas, podemos hacer esto y aquello. Pero creo que hay muchas fuerzas negativas planteando el tema que no deberían estar planteándolo. Y están planteando cosas que no van a suceder. Pero quien gane con la IA, gana. Es una expresión que se me ocurrió y es verdad», declaró Trump a los medios en Irlanda.

Crecen las alertas de los gigantes de la IA

El director de Anthropic consideró «el dilema más duro» del debate el hecho que, si Estados Unidos ralentiza el desarrollo de la IA, China avanzaría.

Aún así, reiteró la advertencia en un ensayo en el que urgió «un ritmo más lento» a la industria ante los crecientes riesgos de seguridad de la IA, algo a lo que se sumaron sus rivales Altman, de OpenAI, y Musk, de xAI, un hecho inédito en el sector.

«No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgo. Nosotros nunca lo hicimos (en Anthropic), pero mucha de la industria lo hizo«, aseguró Amodei en una entrevista al programa ‘Sunday Morning’ de CBS.

Aunque Amodei alertó en su ensayo de riesgos como el mal uso de la inteligencia artificial para posibles ciberataques y bioterrorismo, la pérdida del control de los sistemas de IA y la disrupción económica, en la entrevista de ahora rechazó una «prohibición completa» de la tecnología.

La controversia sobre la IA se intensifica desde el martes pasado, cuando un investigador de Anthropic que también trabajó para OpenAI, Jacob Coxon, renunció por la preocupación de que la empresa y sus competidores no estuvieran desarrollando modelos de IA de manera responsable porque les interesa más competir entre ellas.

Políticos divididos y ciudadanos unidos

Las alertas se elevan mientras siete de cada diez estadounidenses, el 70 %, se considera «más preocupado que emocionado» por la IA, y una proporción similar, el 69 %, rechaza la construcción de centros de datos en su comunidad, lo que incluye a mayorías de los mayores partidos, según una encuesta de NBC News de hace una semana.

Pero el presidente de la Cámara de Representantes, el republicano Mike Johnson, rechazó una moratoria de emergencia para evitar, según él, que China tenga el liderazgo, mientras el líder de los demócratas en el Congreso, Hakeem Jeffries, pidió «actuar con urgencia» y «tomar medidas decisivas ahora».

Jonhson pidió un encuentro con las compañías del sector este lunes o martes, mientras Jeffries adelantó que el martes habrá una reunión de los demócratas en la Cámara Baja en la que «una alta prioridad será la acción en inteligencia artificial».

De interés: Sam Altman estudia ralentizar el desarrollo de la IA y espera que otros le imiten

Con información de EFE Servicios

Fuente de imagen referencial: EFE/Angel Colmenares

¡Sigue nuestras noticias en Google! Para obtener información actual, interesante y precisa. Haz clic aquí y conoce todos los contenidos de DOBLE LLAVE. Encuéntranos también en X/Twitter e Instagram