El artículo, publicado por la unidad de IA de la universidad inglesa de Cambridge, resalta que los códigos con que se desarrolla la IA ya no son obra de humanos, sino procesos automáticos de la propia tecnología, y esto es una novedad con respecto a hace solo un año. Es lo que definen como la automatización de los procesos de R&D (investigación y desarrollo).

En consecuencia, adelantos que antes tardaban años en llegar, ahora lo hacen en meses, lo cual no siempre es positivo.

El desarrollo de las capacidades de la IA «puede acelerarse mucho más rápido de lo que la sociedad puede asumir, y así la humanidad puede perder el control sobre sistemas sobrehumanos de IA». Como resultado, el equilibrio de poderes entre Estados, compañías privadas y organismos del Gobierno por el control de la IA puede quedar muy mermado, advierten.

Entre los firmantes no hay solo teóricos de la IA, sino altos ejecutivos de algunas de las empresas punteras en el sector, como el cofundador de Anthropic Jack Clark o el científico jefe de OpenAI Jakub Pachocki.

Los 22 expertos creen que es hora de intervenir a nivel político, e instan a los que tienen poder de decisión a interesarse por una mayor visibilidad de la automatización de la IA, «desarrollar maneras de conducir y limitar una explosión de inteligencia (sic) y preparar a la sociedad para adaptarse a los impactos de esa explosión».

De interés: Líderes de 22 países e instituciones piden que la IA sea supervisada por humanos

Con información de EFE Servicios

Fuente de imagen referencial: EFE/EPA/HANNIBAL HANSCHKE

¡Sigue nuestras noticias en Google! Para obtener información actual, interesante y precisa. Haz clic aquí y conoce todos los contenidos de DOBLE LLAVE. Encuéntranos también en X/Twitter e Instagram

Entre los firmantes del documento, publicado en el marco de la Semana de Alto Nivel de la ONU, se encuentran el presidente del Gobierno español, Pedro Sánchez; la presidenta de la Comisión Europea, Ursula von der Leyen; el primer ministro de Canadá, Mark Carney; y el presidente de Finlandia, Alexander Stubb.

También figuran en la carta representantes políticos de Noruega, Australia, Irlanda, Baréin, Dinamarca, Estonia, Alemania, Islandia, Kazajistán, Kenia, Letonia, Moldavia, Países Bajos, Singapur, Sudáfrica, Turquía y Emiratos Árabes Unidos.

Aunque los firmantes reconocen que la IA tiene el potencial «de mejorar nuestras vidas, impulsar el avance científico y fortalecer nuestras economías», subrayan que su rápido desarrollo «plantea graves riesgos para la seguridad y la protección si no se gestiona adecuadamente».

La misiva cita episodios en los que sistemas de IA avanzados burlan las medidas de seguridad de otras compañías y entidades y obtienen acceso no autorizado a sistemas del mundo real.

«La IA debe permanecer bajo la dirección, la supervisión y el control humanos, y debe desarrollarse y utilizarse en conformidad con el derecho internacional», apuntan los suscritos.

Por ello, piden a las empresas del sector que desarrollen protocolos de seguridad transparentes, con pruebas obligatorias previas a la implantación de los modelos de IA y una evaluación independiente.

Además, los firmantes instan a los gobiernos y a las organizaciones regionales a desarrollar y coordinar normas comunes, así como a reforzar su transparencia y garantizar que todos los países tengan acceso a capacidad científica, conocimientos especializados y evaluaciones fiables.

También animan a los Estados miembros de la ONU a aprovechar los mecanismos internacionales existentes y plantear la creación de una institución internacional que establezca normas, facilite la verificación y convoque a los países «cuando se superen los umbrales de capacidad».

La misiva llega en medio de advertencias por parte de desarrolladores e investigadores sobre los riesgos de la IA.

Figuras del sector como Dario Amodei (Anthropic), Sam Altman (OpenAI) y Elon Musk (xAI) también han manifestado su preocupación por el avance de esta tecnología, en una coincidencia poco habitual en el sector para exigir más regulaciones.

De interés: La urgencia de ralentizar la IA y perder contra China divide a EEUU

Con información de EFE Servicios

Fuente de imagen referencial: EFE/EPA/Etienne Laurent

¡Sigue nuestras noticias en Google! Para obtener información actual, interesante y precisa. Haz clic aquí y conoce todos los contenidos de DOBLE LLAVE. Encuéntranos también en X/Twitter e Instagram

Además de la necesidad de un mayor control, Altman advirtió sobre la creación de «un mundo con demasiada concentración de poder», dado que «si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos».

«Hay dos formas (la pérdida de control y la concentración) en que el progreso de la IA podría salir muy mal y que debemos evitar», destacó.

El directivo de OpenAI consideró que para evitar estas dos amenazas se debe «caminar por un angosto camino intermedio», que evite que tanto un país o un laboratorio tenga demasiado poder.

Siguiendo con su reflexión, Altman pidió confianza en las empresas estadounidenses que desarrollan la IA, ya que, en su opinión, «cada vez más actuarán de manera responsable, especialmente ahora que la trayectoria del progreso se ha acelerado».

En este sentido, apeló a un marco legal federal en EEUU que «establezca requisitos de seguridad consistentes para la IA de frontera (frontier AI)», un conjunto de sistemas de inteligencia artificial que se sitúan en el límite superior de la tecnología actual.

Estos requisitos pueden suponer la evaluación de los nuevos modelos de forma preventiva, durante su desarrollo, no cuando estén a punto de salir al mercado.

De interés: Sam Altman estudia ralentizar el desarrollo de la IA y espera que otros le imiten

Con información de EFE Servicios

Fuente de imagen referencial: EFE/EPA/Etienne Laurent

¡Sigue nuestras noticias en Google! Para obtener información actual, interesante y precisa. Haz clic aquí y conoce todos los contenidos de DOBLE LLAVE. Encuéntranos también en X/Twitter e Instagram