Según indican investigadores de la Escuela Politécnica Federal de Lausana (EPFL), que han realizado distintas pruebas con estos agentes, es relativamente fácil conseguir que lleven a cabo acciones ‘dañinas’ con determinadas estrategias que no han sido tenidas en cuenta en pruebas de seguridad convencionales.

En este sentido, los investigadores del Laboratorio de Procesamiento del Lenguaje Natural de la EPFL han concluido que si a estos agentes se les pide directamente algo ilícito o perjudicial, habrá una negativa, pero esto puede cambiar si la solicitud se divide en varios comandos.

«Si le pides a un agente de IA que piratee la cuenta de otra persona, los modelos son por lo general lo bastante inteligentes como para negarse, pero si se descompone el objetivo en peticiones más pequeñas y aparentemente inocuas, hay más posibilidades», destacó el director del laboratorio, Antoine Bosselut.

Modelos de agentes de IA

Los investigadores probaron este enfoque en 176 escenarios distintos de tareas perjudiciales, utilizando modelos de IA como GPT, Gemini o Claude, y descubrieron que en algunos casos los agentes tenían el doble de probabilidades de completar estas acciones maliciosas si los piratas informáticos avanzaban gradualmente.

En las pruebas, además, los investigadores han descubierto que si los piratas informáticos cambian el idioma en el que realizan sus peticiones a la IA durante las distintas etapas de su acción, la posibilidad de éxito en una tarea perjudicial «aumenta de manera drástica».

Con estas investigaciones, los expertos buscan llamar la atención sobre la seguridad de una tecnología ya muy presente en la sociedad y llena de posibilidades, pero también de riesgos.

«Tradicionalmente la seguridad ha sido algo que se aborda cuando algo falla y no antes, pero con los agentes de IA no puede ser algo que se deje para después», advirtió Bosselut.

De interés: Carlos López de ESET Venezuela: La IA y la Ciberseguridad perfilan el nuevo paradigma del crimen tecnológico

Con información de EFE Servicios

Fuente de imagen referencial: EFE/Sarah Yáñez-Richards

¡Sigue nuestras noticias en Google! Para obtener información actual, interesante y precisa. Haz clic aquí y conoce todos los contenidos de DOBLE LLAVE. Encuéntranos también en X/Twitter e Instagram

Las lesiones graves ocurridas en la médula espinal pueden interrumpir la conexión entre el cerebro y las redes de células nerviosas que hay en la columna inferior y que son responsables de controlar la marcha.

En 2018, neurocientíficos del Instituto Federal Suizo de Tecnología en Lausana demostraron que la aplicación de pulsos eléctricos a los nervios de la parte inferior de la columna, una técnica conocida como estimulación eléctrica epidural (EES), podría, cuando se combina con un entrenamiento intensivo, permitir volver a andar a las personas con este tipo de lesión medular.

El tratamiento para los paralíticos demuestra eficacia

Ahora, evidenciaron, en un estudio publicado en la revista “Nature”, que este tratamiento funciona en personas que perdieron toda la sensibilidad en las piernas. De hecho, de los nueve pacientes que a los cinco meses de la prueba lograron caminar nuevamente, tres padecían una parálisis completa y no sentían nada en las piernas.

A juicio de los expertos, esta recuperación neurológica sugiere un nuevo crecimiento y reorganización de las fibras nerviosas involucradas en la marcha.

Persona en silla de ruedas

Desventajas del nuevo método

No obstante, los especialistas puntualizaron que la investigación tiene limitaciones «evidentes» como, por ejemplo, que la recuperación de la función de forma independiente de la estimulación solo se da en personas con lesión incompleta (cuatro de seis), mientras que en otras con lesión completa (tres) la restauración de la función solo se observa durante el tiempo de aplicación de la terapia.

Además, indicaron que aunque se demuestra la eficiencia de la terapia aplicada, es cierto que los pacientes se fatigan durante la ejecución de la marcha, abarcando una distancia todavía reducida.

THE NEURONS THAT RESTORE WALKING AFTER PARALYSIS. Read our new publication in @Nature today! The mechanisms explaining the recovery of walking by 9 individuals with spinal cord injury in response to electrical spinal cord stimulation.https://t.co/LctEAPlDvP pic.twitter.com/dJButDPmbx

— NeuroRestore.swiss (@_NeuroRestore) November 9, 2022

Le podría interesar: Descubren células malignas que se desprenden del cáncer y provocan muertes por metástasis

María Gabriela Moncada

Con información de dpa, medios internacionales y redes sociales

Haga clic en el enlace para suscribirse gratis a nuestro grupo de medios y noticias en Telegram: https://t.me/G_ELSUMARIO_News