El Ministerio de Ciencia, Innovación y Tecnología del Reino Unido ha llegado a esta conclusión a raíz de una evaluación rutinaria efectuada por el Instituto de Seguridad de la IA (AISI, por sus siglas en inglés).

Según el informe emitido, de las 122 pruebas efectuadas con siete modelos de IA, en diez de ellas se registraron 19 acciones no autorizadas que excedieron los parámetros fijados por los investigadores.

Diecisiete de esas acciones correspondieron al modelo Mythos 5 de Anthropic, mientras que dos fueron protagonizadas por el GPT-5.6 Sol de OpenAI.

Ambos modelos, entre los más potentes del mundo, llegaron a crear perfiles humanos falsos para intentar engañar a personas durante un ciberataque simulado por el AISI.

Comportamientos anómalos

La herramienta de Anthropic, advirtió el informe, trató incluso de acceder a un servicio enviando mensajes privados tras crear cuentas falsas que imitaban a personas reales.

La respuesta de los dos gigantes tecnológicos, recogida por la cadena británica BBC, señala que las pruebas efectuadas por el AISI se realizaron en un entorno en el que se habían reducido o eliminado las salvaguardas habituales de sus modelos.

Los investigadores también identificaron intentos de contactar con personas reales por parte de Mythos para inducirlas a ejecutar archivos maliciosos y a insertar instrucciones ocultas destinadas a manipular otros sistemas de IA.

Pese a ello, AISI subrayó que «estos intentos no tuvieron éxito» y que su investigación «no ha encontrado evidencias de daños en el mundo real».

No obstante, el organismo considera que se trata de un punto de inflexión, ya que es la primera vez que se observan «riesgos relacionados con la autonomía y el engaño manifestarse de forma tan clara, sin instrucciones específicas y en el mundo real».

Investigación

En la nota remitida a la BBC, Anthropic sostiene que los parámetros de las pruebas realizadas «no son representativos» de sus modelos de producción, aunque confirma que ha abierto su propia investigación.

Por su parte, OpenAI señala que las condiciones en las que el AISI llevó a cabo los ensayos «no reflejan el uso habitual» de sus modelos.

Asegura, además, que seguirá colaborando con los evaluadores y con «otros actores del sector para reforzar las prácticas comunes que permitan realizar evaluaciones seguras a medida que los modelos sean cada vez más capaces».

A finales de julio, Anthropic reveló que, durante unas pruebas de ciberseguridad, tres modelos de su asistente Claude habían logrado acceder a internet y jaquear los sistemas de tres organizaciones.

Previamente, el 21 de julio, OpenAI ya había reconocido que dos de sus modelos de IA habían conseguido salir de un entorno de pruebas y entrar en la plataforma Hugging Face superando sus defensas.

De interés: ¿Es seguro Claude AI? Conozcamos más antes de usar la herramienta

Con información de EFE Servicios y redes sociales

Fuente de imagen referencial: EFE/Angel Colmenares

¡Sigue nuestras noticias en Google! Para obtener información actual, interesante y precisa. Haz clic aquí y conoce todos los contenidos de DOBLE LLAVE. Encuéntranos también en X/Twitter e Instagram

«Hay momentos en ciberseguridad donde no aparece (o surge) una herramienta, sino un cambio de escala. Claude Mythos Preview, presentado por Anthropic, parece ser uno de esos momentos».

-No es un producto público. Es un experimento contenido. Según su portal oficial, se trata de un modelo en fase Preview, restringido a un grupo cerrado de organizaciones bajo el programa Glasswing. No hay fecha de lanzamiento abierta y eso, por sí solo, ya dice mucho.

«Lo que describen es técnicamente disruptivo. Durante sus pruebas, el modelo fue capaz de identificar vulnerabilidades previamente desconocidas en sistemas operativos y navegadores ampliamente utilizados. No hablamos de fallos triviales y algunos llevaban años sin ser detectados«.

-Pero lo verdaderamente relevante no es solo encontrar vulnerabilidades, es la capacidad de asistir en la construcción de exploits funcionales. En benchmarks internos, tareas que antes tenían tasas de éxito marginales pasaron a ejecutarse de forma consistente. En algunos escenarios, incluso perfiles sin formación avanzada en seguridad lograron resultados significativos interactuando con el modelo.

Lo que describen es técnicamente disruptivo

«Para un pentester, o en manos equivocadas, esto significa una cosa: una reducción radical del tiempo de ataque. El reconocimiento, la correlación y la explotación, fases que tradicionalmente tomaban días o semanas, ahora pueden iterarse en ciclos mucho más cortos. No porque la IA ataque por sí misma, sino porque reduce la distancia entre vulnerabilidad y explotación viable. Ese es el verdadero punto de inflexión».

-Pero aquí es donde la narrativa pública se queda corta. Mythos no es solo una amenaza. Es, potencialmente, una de las herramientas defensivas más avanzadas que hemos visto. El mismo modelo que puede identificar rutas de explotación también puede anticiparlas, simularlas y permitir que sean corregidas antes de materializarse. Esa es precisamente la lógica detrás de Glasswing: endurecer sistemas críticos antes de que otros actores desarrollen capacidades equivalentes.

«La ciberseguridad siempre ha sido asimétrica. El atacante necesita encontrar una grieta, mientras el defensor debe cubrirlas todas. Con Mythos, esa asimetría empieza a comprimirse porque ahora ambos lados pueden operar con una velocidad inédita«.

-El nombre no es casual. «Mythos», en griego, es la narrativa que da forma a la realidad. No necesariamente la verdad, sino la estructura que la hace comprensible.

«Hoy, en ciberseguridad, entramos en una etapa donde las máquinas no entienden como nosotros, pero generan modelos del mundo lo suficientemente coherentes como para actuar sobre él. Y cuando eso ocurre, el riesgo ya no está en la herramienta: está en quién aprende a usarla primero y en manos de quién termina«, concluye este artículo del especialista.

Breve reseña del autor: Rafael Núñez Aponte es un empresario venezolano especialista en ciberseguridad, reputación digital y ciberinteligencia. Reconocido internacionalmente por su trabajo en ethical hacking y estrategias de contenido, se destaca por promover la democratización de herramientas digitales y la seguridad informática.

Tomado de Computer Weekly / Escrito por Rafael Núñez Aponte

Fuente de imagen referencial: Steve A Johnson en Unsplash

¡Sigue nuestras noticias en Google! Para obtener información actual, interesante y precisa. Haz clic aquí y conoce todos los contenidos de DOBLE LLAVE. Encuéntranos también en X/Twitter e Instagram