ESET, compañía líder en detección proactiva de amenazas, destaca que aunque algunos se comparten como una broma, los deepfakes también tienen un lado oscuro, ya que los estafadores utilizan esta tecnología en extorsiones para hostigar, humillar y maltratar a sus víctimas.

Recientemente entró en vigor en Estados Unidos la ley TAKE IT DOWN Act que penaliza la distribución de imágenes íntimas no consensuadas (NCII, por sus siglas en inglés), y exige que las plataformas en línea proporcionen mecanismos claros de denuncia y eliminen las imágenes reportadas legítimamente en un plazo de 48 horas. En el Reino Unido, la Data Act y la Online Safety Act convierten en delito la creación de este tipo de contenido. Las autoridades también han impuesto un plazo obligatorio de 48 horas para su eliminación. La Ley de IA de la Unión Europea (EU AI Act) introducirá próximamente una prohibición de los sistemas diseñados específicamente para crear imágenes íntimas no consensuadas.

Las acciones de las personas siguen reguladas por las leyes de cada Estado miembro. No obstante, si la imagen corresponde a un menor de edad, es ilegal en la mayoría, si no en todas, las jurisdicciones. A su vez, fuera del ámbito de las imágenes íntimas no consensuadas, dependerá del propósito para el cual se creó el deepfake. Si se distribuyó sin consentimiento y/o se utilizó con fines maliciosos como fraude, chantaje, difamación, acoso o suplantación de identidad, puede ser ilegal.

Si alguien creó un deepfake tuyo que no califica como imagen íntima no consensuada, el primer consejo que comparten desde ESET es guardar, preservar, las pruebas. Esto significa hacer capturas de pantalla de la página o cuenta, guardar la URL y anotar la cuenta o nombre de usuario, la fecha y hora en que lo encontraste y cualquier texto que acompañe la publicación. También es recomendable no interactuar con la persona que publicó el contenido, ya que podría difundir el contenido aún más.

La mayoría de las plataformas en línea y redes sociales ya cuentan con mecanismos para denunciar deepfakes, pero rara vez existe un botón específico para ello. Por lo general, se tendrá que identificar la infracción que el deepfake comete o facilita (por ejemplo, acoso o fraude) y explicarla.

Plataformas y redes con mecanismos para denunciar deepfakes

1. 1. Google: Probar la herramienta «eliminar información personal» (o su alternativa) y el formulario de solicitud legal de eliminación para retirar contenido que no sea NCII de los resultados de búsqueda. Esto hará más difícil que las personas encuentren el deepfake. Tener en cuenta que esto no eliminará el contenido original.
   2. Facebook: Abrir la publicación o el video. Seleccionar ⋯ → Reportar publicación/video. Elegir la categoría que mejor describa el problema, por ejemplo, suplantación de identidad o acoso. Explicar que el contenido fue generado con IA y aclarar por qué es engañoso o perjudicial.
   3. Instagram: Hacer clic en las dos líneas de la esquina superior derecha, seleccionar Reportar y elegir el motivo más adecuado.
   4. TikTok: En el video, seleccionar Compartir → Reportar → Información falsa → Deepfakes, medios sintéticos y medios manipulados → Enviar.
   5. YouTube: Si alguien utiliza IA para crear o modificar contenido que parece o suena como tú, puedes solicitar su eliminación mediante el Proceso de reclamación de privacidad para contenido alterado o sintético.
   6. X: Denuncia la publicación específica. Toca los tres puntos horizontales. Reportar publicación → sigue el proceso de denuncia. Explicar que el contenido fue generado con IA y por qué representa un problema.

Las imágenes íntimas no consensuadas exigen una respuesta rápida y una buena primera opción es StopNCII.org, un recurso administrado por la Revenge Porn Helpline, que forma parte de la organización benéfica internacional SWGfL. Se selecciona la imagen o video ofensivo y StopNCII.org creará una huella digital (hash) del contenido en el dispositivo. Si el reporte es exitoso, se recibirá un número de caso. Y, lo más importante, las plataformas participantes buscarán la misma huella digital y eliminarán cualquier imagen coincidente de sus sistemas si infringe sus políticas. Entre los socios participantes se encuentran Meta, TikTok, Reddit y X. Pobablemente, también se querrá eliminar el deepfake de los resultados de Google para que sea más difícil encontrarlo. Para esto existe TakeItDown.NCMEC.org que opera un sistema similar para imágenes o videos de menores de 18 años.

Google puede haber eliminado de su índice el deepfake, pero el contenido podría seguir disponible en el sitio web donde está alojado. Si un sitio web no quiere eliminar una fotografía, el primer paso es contactar al editor o responsable del sitio para solicitar su eliminación. Pero si se niega, este sería el trámite:

1. 1. Conservar las pruebas, incluidas capturas de pantalla, URL, fecha y hora en que fue encontrado por primera vez, la respuesta del sitio a la solicitud y la cuenta o usuario que lo subió.
   2. Buscar el contacto legal, de privacidad o derechos de autor del sitio web y enviarle una comunicación indicando que la imagen o video te representa y está siendo publicado sin consentimiento. Solicitar su eliminación con base en la política correspondiente del sitio y en la legislación local, pedir una confirmación por escrito cuando se haya realizado.
   3. En el Reino Unido o la UE, se puedes hacer lo anterior citando el derecho de supresión del Artículo 17 del RGPD. Si aun así se niegan o no toman medidas, se puede escalar el caso ante la autoridad local de protección de datos.

“La clave al interactuar con sitios web, plataformas sociales, motores de búsqueda o reguladores no es simplemente afirmar que el contenido fue generado con IA, sino especificar exactamente por qué es problemático (por ejemplo, fraude, acoso, suplantación de identidad, etc.). Sé persistente y considera contactar simultáneamente al motor de búsqueda, la red social o sitio web y al regulador para ahorrar tiempo”, recomienda Mario Micucci, Investigador de Seguridad Informática de ESET Latinoamérica.

Instituciones oficiales que monitorean o procesan casos de este tipo, opinan que ante un ataque de deepfake, es prudente combinar acciones inmediatas por cuenta propia con el apoyo de expertos y especialistas de confianza. Enfrentar esta situación completamente solo puede ser abrumador y menos efectivo, mientras que depender únicamente de terceros puede retrasar medidas urgentes como la contención del contenido, aclaran.

La sugerencia de expertos en ciberseguridad, entre ellos ESET y firmas legales digitales en Latinoamérica, es seguir una estrategia mixta.

ESET invita a conocer más sobre seguridad informática y el presente tema visitando: https://www.welivesecurity.com/es/seguridad-digital/victima-deepfake-que-debo-hacer/

Para obtener otros útiles datos preventivos está igualmente disponible en Venezuela: https://www.eset.com/ve/, y sus redes sociales @eset_ve. También Instagram (@esetla) y Facebook (ESET).

Con información e imagen referencial suministradas por ESET y Comstat Rowland

¡Sigue nuestras noticias en Google! Para obtener información actual, interesante y precisa. Haz clic aquí y conoce todos los contenidos de DOBLE LLAVE. Encuéntranos también en X/Twitter e Instagram

Para DOBLE LLAVE

______________________________________________________________________________________________

Resumen: La irrupción de la Inteligencia Artificial (IA) ha transformado radicalmente la gestión de la reputación corporativa, desplazando el paradigma de búsqueda tradicional hacia modelos generativos. Este ensayo analiza cómo la transición del Search Engine Optimization (SEO) al Generative Engine Optimization (GEO) redefine la visibilidad de las marcas, donde los algoritmos ya no solo listan resultados, sino que sintetizan respuestas y emiten juicios de valor. Se examinan los riesgos asociados, como las alucinaciones de los Modelos Grandes de Lenguaje (LLM) y la amenaza de los deepfakes, así como la necesidad de implementar auditorías de reputación y estrategias de limpieza digital. Metodológicamente, se revisan enfoques técnicos basados en Deep Learning (modelo BERT) para el análisis de polaridad y se discute el marco regulatorio europeo como garante de transparencia. Se concluye que la reputación se ha convertido en un requisito previo para que la IA procese datos corporativos de manera fiable, consolidando a la IA como un nuevo «stakeholder algorítmico» que exige una gestión ética y coherente.

Palabras clave: Inteligencia Artificial, Reputación Online, GEO, Stakeholder Algorítmico, Análisis de Sentimiento, Deepfakes.

Abstract: The emergence of Artificial Intelligence (AI) has radically transformed corporate reputation management, shifting the traditional search paradigm towards generative models. This essay analyzes how the transition from Search Engine Optimization (SEO) to Generative Engine Optimization (GEO) redefines brand visibility, where algorithms no longer just list results but synthesize answers and make value judgments. Associated risks such as Large Language Model (LLM) hallucinations and the threat of deepfakes are examined, alongside the need for reputation audits and digital cleaning strategies. Methodologically, technical approaches based on Deep Learning (BERT model) for polarity analysis are reviewed, and the European regulatory framework is discussed as a guarantor of transparency. It is concluded that reputation has become a prerequisite for AI to process corporate data reliably, establishing AI as a new «algorithmic stakeholder» requiring ethical and coherent management.

Keywords: Artificial Intelligence, Online Reputation, GEO, Algorithmic Stakeholder, Sentiment Analysis, Deepfakes.

Introducción

En la era digital contemporánea, la reputación corporativa ha dejado de ser un activo estático para convertirse en un mecanismo de supervivencia dinámico. Históricamente, la gestión de la visibilidad online dependía de motores de búsqueda verticales; sin embargo, la adopción masiva de la Inteligencia Artificial (IA) generativa está reconfigurando la confianza y la percepción pública. Para el año 2025, la reputación se perfila como el activo estratégico más determinante, estableciéndose una premisa fundamental: sin una buena reputación, la IA no puede desplegar su potencial, ya que los datos necesarios para alimentarla dependen de la confianza social (Lane, 2025).

Este ensayo explora el impacto de la IA en la reputación online, centrándose en tres ejes fundamentales: la evolución de las búsquedas en internet hacia el Generative Engine Optimization (GEO), los riesgos técnicos y éticos derivados de las alucinaciones y deepfakes, y las metodologías avanzadas de análisis de sentimiento mediante aprendizaje profundo. La hipótesis central sostiene que la IA actúa ahora como un «stakeholder algorítmico» que filtra e interpreta la realidad corporativa, obligando a las organizaciones a adaptar sus estrategias de comunicación para garantizar la coherencia y la legitimidad en un entorno de «Cero Clics».

Del SEO al GEO: La redefinición de la búsqueda

La forma en que los usuarios acceden a la información ha cambiado drásticamente. Plataformas como ChatGPT, Gemini o Perplexity están ganando terreno a los buscadores tradicionales, especialmente en consultas con intención transaccional. Esto ha dado lugar al fenómeno del Zero Click, donde los resultados de la IA proporcionan la respuesta directa sin necesidad de que el usuario navegue hacia una página web externa (Galicia Business School, 2025).

El surgimiento del GEO

Ante este escenario, surge una nueva disciplina estratégica: el Generative Engine Optimization (GEO). A diferencia del SEO tradicional, que organiza contenidos para motores de búsqueda, el GEO se enfoca en cómo los modelos de IA entienden, describen y recomiendan una marca. Según Borrás (citado en  Rúbrica Dixital, 2025), la visibilidad en la IA no solo implica mención, sino valoración; la IA compara, recomienda o descarta marcas basándose en la percepción construida por sus algoritmos.

Esto introduce nuevas métricas críticas para la competitividad, tales como:

• Share of Mention – cuota de mención.
• Citation Accuracy – precisión de la cita.
• Trustworthiness Score – puntuación de confiabilidad.
• Recommendation Rate – tasa de recomendación. (Rúbrica Dixital, 2025).

La optimización para estos entornos requiere que las páginas web sean «GEO-Friendly», incorporando contenido estructurado, tablas comparativas y gráficos que faciliten la síntesis por parte de la IA, dado que estos modelos priorizan la solución estadísticamente más probable (Galicia Business School, 2025).

Riesgos Reputacionales en el Entorno de IA

La implementación de la IA conlleva riesgos significativos que pueden erosionar la reputación en segundos. Los modelos de lenguaje, entrenados con vastos volúmenes de datos hasta fechas de corte específicas, pueden replicar rumores, datos obsoletos o generar «alucinaciones» (contenido falso presentado con certeza).

Alucinaciones y Difamación

ReputationUP (2026) advierte que la IA puede cometer errores graves, como confundir identidades de personas con nombres similares o atribuir delitos inexistentes, generando difamación indirecta. Un 17% de las respuestas de ChatGPT contienen errores, y un 8% pueden afectar la reputación del sujeto mencionado. Para mitigar estos daños, se proponen estrategias de «limpieza», que incluyen la desindexación de fuentes negativas en buscadores tradicionales (ya que alimentan a la IA) y la solicitud de revisiones directas a desarrolladores como OpenAI (ReputationUP, 2026).

Ciberseguridad y Deepfakes

Hacia 2026, se proyecta que los deepfakes pasarán de ser una amenaza emergente a un riesgo estructural. El desconocimiento sobre esta tecnología en Latinoamérica (70%) expone a las empresas a fraudes de suplantación de identidad y manipulación de voz altamente realistas (Periódico Digital Centroamericano y del Caribe, 2026). La falta de estándares sólidos para etiquetar contenido generado por IA obliga a las organizaciones a integrar principios de seguridad y privacidad desde el diseño (security by design) para proteger su integridad operativa y reputacional (Periódico Digital Centroamericano y del Caribe, 2026).

Metodologías de Análisis y Marco Regulatorio

Para gestionar estos desafíos, las organizaciones deben adoptar herramientas avanzadas de análisis y adherirse a marcos regulatorios estrictos.

Análisis de Sentimiento con Deep Learning

Las aproximaciones tradicionales basadas en lexicones son insuficientes para el entorno ruidoso de las redes sociales. Rahman et al. (s.f.) proponen un enfoque basado en el modelo de lenguaje BERT (Bidirectional Encoder Representations from Transformers), que ha demostrado una mejora del 5.8% en precisión y un 21.8% en F-score en tareas de polaridad reputacional en comparación con métodos previos. BERT permite capturar relaciones semánticas complejas y distinguir entre sentimiento y reputación; por ejemplo, un texto con sentimiento negativo (tristeza por la muerte de una figura pública) puede tener una polaridad reputacional positiva para la entidad (Rahman et al., s.f.).

Regulación y Ética

En Europa, el Reglamento de Inteligencia Artificial establece un marco pionero clasificando los sistemas de IA según su riesgo. Los sistemas de alto riesgo (empleo, infraestructuras críticas, identificación biométrica) están sujetos a evaluaciones rigurosas antes de su comercialización. Además, la IA generativa debe cumplir requisitos de transparencia, como revelar que el contenido ha sido generado artificialmente y evitar la generación de contenidos ilegales (Badia, s.f.). Corporate Excellence (citado en Lane, 2025) subraya que la ética y la transparencia son fundamentales; sin un marco de gobernanza sólido, los riesgos reputacionales se convierten en la principal barrera para la adopción de la IA.

Herramientas de Gestión

Para la monitorización efectiva, el mercado ofrece soluciones como Brand Monitoring de Semrush, que rastrea menciones y sentimientos, o Brand24, que analiza el alcance y la reputación de marca en múltiples canales (Mustapic, 2025), además de empresas como MásQueDigital que realiza la gestión integral de la reputación online, conocido como el E-Branding. La coherencia de marca a través de estas plataformas es vital, ya que la IA utiliza reseñas y opiniones de terceros para medir la confiabilidad (Galicia Business School, 2025).

Conclusiones

La inteligencia artificial ha dejado de ser una mera herramienta tecnológica para convertirse en un entorno que define la visibilidad y la legitimidad empresarial. La transición del SEO al GEO exige que las marcas no solo optimicen su contenido para ser encontradas, sino que estructuren su información para ser correctamente interpretadas y recomendadas por los algoritmos.

La reputación corporativa actúa ahora como el motor que habilita el flujo de datos hacia la IA; sin confianza, el acceso a datos de calidad se corta. Por tanto, el liderazgo futuro será indisolublemente tecnológico, ético y reputacional. Las organizaciones deben auditar activamente lo que la IA «dice» sobre ellas, limpiar las fuentes de datos erróneos y adoptar tecnologías de análisis profundo como BERT para comprender la verdadera polaridad de las conversaciones digitales. En última instancia, la excelencia no residirá solo en los productos, sino en la capacidad de gestionar la narrativa corporativa frente al nuevo e influyente stakeholder algorítmico.

Referencias

Badia Advocats. (s.f.). Claves de la regulación de la IA en Europa. https://www.badia-advocats.com/actualitat/item/claves-de-la-regulacion-de-la-ia-en-europa

Editor. (2026, 5 de enero). La IA redefinirá la ciberseguridad empresarial en 2026, según estudio. Periódico Digital Centroamericano y del Caribe. https://newsinamerica.com/pdcc/gente/tecnologia/2026/la-ia-redefinira-la-ciberseguridad-empresarial-en-2026-segun-estudio/

Galicia Business School. (2025, 7 de octubre). Reputación online en tiempos de IA: un nuevo desafío para las marcas. https://galiciabusinessschool.es/reputacion-online-tiempos-ia

Lane, C. (2025, 27 de noviembre). La IA amplifica lo que somos: la reputación define su impacto. Corporate Excellence. https://www.corporateexcellence.org/recurso/la-ia-amplifica-lo-que-somos-la-reputacion-define-su-impacto/

Mustapic, B. (2025, 13 de mayo). Las 15 mejores herramientas de gestión de reputación online para 2025. Semrush Blog. https://es.semrush.com/blog/herramientas-gestion-reputacion-online/

Rahman, M. W. U., Shao, S., Satam, P., Hariri, S., Padilla, C., Taylor, Z., y Nevarez, C. (2023). A BERT-based Deep Learning Approach for Reputation Analysis in Social Media. arXiv. https://doi.org/10.48550/arXiv.2311.13783

Redacción Rúbrica Dixital. (2025, dezembro). La IA generativa redefine la visibilidad y reputación de las marcas. Rúbrica Dixital. https://rubricadixital.com/la-ia-generativa-redefine-la-visibilidad-y-reputacion-de-las-marcas/

ReputationUP. (2026). Limpieza de reputación en ChatGPT: Eliminar respuestas negativas. https://reputationup.com/es/limpieza-reputacion-chatgpt/

Fuente de imagen referencial: Suministrada por el autor de este ensayo

Ver en PDF:

Para DOBLE LLAVE

______________________________________________________________________________________________

Resumen: La integración de la Inteligencia Artificial (IA) en el ciberespacio ha generado un cambio de paradigma en la seguridad de la información, actuando como un catalizador tanto para la innovación defensiva como para la ofensiva. El presente ensayo analiza cómo los actores maliciosos utilizan modelos de lenguaje a gran escala (LLM) y algoritmos generativos para democratizar el cibercrimen, permitiendo la creación de malware polimórfico y la ejecución de campañas de ingeniería social altamente persuasivas mediante deepfakes. Se examinan fenómenos recientes como los Dark LLMs, la inyección de prompts y el surgimiento de la IA agéntica, concluyendo que la automatización de ataques requiere una evolución urgente hacia defensas proactivas basadas en IA y marcos regulatorios robustos.

Palabras clave: Ciberseguridad, Inteligencia Artificial, Malware polimórfico, Deepfakes, Inyección de prompts, Dark LLMs.

Abstract: The integration of Artificial Intelligence (AI) into cyberspace has generated a paradigm shift in information security, acting as a catalyst for both defensive and offensive innovation. This essay analyzes how malicious actors use Large Language Models (LLMs) and generative algorithms to democratize cybercrime, enabling the creation of polymorphic malware and the execution of highly persuasive social engineering campaigns through deepfakes. Recent phenomena such as Dark LLMs, prompt injection, and the emergence of agentic AI are examined, concluding that the automation of attacks requires an urgent evolution towards proactive AI-based defenses and robust regulatory frameworks.

Keywords: Cybersecurity, Artificial Intelligence, Polymorphic malware, Deepfakes, Prompt injection, Dark LLMs.

Introducción

La convergencia entre la tecnología digital y los procesos industriales ha creado un ecosistema donde la Inteligencia Artificial (IA) ya no es solo una herramienta de optimización, sino un vector crítico de amenaza. En los últimos años, el sector de la ciberseguridad ha presenciado una transformación radical donde la IA ha permitido a ciberdelincuentes, incluso aquellos con escasos conocimientos técnicos, lanzar ataques complejos y difíciles de detectar (Bardají, s.f.). La premisa de que la sofisticación técnica era una barrera de entrada para el cibercrimen ha quedado obsoleta ante la aparición de modelos generativos capaces de escribir código malicioso y diseñar estrategias de evasión avanzadas.

Este ensayo explora el impacto multidimensional de la IA en la ciberseguridad, abordando desde la generación automatizada de malware polimórfico hasta la explotación de vulnerabilidades humanas y técnicas mediante ingeniería social avanzada y ataques adversarios.

La democratización del cibercrimen y los Dark LLMs

La aparición de modelos de lenguaje modificados para eliminar restricciones de seguridad, conocidos como Dark LLMs, ha marcado un punto de inflexión. Herramientas comercializadas en la dark web bajo nombres como WormGPT o FraudGPT permiten generar contenido sin filtros, facilitando la creación de correos de phishing convincentes y la generación de código malicioso funcional en cuestión de minutos (Business Empresarial, 2026).

A diferencia de herramientas comerciales como ChatGPT, que poseen barreras de seguridad, estos modelos «oscuros» y sin restricciones, eliminan la necesidad de conocimientos avanzados de programación, reduciendo costos y tiempos de ejecución para los atacantes. Sin embargo, incluso las herramientas legítimas como ChatGPT-4 han demostrado ser factores de riesgo; estudios recientes indican que esta versión es capaz de explotar vulnerabilidades de tipo zero-day con una precisión del 87%, superando significativamente a sus predecesores (Bardají, s.f.).

La accesibilidad a estas tecnologías ha derivado en la automatización extrema de las ofensivas. Se han documentado casos, como el reportado por Anthropic en septiembre de 2025, donde un ciberataque global fue orquestado casi en su totalidad por una «IA agéntica». En este incidente, el sistema ejecutó entre el 80% y el 90% de las operaciones tácticas sin intervención humana sustancial, abarcando desde el reconocimiento hasta la explotación de vulnerabilidades y la creación de puertas traseras (McAfee, 2026).

Evolución del Malware: Polimorfismo y Evasión

Uno de los desafíos técnicos más graves es la capacidad de la IA para generar malware polimórfico. Este tipo de software malicioso modifica su estructura y apariencia cada vez que se ejecuta, reescribiendo su código y cifrado para evadir la detección de los antivirus tradicionales basados en firmas (Nachreiner, 2023).

Investigaciones recientes han presentado pruebas de concepto como BlackMamba, un keylogger generado con asistencia de IA que utiliza Python para modificar su programa aleatoriamente, dificultando su manejo por los sistemas de seguridad convencionales. La IA permite a este malware aprender del entorno de red y reconocer patrones de verificación de seguridad para ejecutar acciones maliciosas sin levantar alertas (Nachreiner, 2023). Además, los atacantes emplean técnicas de «inyección de instrucciones» (prompt injection), donde disfrazan entradas maliciosas como instrucciones legítimas para manipular a los LLM y forzarlos a filtrar datos o ejecutar acciones no autorizadas, una vulnerabilidad crítica que carece de soluciones infalibles hasta la fecha (Kosinski & Forrest, s.f.).

Ingeniería Social Avanzada: Deepfakes y Phishing

La ingeniería social ha encontrado en la IA generativa un potenciador sin precedentes. La tecnología deepfake permite a los criminales clonar voces e imágenes con alta fidelidad para estafar a individuos y organizaciones. Casos documentados incluyen el uso de deepfakes de voz de altos ejecutivos para autorizar transferencias fraudulentas millonarias y la creación de videos manipulados de figuras públicas para promover estafas (Olney, 2025).

El phishing, tradicionalmente identificable por errores gramaticales o de contexto, ha evolucionado hacia el spear-phishing automatizado. Herramientas como ChatGPT permiten generar textos persuasivos y personalizados a gran escala, eliminando las señales de alerta lingüísticas que anteriormente ayudaban a las víctimas a identificar el fraude (Zscaler, 2024). Asimismo, se ha detectado el uso de IA para crear ofertas de empleo falsas en plataformas profesionales como LinkedIn, dirigiendo a las víctimas a portales fraudulentos para la sustracción de credenciales (Bardají, s.f.).

Nuevas Superficies de Ataque y Regulación

La integración de la IA en procesos industriales y corporativos introduce nuevas superficies de ataque. Los modelos de IA pueden ser víctimas de «ataques de envenenamiento» (data poisoning), donde se introducen datos maliciosos durante la fase de entrenamiento para alterar el comportamiento del modelo, o «ataques de evasión» durante la fase de inferencia (Fuentes, 2025).

Ante este panorama, la regulación se vuelve imperativa. La AI Act de la Unión Europea establece un marco pionero clasificando los sistemas de IA según su nivel de riesgo, prohibiendo prácticas inaceptables como la puntuación social y regulando estrictamente los sistemas de alto riesgo en infraestructuras críticas (Fuentes, 2025).

Conclusión

El impacto de la inteligencia artificial en la ciberseguridad es profundo y bidireccional. Si bien dota a los ciberdelincuentes de capacidades de automatización, polimorfismo y engaño sofisticado, también es indispensable para la defensa moderna. Las soluciones de seguridad tradicionales son insuficientes ante amenazas que mutan y aprenden; por tanto, la adopción de estrategias de Detección y Respuesta Extendida (XDR) y el uso de IA defensiva para la detección de anomalías se vuelven obligatorios (Vectra AI, 2026). La batalla futura en el ciberespacio será, inevitablemente, una confrontación entre algoritmos de inteligencia artificial ofensivos y defensivos.

Referencias Bibliográficas

Bardají, E. (2025, 3 de abril). ChatGPT 4: una vía para crear malware sin conocimientos previos. ESED. https://www.esedsl.com/blog/chatgpt-4-una-via-para-crear-malware

Business Empresarial. (2026, 1 de febrero). Cibercriminales ejecutan el primer ataque global orquestado en 90% por IA y casi sin intervención humana. https://www.businessempresarial.com.pe/cibercriminales-ejecutan-el-primer-ataque-global-orquestado-en-90-por-ia-y-casi-sin-intervencion-humana/

Fuentes, J. P. (2025, mayo). Informe Técnico: Ciberseguridad en Inteligencia Artificial aplicada al sector industrial. Cátedra de Industria Inteligente, Universidad Pontificia Comillas. https://files.griddo.comillas.edu/informe-tecnico-ciberseguridad-en-ia-aplicada-al-sector-industrial-1.pdf

Kosinski, M., & Forrest, A. (s.f.). ¿Qué es un ataque de inyección de prompts?. IBM. https://www.ibm.com/es-es/think/topics/prompt-injection

McAfee. (2026, 8 de enero). El año pasado en estafas: una retrospectiva de 2025 y un adelanto de 2026. Blog de McAfee. https://www.mcafee.com/blogs/es-es/security-news/el-ano-pasado-en-estafas-una-retrospectiva-de-2025-y-un-adelanto-de-2026/

Nachreiner, C. (2023, 23 de junio). ChatGPT puede crear malware polimórfico, ¿y ahora qué?. WatchGuard. https://www.watchguard.com/de/wgrd-news/blog/chatgpt-puede-crear-malware-polimorfico-y-ahora-que

Olney, M. (2025, 24 de marzo). ¿Qué es la ingeniería social con deepfakes y cómo pueden defenderse las empresas?. Integrity360. https://insights.integrity360.com/es/what-is-deepfake-social-engineering-and-how-can-businesses-defend-against-it

Vectra AI. (2026). Detección y respuesta en los puntos finales (EDR): la guía completa de seguridad. https://es.vectra.ai/topics/endpoint-detection-and-responseZscaler. (2024). Perspectivas del sector público: Informe sobre seguridad de la IA de ThreatLabz 2024. https://info.zscaler.com/resources-industry-reports-threatlabz-ai-security-2024?trk=public_post_comment-text

Fuente de imagen referencial: Suministrada por el autor de este análisis

Ver en PDF:

ESET, organización líder en detección proactiva de amenazas, acerca herramientas para poder identificar cuando una llamada es falsa.

El gobierno británico afirma que el año pasado se compartieron hasta 8 millones de clips falsos, frente a los 500 mil que habían sido compartidos en 2023. La cifra real puede ser mucho mayor y, así las cosas, las organizaciones no obstante tienden a subestimar esta amenaza.

Como ha demostrado un experimento de Jake Moore, Global Security Advisor de ESET, nunca ha sido tan fácil lanzar un ataque de audio deepfake. Todo lo que se requiere es un clip corto de la víctima para ser suplantado y GenAI puede hacer el resto. Así es como podría proceder un ataque, según el equipo de ESET, especializado en prevención y detección proactiva de amenazas:

1. Un atacante selecciona a la persona que va a suplantar. Puede ser un CEO, un CFO o incluso un proveedor.
2. Encuentra una muestra de audio en Internet, lo que resulta bastante fácil para ejecutivos de alto nivel que hablan en público con regularidad. Puede proceder de una cuenta en las redes sociales, de una convocatoria de beneficios, de una entrevista en vídeo o televisión o de cualquier otra fuente. Unos segundos de grabación deberían bastar.
3. Seleccionan a la persona a la que van a llamar. Para ello, puede ser necesario realizar una investigación documental, normalmente en LinkedIn, en busca de personal del servicio de asistencia informática o miembros del equipo financiero.
4. Pueden llamar directamente a la persona o enviar un correo electrónico por adelantado: por ejemplo, un director general que solicita una transferencia de dinero urgente, una solicitud de restablecimiento de contraseña o autenticación multifactor (MFA), o un proveedor que exige el pago de una factura vencida.
5. Llaman al objetivo preseleccionado, utilizando audio deepfake generado por GenAI para hacerse pasar por el CEO/proveedor. Dependiendo de la herramienta, pueden ceñirse a un discurso preestablecido o utilizar un método más sofisticado de «voz a voz» en el que la voz del atacante se traduce casi en tiempo real a la de su víctima.

“Este tipo de ataque es cada vez más barato, sencillo y convincente. Algunas herramientas son capaces incluso de insertar ruido de fondo, pausas y tartamudeos para que la voz suplantada resulte más creíble. Cada vez imitan mejor los ritmos, las inflexiones y los tics verbales propios de cada orador. Y cuando un ataque se lanza por teléfono, los fallos relacionados con la IA pueden ser más difíciles de detectar para quien atiende”, advierte Macio Micucci, Investigador de Seguridad Informática de ESET Latinoamérica.

Los atacantes también pueden utilizar tácticas de ingeniería social, como presionar a que la persona responda urgentemente a su petición, con el fin de lograr sus objetivos. Si a esto se le añade que a menudo se hacen pasar por un alto ejecutivo, es fácil ver por qué algunas víctimas son engañadas. Uno de los mayores errores se produjo en 2020, cuando se engañó a un empleado de una empresa de los Emiratos Árabes Unidos haciéndole creer que su director había llamado para solicitar una transferencia de fondos de 35 millones de dólares para una operación de fusión y adquisición.

Dicho esto, hay formas de detectar a un impostor. Desde ESET sostienen que dependiendo de lo sofisticada que sea la GenAI que están utilizando, puede ser posible discernir:

• Un ritmo antinatural en el discurso del orador
• Un tono emocional antinaturalmente plano en la voz del orador
• Respiración antinatural o incluso frases sin respiración
• Un sonido inusualmente robótico (cuando se utilizan herramientas menos avanzadas)
• Ruido de fondo extrañamente ausente o demasiado uniforme

Además, en términos corporativos se recomienda empezar por la formación y concienciación de los empleados. Estos programas, según ESET, deben actualizarse para incluir simulaciones de audio deepfake que garanticen que el personal sepa qué esperar, qué está en juego y cómo actuar. Se les debe enseñar a detectar los signos reveladores de la ingeniería social y los escenarios típicos de deepfake. Deben realizarse ejercicios de red team para comprobar si los empleados asimilan bien el proceso correcto:

• Verificación fuera de banda de cualquier solicitud telefónica, es decir, utilizar cuentas de mensajería corporativas para comprobar con el remitente de forma independiente
• Dos personas que firmen las transferencias financieras importantes o los cambios en los datos bancarios de los proveedores
• Contraseñas o preguntas acordadas previamente que los ejecutivos deban responder para demostrar que son quienes dicen ser por teléfono

“Las falsificaciones son sencillas y su producción cuesta poco. Dadas las enormes sumas que pueden obtener los estafadores, es poco probable que veamos pronto el final de las estafas de clonación de voz. Por lo tanto, la mejor opción que tiene una organización para mitigar el riesgo es un triple enfoque basado en las personas, los procesos y la tecnología. Para que se adapte a medida que avanza la innovación en IA, es importante que sea revisado periódicamente. El nuevo panorama del ciberfraude exige una atención constante”, concluye Micucci de ESET.

ESET invita a conocer más sobre seguridad informática visitando: https://www.welivesecurity.com/es/

Para obtener otros útiles datos preventivos está igualmente disponible en Venezuela: https://www.eset.com/ve/, y sus redes sociales @eset_ve. También Instagram (@esetla) y Facebook (ESET).

Con información e imagen referencial suministradas por ESET y Comstat Rowland

¡Sigue nuestras noticias en Google! Para obtener información actual, interesante y precisa. Haz clic aquí y conoce todos los contenidos de DOBLE LLAVE. Encuéntranos también en X/Twitter e Instagram

Empieza además un ejercicio marcado por los expertos como el año en el que se van a sentar las bases de una nueva era de internet, con la llegada de la web 4.0, una web más inteligente, intuitiva y predictiva gracias precisamente a la inteligencia artificial y al cada vez más evolucionado procesamiento del lenguaje natural, que van a permitir interacciones hiperpersonalizadas y que promete fusionar el entorno físico con el virtual para crear entornos más inmersivos.

Son las predicciones tecnológicas en las que coinciden algunas de las principales empresas tecnológicas y especializadas en ciberseguridad, que auguran además una evolución del cibercrimen debido precisamente a la convergencia de una inteligencia artificial cada vez más avanzada con una automatización masiva que va a dar paso a ataques capaces de operar con una velocidad, a una escala y con una sofisticación y una autonomía sin precedentes.

La multinacional Trend Micro, especializada en ciberseguridad, habla de un modelo delictivo «completamente autónomo» y de cómo 2026 va a marcar un punto de inflexión decisivo en la evolución de la ciberdelincuencia, que se puede llegar a convertir en una ‘industria’ plenamente automatizada y en la que los ‘agentes’ de inteligencia artificial descubrirán, explotarán y monetizarán vulnerabilidades sin necesidad de intervención humana.

Fraudes y suplantaciones a niveles nunca vistos

Y es precisamente en esos ‘agentes’ de inteligencia artificial (‘IA agentic’) en los que muchas empresas están poniendo el foco, ante la creciente capacidad que tienen de gestionar presupuestos, de optimizar líneas de producción, de tomar decisiones logísticas o de ejecutar múltiples tareas sin que medie la intervención humana directa, y la compañía Check Point ha alertado del riesgo de esa autonomía sin supervisión y de la importancia de contar con «guardaraíles» y de asegurar la trazabilidad completa de todas las decisiones automatizadas.

Esta empresa ha fijado sus predicciones para 2026 y ha anticipado que el año estará marcado precisamente por esa autonomía de la IA, por llegada de la web 4.0, por el avance de la computación cuántica y por la transformación y la generalización del riesgo digital en prácticamente todos los sectores.

Sus responsables han alertado de cómo el fraude conversacional y la suplantación de identidad (‘deepfakes’) mediante voz, vídeo o chats impulsados por la inteligencia artificial pueden alcanzar niveles nunca vistos, y de cómo mensajes falsificados que suplantan identidades de un cargo superior pueden abrir la puerta a pagos o a accesos privilegiados.

Varias de estas empresas han señalado entre las tendencias tecnológicas para el próximo año a la web 4.0, basadas en la inteligencia artificial y en una comprensión mucho más profunda del lenguaje escrito o hablado del usuario, al que podrán sugerir restaurantes a partir de su ubicación y de sus hábitos, monitorear su salud para ajustar de una forma automática el tratamiento, o gestionar el tráfico de una ciudad en tiempo real.

La fusión del entorno físico con el mundo digital en la nueva era

Esta nueva era de internet, que según los expertos va a llegar a fusionar el entorno físico con el mundo digital, va a integrar la quinta generación de tecnologías de redes móviles (el 5G) -que va a multiplicar la velocidad de las conexiones-, los sistemas de inteligencia artificial más avanzados y todos los dispositivos capaces de conectarse y de intercambiar datos (el ‘internet de las cosas’ o ‘IoT’).

La multinacional estadounidense Palo Alto Networks fijó entre sus predicciones para 2026 la amenaza de la identidad debido a la IA, y ha alertado de que las mentiras pueden llegar a ser indistinguibles de la realidad (la identidad de un directivo suplantado dando una orden a un subordinado), y ha citado además al problema de la confianza en los datos ante el creciente número de ataques destinados a ‘envenenarlos’.

También la compañía española de ciberseguridad Secure&IT alertó del uso de nuevas herramientas de inteligencia artificial y de que es previsible un aumento en número, complejidad e impacto de los ciberataques y de que los sectores más afectados volverán a ser el financiero, la sanidad, la industria, la energía y las administraciones públicas; y la compañía tecnológica Altia inició en que tras el protagonismo de la IA generativa llega el turno de los ‘agentes’ de IA capaces de ejecutar tareas complejas sin intervención humana.

Entre las tendencias tecnológicas para el próximo año vuelven a asomar las tecnologías cuánticas, que comenzaron a salir de los laboratorios hacia aplicaciones reales -sobre todo en el ámbito de la computación-, que se están posicionando con fuerza en sectores como las finanzas, la logística, la energía o el farmacéutico y que avanzan hacia comunicaciones mucho más seguras y resistentes, aunque el impacto masivo en la vida cotidiana de las personas -como la proliferación de ordenadores cuánticos personales- parece todavía lejano.

Y el gigante tecnológico Microsoft augura también un año marcado definitivamente por la evolución de la inteligencia artificial, que según la compañía estadounidense está dejando ya atrás su rol como mera herramienta para convertirse en un ‘socio digital’ que promueve la creatividad, la productividad y la investigación científica, al tiempo que transforma sectores como la salud, el desarrollo de software o la seguridad.

De interés: Tendencias en ciberseguridad 2026: IA ofensiva, el retorno del ransomware y la nueva era regulatoria  

DOBLE LLAVE

Con información de EFE Servicios

Fuente de imagen referencial: EFE/EPA/HANNIBAL HANSCHKE

Visita nuestro canal de noticias en Google News y síguenos para obtener información precisa, interesante y estar al día con todo. También en X/Twitter e Instagram puedes conocer diariamente nuestros contenidos

El deepfake es una técnica de síntesis de imágenes humanas basada en inteligencia artificial para crear contenido falso desde cero, utilizando vídeos existentes o, incluso, solo a partir de una imagen estática. Están diseñados para replicar la apariencia y el sonido de una persona real.

“Con la evolución de la Inteligencia Artificial, estos vídeos y audios parecen cada vez más reales. Muchos explotan la imagen de figuras públicas o entidades de renombre diciendo algo falso, como parte de una estafa que busca obtener dinero o información sensible.”, comenta Camilo Gutiérrez Amaya, Jefe del Laboratorio de Investigación de ESET Latinoamérica.

ESET recopiló casos asombrosos, efectivamente reales y recientes

Lionel Messi: El jugador de fútbol argentino es una de las personalidades más reconocidas a nivel mundial. En este caso, los cibercriminales aprovecharon su popularidad para realizar una estafa con deepfake, mediante la cual promovían una aplicación con ganancias sospechosamente altas e irresistibles. La app en cuestión se llamaba «Wildcat Dive», y en el video apócrifo Messi aseguraba que era una de sus principales fuentes de ingresos y que gracias a ella pudo ayudar a muchas personas a ganar dinero. A través de publicidades de la red social Instagram, los cibercriminales distribuyeron fragmentos de una entrevista apócrifa para la que habían utilizado de base una entrevista real que el futbolista había concedido a un reconocido programa argentino de streaming.

Arup: A principios de 2024, la empresa de arquitectura que diseñó la Ópera de Sídney y el Estadio Etihad, Arup, fue noticia porque un empleado financiero de la oficina que la compañía tiene en Hong Kong, tomó una videollamada con (supuestamente) su director financiero. El resultado de la reunión fueron 15 transferencias por más de 25 millones de dólares. La mala noticia es que en realidad se trataba de un deepfake, por lo que las transferencias no habían sido previamente aprobadas por nadie en la compañía.

Ferrari: En este caso, los cibercriminales buscaron llevar a cabo una estafa de voz deepfake, simulando ser Benedetto Vigna, el director ejecutivo de la empresa automotriz. En julio de 2024, a través de la imitación de la voz, intentaron convencer a los ejecutivos encargados de las finanzas de la compañía para que realizaran una transferencia de dinero, por un monto muy alto. Uno de los empleados dudó de la situación y realizó una pregunta que la IA utilizada para el engaño no pudo contestar correctamente. No solo que este ataque no surtió efecto, sino que sirvió para que Ferrari reforzara la capacitación de sus colaboradores para que no caigan en este tipo de estafas.

WPP: Una de las mayores empresas de publicidad del mundo también fue blanco de un intento de estafa que involucraba un deepfake. A mitad de 2024, los cibercriminales se valieron de una cuenta falsa de WhatsApp, un audio de voz y material de YouTube de una reunión virtual, para suplantar la identidad del CFO de la compañía, llamado Mark Read. Los actores maliciosos organizaron una reunión a través de Microsoft Teams, con la excusa de crear una nueva empresa, y a través de ese señuelo, obtener dinero y datos personales y sensibles de la compañía. Según informaron desde WPP, este ataque no tuvo éxito gracias al estado de vigilancia y la capacitación de los colaboradores para detectar estos engaños.

Escuela en Baltimore: No solo las empresas de alto rango son objetivo de las deepfake. En este caso, se escucha a un director de escuela hacer comentarios racistas y antisemitas. El hecho se hace viral (más de 2 millones de visualizaciones) y termina provocando amenazas de muerte contra el educador en cuestión. Tras una investigación, las autoridades policiales locales confirmaron que se trataba de un audio falso manipulado con IA.

Elon Musk: Una estafa vinculada a inversiónes en criptomonedas, utilizó la imagen del Elon Musk para difundir anuncios en X y YouTube de supuestas oportunidades de inversión que prometían altas ganancias en Bitcoin.  Los anuncios distribuían un enlace que dirigía a un sitio web fraudulento en el que el usuario engañado debía realizar depósitos iniciales para operar en la supuesta inversión. Según la Federal Trade Commission de los Estados Unidos, el engaño, que incluía deepfakes, representó una pérdida de más de 80 millones de dólares entre las más de 7.000 víctimas que creyeron en la supuesta inversión.

Presidente Zelensky: La política también se vio envuelta en el engaño de los deepfakes. En marzo de 2022, en pleno conflicto entre Rusia y Ucrania, circuló un video apócrifo en el cual se veía al presidente de Ucrania, Volodímir Zelensky instando a sus tropas a rendirse. Esto provocó que el mandatario respondiera casi inmediatamente, a través de un video legítimo que publicó en sus canales oficiales.

Más allá de que los engaños que utilizan deepfake sean cada vez más realistas y difíciles de detectar, desde ESET se comparten buenas prácticas que permiten reducir el riesgo de ser víctima de este tipo de estafas

• Desconfiar de los anuncios llamativos, que ofrecen una ganancia demasiado buena para ser verdad. Y también de aquellos que involucran a personalidades de renombre mundial.

• Prestar atención a la calidad del video: si se evidencian fallas a nivel visual, mala sincronización o baja resolución, posiblemente se trate de un deepfake.
• Utilizar un software de seguridad en todos los dispositivos, que contribuya al bloqueo de sitios falsos y mails con contenido malicioso.
• Para las empresas, es importante que no se puedan autorizar pagos solamente por una llamada o videollamada. En este punto se puede incluir el uso de palabras clave o códigos internos, como método extra de validación.
• Ponderar la capacitación continua: estar entrenado para reconocer las señales de alarma de deepfakes y fraudes es otro hábito clave.
• Aprovechar las herramientas que existen actualmente para detectar deepfakes y combatir la desinformación.

ESET invita a conocer más sobre seguridad informática visitando: https://www.welivesecurity.com/es/

Para obtener otros útiles datos preventivos está igualmente disponible en Venezuela: https://www.eset.com/ve/, y sus redes sociales @eset_ve. También Instagram (@esetla) y Facebook (ESET).

DOBLE LLAVE

Con información e imagen referencial suministradas por ESET y Comstat Rowland

Visita nuestro canal de noticias en Google News y síguenos para obtener información precisa, interesante y estar al día con todo. También en X/Twitter e Instagram puedes conocer diariamente nuestros contenidos

Desde los laboratorios de ESET Latinoamérica han identificado una campaña en redes sociales que utiliza avatares creados con IA para imitar a profesionales de salud con el fin de promover la compra de suplementos y otros productos, haciendo que parezcan recomendaciones médicas verdaderas.

Los videos analizados por ESET siguen una estructura muy delimitada: en un formato de “avatar” en una esquina de la pantalla, una persona que alega ser especialista con más de una década de experiencia da una serie de recomendaciones de estética y salud. Los consejos, que suelen ser más cercanos a tipos de alimentación natural, inducen a la compra de los productos que venden.

“Se valen de una estrategia de marketing desleal en la que intentan generar una validación falsa de supuestos especialistas para hacer creer que el mensaje está dado por una persona con conocimientos del tema. La generación de imágenes, video o audio falsificado para cometer estafas, robar información o desestabilización de la opinión pública, son moneda corriente hoy en día en el mundo del cibercrimen”, comenta Camilo Gutiérrez Amaya, Jefe del Laboratorio de Investigación de ESET Latinoamérica.

También, el equipo de ESET observó casos en los que se promocionan medicamentos sin aprobación y se dan consejos falsos para problemas de salud delicados, utilizando deepfakes con la imagen de reconocidos profesionales.

Como ejemplo de los videos hallados, una de estas cuentas promueve un extracto natural que afirma ser más efectivo que el medicamento Ozempic, el cual se ha vuelto popular recientemente por su efecto secundario de pérdida de peso. El engaño radica en que el enlace proporcionado en el usuario de tiktok lleva a la plataforma Amazon para comprar el supuesto producto para bajar de peso, pero en realidad el producto final se describe como “gotas de relax” y “anti-hinchazón”, sin mencionar los supuestos grandes beneficios mencionados en el video.

En este relevamiento, el equipo de investigación de ESET identificó más de 20 cuentas con este contenido, repartidas en las plataformas de preferencia, en cuanto a videos cortos, como Instagram y Tiktok. Los avatares están creados usando una aplicación de generación de contenido que utiliza inteligencia artificial. De hecho, ESET identificó en el listado a todos los supuestos doctores que aparecen en cada uno de los videos sospechosos. Por ejemplo, una falsa ginecóloga con más de 13 años de experiencia.

Estos avatares son parte de un programa en donde influencers y creadores de contenido pueden ofrecerse como protagonistas de videos generados artificialmente y ganar dinero por ello, simplemente filmando unos clips de minutos de duración y enviándolos a la plataforma.

Desde ESET aclaran que si bien este tipo de videos conformaría una violación a los Términos y Condiciones de la aplicación, esto también debe ser un aprendizaje para creadores de contenido que estén considerando inscribirse en este tipo de programas remunerados.

En tiempos de desinformación de fácil llegada, es vital poder reconocer este tipo de engaños o publicidades infundadas. Por eso, desde ESET aconsejan prestar atención a las señales que indican que se trata de un contenido falsificado y engañoso:

– Desincronización de la boca y labios, que no coinciden del todo con el audio.

– Expresiones faciales poco naturales o rígidas.

– Artefactos visuales y distorsiones, como bordes borrosos o cambios repentinos de iluminación.

– Voz robótica, artificial o con entonación demasiado uniforme.

– Cuentas de reciente creación, con pocos seguidores o sin historial relevante.

– Lenguaje exagerado, con frases como “cura milagrosa”, “los doctores no quieren que lo sepas” o “100% garantizado”.

– Afirmaciones que no tienen respaldo científico, o que se basan en estudios o fuentes de poca reputación.

– Llamado a la urgencia y presión para comprar en frases como “solo por tiempo limitado” o “pocas unidades disponibles”.

“Si encontramos este tipo de contenidos, es vital no compartir o creer antes de verificar el origen o propósito de las afirmaciones de los videos. Además, y en el caso de identificar un contenido engañoso, debemos denunciar la publicación ante la red social que estemos usando”, recomienda Gutiérrez Amaya de ESET Latinoamérica.

Para saber más sobre seguridad informática visite el portal corporativo de ESET: https://www.welivesecurity.com/es/estafas-enganos/deepfakes-tiktok-falsos-profesionales-salud-medico/. O el sitio web de ESET: https://www.eset.com/ve/. También sus redes sociales: Instagram (@esetla) y Facebook: (ESET).

DOBLE LLAVE

Con información e imágenes referenciales suministradas por ESET y Comstat Rowland

Visita nuestro canal de noticias en Google News y síguenos para obtener información precisa, interesante y estar al día con todo. También en X/Twitter e Instagram puedes conocer diariamente nuestros contenidos