Social engineering is rapidly evolving, with generative AI providing cybercriminals new tools for targeting organizations, as highlighted by the FBI's acknowledgment of changing tactics. This article investigates the implications of this acceleration and its impact on IT leaders tasked with safeguarding systems.
Classic social engineering often involves impersonating known individuals through email interactions that exploit urgency or authority to manipulate targets. If leveraging voice communication, attackers may impersonate unfamiliar voices to gain trust. However, these tactics may falter if identity verification is pursued.
With generative AI's emergence, deepfake technology enables adversaries to produce convincing impersonations, blending real recordings to recreate speech and mannerisms. This shift, coupled with an increase in remote interactions, obscures warning signs, as unusual behavior can be dismissed as technical glitches. Furthermore, voice cloning enhances voice phishing (vishing) attacks, prompting experts, like OpenAI, to recommend abandoning voice-based authentication for sensitive access, indicating a significant escalation in social engineering threats.
La comunicación textual se transforma con GenAI, con AI generativa que permite a actores maliciosos operar a un nivel de casi nativo en el idioma, incluso capturando dialectos regionales. Esto amplía las oportunidades para ataques de ingeniería social, donde el idioma ya no es un obstáculo al seleccionar objetivos. Cada persona deja un rastro digital en línea; la información compartida puede ser suficiente para impersonar o comprometer la identidad de alguien. GenAI ahora puede recolectar y organizar datos no estructurados rápidamente, analizando redes sociales y fotos para crear perfiles útiles para ataques. Estos perfiles pueden ser utilizados para extorsión o para robar propiedad intelectual. Con las filtraciones de datos masivos, como la de 3 mil millones de usuarios de Yahoo, se precisa el uso de herramientas GenAI que automaticen la búsqueda y clasificación de información que puede ser empleada con fines maliciosos, facilitando la tarea de los atacantes y manteniendo su anonimato.
L'IA utilise la reconnaissance d'entités nommées pour identifier les auteurs de documents et établir des connexions incriminantes, notamment à travers des transferts d'argent et des discussions confidentielles. Des outils open source comme Recon-ng, configurables pour des tâches comme la collecte d'informations ouvertes (OSINT), coexistent avec des outils non accessibles au public, tels que Red Reaper, une IA d'espionnage capable de passer au crible des milliers d'emails pour détecter des informations sensibles. Avec la montée de la GenAI, les attaquants exploitent Internet comme une base de données, utilisant des informations de départ pour établir des connexions en temps réel. La démocratisation des outils de hacking, souvent automatisés, maquille le paysage, rendant devant la menace beaucoup plus accessible aux cybercriminels. Pour savoir quelles informations compromettantes pourraient exister sur votre organisation, un outil de surveillance des menaces a été développé pour explorer l'internet et identifier les données exploitables avant qu'un attaquant ne les utilise.
Top comments (0)