CyberCrime: il fenomeno dei rapimenti virtuali

Rapimenti virtuali: uno studio Trend Micro approfondisce in che modo gli strumenti di clonazione vocale basati su AI e Chat GPT possono essere utilizzati dai cybercriminali per compiere truffe o estorsioni

Rapimenti virtuali: il cybercrime apre nuovi inquietanti scenari. Le tecnologie come l’intelligenza artificiale (IA) e l’apprendimento automatico, sviluppate per migliorare la produttività e la nostra vita quotidiana, vengono purtroppo sfruttate anche dai cybercriminali. Recentemente, gli attori malintenzionati hanno abusato della tecnologia dell’IA per impersonare in modo accurato persone reali come parte dei loro attacchi e truffe: entriamo nel terrificante mondo dei “rapimenti virtuali”.

Cosa sono i rapimenti virtuali?

Uno di questi schemi di truffe coinvolge l’uso di file vocali falsi generati dall’IA, noti anche come audio deepfake, che possono essere generati usando piccole quantità di informazioni biometriche raccolte da contenuti personali pubblicati su fonti pubbliche come TikTok, Facebook, Instagram e altre piattaforme, compresi i portali governativi.

Gli strumenti IA come VoiceLab possono essere usati per elaborare la biometrica vocale di una persona, dando vita ad una voce deepfake che suonerebbe proprio come quella specifica persona. Ciò è noto anche come clonazione vocale, che avviene quando le biometrie vocali vengono raccolte per il riscatto, l’estorsione e la frode.

Gli attori malintenzionati che sono in grado di creare una voce deepfake della figlia di qualcuno possono utilizzare un copione (forse uno tratto da una sceneggiatura di un film) per far sembrare che la figlia stia piangendo, urlando e che sia in profondo distress. I malvagi possono poi usare questa voce deepfake come prova che hanno il figlio della vittima “mirata” in loro possesso, pressando la vittima a inviare grandi somme di denaro come riscatto.

Un caso di rapimento virtuale

Un esempio di questa nuova forma di cybercriminalità si è verificato nel 2023, quando una donna dell’Arizona di nome Jennifer DeStefano ha riferito che un chiamante anonimo aveva rapito sua figlia di 15 anni e chiedeva un riscatto di 1 milione di dollari. Se non avesse pagato, avrebbero fatto del male a sua figlia.

Il rapimento virtuale è un crimine emergente che abusa delle tecnologie AI per manipolare i processi decisionali. Gli attori malvagi sfruttano l’IA per introdurre stimoli negativi al fine di controllare in modo scorretto le emozioni umane per guadagno illecito.

Gli elementi dei rapimenti virtuali

Gli elementi tipici di un attacco di rapimento virtuale sono i seguenti:

1. Individuazione di una potenziale vittima (parente di un rapito). Questa è una persona che è in grado di pagare un riscatto.
2. Creazione di una storia. Quanto più è manipolativa emotivamente la storia, tanto più sarà compromessa la capacità di giudizio e di critica della vittima.
3. Raccolta delle biometrie vocali dai post sui social media della vittima del rapimento virtuale.
4. Identificazione di tempi e elementi logistici.
5. Effettuazione della chiamata.
6. Iniziative post-chiamata. Queste includono, ma non si limitano a, il riciclaggio del denaro del riscatto, la cancellazione di tutti i file pertinenti, e lo smaltimento del telefono usa e getta utilizzato.

 L’abuso degli strumenti di chat alimentati dall’IA nei rapimenti virtuali

Oltre agli strumenti di clonazione vocale alimentati dall’IA, un altro strumento IA, un chatbot di elaborazione del linguaggio naturale chiamato ChatGPT, può essere abusato per colmare le lacune di competenze degli attaccanti e aiutare a scalare quello che sarebbe normalmente un processo manuale e dispendioso nel loro attacco.

Nuove tecnologie e approcci

Le nuove tecnologie, come gli strumenti AI, stanno cambiando il panorama del crimine online, rendendo possibile per i criminali estorcere denaro alle vittime in modi sempre più sofisticati e difficili da rilevare. Mentre queste tecnologie avanzano e si diffondono, dobbiamo rimanere vigili e informati per proteggere noi stessi e le persone che ci sono care.