L’evoluzione dell’IA criminale: dalla sperimentazione alla fase industriale

(Adnkronos) – Secondo il report “They Don’t Build the Gun, They Sell the Bullets. An Update on the State of Criminal AI”, curato da TrendAI, business unit di Trend Micro, il mercato clandestino dell’IA ha smesso di rincorrere il sensazionalismo tecnologico per focalizzarsi sulla riduzione dei costi e sull’affidabilità dei servizi. L'analisi identifica un percorso evolutivo strutturato in tre passaggi chiave. Il primo riguarda il consolidamento: sui forum del dark web, la sopravvivenza dei servizi non dipende più dalla creazione di modelli indipendenti, ma dalla capacità di violare le piattaforme commerciali esistenti tramite jailbreak e prompt engineering. I criminali scelgono di sfruttare gli investimenti dei grandi provider invece di sviluppare infrastrutture da zero. 
La seconda fase è segnata dalla comparsa di malware adattivi. Si tratta di codici maligni in grado di generare o modificare autonomamente parti del proprio codice tramite query IA. Sebbene ancora limitati da vincoli pratici, questi campioni indicano una transizione verso attacchi polimorfici, capaci di mutare da un bersaglio all'altro per eludere i sistemi di rilevamento tradizionali. Infine, la terza fase vede l’esplosione della tecnologia deepfake nell’uso quotidiano. Strumenti di clonazione vocale e sostituzione del volto sono ora accessibili a costi irrisori, alimentando truffe di impersonificazione e infiltrazioni aziendali. Nonostante l’avanzata tecnologica degli attaccanti, le capacità difensive mantengono attualmente un margine di vantaggio grazie all’intelligence automatizzata. Tuttavia, questo divario tende a ridursi poiché l’ecosistema criminale estrae valore dalle tecnologie con una velocità superiore all'implementazione delle contromisure. "Le previsioni per il futuro non sono apocalittiche, ma incrementali", spiega Marco Fanuli, Technical Director di TrendAI Italia. "Non assisteremo a un'improvvisa esplosione di caos guidato dall'intelligenza artificiale, ma a un costante perfezionamento professionale degli strumenti che vediamo già oggi. Questo tipo di progresso silenzioso è il modo che rende gli ecosistemi criminali più difficili da distruggere". Il rischio principale identificato dallo studio non risiede in un miglioramento improvviso delle capacità offensive, ma nella normalizzazione di queste tecniche. Con l’abbassamento delle barriere d’accesso, l’IA diventa una componente fissa e permanente del crimine informatico. Le organizzazioni sono dunque chiamate a integrare queste minacce nella propria pianificazione ordinaria. Come conclude Marco Fanuli: "Le frodi basate sui deepfake, l’abuso di identità e i malware AI non sono più minacce marginali, ma criticità che devono essere incluse nella strategia di sicurezza, nei processi di verifica e nella pianificazione della risposta agli incidenti". 
—[email protected] (Web Info)