OpenAI ha pubblicato un rapporto rivelando che “attori statali” stanno utilizzando ChatGPT per la creazione di malware. Il documento, intitolato “Influence and Cyber Operations: An Update“, analizza come i malintenzionati sfruttato i modelli del gruppo capitanato da Sam Altman, principalmente il chatbot basato su GPT, per condurre azioni dannose. Sottolineando anche come l’azienda abbia contrastato quando possibile tali attività.
Phishing e scraper con ChatGPT
Dall’inizio del 2024, OpenAI ha sventato oltre 20 operazioni illegali e reti ingannevoli in tutto il mondo. Tra le attività citate quelle più comuni includono la generazione di e-mail per campagne di phishing mirate. Vi sono stati però degli episodi più particolari, come quello attribuito all’operazione iraniana Storm-0817 durante la quale ChatGPT è stato usato per sviluppare un malware Android rudimentale. Ciò oltre a creare uno scraper per Instagram e tradurre profili LinkedIn in persiano.
Un altro caso, con origine in Cina, ha visto SweetSpecter utilizzare ChatGPT per attacchi di phishing senza risultati particolarmente preoccupanti. Gli attaccanti hanno cercato di sfruttare l’intelligenza artificiale per il debug di un’estensione di sicurezza. Rilevata anche la creazione di un framework per l’invio di messaggi malevoli.
Il rapporto menziona inoltre il gruppo iraniano CyberAv3ngers. Una crew che ha utilizzato ChatGPT per attività di ricerca di vulnerabilità e scripting. Questo oltre a esplorare dei protocolli industriali connessi a internet.
Ancora nessun vero allarme
Nonostante gli esempi citati, OpenAI non avrebbe riscontrato avanzamenti tecnologici rilevanti che permettano di creare nuovi tipi di malware o aumentare l’engagement degli utenti coinvolti in iniziative legate al phishing.
Il documento ha inoltre descritto operazioni mirate all’influenza politica, Come Storm-2035. Un’iniziativa iraniana durante la quale si è cercato di usare ChatGPT per creare articoli su elezioni e conflitti internazionali. I risultati in termini di coinvolgimento del pubblico sono stati comunque limitati. Ad eccezione di un post virale in Russo, scritto però manualmente, creato per attirare attenzione su X.
