Europol sulla cybersecurity: attenzione alle AI

Secondo il report dell’Europol intitolato "ChatGPT. The impact of Large Language Models on Law Enforcement", i modelli linguistici generativi come quelli sviluppati da OpenAI potrebbero offrire agli utenti malintenzionati nuovi strumenti in grado di facilitare le attività illegali. Azioni malevole "tradizionali" troverebbero così modalità più rapide per la loro esecuzione.

L’analisi è stata condotta concentrandosi sul funzionamento dell’LLM (Large Language Model) GPT-3.5, cioè la versione di GPT (Generative Pre-trained Transformer) attualmente in uso sulla release gratuita e accessibile a tutti del chatbot ChatGPT. L’evoluzione chiamata GPT-4 è invece disponibile tramite ChatGPT Plus che costa 20 dollari al mese.

I rischi derivanti dalla possibilità di utilizzare GPT per scopi illeciti riguarderebbero innanzitutto il fatto che quest’ultimo è particolarmente abile nella produzione automatica del codice. Tale caratterisitica potrebbe esere quindi sfruttata per realizzare molto rapidamente dei malware, come dimostrato da alcuni casi recentemente segnalati su forum dedicati all’hacking.

Dovrebbe essere poi tenuta in particolare considerazione la capacità dei modelli linguistici di produrre testi coerenti e credibili. Da questo punto di vista è possibile che nel prossimo futuro, e in parte già adesso, le Intelligenze Artificiali possano essere utilizzate per automatizzare le campagne di disinformazione e diffondere fake news online.

Le capacità linguistiche di GPT potrebbero essere sfruttate infine per rendere più efficace il phishing, eliminando ad esempio gli errori grammaticali che spesso si verificano a causa dei traduttori automatici. A breve quindi distinguere un’e-mail generata da un’Intelligenza Artificiale e un messaggio scritto da un essere umano potrebbe essere quasi impossibile.

Per restare sempre aggiornato seguici su Google News! Seguici