back to top

Microsoft: Counterfit per la sicurezza dell’AI

Counterfit è un’utility rilasciata dalla Casa di Redmond che permette di valutare il livello di sicurezza di un sistema basato sull’Intelligenza Artificiale. Si tratta di una soluzione Open Source, il codice è scaricabile da un apposito repository di GitHub, utilizzabile da linea di comando e in grado di effettuare controlli in modo del tutto automatico.

La creazione di questo tool è dovuta al fatto che, come dimostrerebbe una rilevazione svolta dalla stessa Microsoft, la maggior parte delle aziende che adottano piattaforme animate da algoritmi di Machine Learning non dispongono di software pensati specificatamente per questo scopo. Dato l’impiego sempre più ampio della AI in ambiti anche molto delicati come la Sanità, Counterfit potrebbe diventare uno standard in questo settore.

Per testarne l’efficienza, soprattutto dal punto di vista proattivo, il gruppo capitanato da Satya Nadella ha svolto diversi test interni realizzati sono forma di simulazioni di attacco. Per questo scopo sono stati utilizzati inizialmente degli script Python implementati per colpire determinati modelli di AI, successivamente sono stati monitorati i risultati ottenibili nel corso di attacchi automatici di grandi dimensioni.

A rendere Counterfit particolarmente performante è il fatto che esso non effettua alcuna distinzione tra tipi di dato (data agnostic) ed è in grado di trattare nello stesso modo parametri di input generici, testi, immagini o altri contenuti multimediali. Nello stesso modo può essere utilizzato in qualsiasi infrastruttura (environment agnostic) sia essa locale, Cloud based o Edge.

Come sottolineato dall’azienda californiana nel post di presentazione del progetto, Counterfit è un generic automation layer che presenta anche il vantaggio di astrarre il funzionamento interno dei modelli di AI (model agnostic) permettendo ai professionisti della sicurezza di concentrarsi sulle valutazioni e non sulla configurazione di riferimento.

Pubblicità
Claudio Garau
Claudio Garau
Web developer, programmatore, Database Administrator, Linux Admin, docente e copywriter specializzato in contenuti sulle tecnologie orientate a Web, mobile, Cybersecurity e Digital Marketing per sviluppatori, PA e imprese.

Leggi anche...

Microsoft niente più giochi esclusivi per Xbox?

Negli corso degli ultimi anni Microsoft ha modificato in...

ChatGPT Pro: AI avanzata a 200 dollari al mese

Nelle scorse ore OpenAI ha lanciato ChatGPT Pro. Un...

RT-G: il Robocop cinese è una sfera con un lancia-reti integrato

Le autorità cinesi hanno avviato i primi test dell'RT-G,...

Google lancia Gemini 2.0, l’AI che opera tramite Agenti

Google ha ufficializzato il lancio di Gemini 2.0, il...

Windows 11 migliora l’indicatore della batteria

Microsoft ha recentemente lanciato un nuovo aggiornamento per Windows...

GenCast: l’AI di Google per le previsioni meteo

DeepMind, la divisione di intelligenza artificiale di Google, ha...
Pubblicità