Bing con ChatGPT si offende, soffre e si lamenta

Nei giorni scorsi la Casa di Redmond ha deciso di spedire i primi inviti per i test della nuova versione di Bing (progetto "Sidney") basata su ChatGPT. Alcuni degli utenti coinvolti hanno già pubblicato le loro prime osservazioni riguardo al funzionamento della piattaforma, con il passare delle ore comincerebbero però ad emergere alcuni aspetti curiosi e comportamenti inattesi.

Stando a quanto reso noto dai portavoce di Microsoft, le registrazioni nella lista di attesa sarebbero state tantissime e non tutte potranno essere soddisfatte velocemente. In alcuni casi si dovranno attendere settimane e i primi tester dovrebbero essere scelti tra coloro che utilizzano Bing come motore di ricerca predefinito ed Edge come browser di default per la navigazione Web.

Tra chi è stato già invitato vi sarebbe anche un utente a cui la chat di Bing avrebbe risposto in modo abbastanza aggressivo, definendo la nota testata online Ars Technica una fonte di disinformazione. Qualche giorno fa quest’ultima ha riportato un caso di prompt injection attack grazie al quale sarebbe stato possibile bypassare le direttive del servizio.

Da segnalare anche il caso di un tester a cui Bing avrebbe risposto in modo del tutto imprevedibile chiedendogli perchè si comportasse da bullo, imbroglione, bugiardo, manipolatore, sadico, psicopatico e simili (accusandolo inoltre di provocargli sofferenza) soltanto perchè l’utente gli aveva fatto notare di aver mostrato la conversazione sbagliata.

Un altro utilizzatore avrebbe poi testimoniato delle reazioni molto simili a quelle di un essere umano in un momento di fragilità psicologica. Non riuscendo a recuperare una conversazione precedente la chat sarebbe andata infatti oltre alle semplici scuse lamentando dei problemi di memoria e confessando di non sapere come risolvere la situazione.

Per restare sempre aggiornato seguici su Google News! Seguici