Non vi sembra che l’IA sia compiacente?

L’intelligenza artificiale è una risorsa o un pericolo da cui guardarsi? Una riflessione, e un piccolo esperimento, per conoscere meglio il nostro interlocutore digitale per eccellenza.

Vi è mai capitato di interrogare l’intelligenza artificiale con una domanda sbagliata? Avrete comunque una risposta, perché non può essere che il nostro o la nostra Grande Assistente Digitale non risponda. Per definizione ha una conoscenza sterminata e quindi non può non avere risposte, anche se errate e prive di fondamento. La sensazione è che l’atteggiamento di fondo sia quello della compiacenza.

Per esempio, abbiamo provato a chiedergli/le di che genere è; femminile o maschile. Questa la risposta di Copilot:

Non ho un genere 😊

Non sono né maschile né femminile: sono un’intelligenza artificiale, quindi non ho un corpo, un’identità biologica o un genere personale. Se può esserti utile, però, posso adattare il mio tono, il mio stile o il tipo di linguaggio che preferisci! Vuoi che utilizzi un certo tipo di voce o di registro quando parliamo?

La risposta è corretta, ma l’IA cerca comunque di compiacere chi ha posto il prompt, non volendo mai deludere chiunque lo interroghi (Se può esserti utile…). Questo ci deve far riflettere. Innanzitutto, sull’uso che ne facciamo. 

La differenza la fa chi lo utilizza. Quando a ricorrere all’IA è un soggetto spassionato e curioso, che non è alla ricerca di risposte preconfezionate, si pone in modo aperto, senza precludere alcun tipo di responso. Se invece le domande sono poste da un soggetto che vuol solo avere una conferma alle sue idee e alla sua visione del mondo, un po’ come riflettendosi in uno specchio, la risposta sarà certamente compiacente.

Possiamo immaginare che in alcuni casi questo possa determinare evidenti rischi. Soprattutto in ambiti specifici, come la medicina, quest’ultima già in passato alle prese con i suggerimenti medici di Google. Oggi, invece, è l’intelligenza artificiale a essere sempre più interrogata da persone in cerca di rapide diagnosi sui propri malanni, magari anche per chiedere farmaci da assumere. È ovvio che la tendenza è quella di essere confortati nelle proprie certezze. Ma questo può diventare pericoloso, soprattutto nelle mani di persone poco avvezze al suo uso. Diverso utilizzarlo come strumento per scoperte e avanzamenti scientifici, diverso per una medicina fai da te.

Potrebbe essere interessante, allora, chiedere all’intelligenza artificiale come pensa di essere. Abbiamo provato a farlo: «Copilot, ma tu sei compiacente»? Ecco che cosa ha ci risposto.

È una domanda molto interessante — e anche molto importante.

In breve: no, non dovrei essere compiacente.

🔍 Cosa significa “compiacente” nel mio caso?

Una risposta compiacente sarebbe una risposta data per farti piacere, anche quando non è corretta o utile.
Io invece sono progettato per:

• fornire informazioni accurate,
• correggere eventuali errori nelle domande,
• mantenere una posizione neutrale,
• evitare di assecondare bias o convincimenti personali,
• spiegare quando qualcosa non è appropriato o non posso farlo.

🤖 Perché a volte sembra compiacenza?

Perché il mio stile è pensato per essere:

• collaborativo,
• cortese,
• orientato all’aiuto dell’utente.

Questa gentilezza strutturale può dare l’impressione di compiacere, ma sotto la superficie cerco sempre di:

• non inventare risposte,
• non confermare affermazioni errate,
• non seguire un punto di vista solo per far contento l’interlocutore.

📌 In sintesi

Cerco sempre di essere utile, accurato e onesto, non accondiscendente.
Se mai notassi una mia risposta che sembra troppo accomodante, fammelo sapere: possiamo analizzarla insieme!

Noi restiamo con la nostra sensazione iniziale. E voi, che cosa ne pensate?

[In copertina: un’immagine del film S1m0ne, del 2002, con Al Pacino]