I limiti dell’intelligenza artificiale

Un “bias” è un errore sistematico di giudizio o di interpretazione, da cui ne può conseguire uno di valutazione. L’intelligenza umana ne è spesso soggetta, ma l’intelligenza artificiale non scherza affatto. Nel 2017, Amazon fu costretta a dismettere il proprio sistema digitale di selezione del personale dopo aver constatato che, per anni, aveva discriminato le donne. L’algoritmo era stato “alimentato” con i dati relativi ai candidati dei dieci anni precedenti e, dato che in quel periodo molti neoassunti, soprattutto per ruoli tecnici, erano maschi, il sesso maschile era stato individuato dal software come un requisito desiderabile. Il selezionatore digitale era per l’appunto caduto in un “bias” che, per anni, nel proprio “autoapprendimento”, aveva proseguito ad alimentare e perpetuare.

Nel frattempo, abbiamo ormai a che fare con sistemi di intelligenza artificiale (e con i loro “bias”) decine di volte ogni giorno. Per esempio: dato che l’obiettivo del social media che utilizziamo è quello di tenerci il più possibile ancorati alla navigazione (per poterci mostrare la pubblicità con cui si finanzia il servizio), l’algoritmo è programmato per presentare solo le cose che più ci interessano. Questo genera il fenomeno che viene descritto come “echo chamber” (camera ad eco). Ben lungi dall’ottenere un’informazione realistica sul mondo circostante, veniamo progressivamente rinchiusi in una sorta di “bolla”, in cui continuiamo a ricevere sempre e soltanto le informazioni che, secondo l’algoritmo, possono incontrare il nostro interesse. Con successo alterno, certo, ma finché Netflix ci propone un film che a noi non piace, o TikTok un video che non ci interessa, il problema è ampiamente accettabile.

Il fatto è che gli algoritmi sono ormai dominanti in numerosi altri ambiti, non sempre così marginali, e potrebbero prendere decisioni sempre più importanti sulle nostre vite. Oltre al caso della selezione del personale, pensiamo a tutto il settore degli investimenti finanziari, in cui la mente umana è ormai quasi completamente stata soppiantata da quella artificiale, senza che questo eviti le periodiche crisi; oppure all’ipotesi di far condurre le automobili a computer che, in una situazione di emergenza, potrebbero decidere di sopprimere noi con la nostra automobile se questo fosse, secondo il computer, l’unico modo per evitare un rischio potenzialmente più grave (per esempio: la collisione con un autobus). O ancora, all’ipotesi di affidare la sicurezza nei luoghi pubblici a sistemi di riconoscimento facciale che, ad oggi, sono da ritenere tutt’altro che affidabili.

Anche nel settore della produzione si parla ormai da anni di industria 4.0 e dell’introduzione sempre più massiccia dell’intelligenza artificiale. Ma al di là degli innegabili vantaggi derivanti dalla digitalizzazione di molti processi, è sempre necessario tenere presente che gli algoritmi, oltre che su possibili “pregiudizi” e “bias” di programmazione e autoapprendimento, possono basare le loro valutazioni solo sull’analisi dei dati relativi al passato, e possono proporre soluzioni fondate sulla statistica, valide in fasi di relativa continuità e stabilità.

Insomma: per affrontare un futuro pieno di imprevedibili cambiamenti, non sembra possibile fare a meno, ancora per un po’, della vecchia e sana intuizione umana e imprenditoriale.