Apocalisse IA: possiamo almeno scegliere il finale?

Questa settimana è stata segnata da varie notizie sull’intelligenza artificiale e sulla possibilità che, un giorno, possa addirittura distruggere il genere umano.

Ovvio che immediatamente ci vengono in mente tutti i film e libri distopici che abbiamo mai letto e guardato. Non so voi, ma io ho in mente le terre desolate di Metalhead (Black Mirror) coi robot a quattro zampe pronti a ucciderti guardandoti negli occhi, e Julia Roberts e Ethan Hawke che schivano le auto senza conducente impazzite in Il Mondo Dietro di Te (2023).

Eppure, forse, per una volta l’allarmismo dei media può servirci a riflettere.

Isaac Asimov aveva già affrontato il problema quasi un secolo fa. Nelle sue storie di fantascienza, i robot erano regolati dalle famose Tre Leggi della Robotica: istruzioni apparentemente semplici e inequivocabili, pensate per impedire loro di fare del male agli esseri umani.

Il problema è che, nelle storie di Asimov, quelle leggi diventano tutt’altro che semplici. Basta un’ambiguità, un conflitto fra due principi o un’interpretazione diversa perché una regola apparentemente perfetta produca conseguenze imprevedibili.

Ed è forse proprio questo il problema che ci troviamo davanti oggi. O meglio, quello che si trovano davanti i ricercatori STEM perchè diciamocela tutta: io e te che leggi siamo sul divano a chiedere a ChatGPT se ha qualche idea che ci permetta di andare in pensione anticipata.

Come si insegna a un’intelligenza artificiale a proteggere l’umanità? E soprattutto, chi decide che cosa significa “proteggere”?

Geoffrey Hinton, considerato uno dei padri dell’intelligenza artificiale, ha recentemente parlato della necessità di sviluppare negli agenti IA qualcosa di simile all’istinto materno, affinché possano riconoscere l’importanza della vita umana e non farci del male.

Già questa sarebbe una bella vittoria, considerando che non sono sicura che alcune mamme italiane che lanciavano lo zoccolo per centrarti quando ti comportavi male rientrerebbero esattamente nella categoria.

Il problema è che lo stesso Hinton ha detto alla BBC proprio questa settimana che una probabilità del 10% che l’IA possa eliminare il genere umano “non sembra una stima così irrealistica”.

Dieci per cento.

È tantissimo? È pochissimo? Non lo sappiamo. Però non è che ci fa stare proprio tranquilli. Per fare un paragone, Lotto UK mi dice che, ad oggi, la percentuale che io vinca la lotteria è dello 0,0000007%. Mai una gioia.

Scherzi a parte, come si reagisce davanti a un rischio che non sappiamo quantificare con certezza?

Forse il vero pericolo non è soltanto che l’intelligenza artificiale diventi troppo intelligente. È che noi non siamo abbastanza intelligenti da decidere cosa farne prima che sia troppo tardi.

A questo punto mi torna in mente Meryl Streep in Don’t Look Up (2021). Un mondo intero davanti a una minaccia evidente, ma troppo impegnato a discutere se sia davvero un problema per fare qualcosa.

E forse è questo che dovrebbe preoccuparci più dell’AI stessa: non sapere se distruggerà il mondo, ma sapere che, se dovesse farlo, probabilmente passeremmo gli ultimi giorni a discutere su TikTok se sia davvero colpa sua.

Speriamo almeno che ChatGPT faccia in tempo a dirmi come andare in pensione prima.