La paura del creatore di Francesco D’Angiò

L’essere umano ha una strana abitudine. Costruisce strumenti per superare i propri limiti e, quando quegli strumenti cominciano davvero a superarli in qualcosa, si inquieta.

La storia non comincia con l’intelligenza artificiale. Prometeo porta già con sé il prezzo della conoscenza sottratta agli dèi. Nella leggenda del Golem prende forma l’idea di una creatura costruita dall’uomo che può diventare difficile da governare. Con Frankenstein quella paura assume una forma moderna e riconoscibile. Poi arrivano la macchina industriale, l’energia atomica, tecnologie capaci di moltiplicare enormemente la nostra forza.

Sono figure ed esperienze diversissime e sarebbe sbagliato metterle sullo stesso piano. Eppure qualcosa si ripete. Creiamo per aumentare la nostra potenza e, quando quella potenza cresce abbastanza, cominciamo a preoccuparci di ciò che abbiamo messo in moto.

Con l’intelligenza artificiale c’è una differenza.

Una macchina che solleva più peso di noi non mette seriamente in crisi l’idea che abbiamo dell’essere umano. Neppure un’automobile che corre più veloce o un calcolatore che esegue in pochi secondi operazioni per noi impossibili. Essere battuti nella forza, nella velocità o nel calcolo non sembra averci creato grandi problemi.

Le cose cambiano quando una macchina entra in territori che abbiamo considerato più intimamente nostri.

Scrivere, produrre immagini, tradurre, riconoscere schemi, costruire un’argomentazione, comporre musica. Una macchina può svolgere questi compiti in modo diverso da una persona. Basta constatare che riesce a farlo abbastanza bene in attività che per molto tempo abbiamo associato quasi esclusivamente all’intelligenza umana.

Una parte dell’inquietudine potrebbe nascere proprio da qui.

I rischi reali dell’intelligenza artificiale restano. Ci sono il lavoro, l’informazione, la sorveglianza, la concentrazione del potere, gli impieghi militari, la possibilità che sistemi automatici intervengano in decisioni capaci di incidere concretamente sulla vita delle persone. Liquidare tutto come semplice paura del progresso sarebbe ingenuo.

C’è anche un altro livello, più difficile da ammettere. Riguarda meno quello che la macchina potrebbe fare a noi e più l’immagine che abbiamo costruito di noi stessi.

Non siamo gli esseri più forti né i più veloci. Una parte della nostra idea di eccezionalità l’abbiamo cercata altrove, nel linguaggio, nel ragionamento, nella capacità di produrre simboli, immagini, storie. È anche lì che abbiamo collocato la distanza fra noi e il resto del vivente.

Adesso siamo noi stessi a costruire uno strumento che entra proprio in quello spazio.

È una nostra costruzione. I sistemi di intelligenza artificiale sono stati sviluppati da esseri umani e addestrati in larga parte su testi, immagini, codice e altri materiali prodotti da esseri umani. Dentro ciò che ci sorprende c’è quindi molto del materiale che abbiamo prodotto noi, anche quando diventa difficile ricostruire il percorso che porta a un determinato risultato.

Poi guardiamo quello strumento e ci chiediamo se potrà sostituirci.

La domanda è legittima. Prima, però, ce n’è un’altra che vale la pena farsi. Perché continuiamo a costruire strumenti che finiscono per mettere in discussione l’immagine che abbiamo di noi?

Le ragioni sono anche molto concrete. Curiosità scientifica, utilità, profitto, competizione, vantaggio strategico. Quando una possibilità tecnica promette un vantaggio, è difficile che rimanga inesplorata. E così chiediamo all’intelligenza artificiale di fare sempre qualcosa in più mentre ci preoccupiamo delle conseguenze del fatto che riesca a farlo.

La usiamo per scrivere e ci inquieta quando scrive bene. Miglioriamo la sua capacità di produrre immagini e ci chiediamo che cosa accadrà quando sarà difficile distinguerle da quelle realizzate da una persona. Valutiamo i progressi dei sistemi anche dalla qualità delle risposte e delle argomentazioni. Poi ci sorprendiamo quando quelle risposte diventano convincenti.

Si può desiderare uno strumento e temerne gli effetti. Succede continuamente.

C’è però un punto più scomodo.

Se un sistema riesce a produrre in pochi secondi un testo formalmente corretto, questo da solo non ne fa uno scrittore. Può costringerci, però, a chiederci quanta parte di ciò che chiamavamo scrittura venga davvero da esperienza, visione, necessità espressiva e quanta da mestiere, formula, ripetizione. La stessa domanda, con tutte le differenze del caso, può riguardare un’immagine, una traduzione, un riassunto, una composizione musicale.

L’intelligenza artificiale mette così alla prova anche il valore che attribuivamo ad alcune nostre prestazioni.

Se qualcosa che consideravamo prova di talento, cultura o intelligenza può essere riprodotto almeno in parte da un sistema automatico, siamo costretti a spostare più avanti la domanda. A quel punto bisogna andare oltre il semplice risultato. Che cosa c’è dentro quel testo, quell’immagine, quella risposta? Da quale esperienza proviene? Quale necessità l’ha fatta nascere?

Da qui a parlare di umanità c’è comunque un salto enorme. Produrre linguaggio, da solo, non dimostra coscienza, desiderio, dolore, memoria vissuta o intenzione. Ed è proprio questa distanza ad aprire un problema che forse abbiamo trascurato.

Forse abbiamo attribuito un valore profondamente umano anche a prestazioni che possono essere riprodotte, almeno in parte, senza esperienza cosciente.

A quel punto la paura della sostituzione cambia aspetto. Il rischio di perdere un lavoro o una funzione rimane, ma si aggiunge la possibilità di scoprire che una parte di ciò che consideravamo esclusivamente nostro non lo era quanto pensavamo.

Alla fine, forse, la macchina fa paura anche per questo.

Guardandola, potremmo essere costretti a rivedere qualcosa di noi stessi.

FRANCESCO D’ANGIÒ