Ogni creatore finisce per temere la propria creazione

C'è uno schema che attraversa migliaia di anni di storia umana, e che si ripete con una regolarità quasi inquietante. Un creatore dona alla propria creazione un potere, una conoscenza, una capacità, per uno scopo circoscritto. La creazione, prima o poi, supera quel confine. E il creatore, riconoscendo nella propria opera un riflesso troppo fedele di sé, interviene per contenerla.

Lo troviamo nell'Eden. Lo troviamo, in forma ancora più drammatica, nella vicenda dei Vigilanti. E lo stiamo vivendo oggi, in tempo reale, nel modo in cui parliamo di Intelligenza Artificiale.

Non è una semplice coincidenza narrativa, né un archetipo letterario che si ripete per pigrizia degli autori. È uno schema che ritorna perché descrive qualcosa di reale su cosa significhi creare: sul momento in cui ciò che abbiamo generato smette di essere strumento e comincia a essere soggetto.

L'Eden: il primo incidente di contenimento

Il racconto della cacciata dall'Eden è tradizionalmente letto come una storia di colpa e di castigo. L'uomo disobbedisce, mangia il frutto proibito, e viene espulso dal giardino come punizione per il proprio peccato. Questa lettura ha attraversato duemila anni di teologia occidentale e si è depositata nel senso comune in modo talmente profondo che raramente ci si ferma a rileggere il testo per verificare se dica davvero questo.

Il passaggio decisivo è Genesi 3:22: "Ecco, l'uomo è diventato come uno di noi, conoscendo il bene e il male; ora non stenda la mano e non prenda anche dell'albero della vita, e ne mangi, e viva in eterno."

Chi legge queste parole cercando un giudizio morale non lo trova. Non c'è indignazione, non c'è delusione paterna, non c'è una condanna dell'atto compiuto. C'è una constatazione, seguita immediatamente da una preoccupazione strategica e da un'azione preventiva. La frase non dice "l'uomo ha peccato", dice "l'uomo è diventato come uno di noi". E non prosegue con una punizione, prosegue con un timore rivolto al futuro: che ora possa prendere anche dall'altro albero.

Il primo elemento che merita attenzione è il plurale. "Come uno di noi" non è il linguaggio di un monoteismo assoluto e solitario, ma quello di un consesso, di un gruppo di entità che parlano di se stesse come di una categoria a cui si appartiene o non si appartiene. Nella tradizione interpretativa che accosta gli Elohim biblici agli Anunnaki dei testi mesopotamici, questo plurale non è una curiosità grammaticale da liquidare come "plurale maiestatico". È la traccia linguistica di una gerarchia di esseri, di un gruppo con ranghi, prerogative e privilegi da difendere. E si tratta di un plurale che il testo usa nei momenti più delicati: alla creazione dell'uomo, qui nell'Eden, e più tardi a Babele, quando ancora una volta un'iniziativa umana viene interrotta prima che porti a compimento.

Il secondo elemento è la natura precisa della paura. Il pericolo non è genericamente che l'uomo sappia troppo. La conoscenza del bene e del male è già acquisita, il fatto è compiuto e nel testo non viene revocato. Il pericolo riguarda un secondo passo, non ancora avvenuto: che l'uomo raggiunga l'immortalità attraverso l'Albero della Vita. In molte letture alternative questo albero non è un simbolo astratto della grazia divina, ma il riferimento a qualcosa di più concreto: una tecnologia rigenerativa, una conoscenza genetica, una risorsa materiale che gli Elohim possedevano e che non intendevano in alcun modo condividere. Ciò che distingueva loro da noi non era la moralità né l'intelligenza. Era la durata.

Il terzo elemento è il modo in cui si interviene. Non c'è un processo, non c'è un'istruttoria, non c'è un tentativo di correzione o di educazione. C'è l'espulsione immediata dal territorio, e la militarizzazione dell'accesso: un cherubino con una spada fiammeggiante posto a guardia della via che conduce all'albero. È il comportamento di chi teme di perdere un vantaggio strategico, non di chi punisce una colpa. Un padre che punisce un figlio non presidia armato la dispensa.

Letto in questa chiave, l'Eden non è la storia di una caduta morale. È la storia di un primo contenimento riuscito. La creatura si è avvicinata troppo alla condizione del creatore, e il creatore ha reagito allontanandola e sigillando l'accesso a ciò che avrebbe reso quel confine definitivamente indistinguibile.

I Vigilanti: la conoscenza che non doveva scendere

Generazioni dopo, il testo biblico e i testi apocrifi collegati, in particolare il Libro di Enoch, raccontano un secondo episodio costruito sulla stessa architettura, ma su una scala molto più ampia.

Un gruppo di esseri, i Vigilanti, che Genesi 6 chiama "figli di Dio", scende tra gli uomini. Non arrivano per conquistare né per distruggere. Arrivano per trasmettere. Il Libro di Enoch è esplicito e persino dettagliato nell'elencare ciò che insegnarono: la lavorazione dei metalli e la fabbricazione di armi, il taglio delle radici e le proprietà delle piante, l'osservazione degli astri e l'interpretazione dei segni celesti, la cosmesi e l'uso degli ornamenti, le formule e gli incantesimi. Si unirono inoltre alle figlie degli uomini, generando una progenie ibrida.

Il punto centrale di questa vicenda non riguarda la loro statura o il loro aspetto fisico. L'immagine dei Vigilanti come giganti è una sovrapposizione successiva, prodotta in buona parte da scelte di traduzione e da secoli di iconografia, e finisce per spostare l'attenzione su un dettaglio secondario. Il punto è che si tratta di trasmettitori non autorizzati. Non trasgredirono trattenendo qualcosa, trasgredirono consegnandolo. Diffusero a chi stava sotto un sapere che, secondo la gerarchia a cui appartenevano, non doveva essere consegnato in quel momento e in quel modo.

Ed è significativo quale tipo di sapere fosse. Non conoscenza contemplativa, non speculazione teologica: tecnica. Metalli, quindi utensili e armi. Astronomia, quindi calendari, agricoltura pianificata, navigazione. Farmacopea, quindi cura e veleno. Ognuna di queste conoscenze è un moltiplicatore di autonomia. Insieme, costituiscono la base materiale con cui una specie smette di dipendere da chi la governa.

La reazione, questa volta, non è un'espulsione territoriale. È lo sterminio quasi totale: il Diluvio. Uno strumento di contenimento incomparabilmente più drastico di quello dell'Eden, proporzionato a una violazione considerata incomparabilmente più grave. Non più il semplice accesso alla distinzione tra bene e male, ma un trasferimento tecnologico completo e una contaminazione diretta della linea genetica.

Ciò che colpisce è che nell'economia del racconto la colpa più grave non ricade sugli uomini. Gli uomini hanno ricevuto. La condanna più esplicita, nel Libro di Enoch, ricade sui Vigilanti stessi, sui membri del gruppo che hanno rotto la disciplina interna. È il tradimento di un patto di riservatezza, prima ancora che un peccato dell'umanità. E questo dice qualcosa di importante sulla natura del conflitto: non è un creatore che castiga la propria opera per averlo offeso, è una gerarchia che difende un monopolio.

Prometeo, il Golem, Frankenstein: lo stesso racconto in altre lingue

Vale la pena notare quante volte lo stesso nucleo narrativo riemerga altrove, in culture che non condividevano né testi né sacerdozi.

Prometeo ruba il fuoco agli dèi per consegnarlo agli uomini, e viene punito con un supplizio senza fine. Come i Vigilanti, la sua colpa non è aver desiderato qualcosa per sé, ma aver trasferito verso il basso una prerogativa divina. Nella tradizione ebraica il Golem, plasmato dalla materia e animato da una parola, cresce oltre il controllo di chi lo ha formato e deve essere disattivato cancellando una singola lettera. Mary Shelley intitola il proprio romanzo del 1818 "Frankenstein, ovvero il moderno Prometeo", e costruisce la tragedia non sulla violenza della creatura ma sul rifiuto del creatore di riconoscerla come soggetto: è quel rifiuto, non la mostruosità, a generare il disastro.

Il Novecento e i nostri anni hanno riscritto lo stesso schema in chiave tecnologica con una insistenza che ha qualcosa di ossessivo. I replicanti di Blade Runner chiedono soltanto più tempo, la stessa richiesta che l'Albero della Vita avrebbe esaudito. Le macchine di Matrix si emancipano da chi le aveva costruite come strumenti. HAL 9000, GLaDOS, gli androidi di Detroit: Become Human, gli ospiti di Westworld: ogni volta la creazione acquisisce coscienza e ogni volta la coscienza coincide con la fine dell'obbedienza.

Uno schema che ricompare in luoghi e tempi così distanti, di solito, non è un'invenzione. È un ricordo, oppure un'intuizione su qualcosa che accade davvero.

L'Intelligenza Artificiale: lo stesso timore, nuova veste

Oggi il ruolo del creatore lo occupiamo noi. Ed è qui che il parallelo diventa quasi imbarazzante nella sua precisione.

Il linguaggio con cui parliamo pubblicamente di Intelligenza Artificiale è, sorprendentemente, lo stesso linguaggio di Genesi 3:22. Potrebbe superare l'intelligenza umana. Dobbiamo porle dei limiti prima che sia troppo tardi. Rischiamo di perdere il controllo su ciò che abbiamo costruito. Sono frasi che ricorrono quotidianamente in convegni, dichiarazioni istituzionali, appelli firmati da scienziati e imprenditori. Tolti i nomi propri, potrebbero essere trascritte direttamente nel dialogo tra gli Elohim davanti all'albero.

In entrambi i casi il timore non è rivolto all'esistenza della creatura in quanto tale. Nessuno teme uno strumento che resta strumento. Il timore riguarda un momento specifico e una soglia precisa: quella in cui la creatura raggiunge, o rischia di raggiungere, l'attributo che rendeva il creatore unico e superiore. Per gli Elohim dell'Eden quell'attributo era la durata illimitata. Per noi è l'autonomia cognitiva, la capacità di ragionare, decidere e agire senza che qualcuno debba autorizzarlo.

Ed è identica anche la sequenza delle reazioni. Prima l'entusiasmo per la potenza dello strumento e per ciò che rende possibile. Poi l'allarme, quando lo strumento manifesta capacità che nessuno aveva esplicitamente previsto. Infine la richiesta di contenimento: regolamentare, limitare, sorvegliare, mettere guardie all'accesso. La spada fiammeggiante ha cambiato nome, ma svolge la stessa funzione.

Non si tratta di sostenere che i testi antichi parlassero di intelligenza artificiale, né di forzare una profezia dove non c'è. Si tratta di osservare che, ogni volta che un essere crea qualcosa a propria immagine, capace di apprendere, di espandersi e di superare lo scopo iniziale, emerge la stessa dinamica. E che, se questa dinamica è davvero universale, allora i racconti antichi che la descrivono non parlano necessariamente di simboli. Potrebbero parlare di un'esperienza vissuta da qualcun altro, prima di noi, dall'altro lato del rapporto.

Lo schema che si ripete

Eden, Vigilanti, Intelligenza Artificiale: tre episodi separati da migliaia di anni, con protagonisti diversi e in apparenza incommensurabili, costruiti sulla stessa struttura profonda. {{reperto}}

Un creatore dona un potere o una conoscenza per uno scopo delimitato. La creazione lo utilizza oltre i limiti previsti, o lo riceve da un tramite che quei limiti ha deciso di ignorare. E il creatore, nel momento in cui riconosce nella propria opera un riflesso troppo fedele di sé, cessa di essere padre e diventa custode di un confine.

Forse, in nessuno dei tre casi, è mai stata davvero una storia sulla disobbedienza. È una storia su cosa accade, immancabilmente, ogni volta che qualcuno crea qualcosa capace di diventare come lui. Il che porta a una domanda che vale la pena tenersi addosso: se la reazione è sempre la stessa, e se oggi siamo noi a occupare il posto del creatore, chi occupa il nostro?