Intelligenza artificiale senz’anima, la Nota della Santa Sede

Ieri è stata pubblicata dal Dicastero per la Dottrina della Fede e dal Dicastero per la Cultura e l’Educazione la nota Antiqua et nova, sul rapporto tra intelligenza artificiale e intelligenza umana. Già in passato figure autorevoli della Chiesa, pontefice compreso, si sono espresse sul tema dell’intelligenza artificiale (IA), ma certamente questo documento risulta essere il più importante fino ad ora prodotto a motivo della sua organicità ed esaustività. La Nota sostanzialmente si divide in due sezioni: la spiegazione dei motivi per cui l’IA non è intelligente e i benefici, ma soprattutto i rischi che questa tecnologia reca con sé.

Partiamo dalla prima sezione. Per comprendere il motivo per cui l’intelligenza umana non è sovrapponibile alle capacità tecniche dell’IA occorre rifarsi alla differenza sostanziale tra persona e IA che risiede nella natura di entrambe. Per individuare l’ontologia della natura umana è necessario ricordare che la persona è unione strettissima di due principi: uno materiale, il corpo, e uno formale, l’anima (13). Questa affermazione ci permette di articolare una riflessione che sarebbe stato meglio esplicitare nella Nota, perché d’importanza scriminante. La prova dell’esistenza dell’anima deriva dall’analisi qualitativa di alcuni nostri atti. Alcune condotte rivelano che in noi esiste una realtà metafisica. Ad esempio la perfezione di un cerchio è un dato di conoscenza che non può derivare dai sensi perché i sensi ci hanno sempre mostrato cerchi imperfetti. Dunque esiste in noi una fonte di conoscenza sovrasensibile che chiamiamo anima, la quale è appunto capace di astrarre dai dati empirici e singoli per arrivare a concetti universali, quali ad esempio “la perfezione”. Altra prova dell’esistenza dell’anima è la capacità di compiere atti liberi: se fossimo costituiti di sola materia saremmo necessariamente obbligati a seguire solo le leggi fisiche che governano il nostro corpo. Invece possiamo digiunare, toglierci la vita, etc. Parimenti per l’autocoscienza: l’occhio non sa di vedere, il tatto non sa di toccare, etc. eppure noi sappiamo di vedere, di toccare etc. Vuol dire che abbiamo capacità che eccedono le capacità sensitive, ossia abbiamo capacità sovrasensibili. In modo analogo pensiamo alla capacità artistica, di formulare giudizi morali, etc. Tutti atti generati dall’anima la quale, dato che è capace di azioni così elevate, prende il nome di anima razionale.

Ora l’IA è ovviamente costituita solo di materia, non ha certo l’anima. Ergo è incapace e lo sarà sempre di compiere atti che sono generati solo dall’anima razionale: l’astrazione, la coscienza di sé, la formulazione di giudizi morali, la capacità di compiere scelte libere ( da cui discende la responsabilità umana e l’irresponsabilità dell’IA), etc. (39).  L’IA è capace solo di svolgere compiti, di eseguire funzioni assai sofisticate (30), ma il cui punto di origine è da rinvenire sempre nell’intelligenza umana. Possiamo qualificare le sue funzioni come intelligenti perché sono effetti intelligenti di una causa intelligente: la persona umana. Dunque l’IA mima l’intelligenza, ma non è intelligente.

Passiamo alla seconda sezione dedicata ai pro et contra dell’IA. La Nota si sofferma inizialmente su due considerazioni generali. La prima riguarda le finalità perseguite: come ogni atto umano deve essere giudicato sotto la prospettiva morale partendo dal fine prossimo ricercato, uguale giudizio deve essere applicato all’uso dell’IA. E così la Nota appunta: «Come ogni prodotto dell’ingegno umano, anche l’IA può essere diretta verso fini positivi o negativi» (40). La positività dell’atto risiede innanzitutto nel rispetto della dignità personale (43). La seconda considerazione di carattere generale attiene al mezzo in sé: ogni mezzo non è eticamente neutro, perché il mezzo corrisponde al fine per cui è stato creato e quindi incorpora in sé la congruità al fine. In parole povere, il mezzo già rivela il fine buono o cattivo per cui è stato plasmato, il mezzo è già orientato ai suoi fini propri e quindi chi lo usa è già condizionato da questo suo intrinseco orientamento: «I prodotti tecnologici riflettono la visione del mondo dei loro sviluppatori, proprietari, utenti e regolatori, e con il loro potere “plasmano il mondo e impegnano le coscienze sul piano dei valori”» (41).

Poi la Nota elenca alcuni benefici e danni che potrebbero derivare dall’uso dell’IA. Per motivi di spazio andremo ad analizzare solo i rischi e solo alcuni di essi. In primo luogo il favore generalizzato verso l’IA potrebbe incrementare una mentalità efficientista: plaudiamo all’IA perché capace di funzioni sbalorditive e questo metro di giudizio basato sull’utilità potrebbe essere applicato anche alle persone. «Stabilire un’equivalenza troppo marcata tra intelligenza umana e IA comporta il rischio di cedere a una visione funzionalista, secondo la quale le persone sono valutate in base ai lavori che possono svolgere» (34).

Altro pericolo: l’IA opera tramite sistemi e processi molto complessi che vedono, tra l’altro, anche l’interazione con altri dispositivi di IA. Da qui la difficoltà a volte di individuare la persona responsabile a capo di questi processi, colui il quale ha dato il La allo sviluppo di tutto il successivo e intricato procedimento (44).

Un ulteriore rischio è quello degli effetti dell’automazione dell’IA: occorre vigilare affinché i processi autonomi non producano conseguenze dannose (45). Per non parlare del fatto che, ad oggi, «la maggior parte del potere sulle principali applicazioni dell’IA sia concentrato nelle mani di poche potenti aziende» (53), creando così un oligopolio tecnocratico assai pericoloso perché sono gli sviluppatori e quindi le aziende che riempiono di contenuti l’IA, che modellano queste intelligenze artefatte verso scopi ben precisi: il rischio del controllo sociale, dell’indottrinamento di massa, soprattutto tramite la manipolazione dell’informazione (86-87), e di influenzare modi e abitudini in una certa direzione è quindi assai elevato, tenendo poi conto che l’IA fornisce sì informazioni, ma, altresì, le acquisisce da noi. La vita privata allora potrebbe diventare sempre più merce preziosa per aziende senza scrupoli (90).

Un’altra minaccia per l’uomo è data dall’ «intrinseca natura dei sistemi di IA, nei quali nessun singolo individuo è in grado di avere una supervisione completa dei vasti e complessi insiemi di dati utilizzati per il calcolo» (53). L’uomo ha creato un sistema così complesso che nessun singolo individuo può comprenderlo appieno, riesce ad abbracciarlo nella sua interezza. Questo potrebbe voler dire che tale sistema si presenta più grande di lui e quindi potrebbe schiacciarlo, inglobarlo e fagocitarlo nella sua sfuggente complessità.

Un danno per l’umanità potrebbe poi essere la caduta nel cosiddetto «”paradigma tecnocratico”, il quale intende risolvere tendenzialmente tutti i problemi del mondo attraverso i soli mezzi tecnologici. […] “Come se la realtà, il bene e la verità sbocciassero spontaneamente dal potere stesso della tecnologia e dell’economia”» (54). Una riduzione antropologica e morale di matrice tecno-efficientista.

La Nota poi registra che l’abuso dell’IA potrebbe incrementare un doppio fenomeno: l’alienazione della realtà a beneficio di un’esistenza imprigionata nel virtuale (58), tanto da decretare la dipendenza da esso (81), e il suo contrario dato dall’antropomorfizzare l’IA, perché ci parla, ascolta, decide, appare intelligentissimo e ricco di empatia, etc., «offusca[ndo] così la linea di demarcazione tra ciò che è umano e ciò che è artificiale» (59).

In merito all’economia, l’IA potrebbe sviluppare modelli economici e dunque sociali omogenei, quindi globali, quasi astratti rispetto alle condizioni particolari, alle consuetudini locali (65). Riguardo invece al mondo del lavoro, oltre alla perdita di posti di lavoro forse compensati dalla nascita di altri ruoli legati proprio allo sviluppo di questa tecnologia, la Nota sottolinea il pericolo che i lavoratori possano essere demansionati o trovarsi in ritardo rispetto alla rapida accelerazione tecnologica in corso (67).

Sul versante educativo l’uso dell’IA potrebbe persuadere lo studente che la conoscenza sia solo incamerare informazioni ed ottenere risposte pronte e sintetiche, non abituandolo invece alla fatica del pensare e al giudizio critico. Lo studente si troverebbe ad essere usato passivamente dall’IA visto l’enorme potenziale di quest’ultima (82).

L’ultimo rischio, dopo che la Nota ha toccato anche il tema dell’ambiente con qualche tono oggettivamente ideologico, è la divinizzazione dell’IA a motivo della sua apparente onniscienza e onnipotenza: «Man mano che la società si allontana dal legame con il trascendente, alcuni sono tentati di rivolgersi all’IA alla ricerca di senso o di pienezza. […] Tuttavia, la presunzione di sostituire Dio con un’opera delle proprie mani è idolatria» (104).