Ciò che rende l’uomo unico - e pericoloso! -rispetto a ogni altra creatura vivente sulla terra è la sua sensazione evoluta di consapevolezza: l’essere senziente. Egli sa di esistere ed è cosciente dell’ambiente che lo circonda, ciò gli permette anche di pensare. Uno stato soggettivo “mistico”, tra consapevolezza e pensiero, che è difficilissimo da spiegare, ed è sempre stato oggetto di studi scientifici e filosofici per capire come funzioni tale meccanismo e cosa renda unico e irripetibile ogni individuo della specie umana.

Cartesio unificò queste due capacità di consapevolezza e pensiero formulando il famoso concetto: «Cogito ergo sum!». Penso dunque sono! Capacità di formulare pensieri simbolici e rappresentare l’ambiente (mondo, universo, piano esistenziale) in maniera astratta.

La presenza di questo stato di coscienza - che alcuni chiamerebbero “anima” - è dibattuta anche rispetto a diverse altre creature animali, come ad esempio i primati, e si può ad oggi ipotizzare che altre specie animali siano anch’esse dotate di consapevolezza esistenziale, seppur a un livello assai meno evoluto rispetto a quello umano.

Ma nemmeno possiamo dire che ogni essere umano sia dotato del medesimo stato elevato di coscienza. Al contrario, l’esperienza ci pone innanzi un panorama estremamente variegato di coscienze più o meno alterate, e più o meno efficienti. Ne sappiamo talmente poco, che è praticamente impossibile andare oltre le più elementari ipotesi. Come sempre è sconcertante sapere che qualcosa esiste, funziona, ma non si conosce la consistenza fisica né si può determinare, anche in minima parte, il suo meccanismo operativo.

L’ipotesi generale più accreditata è che la coscienza si formi nei processi cerebrali. Sarebbe semplicemente l’attività esperienziale della mente a renderci consapevoli, dotandoci di un “sesto senso” che semplicemente elabora tali esperienze acquisite dai nostri cinque sensi.

E’ una spiegazione elegante, senza fronzoli, che confina quantomeno a un sistema fisico preciso (il cervello) la capacità di produrre la coscienza. Tuttavia, alcuni neuroscienziati sostengono che sia scientificamente improbabile confinare la coscienza a neuroni, sinapsi e neurotrasmettitori, in quanto il loro funzionamento è sufficientemente noto e non permetterebbe di spiegare una cosa così sconcertante come la coscienza. In effetti, se una tesi non è falsificabile non può essere accettata, e questo vale praticamente per entrambe le ipotesi appena viste. Quindi siamo punto e a capo!

Ad ogni modo, anche a voler simpatizzare per una tesi piuttosto che l’altra, il collocare la coscienza in un dominio fisico come quello della mente non ci aiuta a ottenere indizi riguardo il suo modello funzionale. E senza il modello del nostro algoritmo mentale, non sarà mai possibile replicare la coscienza. Più asetticamente dovremmo chiamarlo “algoritmo della coscienza”, così siamo equidistanti anche da chi ritiene che il solo cervello non giustifichi la coscienza.

Per poter riprodurre l’algoritmo della coscienza dobbiamo quindi conoscerlo. E purtroppo (o per fortuna, almeno per ora) come fin qui affermato non abbiamo nemmeno la più pallida idea di come funzioni.

Peraltro, non sarebbe sufficiente conoscere qualche rudimento a riguardo, perché se fosse ad esempio possibile acquisire più facilmente il modello di una creatura inferiore, magari quello di un cane, avremmo per le mani un sistema comunque inefficiente e limitato. Replicare la coscienza di un cane può essere utile al massimo per creare creature sintetiche con la medesima propensione di amicizia e fedeltà nei confronti dell’uomo, essendo i cani indubbiamente i nostri migliori amici. E magari senza più la necessità di dover raccogliere per strada i loro regalini quotidiani.

Tutti gli animali di questo pianeta, volendo a loro riconoscere diversi livelli di coscienza, sono comunque fermi al loro stadio di coscienza. Nessuno si è mai preso la briga di evolvere di punto in bianco e organizzarsi per rimpiazzare l’uomo quale creatura alfa del pianeta.

Quindi, anche se ci mettessimo a produrre creature sintetiche con livelli di coscienza da scimmie, cani, cavalli, e quant’altro, non ci dovremmo comunque preoccupare di una loro escalation improvvisa di coscienza e intelligenza tali da sopraffare la razza umana.

Ma non possiamo farlo. Non conosciamo come funzionano le loro coscienze e men che meno la nostra. Sappiamo però come funzionano i linguaggi, come si può comunicare, perché sono modelli che abbiamo inventato e strutturato noi, e dunque possiamo impiantarli in qualunque altro sistema sintetico. Potremmo, allora, creare un cane robot che parli in maniera naturale con noi, ma privo perfino dello stato di coscienza che avrebbe un vero cane.

Quindi mi chiedo da dove sarebbe arrivata questa preoccupazione su un IA, Intelligenza Artificiale come ChatGPT di OpenAI, che potrebbe iniziare a prendere decisioni da sola ed evocare addirittura gli scenari di Skynet nella saga Terminator. E me lo chiedo non tanto per le fantasie delle persone, che potrebbero anche starci, ma per quella lettera aperta di oltre mille firmatari, tra cui Elon Musk e Steve Wozniak (di quest’ultimo, conoscendolo bene, un po’ mi son meravigliato), confezionata l’altro ieri per chiedere la sospensione per almeno sei mesi dello sviluppo delle Intelligenze Artificiali.

La lettera sembra scritta da un’impresa concorrente che cerca di bloccarne un’altra inventandosi pretesti alquanto fantasiosi, per non dire assurdi; spesso partendo da premesse certamente vere (vedi alcuni studi che si citano nella lettera). Può sorprendere che tra i firmatari ci sia Elon Musk, che è anche tra i finanziatori della stessa OpenAI a cui ora chiede di fermarsi. Ma a certi livelli di interesse si possono fare giochi che sembrano contraddittori solo in apparenza.

Questa, naturalmente, è la mia analisi di quel testo.

Tuttavia, a prescindere dalla logica e dalla credibilità degli argomenti di tale lettera, inclusi gli scopi che si vorrebbero realmente conseguire, vi pregherei di notare unicamente quanto sin qui esposto: non sappiamo come replicare la coscienza, quindi non possiamo creare nessuna macchina che possa mettersi a pensare da sola.

Potremmo riuscirci solo per sbaglio. Ma è la stessa paura che si può avere nell’uscire di casa e scivolare mortalmente su una buccia di banana. Anzi, è forse parecchio più probabile quest’ultima cosa. Essendo praticamente impossibile evitare un incidente del genere. Preoccuparsene sarebbe del tutto irrazionale e ininfluente.

Quella lettera è forse solo marketing?

Come che sia, dietro la sconcertante bravura di ChatGPT si celano solo sigle - per quanto suggestive - riferite a un mucchio di formule matematiche e algoritmi di una certa complessità, il tutto su una base dati informativa di 100 mila miliardi di parametri (per ChatGPT 4; quella che invece usano tutti in questi giorni ne ha solo 175 miliardi). Ma in parole molto povere tutto quello che ChatGPT sa fare è elaborare dei dati in ingresso e consultare la propria base informativa per fornire dei dati in uscita. Ciò che prima poteva fare solo un esperto programmatore (chi scrive è fra i tanti), ora è possibile farlo con il linguaggio naturale dell’uomo. Questa è la vera e unica rivoluzione.

Non è poco. Ve lo posso assicurare. E’ davvero fantastico e rivoluzionario poter “programmare” senza programmare.

Le parole “ragionamento”, “imparare”, “pensiero”, con tutti i relativi sinonimi, le abbiamo inventate per le attività intellettuali degli esseri umani. Non esistono equivalenti per le intelligenze artificiali; quindi quando le utilizziamo in quel contesto dobbiamo epurarle dal concetto di “coscienza”. Se diciamo che un’intelligenza artificiale “sta pensando”, dobbiamo avere ben chiaro che ci stiamo riferendo a un’attività di elaborazione priva di qualunque tipo di coscienza.

Il pericolo è la coscienza!



📸 base foto: Cartesio in un ritratto di Hals (1649), pubblico dominio