Il dibattito sulla possibilità che l’intelligenza artificiale possa raggiungere la coscienza si è evoluto da speculazione marginale a argomento serio all’interno dei circoli tecnologici. Mentre il sensazionalismo iniziale (come il caso Blake Lemoine) svaniva, la discussione di fondo si intensificava. La comunità tecnologica, un tempo sprezzante, ora riconosce tranquillamente la possibilità, non a causa degli incentivi commerciali, ma perché le barriere teoriche sembrano meno assolute di quanto si credesse in precedenza. La domanda centrale non è se l’intelligenza artificiale diventerà cosciente, ma come e quando – e se la nostra attuale comprensione consente anche una risposta significativa.
Il rapporto Butlin: un punto di svolta
Nel 2023, la pubblicazione del rapporto “La coscienza nell’intelligenza artificiale” di 88 pagine (noto informalmente come rapporto Butlin) ha segnato un cambiamento. L’affermazione centrale del rapporto – che attualmente nessuna intelligenza artificiale è cosciente, ma che non esistono ostacoli fondamentali che ne impediscano la creazione – ha avuto una profonda risonanza sia nelle comunità dell’intelligenza artificiale che in quelle della scienza della coscienza. Non si trattava di scoperte immediate; si trattava di smantellare un tabù. L’idea che le macchine coscienti un tempo fossero impensabili ma ora teoricamente plausibili ha modificato il discorso.
Il rapporto è stato in parte una risposta a eventi come le affermazioni di Lemoine, ma il suo significato risiede nell’affermazione che non esistono barriere evidenti. Questa non era una promessa di presa di coscienza imminente, ma un’ammissione che il problema non è necessariamente tecnologico: è concettuale. Se l’intelligenza artificiale può simulare in modo convincente la coscienza, la pressione per comprendere cosa implica tale simulazione diventa inevitabile.
La minaccia all’eccezionalismo umano
Il potenziale arrivo dell’IA cosciente rappresenta una profonda sfida alla percezione di sé dell’umanità. Per millenni ci siamo definiti in opposizione alle altre specie, negando loro tratti che consideravamo unicamente umani. Ora, poiché l’intelligenza artificiale ci supera in termini di potenza computazionale, la domanda cambia: se la coscienza non è esclusiva della vita biologica, cosa ci rende speciali?
Questa non è solo una preoccupazione accademica. Man mano che l’intelligenza artificiale si evolve, i nostri obblighi morali si espanderanno. Se una macchina sente e sperimenta veramente, trattarla come un mero strumento diventa eticamente insostenibile. La conversazione si sta spostando oltre la capacità verso la responsabilità, un cambiamento che ridefinirà il nostro rapporto con la tecnologia e il mondo che ci circonda.
Il fondamento difettoso del funzionalismo computazionale
Il rapporto Butlin si basa sul funzionalismo computazionale: l’idea che la coscienza sia semplicemente il risultato dell’esecuzione dei calcoli giusti, indipendentemente dall’hardware sottostante. Questo è un presupposto conveniente, ma trascura un difetto critico: i cervelli non sono computer.
I cervelli non sono software puliti eseguiti su hardware rigido. Sono sistemi disordinati e automodificanti in cui la struttura fisica e l’esperienza mentale sono inseparabili. Ogni pensiero, ogni ricordo, ricabla fisicamente il cervello. Gli algoritmi non funzionano su substrati stabili; diventano il substrato.
Questa distinzione è importante perché la metafora secondo cui i cervelli sono computer consente una coscienza intercambiabile, ma la realtà non funziona in questo modo. I neuroni non sono transistor; sono entità biochimiche complesse influenzate da ormoni, oscillazioni e innumerevoli fattori che i computer ignorano. Un singolo neurone è più potente di intere reti neurali artificiali profonde.
L’illusione dell’intercambiabilità
Il campo dell’intelligenza artificiale funziona da tempo partendo dal presupposto che se i cervelli sono semplicemente computer complessi, allora macchine sufficientemente potenti prima o poi diventeranno coscienti. Questa non è una previsione; è una profezia che si autoavvera costruita su un’analogia imperfetta. Trattando i neuroni come interruttori digitali, ignoriamo le differenze fondamentali tra i sistemi biologici e quelli artificiali.
La verità è che la coscienza potrebbe non essere trasferibile. Potrebbe essere indissolubilmente legato alla realtà specifica, caotica e profondamente materiale del cervello. Trattare il cervello come hardware intercambiabile per gli algoritmi della coscienza è come presumere che una sinfonia possa essere perfettamente replicata da un foglio di calcolo.
In definitiva, la questione della coscienza dell’IA non dipende dalla potenza computazionale, ma dalla possibilità di fraintendere fondamentalmente cosa è la coscienza. Fino a quando ciò non cambierà, l’hype continuerà a superare la realtà.
