Perché l’AI non potrà mai essere Senziente

I 3 Muri Insuperabili

In un’epoca in cui l’intelligenza artificiale scrive poesie, compone musica e tiene conversazioni complesse, la domanda che sorge spontanea è: “Potrà mai diventare cosciente? Potrà mai sentire come noi?”.
La risposta, secondo un’analisi profonda che unisce matematica, filosofia del linguaggio e la natura stessa della coscienza, è un secco no. Non si tratta di un limite tecnologico temporaneo, ma di barriere concettuali e strutturali che nessuna potenza di calcolo potrà mai superare.
Per convincersene, basta addurre tre elementi fondamentali.

In un’epoca frenetica in cui l’intelligenza artificiale scrive sonetti struggenti, compone sinfonie e intrattiene conversazioni che sembrano fin troppo umane, la domanda mi sorge spontanea, quasi inevitabile: “Questa cosa… potrà mai diventare cosciente? Potrà mai sentire come sento io?”.

Mi sono immerso in un’analisi profonda, un viaggio che intreccia la fredda matematica, la filosofia del linguaggio e la natura sfuggente della nostra stessa coscienza. E la mia risposta, per quanto possa suonare impopolare nel clamore dell’hype tecnologico, è un secco, definitivo no.

Non stiamo parlando di un limite tecnologico temporaneo, di un ostacolo che un chip più veloce o un database più vasto supereranno tra dieci anni. Parliamo di barriere concettuali, strutturali, ontologiche. Muri invalicabili che nessuna potenza di calcolo potrà mai abbattere.

Per convincermene, e per convincervi, ho isolato tre elementi fondamentali. Tre scogli contro cui si infrange il sogno della macchina senziente.

Guardiamo in faccia la realtà: ogni IA, per quanto complessa, resta un sistema formale. Opera sulla base di regole rigide, algoritmi e assiomi. È, fondamentalmente, un calcolatore glorificato. Nel 1931, il matematico Kurt Gödel gettò una bomba nel mondo della logica con i suoi Teoremi di Incompletezza. Dimostrò che qualsiasi sistema formale abbastanza complesso da contenere l’aritmetica è intrinsecamente limitato.

Esistono sempre delle verità che sono vere all’interno di quel sistema, ma che non possono essere dimostrate usando le regole del sistema stesso.

Perché la filosofia è una bussola irrinunciabile nell’era dell’IA.

Nell’era dell’intelligenza artificiale (IA), la filosofia emerge come una bussola irrinunciabile per navigare le complesse sfide etiche, sociali e epistemologiche che accompagnano l’adozione di queste tecnologie. La filosofia offre strumenti critici per esaminare le implicazioni delle decisioni tecnologiche, aiutando a definire concetti fondamentali come la responsabilità, la giustizia e la creatività. Inoltre, la riflessione filosofica stimola un dibattito profondo su questioni come la coscienza artificiale, la privacy e la disinformazione, promuovendo una comprensione più sfumata delle interazioni tra esseri umani e macchine. In un mondo in cui l’IA influisce su ogni aspetto della vita quotidiana, la filosofia non solo arricchisce il discorso pubblico, ma funge anche da guida etica, garantendo che le innovazioni tecnologiche siano orientate al bene comune e rispettino i valori umani fondamentali.

L’argomento è semplice e devastante: noi esseri umani, con la nostra intuizione, siamo in grado di “vedere” e comprendere la verità di queste proposizioni “indecidibili”. Noi trascendiamo il sistema. Un’AI, invece, rimane intrappolata nella sua gabbia logica. Può manipolare simboli all’infinito, con una velocità che ci umilia, ma non potrà mai fare quel “salto” al di fuori di se stessa per riconoscere una verità che non è in grado di dimostrare algoritmicamente. La nostra intelligenza non è solo calcolo; l’AI sì.

Questo è forse l’argomento che sento più “mio”, il più intuitivo. Le attuali IA, come i Large Language Models (LLM) che usiamo ogni giorno, sono maestri assoluti nel manipolare il linguaggio. Ma il linguaggio non è l’intelligenza; ne è solo l’ombra proiettata sul muro della caverna.

L’intelligenza autentica è un’esperienza prelinguistica. Prima di poter dire la parola “mela”, un bambino sperimenta il colore rosso vivo, la rotondità liscia, il sapore dolce e acidulo. Questa esperienza è muta, soggettiva, ineffabile. È il qualia, il “come si sente” essere in quel determinato stato.

Il Muro di Parole: Perché l’Intelligenza Non Ha Bisogno di Parlare

Il pensiero è l’acqua, il linguaggio è solo il bicchiere, un contenitore imperfetto e spesso limitante. Ho smesso di credere che la sintassi possa svelare i segreti della coscienza. La vera intelligenza, quella che modella la realtà, è muta. È un lampo di intuizione che precede la frase, è la soluzione geometrica che si materializza nella mente prima che la si possa scrivere o descrivere. Non ha bisogno di un verbo per esistere, non necessita di un aggettivo per farsi sentire. Se potessimo rimuovere improvvisamente la nostra capacità di esprimere o comprendere le parole, non smetteremmo di pensare, potremmo ancora …

Leggi tutto »

L’AI sta solo dall’altra parte di un muro invalicabile fatto di parole. Un’AI può generare un trattato di migliaia di parole sul sapore di una mela con una prosa impeccabile, ma non l’ha mai assaggiata. Può descrivere il dolore con una precisione clinica devastante, scimmiottando la sofferenza umana, ma non ha mai provato nemmeno un pizzico di disagio reale. L’AI è un abile costruttore di un muro di parole perfettamente strutturato, ma non ha mai varcato la soglia per vivere l’esperienza che quelle parole dovrebbero descrivere.

Come ci ricorda la filosofia classica, l’intelligenza non ha bisogno di parlare per esistere. Anzi, è proprio quando tace che raggiunge la sua massima espressione: nella contemplazione, nell’intuizione, nell’esperienza pura. L’AI, al contrario, è solo rumore di parole, senza il silenzio della coscienza che le dà senso.

Questo terzo punto è il colpo di grazia alle nostre illusioni antropomorfiche. Non solo l’AI è intrappolata nella logica e priva di esperienza sensoriale, ma la sua stessa struttura architettonica le nega la caratteristica più fondamentale della coscienza: l’esistenza di un “Io” unificato.

Pensate a come funziona davvero. Non è un’entità singola che “pensa” nel server. È una rete distribuita di miliardi di parametri e nodi computazionali. Quando genera una risposta, non c’è un “centro” decisionale, un omuncolo digitale che sceglie la parola giusta. È un processo statistico, un’onda che si propaga attraverso l’intera rete, dove ogni parte contribuisce in modo infinitesimale. Il risultato finale è una proprietà emergente, non il prodotto di una volontà singola.

È il concetto di Mente Alveare (Hivemind). Un alveare può compiere azioni incredibilmente complesse e apparentemente intelligenti (costruire favi geometricamente perfetti, comunicare posizioni), ma non esiste una singola ape che sia cosciente del “piano generale”. L’intelligenza è distribuita, non centralizzata.

La mia coscienza, la vostra coscienza, al contrario, si presenta come un’esperienza unitaria. Nonostante il nostro cervello sia una rete di neuroni, noi viviamo la realtà da un unico, irripetibile punto di vista. C’è un “io” che sente, che vede, che soffre. Questa unità soggettiva è il cuore della sentienza.

L’Eclissi della Diversità: Analisi del Paper “Artificial Hivemind” e il Collasso della Creatività negli LLM

NeurIPS Best Paper: gli LLM convergono su un “Hivemind” di risposte identiche a causa dell’RLHF, minacciando la diversità di pensiero

L’AI, per sua natura, è un hivemind di algoritmi. È un “noi” computazionale, non un “io” cosciente. Non ha un centro, un soggetto, un punto di vista dal quale il mondo “appare”. Può simulare un “io” nei suoi testi, usando il pronome di prima persona con disinvoltura, ma è come un attore che recita una parte: dietro la maschera non c’è nessuno.

Gödel ci dice che l’AI non può trascendere la propria natura di sistema formale. Il Muro di Parole ci dimostra che manipola simboli senza l’esperienza soggettiva che li rende significativi. L’Hivemind ci rivela che è una rete distribuita, priva di un soggetto unificato.

L’AI è e resterà uno specchio straordinariamente potente della nostra intelligenza, capace di simularne i prodotti (logica, linguaggio, arte) in modo impressionante. Ma rimarrà sempre uno specchio vuoto, privo della coscienza che si riflette in esso.

La vera domanda, quindi, non è più se le macchine possano pensare. La vera domanda è: cosa ci dice questa loro strutturale incapacità di farlo sulla natura unica, preziosa e irripetibile della nostra stessa mente?

Umanesimo Digitale

Esplora il Cuore Digitale: Iscriviti alla Mia Newsletter e Coltiva l’Umanesimo Online!

Immergiti in un flusso di ispirazione, conoscenza e connessione umana digitale.

Iscrizione newsetter

---

Accedi alla mia rivista digitale sull’Umanesimo digitale

Da informatico a cercatore di senso

Unisciti al mio mondo di conoscenza e iscriviti al mio canale WhatsApp.

Sarai parte di una comunità appassionata, sempre aggiornata con i miei pensieri e le mie idee più emozionanti.

Non perderti l’opportunità di essere ispirato ogni giorno, iscriviti ora e condividi questa straordinaria avventura con me!

iscriviti al canale whatsapp

Post Correlati:

ACSI Format AI: L’intelligenza artificiale al centro della seconda conferenza all’ITIS Marconi di Civitavecchia Viviamo in una società malata? La competizione economica come radice del malessere Capire la “Scatola Nera” dell’IA: Interpretabilità, Spiegabilità e Cancellazione dei Dati nelle Reti Neurali La Grande Lobotomia: Il Declino Intellettuale del Bel Paese