Introduzione alla filosofia -5- Mente, cervello e computer

introduzione alla filosofia

In breve: sintesi della quinta lezione del corso “Introduction to Philosophy” Dell’università di Edimburgo, su Coursera  

Introduzione

Cosa significa avere una mente? Siamo certi che chiunque legga questo testo abbia una mente, ma quali sono le proprietà speciali che hanno gli esseri dotati di mente? Quali generi di “cose” hanno queste proprietà: gli animali? I neonati? I computer?
In questa lezione, discuteremo alcuni degli approcci che i filosofi contemporanei hanno dato alla domanda su cosa sia avere una mente.
Nella prima parte si inizia con il dualismo cartesiano che afferma che la mente è immateriale, si continua con la teoria dell’identità, una visione in cui la mente è identificabile con la materia fisica e si finisce con il funzionalismo, secondo il quale uno stato mentale è essenzialmente identificabile con ciò che fa.
Nella seconda parte, ci concentriamo sui problemi che gli esperimenti sul pensiero che Alan Turing e John Searle pongono alla teoria funzionalista della mente.

Il Dualismo delle sostanze di Cartesio

Una pallina da tennis sta dove la metti, un cane può in parte provvedere ai propri bisogni, una persona può provvedere ai propri bisogni ma è diversa da un cane, perché può valutare i propri pensieri; posso pensare al perché ho quel pensiero.
Con la mente umana posso pensare alle cose come ad esempio:

  • Posso fare progetti per il futuro.
  • Posso pensare a cose reali e non reali.
  • Posso pensare a stati del mondo che  non esistono ancora.
  • Posso pensare a come potrei essere da vecchio.

Ma cos’è che genera i pensieri sulle cose? Se dobbiamo dare una descrizione di un pensiero, come possiamo cogliere la sua “intenzionalità”? Questa è una delle grandi domande della filosofia della mente.
L’altro modo in cui sono leggermente diverso dal cane è che ho una “consapevolezza cosciente”. I filosofi amano chiamarla “il cosa si prova”: è quel qualcosa che provo, ad esempio, stando seduta su una sedia pensando intensamente a un particolare problema. C’è un certo tipo di consapevolezza o di esperienza che accompagna tale processo mentale. Cosa sia tale sensazione è l’altro delicato aspetto della filosofia della mente. I filosofi della mente stanno cercando di definire come possiamo caratterizzare la sensazione che si ha di una particolare esperienza.
Naturalmente non si sta dicendo che gli animali non hanno esperienze. Si sta solo dicendo che è una parte davvero distintiva del pensiero umano e che, se lo vogliamo caratterizzare, allora questa è una cosa di cui dobbiamo tener conto.  Così, ogni ipotesi su come funzioni la mente dovrà spiegare perché abbiamo questa sensazione. Questo spiegherà anche com’è che siamo in grado di pensare le cose: pensare alle cose che sono qui intorno a noi, che non esistono e anche pensare i nostri propri pensieri, sono questioni fondamentali della filosofia contemporanea della mente.

Forse, il filosofo della mente più rappresentativo del XVII secolo è René Descartes (Cartesio). Descartes è stato molto famoso per aver dato una particolare visione di come la mente lavori.
Descartes credeva che la mente fosse fatta di una sostanza  molto diversa dai corpi fisici. Così pensava che ci fossero due tipi di sostanza al mondo: c’era la realtà fisica, di cui sono fatti i nostri corpi, di cui sono fatti gli alberi, il ferro, i metalli, le cose del mondo ma, poi, c’era un’altra sostanza molto diversa e non poteva essere studiata dalla scienza: è una sostanza immateriale di cui sono fatte le nostre menti.
Pensò che ogni essere umano è una forma fisica  composta di acqua, sostanze chimiche e organi, ma, oltre a questa, ci sarebbe questa realtà immateriale che sarebbe la mente.
Questa visione è spesso nota come “dualismo delle sostanze” o “dualismo cartesiano”.
Il problema su cui si richiama l’attenzione è quello del nesso di causalità. Elisabetta di Boemia, una delle sue allieve più brillanti dice: “Questa sostanza immateriale come mai non produce cambiamenti nel corpo fisico? Affinché le cose fisiche si muovano, devono essere mosse da un’altra cosa fisica: qualcuno deve spingere una roccia perché rotoli da una collina,  o  serve un terremoto che la scuota, serve l’impulso di un altro oggetto fisico perché inizi a muoversi. Così un essere umano, se  desidera un cosa, si muove per raggiungerla, cambiando il proprio  stato attraverso il movimento.”
La principessa Elisabetta di Boemia dice che  i pensieri sono fatti di una sostanza materiale, se non fosse fisica  non potrebbe interagire con il corpo così da produrre cambiamenti nel mondo. 
Lei vuole sapere come una sostanza immateriale, così diversa dalla realtà materiale, possa essere immateriale.
Questo è noto come “problema del nesso di causalità”, uno dei più delicati per Descartes e per il dualismo delle sostanze.

Fisicalismo: teoria dell’Identità e Funzionalismo

Il sostanzialismo postulava due tipi di sostanze, quella immateriale e quella materiale.  Il modo più facile per aggirare il problema posto dal “sostanzialismo”, è di liberarsi della sostanza immateriale dire semplicemente che esiste solo sostanza fisica.
Questa è la visione nota come “fisicalismo” o “materialismo“.
Il fisicalismo è la visione per cui le mente e i corpi sono fatti esattamente della stessa sostanza. Così i miei pensieri  sono fatti del materiale fisico che si trova nel mio cervello; le sostanze chimiche, gli ormoni e acqua formano i miei pensieri. Ci sono tre diversi modi di precisare la visione del fisicalismo: il comportamentismo logico, la teoria dell’identità e il funzionalismo. Qui vedremo gli ultimi due.

La teoria dell’identità. Ora, qui l’idea è nel nome. La teoria dell’identità dice che i pensieri sono identici a uno stato fisico particolare del mio corpo e del mio cervello. Lo stato fisico può manifestare tutti i diversi cambiamenti molecolari che avvengono dentro di me ogni volta. Ma se potessimo congelare questi cambiamenti molecolari in un punto particolare, al momento in cui sto avendo un pensiero, allora ciò che si ottiene è ciò che è noto come “realizzazione fisica” del mio pensiero.
Il fisicalismo dice che, se si hanno due organismi che sono fisicamente identici  che hanno esattamente la stessa quantità di ormoni, che hanno esattamente la stessa struttura molecolare, sono identici fino in fondo, allora, quei due organismi, saranno esattamente nello stesso stato psicologico. Se due cose sono fisicamente indiscernibili, allora saranno psicologicamente indiscernibili. La teoria dell’identità è anche una visione riduzionista perché riduce i pensieri psicologici che abbiamo, alla fisicità. Un pensiero può essere ri-descritto i termini puramente fisici, in termini di mix chimico, ormonale, di strutture atomiche del mio corpo.
Ci sono diversi modi per precisare l’identità di relazione tra i nostri pensieri psicologici e le strutture fisiche che li realizzano, che li formano. Questa è un’area della filosofia molto complessa, ecco due modi importanti:

Domanda: quanti cani c’erano l’anno scorso al Crufts? (segni o tipi?)
Risposta 1: 30.000 (cani singoli) “segni
Risposta 2: 300 (specie di cani) “tipi

 Cosa c’entra questo? Se stiamo dicendo che gli stati psicologici sono identici agli stati mentali, allora dovremo spiegare se intendiamo l’identità di segni o l’identità di tipi.
L’identità di segni si potrebbe definire come, per ogni stato psicologico dell’essere umano, c’è uno stato fisico corrispondente. Es: ieri alle due avevo mal di pancia. Il dolore è uno stato psicologico. L’identità di segni dice che il mal di pancia che avevo ieri alle due era identico a uno stato fisico particolare in cui era il mio corpo in quel momento.
L’identità di tipi dice che particolari tipi di stati psicologici, come il dolore, sono identici a particolari tipi di stati fisici: per esempio la realizzazione neurale del dolore può essere, come spesso dicono i filosofi, l’attivazione delle fibre C.  Così, quando parliamo dell’identità di tipi stiamo dicendo che, un tipo di stato psicologico, il dolore, è identico ai tipi di stati fisici in cui possono trovarsi i corpi quando vengono stimolate le fibre C, così che tutti gli esseri umani, quando le fibre C sono stimolate, possono dire che provano dolore. A un tipo di stato psicologico corrisponde un tipo di stato fisico.
Questa è un’affermazione molto più forte dell’identità di segni perché l’identità di segni dice solo: “Bene, per ogni stato psicologico, ci sarà uno stato di realizzazione fisica corrispondente.”
L’identità di tipi ci dà un programma di ricerca. Se si è convinti dell’identità di tipi, che i tipi di stati mentali sono identici ai tipi di stati fisici, allora si può provare a scoprire di più, per esempio sul dolore in generale studiando i processi neurali.
Per riassumere: la teoria dell’identità è una tesi fisicalista, o materialista: dice che al mondo non c’è una sostanza immateriale. È un concetto senza senso, tutto ciò che abbiamo sono sostanze fisiche. È una visione riduzionista: dice che gli stati psicologici, per esempio i pensieri, i sentimenti, le sensazioni, il dolore, possono essere ridotti a stati fisici particolari del corpo. E ci sono due modi di precisare il modo in cui gli stati psicologici sono identici agli stati fisici del corpo: c’è l’identità di segni e l’identità di tipi. Ora, queste teorie sono molto complesse (si vedano risorse aggiuntive).
All’apparenza la teoria dell’identità sembra essere molto convincente: si basa sulle cose che conosciamo del mondo; non pone elementi in più come anime o menti immateriali; sembra fornirci un buon programma di ricerca scientifica: se studieremo i cervelli e studieremo i corpi, scopriremo di più sugli stati psicologici.
Tuttavia il filosofo Hilary Putnam, in un importante saggio del 1967, sottolinea alcuni problemi della teoria dell’identità.
Il problema principale è che credeva che fosse troppo ristretto. Ragioniamo. A) Si pensi a un polpo. I polpi sono molto diversi dagli umani. I loro cervelli sono probabilmente fatti di sostanze chimiche un po’ diverse rispetto ai cervelli umani. Eppure non possiamo dire che i polpi non possano sentire il dolore. Sembra un’affermazione strana. “Solo perché il vostro cervello non è come il mio cervello, non significa che non possiate sentire le stesse cose che sento io.” Perché è un problema per la teoria dell’identità? Diciamo che il dolore è la stimolazione delle fibre C e vogliamo dire che i polpi possono sentire il dolore, ma i polpi non hanno lo stesso tipo di fibre C degli esseri umani.

B) Un più ampio esperimento mentale: una specie di alieni che sembrano molto intelligenti, ma i loro cervelli sono fatti di cose totalmente diverse dalle nostre. Non sono nemmeno confrontabili con il mix umano di acqua, sostanze chimiche e ormoni. Forse sono fatti di legno, o di qualcosa di simile, eppure sembrano essere molto intelligenti. E questi alieni ci dicono che possono sentire il dolore. Ma a cosa è identico il loro dolore? Possiamo dire che il loro dolore è identico a uno stato del cervello, uno stato del cervello totalmente diverso dallo stato del cervello umano. Così, sembra che dobbiamo qualificare il tipo di identità che stiamo usando. Stiamo dicendo che il dolore e gli altri stati psicologici sono identici a stati particolari del corpo, ma gli stati del corpo a cui sono identici possono variare da specie a specie, e più terribilmente, possono anche variare tra uomo e uomo.
Questo riduce di molto la forza della teoria dell’identità. Ora, questo non è un colpo definitivo alla questa teoria, ma solleva una questione davvero interessante su come dovremmo pensare la relazione di identità tra gli stati psicologici e le loro realizzazioni fisiche.
Dovremmo pensarla come una realizzazione solo dentro un essere umano particolare, o dentro la specie, o possiamo fare un’affermazione più universale? Putnam sottolinea nel suo saggio: “Forse stiamo guardando nel posto sbagliato. Forse non dovremmo pensare di cosa sono fatti gli stati psicologici. Forse è semplicemente sbagliato guardare le strutture del cervello per tentare di capire quali sono gli stati psicologici particolari, perché le strutture del cervello variano notevolmente tra le specie.”
Sembra essere il caso che gli umani con la propria composizione fisica, i polpi con la propria composizione fisica e alieni intelligenti con la propria composizione fisica possono tutti sentire il dolore, anche se la sostanza di cui sono fatti è molto diversa. Cosa ci permette di dire che questi tre tipi di cose sentano il dolore: umani, polpi e alieni?

Putnam dice che c’è una caratteristica diversa degli stati psicologici. Quando si riflette sugli stati psicologici, dovremmo riflettere su cosa fanno e non di cosa sono fatti.
Questa è la seconda visione che affronteremo, nota come “funzionalismo“. 
Ciò che Putnam dice è che, uno stato psicologico particolare come il dolore, può avere realizzazioni fisiche diverse, può essere fatto di sostanze fisiche diverse a seconda che siate un uomo, che siate un polpo o che siate un alieno. Possiamo dire che gli uomini, i polpi e gli alieni possono tutti sentire tutti il dolore anche se la sostanza che forma quei dolori, la sostanza a cui il teorico dell’identità dice che il dolore è identico, è completamente diversa. Così, questa è noto come “questione della realizzabilità multipla“, perché lo stato fisico che realizza lo stato psicologico del dolore può essere molto diverso, a seconda del tipo di organismo che stiamo considerando.

Il Funzionalismo e cosa fa lo stato mentale

Putnam dice di concentrarsi su ciò che fanno gli stati psicologici e non sulla materia. Per capire di più, segui questo esempio: immagina di essere in un paese dove invece dei soldi si usano le conchiglie. Queste hanno la stessa funzione delle monete o delle banconote, ma sono fatte di diversa materia. Oppure si usano gli animali per gli scambi commerciali. Così soldi, monete, conchiglie o animali hanno tutti la stessa funzione. 
Prendiamo ora delle sedie diverse e, nonostante siano diverse, possiamo usarle tutte per la stessa funzione di sederci. Ciò che le rende tutte sedie è la loro funzione.
Il problema che Putnam sta mettendo in evidenza è che non dovremmo identificare gli stati mentali in base a ciò di cui sono fatti, così come non dovremmo identificare una sedia con ciò di cui è fatta. Anche il denaro può essere fatto di materiali completamente diversi. Ciò che ci permette di dire che tutte queste cose sono sedie o denaro, è quello che fanno.
Ed è esattamente ciò che Putnam pensava che dovremmo fare con gli stati psicologici. Quindi, invece di dire quali sostanze producono quello stato psicologico, chiedersi come funziona quello stato psicologico.
Così possiamo pensare al dolore come a uno stato particolare che funziona e ci fa sussultare quando tocchiamo qualcosa. Se pensiamo a come funziona il dolore, allora possiamo vedere come può essere realizzato in diverse specie, negli umani e  nei polpi, anche se  è costituito da cose molto diverse: cervello di polpo in un caso e cervello umano nell’altro. Di cosa è fatto non importa. Ciò che è cruciale è come funziona. Questa è la visione materialistica conosciuta come funzionalismo, che dice che dovremmo pensare agli stati mentali, non per quello di cui sono fatti, ma per quello che fanno. Allora, che cosa fanno gli stati mentali?
La prima cosa che fanno è che causano comportamenti particolari. Quindi, ad esempio, se voglio del cioccolato, quel particolare stato psicologico mi induce a comportarmi in particolari azioni: infilo la giacca, esco per andare al negozio. Ma fanno anche altre cose, possono causare nuovi stati psicologici. Quindi, se voglio del cioccolato, questo stato potrebbe anche farmi desiderare di trovare la mia giacca e penso, sì, voglio davvero del cioccolato. Per averlo allora dovrei trovare la mia giacca.  Vado a cercare la mia giacca. Così, lo stato psicologico del mio desiderio di cioccolato, causa in me un nuovo stato psicologico.
L’altra cosa importante da capire sugli stati psicologici o sugli stati mentali è che sono causati anche da cose particolari. Quindi il desiderio di cioccolato potrebbe essere causato dall’odore del cioccolato. Potrei camminare per strada e sentire l’odore del cioccolato che esce dalla pasticceria e pensare, uhm, cioccolato, ne voglio davvero un po’. Quindi, quella particolare percezione del mondo mi ha fatto entrare in uno stato particolare: voglio davvero del cioccolato, che poi mi induce a comportamenti particolari, ad esempio: penso di avere abbastanza soldi per un po’ di cioccolato? Oh, non sono sicuro. Oh, allora lo mangerò un’altra volta. 
Quindi, gli stati psicologici sono causati da input sensoriali e, a loro volta, causano comportamenti e stati psicologici e altri stati interni come output.
L’altra cosa che può causare uno stato psicologico è un altro stato psicologico. Quindi, potrei avere la convinzione di avere fame, questo è uno stato mentale particolare che mi fa desiderare il cioccolato. Quindi si possono avere stati psicologici che causano altri stati psicologici. 

Posso notare che il mio desiderio per il cioccolato è diverso dalla mia convinzione che ci sia cioccolato in frigo. Perché è causato da cose diverse, come:

  • il mio desiderio di cioccolato è causato dall’odore del cioccolato e dalla convinzione che io abbia fame.
  • dalla convinzione che ci sia del cioccolato in frigo. Perché  è causata da un insieme completamente diverso di input sensoriali. 

Ciò che dovremmo guardare è la caratteristica fondamentale di uno stato psicologico, è ciò che fa. E ciò che ci consente di attribuire uno stato come il dolore di un polpo, è che quel polpo funziona in modo tale da poter dire che è nello stato di percepire dolore. Quindi se il polpo ha toccato qualcosa che scotta e si è ritratto velocemente, potremmo dire che il polpo si trova in uno stato particolare che lo fa ritrarre quando tocca qualcosa di molto caldo. Forse quel polpo è in uno stato di dolore perché quello stato di dolore funziona negli umani? Si può affermare che gli stessi tipi di comportamento in un polpo, sono di dolore perché è in uno stato che funziona esattamente allo stesso modo del dolore umano. 

Funzionalismo e complessità funzionale

Abbiamo inserito l’idea del fisicalismo, che le menti siano fatte della stessa materia dei corpi.  Abbiamo visto la teoria dell’identità che dice che gli stati psicologici sono riducibili a identici stati fisici particolari. Abbiamo visto il funzionalismo, che dice: No, ciò che dovremmo fare è pensare a cosa fanno gli stati psicologici e che hanno diverse realizzazioni fisiche. Così, in un polpo il dolore è un particolare stato cerebrale del polpo, negli umani è un particolare stato cerebrale e negli alieni è uno stato cerebrale molto diverso. Ciò che ci permette di dire che tutte e tre le cose sono dolore, è che si comportano in un modo molto simile. Lo stato psicologico del dolore causa  un comportamento di avversione quando qualcosa di molto caldo causerebbe un danno corporeo. 

Ora si affronta la questione del perché i filosofi e gli psicologi amano la metafora del computer per riflettere sulla mente umana. Quando, pensiamo ai computer sappiamo che processa dati, gli input e gli output, in  modo affidabile. Così un computer potrebbe essere fatto di metallo, o di legno e le informazioni sono tali a prescindere da ciò di cui è fatto il computer. 
Allo stesso modo, per avere una mente, bisogna avere stati psicologici che sono funzionalmente complessi. Bisogna averne moltissimi. Domanda:  una spugna di mare ha una mente? Forse no, perché le spugne di mare non sono particolarmente complesse nelle loro interazioni con il mondo. Aspirano acqua con determinati nutrienti, sputano l’acqua. É un’analisi funzionale molto elementare.
Un essere umano e i suoi tipi di funzioni  ha suoi stati psicologici molto diversi a secondo in cui si trova. Il funzionalismo astrae  ciò di cui sono fatti gli stati psicologici e guarda cosa fanno.

Per avere una mente serve un certo livello di complessità funzionale e avere un certo livello di stati psicologici. Qual è il livello di complessità necessario per avere una mente? 

Menti contro macchine: il test di Turing e la stanza cinese

Nel 1950 Alan Turing si pose questa domanda “Le macchine possono pensare?” Era troppo vaga. Forse, una domanda migliore da porsi sarebbe: “Quando può una macchina essere scambiata per una vera persona pensante?” Così Turing propose il seguente esperimento mentale. Immaginate che siate in una stanza e avete davanti una barriera e, dietro la barriera, ci sono un uomo ed un computer. E potete fare loro, all’uomo e al computer, domande, ma non sapete chi è l’uomo e qual è il computer. Compito è capirlo solo dalle risposte che ottenete alle domande che fate. Ora le domande che potete fare possono essere su tutto. Così, potete chiedere: “Qual è il miglior posto per comprare carta da parati?”, “Cosa ne pensate del governo attuale”?, “Ti piacciono le papere?”, qualsiasi cosa. E ottenete tutte le vostre risposte. E Turing dice: “Quando arriviamo al punto che non possiamo decidere chi è l’uomo o qual è la macchina, o se la nostra decisione su chi è chi diventa arbitraria, allora siamo riusciti a costruire una macchina che ha una mente, una macchina che può pensare.” Può pensare perché è stata capace di ingannare un altro essere umano. Così, questa è un organismo, o piuttosto una macchina, che ha raggiunto il livello appropriato di complessità funzionale per ritenere che abbia una mente.
Un riferimento culturale di questo test, è in “Blade Runner”,  il personaggio di Harrison Ford viene mandato a trovare i replicanti nella società umana, dove ci sono dei robot che appaiono e agiscono come gli uomini; li deve eliminare. Così applica qualcosa simile al test di Turing. Fa alle macchine e agli uomini molte domande diverse per provare a capire se quello con cui sta parlando è un replicante, un robot che finge di essere un uomo, o un uomo.

Quanto è valido il test di Turing per capire se una macchina può pensare? Qui, ci sono alcuni problemi che i filosofi hanno mosso.
Prima di tutto, è basato sul linguaggio, così che il test è adatto a un’intelligenza che possa comunicare tramite il linguaggio. Non potremmo, per esempio, controllare l’intelligenza animale se questi animali non potessero parlare con dei linguaggi.
Il secondo problema con il test di Turing che alcune persone hanno sollevato, è che forse è troppo antropocentrico, perché ciò che testiamo con esso è se una macchina può essere scambiata per un essere umano, sembra molto sciovinista pensare che la sola intelligenza degna di studio è l’intelligenza umana, potrebbero esserci altre forme di intelligenza realizzate da macchine, ma a cui non diamo l’opportunità di emergere usando il test di Turing.
Il terzo problema con il test di Turing è che non tiene conto degli stati interni della macchina. Prendete, per esempio, una macchina che fa una somma, e le chiedete: “Quanto fa 2 più 8?” Ora, potreste avere una macchina che fa una sorta di calcolo, pensa “2 più 8”, aggiunge le due cose insieme e vi dà la risposta “10”. Ma potreste avere una macchina programmata in un certo modo che, quando riceve l’input “2 più 8”, cerca tra i suoi file, e arriva a un file che contiene “2 più 8”, lo estrae, lo apre e dice “10”. E dà la risposta, “10”.
Nel primo esempio possiamo dire che quella macchina fa qualche tipo di calcolo e attua qualche tipo di processo di pensiero, mentre la seconda macchina ritrova semplicemente un file. Ora, se fosse possibile costruire una macchina che possa passare il test di Turing usando solo un sistema di file, sarebbe un po’ preoccupante, perché non sembrerebbe avere processi di pensiero. Abbiamo solo una macchina che può ritrovare diversi file e determinare le risposte. Dovrebbe avere un tale gigantesco archivio di file e un tale sistema di ricerca in un enorme database.
Secondo, anche se una macchina potesse passare il test di Turing, forse non potremmo dire che ha una mente, che può avere processi di pensiero, che può avere stati mentali. Ma forse varrebbe la pena cercare di capire come è strutturata è ci darà qualche indicazione di ciò che è richiesto alla mente umana. 
Se abbiamo un computer che può passare il test di Turing, sarebbe considerato come se avesse una mente?
Il filosofo John Searle  propone il seguente esperimento. Immaginate di essere in una stanza che ha due aperture  una che dice “In” e una che dice “Out”.  Ricevete dei simboli su carta che arrivano dall’apertura “I”. Nella stanza c’è un libro che contiene una lista di algoritmi su cosa fare a seconda del tipo di simbolo che si riceve. Se si riceve un simbolo di tipo A, si fa uscire un simbolo di tipo B, ecc. Così si crea un flusso costante di simboli che entrano, e guardando il  libro, si fanno uscire altri simboli.  Ora immaginate che questi simboli siano scritti in cinese, che chi è nella stanza non conosce. La persona che immette simboli (domande) è invece, di lingua cinese. Le risposte che voi date dal libro sono coerenti. Di fatto, si sta realizzando qualcosa di simile a una macchina che passerebbe il test di Turing. Così, il  cinese all’esterno crede davvero di conversare con un altro cinese.
Searle dice che chi è all’interno della stanza e risponde in cinese, non capisce quello che sta facendo, semplicemente segue le istruzioni del libro, proprio come operano i computer, ricevono input e  il programma dice loro che tipo di output devono dare.  Quella macchina non sta pensando,  sta solo portando avanti una buona simulazione di uno che pensa, e potrebbe ingannare qualcun altro che sta all’esterno. Ma una simulazione non può essere considerata pensante, perché non è coinvolta alcuna comprensione.
Questa è una delle domande più importanti che sono state mosse alla sostanza computazionale della mente. Possiamo dire che le menti sono come i computer, prendono degli input, li manipolano ed emettono output. Allora, da dove viene il significato? Questo riporta alla questione dell’intenzionalità dei pensieri. 
Ciò che è davvero saliente nell’esperimento mentale di Searle è che i computer lavorano solo sulle proprietà sintattiche dei simboli. Si immagini di avere un quadrato con una linea in mezzo. È un simbolo, diciamo cinese che sta per la domanda: “Ti piacciono le papere?” E che voi siate la persona nella stanza cinese che riceviate il simbolo. La proprietà sintattica è solo il quadrato con la linea, se si vuole è la forma del simbolo. Guardando la forma del simbolo si dà una risposta a seconda della forma del simbolo. I computer operano sempre con le forme dei simboli. Il computer non ha bisogno di comprendere che un quadrato con una linea in mezzo significa  “Ti piacciono le papere?” Tutto ciò di cui hanno bisogno è poter eseguire il programma per capire quale sia l’output corretto da dare. 
Nel  pensiero umano sono importanti le proprietà semantiche ovvero, ciò che il simbolo rappresenta. Così, il quadrato con una linea in mezzo rappresenta la domanda “Ti piacciono le papere?”  Il computer ha solo bisogno di sapere come deve trattare quel simbolo e dare un output particolare. 
Searle dice che non importa quanto un sistema sia funzionalmente complesso e, anche se può passare il test di Turing che lavora solo sulle proprietà sintattiche, non sarà mai un sistema propriamente pensante, perché non avrà mai l’intenzionalità, non sarà mai in grado di comprendere il valore semantico di quei simboli. E, intuitivamente, per avere un sistema pensante, si deve avere un sistema che comprenda, sia le proprietà semantiche dei simboli, sia quelle sintattiche. Ecco come arriviamo all’intenzionalità dei pensieri.

Menti contro macchine: problemi per la visione computazionale della mente

Come esseri umani abbiamo cervelli e abbiamo coscienza. Quindi la miscela chimica di cui siamo costituiti ha consapevolezza. Ma la miscela chimica che è qualcos’altro, potrebbe non avere coscienza.
Quindi, anche se possiamo fare un’analisi in termini di input e output, non riusciamo ad analizzare la consapevolezza o il senso dell’esperienza che si ha.
Le teorie viste sopra uscivano quando si diceva che i computer ci fornissero tutte le risposte a tutto. Alcuni studiosi hanno sostenuto che forse questo è un modo limitato a come stiamo pensando alla mente, cioè al pensiero come analisi computazionale e iniziano a pensare alle menti in altri termini.

La filosofia della mente è un campo davvero eccitante, contemporaneo, nuovo. In particolare come i filosofi  stanno ora lavorando con psicologi e neuroscienziati per cercare di scoprire di più sulla relazione tra la descrizione funzionale degli stati psicologici, gli input e gli output.