💾 Archived View for omg.pebcak.club › ~cage › archive › AI-che-male-3.gmi captured on 2023-12-28 at 15:53:07. Gemini links have been rewritten to link to archived content
⬅️ Previous capture (2023-09-08)
-=-=-=-=-=-=-
Ma in realtà una parte del mio pensiero è prodotto dal chip che simula i neuroni mancanti del mio cervello, una simulazione precisa neurone per neurone, eppure non si tratta di altro che un mucchio di segnali elettrici che transitano di qui è di li secondo delle regole precise: banale fisica. Come potrebbe sapere questa scheda elettronica, che dice al mio cervello cosa risponderti su "cosa sia essere me", cosa sia essere me? Non direi neanche che capisce cosa mi stai dicendo!
Si tratta della rimasticazione di un famosissimo esperimento mentale ideato da John Searle; immaginiamo di essere al centro di una stanza senza finestre o accesso all'esterno eccetto una stretta feritoia. Ad un dato momento da una delle feritoie appare un foglio di carta con sopra impressi dei simboli. Noi prendiamo il foglio e facciamo corrispondere ciascun simbolo con una serie di regole presenti in un grosso libro presente nella stanza, tali regole possono portare ad altre regole oppure ad un simbolo. Ogni volta che una regola porta ad un simbolo lo si trascrive su un altro foglio. Per semplicità ammettiamo che alla fine tutte le catene di regole portino ad un simbolo. Quando tutti i simboli sono stati trascritti imbuchiamo il foglio nella feritoia e il processo riprende.
Quello che non sappiamo è che i simboli in ingresso sono caratteri cinesi così come quelli trascritti. In effetti siamo un chatbot che risponde in cinese.
Noi conosciamo il cinese? No.¹
Il sistema di regole capisce il cinese? Direi che il sistema di regole di cinese non ne sa molto più del libro che ho sul comodino².
Dunque abbiamo una macchina che sa parlare il cinese senza che capisca il cinese.
Allo stesso modo un computer che superasse il test di Turing mancherebbe di qualcosa necessario per capire di cosa sta parlando. Paradossalmente mentre, parlandoci, abbiamo la certezza che lo stia facendo.
Ultimamente, se vi hanno dato del "riduzionista", lo hanno fatto per denigrarvi; immagino che chi sostenga la validità dell'esperimento mentale della stanza che parla cinese, si scagli contro la visione che la mente sia il prodotto della somma dei neuroni del cervello, quindi lasciatemi dire che sono d'accordo con loro, per questo non concordo con la bontà dell'esperimento di Searle. E' vero che né il libro né la persona dentro la stanza capiscono il cinese, ma pensate alla combinazione tra la capacità di manipolazione dei simboli di un essere umano insieme alle regole (probabilmente per tale libro non basterebbero tutte le biblioteche del mondo per contenerlo, i propugnatori di tale esperimento omettono spesso questo particolare) di generazione dei simboli in uscita, potete — in tutta sincerità — affermare che la stanza non capisca il cinese?
¹ e se lo conoscete, vi prego di fingere di non conoscerlo
² "2001 odissea nello spazio", se interessano i dettagli inutili
Ciao!
C.