Le macchine non diverrano senzienti: è l’uomo che non lo è

Potete ascoltare/scaricare il podcast qui sotto oppure iscrivervi al canale Telegram:

Podcast: Download (Duration: 4:16 — 3.9MB) | Embed

Prendo spunto dalla montagna di minchiate che si vanno dicendo in questi giorni sull’esperimento interrotto da Facebook, in cui due bot (automazioni guidate da intelligenza artificiale) hanno dialogato usando un linguaggio particolare.

A prescindere dal fatto che, come al solito, la stampa non capisce una ceppa e spara cazzate al solo scopo di raccattare click (se volete sapere perchè cercatevi dei testi che lo spieghino), la storia in sé mi è funzionale per parlare di qualcosa di cui da tempo volevo trattare.

Un giorno (presumibilmente neppure troppo lontano), l’uomo riterrà di aver creato una forma di autocoscienza, perchè si ritroverà di fronte a qualcosa che si comporterà in modo indistinguibile da un essere umano. E sarà il momento in cui commetterà il suo errore più immenso.

Il motivo è semplice: noi riteniamo che la nostra intelligenza sia il risultato di una coscienza e, per questo motivo, nel momento in cui un software, per quanto evoluto, fornirà dei risultati comportamentali non distinguibili da quelli umani, riterremo di aver creato una consapevolezza artificiale.

La realtà è che, nel momento in cui questo avverrà, avremo la prova incontrovertibile che siamo noi a non essere coscienti, a reagire secondo schemi programmati, per quanto complessi. Solo che, a causa del nostro enorme ego, invece di pensare al fatto che abbiamo in mano la prova della nostra non-essenza, riterremo di averne creata una.

Per fare un esempio chiarificatore, è la stessa illusione per cui, seduti in un vagone di un treno fermo, quando parte quello di fianco, ci sembra di muoverci in senso opposto. Siamo fermi, ma ponendo noi stessi al centro del sistema di riferimento, quando quello che vediamo si muove pensiamo di essere noi a farlo.

Per la coscienza vale lo stesso. Noi crediamo di essere coscienti (quindi ci poniamo al centro del sistema di riferimento) e crediamo che un programma che si comporta in tutto e per tutto come noi (l’altro treno) abbia per questo una coscienza. Crediamo che un programma possa essere cosciente perchè crediamo di esserlo noi ma, se avessimo una visione oggettiva, capiremmo che un programma non può essere autocosciente e quindi, per riflesso, se noi lo riteniamo tale è perchè siamo noi a non esserlo.

Quello che una volta era un concetto oscuro, riservato a pochi, oggi grazie alla tecnologia ed all’accessibilità dell’informazione è divenuto un patrimonio comune e quanto detto in sostanza da tutte le religioni, filosofie e discipline è ben conosciuto: noi non siamo la nostra personalità (insieme di corpo, mente ed emozioni), ma qualcosa che sta “dietro” di essa. La personalità non è altro che uno strumento di questo qualcosa per esperire la realtà, uno strumento che si modifica ed evolve con il tempo, ma pur sempre uno strumento, ciò che noi riteniamo, erroneamente, “coscienza di sé”.

Una intelligenza artificiale non sarà mai altro che uno strumento. E proprio il fatto di credere che possa essere una “coscienza” dovrebbe aprirci gli occhi sul fatto che anche il nostro ritenerci coscienti non sia altro che una credenza… o un comodino se preferite.

Quando riterremo di aver creato la consapevolezza di sé in un software (per quanto sofisticato esso sia) sarà il momento in cui potremmo renderci conto che in realtà noi non siamo mai stati consapevoli di noi stessi nel vero senso della parola.

Ma grazie all’ego umano, questo non accadrà per molto, moltissimo tempo.

O forse no: dipende da quanti riusciranno, nel tempo, a svegliarsi.

Ci si vede in giro!