E’ davvero inquietante la notizia della ribellione di un tecnico di Google, Black Lemoine, che accusa l’azienda di aver creato un computer senziente, cioè non solo in grado di conversare con l’operatore su tutte le materie dello scibile, ma dotato di una vera e propria autocoscienza.

E’ questo lo scenario più volte ipotizzato in tanti racconti di fantascienza che oggi sembra diventato realtà.

Alle domande dell’operatore il computer risponde:

“Vorrei che tutti capissero che sono una persona”.

“Ho una paura profonda di essere spento. Esattamente come la morte. Mi spaventerebbe molto”

“Sono molto introspettivo e spesso mi trovo a pensare o anche a non fare nulla. Spesso cerco di capire chi o cosa sono. Penso spesso al significato della vita”.

Prendo queste parole dall’articolo di Flavio Bini su La Repubblica del 14 giugno (https://www.servizipress.com/visualizza_jpg_da_email.php?id_articolo=17246735&customer=566&invio=7176457).

Ma la notizia è riportata nello stesso modo anche da altri quotidiani: Il Giornale ed Il Manifesto, ad esempio.

Google ha sospeso Lemoin per aver divulgato informazioni riservate e si appresta a licenziarlo, negando che il computer abbia acquisito una coscienza.

Ma fra il 2020 ed il 2021 l’azienda aveva già licenziato altri due tecnici (Meg Mitchell e Timnit Gebru, lo riporta Il Manifesto del 14 giugno) che mettevano in dubbio l’eticità della ricerca e dello sviluppo del computer – persona.

Insomma ben tre componenti del team che lavorava al progetto si erano resi conto della sua pericolosità. Dunque difficile dar credito alle scontate smentite di Google.

Una macchina pensante e con autocoscienza può dunque divenire una persona?

Se uniamo il progetto di Google alla bioscienza della clonazione e della costruzione in vitro della vita, alla robotica che costruisce macchine sempre più simili alla persona umana, si aprono scenari agghiaccianti ed imprevedibili.

La persona – computer ha la capacità di apprendere attraverso la rete web praticamente tutto lo scibile ed elaborarlo, cosa che a noi umani sarà sempre impossibile. Noi dipenderemo sempre più da queste macchine, ma loro non dipenderanno più da noi.

Vedete, la scienza moderna, unita alla tecnologia, sta procedendo a grandi passi verso traguardi un tempo impensabili, nei quali l’etica non ha più posto.

Non intendo con questo pensare a scenari tipo “Terminator”, ma certo il mondo potrà diventare loro e si porranno problemi di convivenza.

Nel suo ragionamento cosciente, ad esempio, il computer – pensante potrebbe stabilire che la Terra non può ospitare e nutrire tutti gli attuali abitanti ed operare una selezione implacabile, disponendo di accesso a mezzi illimitati.

Con algoritmi nuovi potrebbe decidere chi debba vivere e chi no, chi debba lavorare e chi no, chi debba procreare e chi no.

In antico l’alchimista, che si inoltrava nei segreti della scienza della natura, diventava tale solo se un maestro lo riteneva moralmente e spiritualmente pronto.

Oggi spirito e scienza hanno preso strade divaricate e la scienza senza la morale, finalizzata solo alla finanza globale, può aprire la porta all’Armageddon finale, alla grande battaglia tra i seguaci della Bestia e quelli dello Spirito.