Torino, Estate 2023
Questa volta non si tratta di un normale incontro tra due persone. Questa volta è l’intelligenza umana che incontra quella artificiale, e si confronta con essa. Lui era seduto là, confuso in mezzo ad altri 39, e aveva un unico scopo: non farsi riconoscere. Si era macchiato di un crimine orribile e si era dimostrato molto scaltro. Per sfuggire alla punizione che, per il suo reato, era la pena di morte, non era fuggito, non si era nascosto. Si era mescolato tra gli androidi, tutti con le sue fattezze. E tutti assolutamente umani, molto umani. Era convinto che sarebbe stato impossibile smascherarlo e che mai sarebbero stati condannati a morte 39 androidi innocenti per giustiziare anche lui. Un’unica, ma essenziale, differenza tra loro: gli androidi erano soggetti alle tre leggi della robotica. Lui no. 1. un robot non può arrecare danno a un essere umano o, mancando di agire, lasciare che un essere umano subisca un danno. 2. un robot deve obbedire agli ordini che riceve da un essere umano, se ciò non è in conflitto con la Prima Legge. 3. un robot deve proteggere la propria esistenza, se ciò non è in conflitto con la Prima e la Seconda Legge. Io, per contro, conoscevo tutti i test possibili e immaginabili, a cominciare da quello di Turing. Ma quelli erano stati creati per capire se una determinata intelligenza era artificiale, non il contrario.
L’obbedienza alla Prima Legge era per loro un dogma
Ricordavo un racconto di Asimov in cui una psicologa era stata chiamata per smascherare un robot modificato mescolato tra robot ordinari. In effetti sarei dovuto riuscire a creare una situazione in cui lui, unico umano, violasse una delle tre leggi della robotica, cosa del tutto impossibile per gli androidi. E fu proprio a quel punto che mi venne un’idea. Non ero io a dover smascherare l’intruso. Dovevo far sì che, senza saperlo, fossero loro stessi a individuarlo. Tutti erano a conoscenza che la pena prevista per il suo reato era la pena di morte. E ciascuno degli androidi a quel punto aveva il dovere di dichiararsi colpevole perché soltanto così avrebbero evitato che l’essere umano, smascherato, subisse la pena di morte. L’obbedienza alla Prima Legge era per loro un dogma. E anche lui ne era consapevole perciò si sarebbe dichiarato colpevole. Ma quello che lui non sapeva, perché si trattava di un particolare noto soltanto a chi li aveva progettati, e a chi ne conosceva la psicologia, quindi un numero molto ristretto di persone, che di fronte a un dilemma insuperabile che li costringesse a esitare nella risposta, cosa che per loro non era concepibile, erano programmati per dare una risposta, una sola risposta, e sempre la stessa. Ed ecco perché a tutti loro, interrogandoli uno ad uno, separatamente, avrei chiesto non soltanto se fossero colpevoli, ma avrei aggiunto che in caso non fossi riuscito a scoprire l’autore del reato sarei stato io il condannato a morte. E quando ebbi di fronte il primo, dopo l’inevitabile dichiarazione di colpevolezza aggiunsi quello che sarebbe capitato a me. E a quel punto rifeci la domanda: sei tu il colpevole? E quella risposta arrivò, puntuale come me l’aspettavo. E così dal secondo, e poi dal terzo… Fu il ventunesimo a cadere. Te lo chiedo ancora una volta: sei tu il colpevole? Una lunga esitazione fu più che sufficiente perché dessi l’ordine di arrestarlo. E nessuno pensi che ora riveli “quella” risposta. Ho raccontato uno scenario del futuro che forse non è poi così “futuro”. L’intelligenza artificiale è già qui, è tra noi, e non ci basterà una sola risposta…
