L’immaginario pop ha da tempo consolidato l’idea del Terminator come il robot molto scaltro, intelligente e crudele, destinato a porre fine al genere umano. Una questione che riporta all’abuso della cultura pop da parte di certe letture della realtà un po’ troppo radicali, spesso affini a complottismo e rigurgiti anti-tecnologici (per non dire peggio). Come già avvenuto in Matrix e in Essi vivono, il film viene spezzettato e macinato in meme che fanno perdere il riferimento ed il punto di partenza della storia, diventando materiale per barzellette che non fanno ridere e (pseudo)notizie che vorrebbero farci piangere.
Ora capisco perchè piangete è la frase che il Terminator buono, dopo aver distrutto l’infido T-1000, pronuncia al giovane John Connor, che a quel punto si è legato emotivamente ad un robot che gli ha salvato più volte la vita, e che vorrebbe fermarne la proclamata autodistruzione. La tragedia di Cameron si lega alla necessità di sopravvivenza del genere umano, naturalmente: se Terminator non concludesse la propria missione gettandosi tra le fiamme, il futuro potrebbe risultare globalmente compromesso, minacciato dagli androidi che prenderanno il sopravvento sugli uomini. La storia impone che i terminator si estinguano, per quanto doloroso possa sembrare per le nuove generazioni. John, ad un certo punto, non può fare a meno di esprimere il proprio stato d’animo con una lacrima che scende sul proprio viso. Il Terminator disobbedisce pure all’ultimo ordine disperato del ragazzo, ti ordino di non andare, a testimonianza del fatto che ha acquisito una propria indipendenza di giudizio, il che non si ripercuote necessariamente (è bene ribadirlo) in conseguenze negative per l’uomo.
Ora capisco perchè piangete è una frase struggente quanto ricolma di significati: in primis andrebbe notato come la macchina interpretata da Schwarznegger abbia capito, cioè sia riuscito ad imparare qualcosa dagli uomini, attivando quello che oggi chiamiamo “apprendimento macchina” (machine learning). In secondo luogo, i terminator di Cameron sono tutt’altro che mono-dimensionali, tutt’altro che cattivi per definizione, ma sono estremamente ambivalenti: nel primo episodio del film, infatti, il terminator cattivo era interpretato dallo stesso attore che nel secondo episodio diventa dalla parte degli uomini. Questo avviene perchè, a livello di intreccio, il robot è stato programmato e riprogrammato per questa evenienza. Non si può fare a meno di notare, a questo punto, quel barlume di ingenuità narrativa del distinguere tra buoni e cattivi sulla base dell’aspetto, ma a ben vedere questo permette al film di avere vari seguiti narrativi e di giocare perennemente su questa ambiguità di fondo: cosa vuol dire buono? Cosa vuol dire cattivo? Se riprogrammassimo un androide crudele per accompagnare gli anziani ad attraversare la strada, sarebbe possibile? Ricorderebbe di essere stato cattivo? Potrebbe sentirsi in colpa per aver agito in quel modo e dover andare dallo psicoanalista?
Ora capisco perchè piangete denota anche, in definitiva, una capacità di empatia da parte della macchina, cosa che effettivamente chiede chi si rivolge a ChatGPT come se fosse il proprio psicologo.
È altamente plausibile (per quanto si tratti ancora di un cantiere aperto) che la questione annessa all’etica delle macchine non sia decidibile, che significa: in informatica il concetto di “problema non decidibile” si riferisce a una classe di problemi per i quali non esiste (e mai potrà esistere, se è corretta l’ipotesi) un algoritmo o un programma che possa risolverli in modo generale, indipendentemente dall’hardware o dal tempo a disposizione. In altri termini un problema è considerato “decidibile” se esiste un algoritmo o una procedura che, quando applicati a qualsiasi istanza del problema, restituiscono una risposta corretta (sì o no) entro un certo limite di tempo. Ad esempio, il problema di verificare se un numero intero è pari o dispari è decidibile, poiché si può scrivere un algoritmo molto semplice che restituisce la risposta corretta. Capire se una macchina sia buona o cattiva, invece, che problema è? In quanto tempo posso rispondere con certezza sì o no?
Le testate online hanno la capacità incredibile di banalizzare qualsiasi questione.
Questa è l'ennesima volta che si usa l'immaginario di Terminator per riferire evoluzioni minacciose nell'intelligenza artificiale.
Questo paragone è improprio e fuorviante👇 pic.twitter.com/vWmGfO3K4q
— 🐺 Salvatore Capolupo (@sarbathory) October 4, 2023
Un esempio classico di problema non decidibile è il “problema dell’arresto” (Halting Problem): questo problema chiede se, dato un programma e un input, il programma si arresterà (terminerà) o continuerà a eseguire all’infinito per quell’input specifico. Alan Turing dimostrò già nel 1936 che non esiste un algoritmo generale che possa risolvere il problema dell’arresto per tutti i casi possibili. Per estensione il problema di stabilire se un’intelligenza artificiale (IA) possa o meno danneggiare l’umanità o meno non è un problema decidibile, almeno nel senso della teoria dell’informatica teorica. In un certo senso non vale a molto chiederselo, almeno fin quanto la teoria non avrà affinato i propri mezzi. Il che significa non avrà trovato un modo per quantificare l’etica, per misurare l’intelligenza in assoluto (in un ambito non ristretto come quello di una partita a scacchi dove, si è visto, algoritmo batte umano).
Tale problema coinvolgerebbe infatti una serie di fattori complessi, etici e comportamentali non (ancora) misurabili, che vanno oltre la capacità di essere risolti da un semplice algoritmo o da una procedura meccanica. Lo stesso semplice dilemma del capire se una macchina possa o meno superare l’intelligenza umana è ambivalente, per quanto studiosi come Kanheman abbiamo ribadito che certe previsioni nel lungo periodo (come stabilire la profittabilità di un’azienda in 5 anni), ad esempio, vengono fatte con maggiore precisione di qualsiasi esperto da semplici algoritmi statistici o numerici. Ma sono ambiti differenti, molto, e le generalizzazioni servono a poco. Meglio quindi, ad oggi, porla in altri termini, e considerare prematura la domanda.
Ingegnere per passione, consulente per necessità; ho creato Lipercubo.it. – Mastodon