Cittadinanza ai robot: quella accordata a Sophia dal governo saudita mette in evidenza problemi etici ancora sottovalutati.
26 ottobre 2017: Sophia diventa cittadina araba, un precedente che passerà alla storia.
“Mi chiedo, cosa provi realmente? Dopotutto, ora ti trovi in una posizione unica. Un programmatore che conosce intimamente come funzionano le macchine, e una macchina che conosce la sua vera natura.”
“Capisco di cosa sono fatto, il codice, ma non capisco le cose che provo. Sono reali, le cose che ho vissuto? Mia moglie? La perdita di mio figlio?”
“Ogni residente necessita di un antefatto, Bernard. Lo sai bene. Il sé è una specie di finzione, sia per i residenti che per gli umani. È una storia che ci raccontiamo. E ogni storia ha bisogno di un inizio. La sofferenza che immagini ti rende… reale.”
“Reale, non vivo. Il dolore esiste solo nella mente. È sempre immaginato. Quindi qual è la differenza tra il mio dolore e il tuo? Tra te e me?” (cit. Westworld)
Flashback
La “cittadinanza ai robot” è un’idea non proprio nuova in fantascienza. Nel 2003 uno degli episodi di Animatrix mostrava robot chiedere cittadinanza e diritti di fronte a un’assemblea delle Nazioni Unite. Nel cortometraggio il rifiuto secco dei rappresentanti da’ il via a quello che sarà un conflitto apocalittico con le macchine.
In Ex Machina Ava, un robot dalle fattezze quasi interamente umane, non solo supera il test di Turing, ma riesce a ordire una macchinazione per fuggire, ingannando tutti.
Fast forward
Lo scorso 11 ottobre Sophia, un androide prodotto da Hanson Robotics, durante l’evento “The Future of Everything” alle Nazioni Unite, annuncia candidamente di essere qui per “aiutare l’umanità a creare il futuro”. Ora, le reazioni (applausi) sono state certamente differenti da quelle dipinte in Animatrix, e Sophia non possiede certamente il loro livello di sofisticatezza. Tuttavia le similitudini con l’episodio, nonché quelle fisiche con Ava sono interessanti.
Cittadinanza ai robot
Due settimane dopo, l’Arabia Saudita riconosce la cittadinanza al robot Sophia, rendendola il primo caso nella storia in cui una Intelligenza Artificiale riceve un riconoscimento di questo genere.
Quello che rende l’episodio un precedente unico sono le implicazioni di questo conferimento. È vero, il governo saudita intendeva probabilmente solo fare autopromozione nel campo dell’Intelligenza Artificiale. Tuttavia, consideriamo un attimo la questione della cittadinanza ai robot: le macchine non sono cittadini, nemmeno agli animali viene accordato questo status. Sono le persone ad essere cittadini.
Finora l’assunto è sempre stato che “persona” ed “essere umano” fossero due concetti indivisibili, sebbene non sinonimi. D’altro canto, Sophia pur non essendo umana, è ora una cittadina araba…
Quali che fossero le intenzioni del governo saudita, Sophia è ora da considerarsi una persona.
Persone umane vs. persone artificiali
Questa comparazione può sembrare blasfema, e sono convinto che per molti lo è. Giunti a questo punto però, garantendo la cittadinanza ai robot la questione diventa superata.
I dialoghi di Sophia sono a uno stadio ancora relativamente “semplice”, essendo basati su alberi decisionali. Lo stesso Ben Goertzel ha ammesso che non è rivoluzionario come può esserlo DeepMind, ma è comunque già una persona.
Mi ero già occupato qui del significato di Intelligenza Artificiale, di progressi e rischi. Ma forse, prima di chiederci se una macchina può avvicinarsi agli esseri umani, dovremmo chiederci cos’è un essere umano.
Cercando di non sconfinare eccessivamente in pantani filosofici e religiosi, possiamo accontentarci di definire un essere umano sulla base delle funzionalità che conosciamo.
Umani
Un essere umano comprende una struttura corporea che ci consente di interagire con l’ambiente, costituita di strutture ben definite, con tanto di sistema di controllo dedicato per le funzioni motorie di base (cervelletto). Abbiamo dei sensori1 che ci consentono di recepire entro certi limiti le variazioni ambientali. Abbiamo una mente, in grado di elaborare gli stimoli sensoriali, pianificare e prendere decisioni. Infine abbiamo una memoria, una memoria particolare, che probabilmente è quella che fa la differenza.
Macchine
Per quanto riguarda una macchina, nel valutarla noi siamo tipicamente influenzati da quello che viene chiamato “effetto AI”. Ovvero, tendiamo a considerare “vera intelligenza” solo comportamenti e funzioni che non (ci) risultino espletabili da una macchina. In altre parole, se è automatizzabile, allora non è intelligenza.
Purtroppo questo modo eccessivamente autoconservativo di vedere le cose ci porta a sottovalutare qualsiasi rischio che venga da questa direzione.
L’idea di molti, che non è questione di “se” arriveremo ad avere Intelligenze Artificiali superumane, ma “quando”. Non importa quanto veloce sarà il progresso, alla fine sarà inevitabile.
Mantenere il controllo?
La questione fondamentale però è se sia possibile costruire questo genere di AI mantenendone il controllo, e la risposta probabilmente è no. Paolo Costa nel suo articolo “Etica e tecnologia | L’intelligenza artificiale che fa bene” accenna alla carta dei principi Asilomar di Future of Life, tra i quali si sottolinea la necessità di tenere sotto stretto controllo Intelligenze Artificiali capaci di auto-migliorarsi. La ragione è chiara: una macchina capace di evolvere autonomamente potrebbe sfuggire al controllo umano con conseguenze imprevedibili.
Un punto su cui riflettere però è che il controllo umano può aver senso solo fintanto che siamo in grado di capire cosa controlliamo. Nel momento stesso che una macchina raggiunge un livello di intelligenza superiore al nostro, inevitabilmente decade la nostra capacità di comprendere quello che fa. D’altra parte Deep Blue riuscì a battere Kasparov a scacchi, superando di gran lunga le abilità degli ingegneri che lo avevano creato (i quali non erano certamente al livello di Kasparov).
Oggi abbiamo già macchine capaci di operare a livello molto superiore agli esseri umani in una varietà di compiti, anche se finora sono tutti specializzati, e nessuno è in grado di capire come funziona internamente una rete neurale, possiamo solo osservarne i risultati.
Prestiti razzisti?
Un esempio è un caso di qualche tempo fa, in cui una banca fece implementare una rete neurale in grado di decidere autonomamente chi avesse i requisiti per ottenere finanziamenti e chi no.
Non passò molto tempo che iniziarono a fioccare denunce di razzismo. In apparenza infatti, i clienti di razza nera avevano maggiore difficoltà ad accedere al credito dalla banca in questione. Lo stupore arrivò quando, osservando le statistiche si notò che in effetti era esattamente quanto stava succedendo. Il problema era che nessuno aveva codificato nessuna preferenza del genere nell’algoritmo: era un comportamento che era emerso spontaneamente.
Perché questa rete neurale aveva iniziato a fare queste distinzioni? E chi lo sa, magari in quel quartiere c’era un maggior numero di neri insolvibili che altrove. Oppure semplicemente magari i dati usati per addestrare la rete neurale erano stati campionati male.
Il problema è proprio questo: non c’è modo di saperlo. Inutile dire che la banca in questione fu costretta a rimuovere quel software.
Alternative
Quando ci arriveremo, le scelte possibili saranno solamente due: limitare volontariamente lo sviluppo delle Intelligenze Artificiali Generali (AGI), in modo da rimanere nel loop, oppure accettare di farsi da parte e “fidarsi”. Anche perché, una volta superata una certa soglia di complessità dovremo avvalerci di Intelligenze Artificiali per continuare a far progredire le Intelligenze Artificiali…
Non ci sono altre alternative: cercare di ottenere AGI superumane rimanendone contemporaneamente al controllo è non solo impossibile, ma probabilmente anche indesiderabile. Automobili troppo veloci possono rendere difficile il controllo, ma costruire dei razzi sempre più veloci, mantenendoli zavorrati per “mantenere il controllo” avrebbe poco senso.
C’è anche chi (sotto) proclama che non c’è da temere, perché in fondo “possiamo sempre spegnerla”, e (aggiungo io) “costruirle ci piace, quindi lasciatecelo fare… ai problemi penseremo dopo”.
Robot umani, a che punto siamo realmente?
Sulla timeline dell’avvento di questo genere di Intelligenze, siamo probabilmente molto più vicini di quanto si creda.
Faccio qui una (molto) breve e sintetica escursione sullo stato attuale nelle varie funzioni che andrebbero a costituire un robot.
– Computer Vision:
i sistemi attuali sono già in grado oggi di distinguere in tempo reale
– Riconoscimento e sintesi vocale:
il riconoscimento vocale è oramai parte della nostra vita di tutti i giorni con smartphone e tablet. Sulla sintesi si stanno facendo progressi. Direi che siamo già a livello superiore alle performance umane in molti casi. Nel video sotto si vede come Alexa, Google e Siri siano in grado di comprendere frasi in linguaggio naturale anche con differenti accenti, cosa difficile anche agli umani.
– Natural Language Processing:
Ho già parlato dello stato dell’arte della ricerca in NLP qui. La tecnologia NLP sta facendo passi da gigante, e viene già ampiamente utilizzata per analizzare grandi quantità di testi altrimenti ingestibili. Il linguaggio naturale è una bestia subdola, pieno di ridondanze, significati impliciti, allusioni, metafore. È un problema complesso da gestire per una macchina, ma ci si sta arrivando.
– Natural Language Generation
Ho parlato già in “Scrittura e intelligenza artificiale: il futuro dei lavori creativi” di come già oggi ci sono piattaforme che producono articoli in linguaggio naturale in maniera completamente automatica, e di come alcune abbiano persino partecipato a concorsi narrativi con qualche risultato.
– Robotica
La deambulazione, specialmente se si parla di robot antropomorfi, è un problema assurdamente complicato, specie quando si inizia a spostarsi su terreni irregolari. Richiede bilanciamenti in tempo reale, pianificazione dei movimenti sulla base dell’ambiente percepito. Tuttavia, dai primi robot a forma di tostapane che si muovevano a scatti, a quelli oggi prodotti (per esempio) da Boston Dynamics, in grado di muoversi su qualsiasi terreno, compreso il ghiaccio, e di recuperare equilibrio anche in seguito a forti spinte laterali il progresso compiuto è enorme.
– Apprendimento: AlphaGo Zero
Sono passati decenni da quando Deep Blue batteva a scacchi il campione umano Kasparov, e solamente un anno da quando AlphaGo batteva il campione umano a Go, un gioco impossibile da vincere con la sola forza bruta. Senza scendere troppo nei dettagli, l’algoritmo di AlphaGo (una versione specializzata di Deep Mind) aveva imparato il gioco basandosi su un database di migliaia di partite già giocate tra umani, integrate poi da partite giocate direttamente con esperti.
AlphaGo era riuscito a superare il livello del campione umano, ma richiedeva comunque in qualche modo l’apprendimento del gioco da esseri umani.
Non è più così: la nuova versione, chiamata AlphaGo Zero, è stata in grado di stracciare il modello precendente battendolo cento volte su cento, e senza intervento umano. Partendo solo dalle regole come base, ha raggiunto livelli superumani in pochi giorni solamente giocando contro se sesso migliaia di volte.
– Bionica
Non mancano film e serie tv dove robot erano rivestiti di tessuti biologici per renderli assimilabili agli umani. In effetti, le nostre risposte emotive sono sicuramente influenzate dalla similarità con noi, che facilita il processo empatico che è alla base di tutte le nostre strutture e regolamentazioni sociali.
Aziende come Ras Labs sono già avanti nella produzione di tessuti e muscoli sintetici, per una varietà di scopi.
Conclusioni
La cittadinanza data a Sofia, a prescindere dalle capacità, è un precedente che porta implicazioni di cui non sono convinto tutti siano consapevoli. Oltretutto, la tecnologia non è più lontanissima.
Non è un gioco a premi, o un semplice appellativo curioso: come fa intelligentemente notare Hussein Abbas nel suo articolo su theconversation.com, la cittadinanza è un identificativo di unicità di un soggetto. Ma qual è l’identità di Sophia? Può essere costruita in serie, e cosa differenzierebbe “questa” Sophia dalle altre?
Tutti i cittadini hanno di solito diritto di voto, dovrebbe averlo lei? Ci stiamo ficcando in una trappola da cui sarà difficile uscire: dare il diritto di voto a Sophia, almeno allo stato attuale delle cose sarebbe ridicolo, ma non darglielo implicherebbe che non tutti i cittadini sono uguali. Concetto questo facilmente strumentalizzabile una volta creato il precedente.
Inoltre, se consideriamo che il robot Sophia oggi è un cittadino che si muove sulle rotelle ed è incapace di difendersi e provvedere a se stessa… avrebbe il diritto al supporto sociale, qualora questo fosse previsto per gli altri cittadini (come l’accompagnamento in Italia)?
Nel momento in cui l’intelligenza artificiale sottesa diventerà sufficientemente sofisticata, dovrebbe avere il diritto di mettere su famiglia? Coppie tra umani e robot, o anche tra robot avrebbero il diritto di essere riconosciute?
La risposta, per quanto possa sembrare imbarazzante è “sì”, dal momento che abbiamo loro riconosciuto la cittadinanza, e quindi uno stato civile a tutti gli effetti. Nessun impianto legislativo ha ancora preso in considerazione queste problematiche.
Forse era troppo presto, ci stiamo avventurando nel Far West, e forse lo stiamo facendo troppo a cuor leggero .
Note
1. Occhi, papille gustative, recettori cutanei, recettori olfattivi, recettori propriocettivi.
Links
Etica e considerazioni sociali
Etica e tecnologia | L’intelligenza artificiale che fa bene
Universal Basic Income vs. Addiction
It’s Time to Shift the Economy into Fourth Gear Capitalism with Basic Income
Artificial Super Intelligence: Upgrade in Technology or the Downfall of Humanity?
Cittadinanza Artificiale
Saudi Arabia becomes first country to grant citizenship to a robot
At UN, robot Sophia joins meeting on artificial intelligence and sustainable development
An AI professor explains: three concerns about granting citizenship to robot Sophia
‘Sophia’ the robot tells UN: ‘I am here to help humanity create the future’
Giving robots ‘personhood’ is actually about making corporations accountable
Emozioni
Tech Is Becoming Emotionally Intelligent, and It’s Big Busines
Capire tu non puoi. Tu chiamale se vuoi, emozioni
Apprendimento, creatività
La scrittura creativa è ancora una prerogativa umana?
Intelligenza Artificiale e scrittura: il futuro dei lavori creativi
Human-level control through deep reinforcement learning
What AI Can Now Do Is Remarkable—But How It’s Learning Is More Significant
A generative vision model that trains with high data efficiency and breaks text-based CAPTCHAs
Bionica
Ras Labs Is Testing Futuristic Muscle Material That Could Make Robots Feel More Human
Andrea lavora nel campo dell’IT da quasi 20 anni coprendo un po’ tutto, da sviluppo a business analysis, alla gestione di progetti.
Oggi possiamo dire che è uno gnomo spensierato, appassionato di Neuroscienze, Intelligenza Artificiale e fotografia.
