Riconoscimento facciale: risorsa o minaccia?
Oggi tutti, più o meno, siamo sottoposti al riconoscimento facciale. Ma come funziona veramente?
Quanto siamo disposti a rivelare dei nostri dati sensibili per performare meglio?
Che fare quando gli algoritmi che ci circondano sono opachi? Che fare se non ci viene detto chi userà i nostri dati, né come? Quali sono le alternative?
C’è un modo di dire che ha preso piede negli ultimi anni, e che a qualcuno di noi è anche un po’ andato a noia: “è proprio come Black Mirror”.
Black Mirror è una serie scritta e diretta da Charlie Brooker, che parla non tanto dei pericoli della tecnologia in sé, quanto dell’incapacità tutta umana di utilizzarla in maniera costruttiva.
Gli scenari di Brooker sono distopici ed estremamente cupi – poi Netflix ne ha acquistato i diritti, ha prodotto alcuni episodi e l’ha molto alleggerita. Ma, sebbene sia una ferita ancora aperta, non siamo qui per parlare di questo.
Per fare un esempio, in molti avranno pensato “ah-ha! Esattamente come Black Mirror” – perché in effetti c’è un episodio con delle premesse identiche – quando in Cina si è iniziato a parlare della possibile implementazione di un social credit system, un sistema di valutazione sociale pensato per esaminare aziende, amministrazioni e singoli. E che è attualmente in vigore, almeno in parte.
Sulla carta presentato come uno strumento che consentirebbe tutta una serie di vantaggi agli utenti virtuosi – accesso a corsie preferenziali negli uffici pubblici, possibilità di avere accesso a tutta una serie di servizi e cose del genere -, in realtà si tratta di un’operazione ben più complessa, che consentirebbe al governo di avere accesso ad una quantità di dati sensibili enorme.
Una vera e propria profilazione di massa che sì, potrebbe essere utilizzata anche per reprimere il dissenso.
Ogni tanto però, anche solo per prendere una boccata d’aria, fa bene distogliere l’attenzione dalla realtà e dare un’occhiata altrove.
Alla Biennale d’Architettura di Venezia in corso quest’anno, ad esempio, il cui tema è How will we live together?. Il suo curatore, l’architetto libanese Hashim Sarkis, lo ha commentato in questo modo:
Al di là dell’amara ironia per quanto riguarda la scelta del tema – annunciato ben prima della pandemia, che forse mai come adesso ci ha costretti a ripensare gli spazi in cui viviamo, come singoli e come comunità -, alla Biennale ha trovato spazio anche la satira. Ecco, esattamente quella che ad alcuni di noi, volenti o nolenti, fa dire “wow, proprio come Black Mirror”.
Catalog for the Post Human è un’installazione presente all’interno della Biennale, curata e ideata dai designer Jessica Charlesworth e Tim Parsons, che immaginano un’ipotetica e fittizia organizzazione (Parsons & Charlesworth, appunto) operante in un futuro non particolarmente lontano, intenta a intercettare e soddisfare le necessità dell’uomo del domani.
I due artisti immaginano un futuro ipotetico, lontano ma non troppo, in cui la società non gira più attorno agli umani, ma si basa su quello che chiamano capitalismo data-driven.
Al primo posto non ci sono più gli individui, ma corporazioni multi-milionarie che si avvalgono di dati e algoritmi per capire cosa va bene e cosa no, cosa è produttivo e cosa può essere scartato, chi è impiegabile e chi non lo è.
In un simile scenario, spiegano, gli umani saranno portati ad essere sempre più coesi con la tecnologia. Psicologicamente, socialmente, e fisicamente.
È una conseguenza quasi ovvia: l’umano, come tale, ha dei limiti ed è fallibile. Ha bisogno di fare pause per dormire, per rifocillarsi, per ridurre i propri livelli di stress. Se si ammala, si stira un muscolo, se è psicologicamente provato o se si rompe un osso, deve essere curato e stare a riposo per un po’. La tecnologia può aiutarlo a superare questi limiti.
Per stare meglio?
Oh no, nossignore.
Per consentirgli di essere più produttivo.
Inoltre, si chiedono (e ci chiedono): in che modo andrà ad impattare sulla nostra psiche e sul nostro fisico la sorveglianza e la raccolta di dati continua da parte delle corporazioni per cui lavoreremo, o delle quali consumeremo i prodotti? O magari entrambe.
Non si tratta di fantascienza, bensì di cambiamenti che iniziamo ad osservare già da ora.
Il progetto Catalog for the Post Human è, in realtà, iniziato ben prima dell’esposizione veneziana.
Inizialmente nato come collaborazione con la Open Society Foundation, che nel 2014 aveva dato il via ad uno studio riguardo il futuro del lavoro in relazione all’avanzamento tecnologico, i due designer avevano deciso di andare oltre il (piuttosto trito) assunto secondo cui le nuove tecnologie e l’automazione ci “ruberanno” il lavoro.
Hanno piuttosto scelto di chiedersi in quale modo la tecnologia abbia plasmato, e plasmerà, la natura stessa del lavoro – ad esempio favorendo la nascita e lo sviluppo della cosiddetta gig economy -, concentrandosi sulle human enhancement technologies: quel tipo di hardware e software che si utilizzano sul e nel corpo per incrementarne resistenza e capacità.
Il nocciolo dell’intera questione, nella visione dei due artisti, è non tanto il pericolo che la tecnologia possa rimpiazzare il lavoro umano, quanto che gli umani diventino tecnologia per rimanere impiegabili, per trovare lavoro, per essere maggiormente competitivi sul mercato.
Venendone fagocitati, di fatto.
Questa prima versione del Catalog for the Post Human si “limitava” ad un catalogo, appunto, realizzato ricalcando il campionario statunitense SkyMall, famoso per affiancare a prodotti di uso comune oggetti strani e bizzarri. Ovviamente, il volantino è satirico, e tale è il linguaggio che utilizza. Tuttavia le idee al suo interno sono serissime, e partono da tecnologie e idee reali, già esistenti e talvolta messe già in pratica.
Qualche esempio?
Un software che rileva se si sta perdendo tempo al computer invece di lavorare, avviando allarmi visivi e sonori. Oppure, ancora, una macchinetta automatica da sistemare negli uffici che consegna ai dipendenti la propria dose di stimolanti giornaliera.
Gli oggetti sono pensati per l’acquisto da parte di datori di lavoro, impiegati, e soprattutto lavoratori freelance della gig-economy, che più di tutti devono mostrarsi costantemente performanti – per scalzare la concorrenza, lavorare di più, guadagnare di più.
Facciamo un salto avanti nel 2019, quando ai due artisti viene richiesta la realizzazione di una versione fisica del Catalogo. I due hanno deciso di non creare gli oggetti già presenti al suo interno, bensì di svolgere delle ulteriori ricerche e aggiungere dei nuovi prodotti, stavolta realizzati anche in “copia fisica”.
Per farlo, oltre a seguire i nuovi trend del mondo del lavoro, hanno svolto dei colloqui con persone impiegate proprio nel settore dell’human enancement, e da lì hanno elaborato delle personas – dei compratori-tipo, per dirla semplice – chiedendosi: questi individui cosa sarebbero disposti a comprare?
Cosa gli servirebbe per diventare, o restare, competitivi nel mercato del lavoro?
Gli oggetti sono divisi in quattro aree tematiche:
Ma uno degli oggetti probabilmente meglio riusciti è Best Selfer™.
Viene definito come un dispositivo “a metà tra un data analytist e un astrologo”, ed è in grado di dirti cosa fare e che decisioni prendere analizzando i tuoi dati biometrici.
Ad esempio, se rileva un alto livello di stress ti invita a prenotare un appuntamento con il tuo terapeuta di fiducia, è in grado di dirti se e quante micro-aggressioni subisci o effettui sul posto di lavoro, quanto sono di qualità i tuoi legami familiari.
“Best Selfer™ – spiega la sua descrizione – sulla base della profilazione personale e la raccolta dei tuoi dati ti offre saggi consigli, osservazioni pertinenti e predizioni poetiche, per aiutarti nel tuo viaggio personale tra vita e lavoro”.
Il linguaggio utilizzato è quello tipico del marketing, delle fiere di mercato. Dovresti proprio acquistare questo oggetto: ecco perché.
Il visitatore – che veste i panni del curioso o potenziale acquirente – è invitato a scannerizzare con il proprio smartphone i codici QR di ogni oggetto esposto, per visitare il sito del Catalogo e ottenere maggiori informazioni.
Volendo può scegliere di stare al gioco e provare ad acquistarli. Dopotutto, siamo o no sul sito di un’azienda?
Purtroppo i prodotti sono talmente popolari che si trovano sempre out of stock, ma niente paura: inserendo la nostra email (i nostri dati) verremo avvisati qualora dovessero tornare ad essere nuovamente disponibili in magazzino.
Ovviamente si tratta di provocazioni.
La domanda che Parsons e Charlesworth, quelli veri, si pongono e ci pongono è: quanto vogliamo – e vorremo – spingerci in là, come individui, per competere con delle compagnie controllate da algoritmi?
E soprattutto, quanto siamo disposti a rivelare dei nostri dati sensibili – ancora, e a loro volta, a compagnie che ficcano questi nostri dati all’interno di sistemi di cui non sappiamo nulla o quasi – per performare meglio?
Foto: Alberto Puliafito
Che fare quando gli algoritmi che ci circondano sono opachi? Che fare se non ci viene detto chi userà i nostri dati, né come? Quali sono le alternative?
Oggi tutti, più o meno, siamo sottoposti al riconoscimento facciale. Ma come funziona veramente?
Forse è il caso di iniziare a preoccuparci di cosa viene fatto coi dati che forniamo in giro.
Quanto siamo disposti a rivelare dei nostri dati sensibili per performare meglio?
Oggi tutti, più o meno, siamo sottoposti al riconoscimento facciale. Ma come funziona veramente?
Arte e intelligenza artificiale possono convivere?
I social network ci tengono incollati a sé. Ma come fanno? E perché?
Una proof of concept di un universo narrativo per ragazze e ragazzi
Come stiamo usando le tecnologie per un lavoro sul 2 agosto 1980
Da Sanremo a Magenta, fotografando con un aggeggio strano che converte, inventando, le tue foto rendendole digital-retrò.
Tutto quel che vuoi sapere sulle intelligenze artificiali generative e che puoi chiedere