Il robot può capire cosa provo…?

Stanno tutti vivendo, prevedibilmente, la corsa alle intelligenze artificiali.
Tra gli ultimissimi trend emerge l’interesse delle aziende a sviluppare bot, utilizzati ad esempio nel supporto al cliente, che siano capaci di interpretare meglio le emozioni umane.

Possiamo considerarla un’evoluzione delle analisi del sentiment, e viene chiamata emotion AI.
Tuttavia, stanno emergendo diversi dubbi sulla reale capacità delle intelligenze artificiali nel rilevare con precisione le emozioni umane.

Allo stato attuale delle cose, almeno…

L’emotion AI, secondo il rapporto di ricerca “Enterprise SaaS Emerging Tech” svolto PitchBook, si sta diffondendo rapidamente e prometterebbe di migliorare di molto i bot e gli assistenti virtuali utilizzati dalle aziende – ad esempio quelli che ci rispondono automaticamente prima di spedirci dagli “operatori umani” dei servizi clienti.
L’idea alla base è semplice ed è che, se le imprese impiegano degli assistenti virtuali per gestire le interazioni con clienti e collaboratori, dotare questi strumenti di una sorta di “empatia artificiale” migliorerebbe significativamente l’efficacia del servizio.

Un bot dotato di questa tecnologia sarebbe quindi in grado di riconoscere l’emozione dietro ad un messaggio di testo o vocale.

A differenza delle analisi del sentiment “tradizionali”, che si limitano a interpretare emozioni tramite il testo, l’emotion AI sfrutta una combinazione di input multimodali – come segnali visivi e audio – per cercare di “leggere” le emozioni in tempo reale. Alcune grandi aziende come Microsoft e Amazon già offrirebbero delle soluzioni in questo ambito, non prive di lati negativi o controversie di sorta.

Tuttavia, con la proliferazione dei bot nel mondo aziendale, questa tecnologia sembra destinata a trovare nuove applicazioni, secondo gli analisti di PitchBook.

Derek Hernandez, senior analyst di PitchBook, ha evidenziato che con l’uso crescente di assistenti AI e interazioni completamente automatizzate, l’emotion AI potrebbe avvicinare l’esperienza utente a una comunicazione più “umana”, rendendo le risposte dei bot più adatte a seconda del contesto emotivo. Molte startup starebbero già lavorando per svilupparla e migliorarla.

Ma l’emotion AI non è priva di critiche. Uno studio del 2019, che ha analizzato numerose ricerche, ha messo in discussione l’efficacia della lettura delle emozioni basata sui movimenti facciali, suggerendo che non è possibile rilevare con precisione e con certezza i sentimenti di una persona solamente interpretando l’espressione del volto o il tono di voce. Questo solleva tutta una serie di dubbi non solo sulla capacità di questi sistemi di interpretare realmente le emozioni umane, ma anche per il rischio di causare fraintendimenti in contesti e situazioni potenzialmente delicate.

Anche il quadro normativo potrebbe rappresentare un ostacolo significativo. L’Unione Europea, con il suo AI Act, ha già imposto limitazioni all’uso di sistemi di rilevamento emotivo in determinati contesti, come l’ambito dell’istruzione, per evitare possibili abusi. Negli Stati Uniti, leggi locali come il Biometric Information Privacy Act dell’Illinois impongono restrizioni alla raccolta di dati biometrici senza il consenso della persona interessata, creando ulteriori vincoli per l’adozione diffusa di questa tecnologia.

Resta da vedere se questa nuova tecnologia sarà davvero in grado di riconoscere e rispondere all’emotività umana.
Nel peggiore dei casi, potremmo trovarci di fronte a una “empatia automatizzata” ancora poco accurata, capace di generare solo risposte standardizzate come quelle degli assistenti vocali che esistono tutt’ora.

Oppure, come suggeriscono gli scettici, i soliti “apocalittici” di umbertoechiana memoria, creerà più danni di quelli che vuole prevenire.