Considera l’ornitorinco

Giocare con le intelligenze artificiali generative (come ChatGPT o Midjourney) è fondamentale per padroneggiarle, ma anche per scoprirne i limiti.

Per esempio, giocando con Midjourney mi sono reso conto che ha enormi difficoltà a realizzare un’immagine credibile, realistica e accurata di un ornitorinco.

La questione, che può sembrare buffa o insignificante, ha invece una serie di risvolti interessanti.
Primo: il problema non è solo mio, ma generalizzato. Su Reddit c’è chi racconta la medesima scoperta, così come nel gruppo ufficiale di Midjourney su Facebook, in questa conversazione.

Sperimentando con altre macchine analoghe a giugno 2023, il risultato non cambia. L’ornitorinco sfugge alla capacità creativa di un’intelligenza artificiale, in questo momento.

Perché accade?

La risposta più semplice e più ingegneristica è: non ci sono abbastanza immagini di ornitorinchi nel set di dati con cui questi strumenti sono stati addestrati.

È una risposta credibile, e forse suggerisce due cose:

• le macchine non hanno ancora la capacità umana di “vedere” una sola immagine di un animale e immaginarne/generarne molteplici mantenendo tutte le caratteristiche di quell’animale
• probabilmente, con “forza bruta” (inserendo cioè migliaia di immagini di ornitorinchi) si otterrà un risultato sempre più accettabile

Ma c’è anche un’altra risposta, più complessa. In effetti, l’ornitorinco ha già messo in crisi l’intero sistema tassonomico animale ben prima che arrivassero le intelligenze artificiali: un mammifero che depone le uova non dovrebbe nemmeno esistere.
Eppure esiste.

Per anni si è dibattuto se le sue uova esistessero o meno, se la femmina ornitorinco avesse o meno le mammelle.
L’ornitorinco, d’altra parte, è un mammifero insolito che possiede caratteristiche di diversi animali, come un becco simile a quello di un’anatra e una coda come quella di un castoro.

Nel suo libro “Kant e l’ornitorinco”, Eco utilizza questo insolito animale come simbolo delle sfide che la realtà presenta alle nostre categorie di pensiero.
Kant, con la sua teoria della conoscenza, aveva sostenuto che le nostre percezioni della realtà sono in parte determinate dalle categorie innate della mente.

Eco esplora come la realtà – qui rappresentata dall’ornitorinco – spesso non si adatti alle categorie che abbiamo predisposto per comprenderla. In altre parole, la realtà può essere più complessa e sfuggente delle nostre strutture mentali e dei nostri sistemi di classificazione.

D’altra parte, non hai un’idea innata di ornitorinco finché non lo vedi. E quando lo vedi, la prima volta, non ci credi.

Non è mica colpa dell’ornitorinco. Non è un limite – e dunque non è colpa – della realtà. È un limite dei nostri sistemi di classificazione.

Realtà e capacità descrittiva della realtà vanno di pari passo, esattamente come per un’intelligenza artificiale generativa è fondamentale sia il contenuto di un’immagine sia l’etichetta di quell’immagine.

L’ornitorinco, per il momento, è non-etichettabile.

Ho provato, allora, a farmi scrivere da ChatGPT una descrizione articolata di “ornitorinco”. È venuto fuori un lungo prompt che ho proposto a Midjourney.

Il risultato è decisamente più vicino dei precedenti a un ornitorinco, ma non è affatto un ornitorinco. Le quattro opzioni che mi ha offerto Midjourney sono altri animali, che non esistono e che sono anche perfettamente credibili e verosimili.

Questo limite che sembra della macchina, in realtà, è un limite molto umano: è il limite del modo in cui conosciamo e etichettiamo animali, oggetti, elementi della realtà che ci circonda. E la macchina, che è progettata dall’uomo ha – almeno per ora – un limite molto simile.