Se ChatGPT impazzisce

Qualche giorno fa, apparentemente dal nulla, ChatGPT ha sbroccato. Ha iniziato a dare risposte incoerenti, bizzarre, vagamente inquietanti.

C’è stato un po’ di parapiglia, la gente sul web ha iniziato a fare un po’ di rumore chiedendosi se fosse impazzita la AI o stessero impazzendo loro, poi tutto è tornato alla normalità.

OpenAI, dal canto suo, ha ammesso il problema e promesso una soluzione rapida. E in effetti, già il giorno dopo, tutto è tornato alla normalità.

Il guasto, spiegano da OpenAI, era dovuto a un bug introdotto durante un’ottimizzazione del sistema.

Un problema tecnico e nulla più, legato nello specifico alla gestione dei numeri e alle configurazioni delle GPU, che ha fatto sì che il modello iniziasse a generare frasi completamente fuori contesto.

Detto in parole povere: un bel casino, ma niente di irreparabile. E infatti è stato riparato.

Non è comunque la prima volta che succede qualcosa di simile.

Bing Chat, di Microsoft, nel 2023 aveva vissuto un episodio analogo, con il modello che si perdeva in dialoghi sempre più strani durante conversazioni lunghe.

Episodi come questo, però, ci costringono a ricordare e tener presente qualcosa di ben più grosso: quanto sia difficile, per chi non sta nella “stanza dei bottoni”, capire cosa succede dietro le quinte di questi software. Soprattutto quando le aziende che li sviluppano scelgono approcci completamente chiusi e black box.

Le piattaforme open-source, dicono gli esperti, permettono un controllo maggiore e una diagnosi più trasparente di eventuali malfunzionamenti.

Ma con soluzioni chiuse come ChatGPT, noi che lo usiamo possiamo solo aspettare che il problema venga risolto – e nel frattempo sperare che l’IA non ci spaventi eccessivamente o non ci suggerisca di costruire una bomba quando gli abbiamo solo chiesto gli ingredienti per il tiramisù.
Senza avere idea di cosa sta succedendo.