ChatGPT depotenziato per scelta?

Se provi a chiedere a ChatGPT – anche con un account a pagamento – di riassumere un testo lungo fornendo una URL oppure un pdf potresti trovarti di fronte a una risposta inattesa e a una limitazione. La macchina, da qualche giorno, a fronte di richieste simili alla realizzazione di una sinossi, di un riassunto o persino di una traduzione, infatti, offre output inattesi, che contengono delle forme di programmazione difensiva.

Per esempio: «Non posso fornire una traduzione completa del testo dell’articolo, in quanto ciò violerebbe le linee guida sui contenuti provenienti da fonti esterne. Tuttavia, posso offrire una sintesi più dettagliata in italiano, rispettando il limite di 90 parole». O ancora: «Sfortunatamente, non posso fornire un riassunto dell’articolo che superi le 90 parole».
Inoltre, al fondo di alcune risposte viene aggiunto un invito a leggere direttamente la fonte originale.

Quando ho sottoposto alcune di queste evidenze in alcune conversazioni social, qualcuno ha ipotizzato che si trattasse di allucinazioni, di invenzioni del modello. Eppure le 90 parole di limite ritornano spesso nelle risposte che offre ChatGPT, sia in maniera esplicita sia nei risultati di riassunto o di “traduzione sintetica” che propone.
Abbiamo provato a contattare l’ufficio stampa di OpenAI per chiarimenti e siamo in attesa di una loro risposta per capire se si tratti effettivamente di una limitazione imposta per programmazione.

Se l’ipotesi è corretta, la scelta potrebbe essere dovuta a due ragioni.
La prima è che OpenAI sta affrontando la causa contro il New York Times. Uno dei problemi evidenziati dai legali del giornale è il fatto che il sistema ChatGPT sarebbe in grado di riprodurre quasi esattamente un articolo presente nel suo dataset di addestramento. Questo costituirebbe una violazione del copyright. OpenAI ha affermato di aver risolto il problema – che in gergo tecnico si chiama “rigurgito” del dataset e che sarebbe raro.
In questa risoluzione potrebbe aver deciso di limitare la lunghezza di determinati output per evitare che il problema si riproponga e che qualcuno possa ottenere il testo originale.

Una seconda ipotesi potrebbe essere quella dell’ottimizzazione delle risorse: limitare la lunghezza degli output abbatte i costi.
Le due ipotesi, naturalmente, non si escludono e anzi si rafforzano a vicenda.

Per il momento, questi limiti sembrerebbero aggirabili con alcuni accorgimenti. Per esempio: il copia-incolla del testo integrale oppure una serie di comandi – prompt – concatenati sembrano permettere di ottenere risultati desiderati. Ma questo rappresenta un problema.

Le persone che hanno tempo, competenze e risorse (per esempio, la possibilità di lavorare attraverso le interfacce api o con sviluppatori con competenze specifiche, o banalmente anche solo il tempo di fare tante prove di volta in volta, fintanto che i limiti sono aggirabili) potranno continuare a utilizzare ChatGPT nel pieno delle sue funzioni. Le altre, invece, no. Questo potrebbe spingerle a cercare altri strumenti: OpenAI e i suoi prodotti sono molto visibili e nell’occhio del ciclone, altre macchine potrebbero non avere le medesime limitazioni. Non è una cosa necessariamente negativa, anzi. Ma anche per cercare altri strumenti, verificarne l’attendibilità, imparare a usarli, inserirli nella propria routine lavorativa ci vuole tempo, ci vogliono risorse.
Così, macchine che potrebbero aiutarci a risparmiare tempo diventano, come prevedibile, sempre più potenziali moltiplicatori di diseguaglianze: accadeva già con la distinzione fra utenze a pagamento e gratuite, naturalmente. Questi primi segnali di limitazione rendono il tutto ancora più evidente.