Da poco è stato pubblicato un interessante articolo su Wired che parla di Model Collapse per quanto riguarda l’AI generativa. Ma cosa si intende? è davvero un problema? scopriamolo insieme.
L’AI generativa è ormai abbondantemente frequente nei task delle nostre vite, lavorative e non. Ogni giorno vengono prodotti migliaia di contenuti tramite strumenti come Chat GPT e Midjourney che vengono poi pubblicati in rete.
Sappiamo anche come funziona l’AI generativa: vengono disposti dei dataset iniziali, dai quali l’AI impara a riprodurre dati di output simili a quelli di input. Gran parte dei dati iniziali, sono presi dalla rete e questo, secondo lo studio “The curse of recursion: training on generated data makes models forget” di Ilia Shumailov, Zakhar Shumaylov, Yiren Zhao, Nicolas Papernot e Ross Anderson potrebbe portare al Model Collapse.
Il Model Collapse viene definito come un processo degenerativo in cui i contenuti generati dai modelli LLM (Large Language Model), andranno ad inquinare i dataset delle future generazioni di AI.
In parole più semplici: il model collapse si avrà quando le future AI verranno alimentate con dati generati dalle AI precedenti. Ma quale sarebbe il problema?
Già ad oggi i contenuti generati dall’AI non sono sempre ineccepibili: questo deriva anche dal fatto che i dati di input provenienti dalla rete, dovrebbero essere tarati e scelti tra una miriade di contenuti non sempre veritieri. Inoltre l’AI tende a creare delle risposte statistiche, il che indica un crescente appiattimento del lessico e dei contenuti, eliminando le eccezioni e i casi particolari.
Se la futura AI verrà alimentata con questi dati di output che già hanno problematiche relative a BIAS ed errori, i futuri dati di output non faranno che aumentare la ridondanza di tali problematiche.
Bisognerebbe avere un occhio di riguardo per questo problema, anche alla luce del fatto che l’AI si sta affacciando sempre di più nelle nostre vite, pensiamo alle implementazioni negli assistenti dei nostri smartphone e pc personali.
Bisognerà trovare delle soluzioni all’altezza di queste sfide, anche perché l’AI è appena arrivata nelle nostre vite e probabilmente ci resterà per lungo tempo.
