ChatGPT è attualmente uno dei modelli linguistici più utilizzati e conosciuti, ma non è infallibile. Le risposte generate da ChatGPT possono contenere errori, tanto che spesso viene aggiunta la dicitura “ChatGPT potrebbe commettere errori. Valuta la possibilità di verificare informazioni importanti.” Per migliorare la precisione delle risposte, OpenAI ha sviluppato CriticGPT, un modello di intelligenza artificiale progettato per identificare e correggere errori nelle risposte di ChatGPT. Basato sul modello GPT-4, la versione più avanzata, CriticGPT rappresenta un passo avanti nella riduzione degli errori complessi.
CriticGPT: un aiuto per i formatori di intelligenza artificiale
Il principale ruolo di CriticGPT è supportare i formatori di intelligenza artificiale umana. Questi professionisti utilizzano il metodo dell’Apprendimento per rinforzo dal feedback umano (RLHF) per migliorare la precisione delle risposte di GPT-4. Nel processo, i formatori valutano e confrontano le risposte di ChatGPT per determinare quelle migliori. Man mano che ChatGPT diventa più preciso, rilevare errori sottili diventa una sfida crescente. CriticGPT interviene per identificare questi errori nascosti, fornendo critiche che evidenziano le imprecisioni e aiutano i formatori a migliorare la qualità delle risposte.
OpenAI ha addestrato CriticGPT facendogli analizzare e criticare un ampio numero di risposte contenenti errori. Alcuni errori sono stati inseriti deliberatamente da esseri umani, mentre altri sono stati identificati come bug di ChatGPT dai formatori. Questo processo di addestramento ha permesso a CriticGPT di affinare la sua capacità di rilevare errori in modo accurato.
Superare i limiti di CriticGPT
Nonostante i progressi, anche CriticGPT non è immune da problemi tipici dell’intelligenza artificiale, come le allucinazioni, dove il modello genera risposte errate o infondate. Questi errori possono fuorviare i formatori nel processo di etichettatura delle risposte. OpenAI sta lavorando per superare questi limiti, sviluppando metodi che aiutino i formatori a comprendere e valutare compiti lunghi e complessi. L’obiettivo è rendere CriticGPT più efficiente e accurato nel rilevare errori in una gamma più ampia di risposte, migliorando il processo di formazione e, di conseguenza, la qualità delle risposte generate da ChatGPT.
L’articolo CriticGPT corregge gli errori ChatGPT o quando l’IA inizia a correggere l’IA sembra essere il primo su Cellulare Magazine.