Come riconoscere testi generati dall'AI di ChatGPT

Ultimo aggiornamento 1 febbraio 2023 alle 16:04 da Antonello Ciccarello .

ChatGPT è uno strumento interessante, con svariati utilizzi. Ciò che attira di più è la sua capacità di produrre testi autentici in modo rapido e con pochi suggerimenti. Per evitare di cadere nella trappola di ChatGPT, in questo articolo ti mostriamo alcuni strumenti che ti aiuteranno a riconoscere un testo generato dall’intelligenza artificiale.

Testi generati dall’AI: i rischi che si corrono

ChatGPT, la sorprendente intelligenza artificiale sviluppata da OpenAI non smette mai di stupire e allo stesso preoccupare il web. Molti settori, come il giornalismo, la medicina, la sicurezza informatica, ma anche la psichiatria stanno studiando le possibilità che l’intelligenza artificiale può offrire loro grazie alla generazione di testi precisi e dettagliati, scritti con linguaggio naturale, il tutto a partire da una semplice richiesta. Naturalmente i professionisti di questi settori sono altrettanto attenti ai potenziali eccessi e problemi che l’AI può generare.

In particolare, il campo dell’insegnamento è stato preso di sorpresa da ChatGPT, poiché già largamente usata dagli studenti sin dalla sua apparizione. Questo strumento si è infatti rivelato estremamente efficace nella scrittura di compiti o riassunti. Inoltre, capire se il testo è stato scritto dall’AI o da mano umana ad oggi risulta veramente difficile, se non impossibile. Si tratta di un problema serio, sia in termini di etica, sia in termini ti trasparenza. Per gli studenti è un prezioso risparmio di tempo, offrendo anche la possibilità di ottenere buoni voti senza troppa fatica. Per altri si tratta invece di un grande problema. Ciò ha quindi spinto gli sviluppatori di OpenAI a cercare un modo per includere un segno che serva a riconoscere i testi generati dall’AI e differenziarli da quelli prodotti da mano umana.

Resta comunque il fatto che, al momento, gli insegnanti sono del tutto impotenti di fronte ad una tecnologia più grande di loro. L’intelligenza artificiale è stata vietata anche nelle università di New York e il suo utilizzo può portare all’esclusione dall’espulsione dello studente dalla scuola, anche nelle scuole superiori. Una cosa è proibire, ma prima bisogna comunque riuscire a capire quando viene utilizzato uno strumento di intelligenza artificiale. Per questo motivo diversi ricercatori e sviluppatori hanno deciso di creare i propri strumenti provare a risolvere il problema.

DetectGPT

Un team di ricercatori della Stanford University ha realizzato uno strumento che consiste in un barometro capace di rilevare quando un testo è generato da ChatGPT. Per raggiungere il suo obiettivo, questo strumento rileva campioni di modelli di linguaggio preaddestrati “utilizzando la curvatura locale del modello della funzione di probabilità logaritmica del modello”. In parole semplici, riesce a riconoscere i modelli di struttura di un contenuto generato dall’AI quando vengono rilevati. I ricercatori non hanno rilasciato molti dettagli in merito, ma hanno soltanto dichiarato che DetectGPT è ancora in fase di prototipo e bisogna attendere ancora un po’ per poter utilizzare la versione pubblica.

ChatGPT detector - GPT3

La start-up franco-canadese Draft & Goal ha creato uno strumento online gratuito capace di rilevare in pochi secondi se un testo è stato scritto da un’intelligenza artificiale o da una persona reale, con un tasso di precisione del 93%. Basterà soltanto caricare un testo di almeno 400 caratteri e poi cliccare il tasto Analyze. Il software darà un punteggio di attendibilità da 0 a 100. Vincent Terrasi, co-fondatore di Draft & Goal, ha spiegato che "quando il risultato è superiore a 60, è molto probabile che il contenuto sia stato generato da ChatGPT. Se il risultato è invece inferiore a 40, è probabile che sia stato scritto da mano umana". Per quanto riguarda la zona grigia, ovvero quella compresa tra 40 e 60, di solito si tratta di un misto dei due, una tecnica spesso utilizzata dagli studenti per diminuire il rischio di essere scoperti. Draft & Goal è attualmente in versione beta e funziona soltanto con testi in inglese.

GPTZero

Edward Tian, uno studente di scienze e giornalismo dell’Università di Princeton (Stati Uniti) ha sviluppato uno strumento chiamato GPTZero che serve ad identificare i testi generati dall’AI tramite un algoritmo. Questo valuta la perplessità (ovvero la casualità del testo), la complessità e l’uniformità del testo, combina gli elementi e capisce se è stato creato dall’intelligenza artificiale o no.

Ad oggi GPTZero è uno strumento gratuito e accessibile tramite qualsiasi browser, all’indirizzo [gptzero.me]. Fai attenzione, poiché la piattaforma è ancora in versione beta, non è molto veloce e genera diversi bug. Se vuoi comunque provarla, ti basterà inserire il testo e attendere qualche minuto affinché vengano caricate le varie pagine. Se dovessero presentarsi degli errori, ti basterà ricaricare la pagina. Una volta terminata l’analisi, clicca sul tasto Get GPTZero Result.