GPTZero - Disegnato per smascherare
Published: 2023-10-03 14:25:13

---
title: GPTZero - Disegnato per smascherare
published: true
date: 2023-01-17 00:00:00 UTC
tags: 
canonical_url: 
---

# Cosa vedrai

- [GPTZero](#gptzero)
- [Come funziona](#come-funziona)
- [Dietro le quinte](#dietro-le-quinte)
- [Risorse utili](#risorse-utili)

[ChatGPT](https://chat.openai.com) ha popolato le testate di tutti i giornali e [blog](https://www.wired.it/article/chatgpt-bot-conversazionale/) del settore, ed è stato messo alla prova in diversi modi da persone professioniste e non per valutarne il funzionamento. C’è chi ha detto che non sa riconoscere un errore quando lo vede, chi parla di una possibile [acquisizione da parte di Microsoft](https://www.wallstreetitalia.com/microsoft-vuole-il-chatbot-chat-gpt-google-trema/)e chi parla di [se e quando diventerà a pagamento](https://www.cwi.it/tecnologie-emergenti/intelligenza-artificiale/%5BChatGPT%5D(https://chat.openai.com)-a-pagamento-un-sondaggio-di-openai-per-determinare-il-prezzo-152975)

> Everyone: [ChatGPT](https://chat.openai.com) is the closest thing to AGI 🤯  
>   
> Meanwhile, [ChatGPT](https://chat.openai.com) doing some basic math 😂 [pic.twitter.com/VcvZzvLpWZ](https://t.co/VcvZzvLpWZ)
> 
> — Shubham Saboo (@Saboo\_Shubham\_) [January 15, 2023](https://twitter.com/Saboo_Shubham_/status/1614584454554476544?ref_src=twsrc%5Etfw)

 <script async src="https://platform.twitter.com/widgets.js" charset="utf-8"></script>
# GPTZero

[GPTZero](https://gptzero.me/) è diventato virale su Twitter il 3 gennaio 2023 con oltre 7 milioni di visualizzazioni:

> I spent New Years building [GPTZero](https://gptzero.me/) — an app that can quickly and efficiently detect whether an essay is [ChatGPT](https://chat.openai.com) or human written
> 
> — Edward Tian (@edward\_the6) [January 3, 2023](https://twitter.com/edward_the6/status/1610067688449007618?ref_src=twsrc%5Etfw)

 <script async src="https://platform.twitter.com/widgets.js" charset="utf-8"></script>

**Edward Tian** , la persona che ha sviluppato in meno di tre giorni [GPTZero](https://gptzero.me/) durante il periodo di Natale, ha scelto come motto “gli esseri umani meritano la verità”. Il suo scopo, in quanto studioso di giornalismo e informatica, è quello di mettere a disposizione di insegnanti, educatori e non solo, uno strumento che permetta di riconoscere un testo generato artificialmente da uno scritto _a mano._

Non solo: Tian si impegna a mantenere una versione di [GPTZero](https://gptzero.me/) classic permanentemente gratuita e accessibile a qualsiasi essere umano, senza renderla mai a pagamento.

“C’è stato così tanto clamore ed entusiasmo attorno a [ChatGPT](https://chat.openai.com), che come con qualsiasi nuova tecnologia, dobbiamo pensare di adottarla in modo responsabile, e questa è stata la motivazione principale a creare [GPTZero](https://gptzero.me/)”, dice lo sviluppatore: in effetti, [ChatGPT](https://chat.openai.com) ha guadagnato un milione di utenti in appena 6 giorni.

# Come funziona

L’applicazione è stata scritta in Python, come visibile da un errore generato casualmente durante i test a causa di un testo troppo lungo:

![](https://theredcode.it/img/gptzero-error.png)

Il suo funzionamento è semplice: basta accedere alla demo disponibile sul sito ufficiale e inserire il testo di cui vogliamo controllare la sorgente, incollarlo e richiedere la valutazione. Il sistema misura la qualità del testo e discrimina l’autore sulla base di una metrica che chiama **perplessità** : questa rappresenta la misura di quanto bene un modello linguistico come [ChatGPT](https://chat.openai.com) può prevedere un testo, a fronte di un input.

Come viene specificato nell’output, testi particolarmente lunghi sono comunque classificabili come _human-like_visto che quelli generati al momento si attestano su una lunghezza media standard.

Più il punteggio è alto, più il testo sarà stato verosimilmente scritto da un essere umano.

in poche parole, misura quanto piace il testo al modello di computer. la tua perplessità del testo valutata su gpt2 (345 milioni di parametri) è 28 i testi con perplessità inferiori hanno maggiori probabilità di essere generati da modelli linguistici

In questo caso, per fare un test e contro-test, ho chiesto a [ChatGPT](https://chat.openai.com) di generare un articolo su [ChatBCG](https://www.theredcode.it/intelligenza-artificiale/chatbcg-ai-generative-slides/), di cui abbiamo parlato la settimana scorsa. Parte del risultato è il seguente testo:

![img.png](https://theredcode.it/img/chatgpt-about-chatbcg.png)

Il tema non è esattamente quello scelto, ma si riferisce ad un ipotetico sistema di generazione di chatbot, per cui proviamo a cambiare testo e scegliamo “Black Mirror”, la serie prodotta da Netflix. Questo il testo generato da [ChatGPT](https://chat.openai.com):

_Black Mirror is a British science fiction anthology television series created by Charlie Brooker. The show is produced by Brooker and Annabel Jones, and originally premiered on Channel 4 in the United Kingdom before being picked up by Netflix for international distribution. Each episode of Black Mirror presents a standalone story that explores the darker aspects of technology and its impact on society and individuals. The series covers a wide range of themes, including the effects of social media, surveillance, artificial intelligence, and virtual reality on human behavior and relationships. …_

Il risultato di [GPTZero](https://gptzero.me/) è ottimo, e riconosce che il testo è stato generato da un’intelligenza artificiale:

![](https://theredcode.it/img/gpt-zero-output-ai-text.png)

Per fare un contro-test, utilizziamo una [recensione presa da Quora.com](https://www.quora.com/What-is-your-review-of-Black-Mirror-TV-series) sulla serie TV che è abbastanza lunga da essere un testo plausibile.

![](https://theredcode.it/img/black-mirror-review.png)

Inserendo questo testo in [GPTZero](https://gptzero.me/), il risultato è che la _perplessità_ del sistema è pari a zero -più o meno: la recensione è stata scritta da un essere umano, e il punteggio è molto alto.

![](https://theredcode.it/img/gptzero-output-human-text.png)

# Dietro le quinte

Edward Tian ha utilizzato un modello piuttosto semplice di machine learning per costruire [GPTZero](https://gptzero.me/), [basato sulla regressione logistica](https://www.thedailybeast.com/bumbling-extremists-sad-crusade-against-abortion-pills?ref=scroll), dove utilizza metriche come la perplessità per valutare la bontà dell’input ricevuto. Come dataset, ha utilizzato gli articoli pubblicati sul sito della BBC più degli input generati artificialmente, di modo da ridurre il numero di falsi positivi, che attualmente si attesta sullo 2%.

Questo modello non è stato sviluppato con l’idea di andare contro tecnologie come quelle di [ChatGPT](https://chat.openai.com): lo stesso sviluppatore chiarisce che “ci sono delle bellissime qualità nella letturatura prodotta dagli essere umani di cui i computer non possono e non dovrebbero appropriarsi”.

> Sembra che a breve uscirà un nuovo modello, [GPTZeroX](https://gptzero.substack.com/p/new-year-new-features-new-model), con molte più funzionalità, tra cui l’upload di documenti in formato Word o PDF, come le evidenze che hanno portato il sistema a classificare il testo come generato artificialmente o meno fornendo dei testi chiave.

# Risorse utili

- [Newsletter ufficiale](https://gptzero.substack.com)