Questa prof ha inventato un metodo per smascherare chi usa l’IA in classe

Tanti ne fanno un uso improprio

Daina Petronis, un’insegnante, ha ideato un metodo per individuare l’uso improprio di ChatGPT da parte degli studenti durante i compiti
L’uso non autorizzato di modelli di apprendimento linguistico (LLM), come ChatGPT, sta diventando un problema diffuso nelle classi
Petronis ha testato vari metodi per individuare l’abuso di LLM, incluso chiedere direttamente al modello se ha generato il lavoro
Il suo metodo più efficace coinvolge l’inserimento di una frase nascosta in caratteri bianchi molto piccoli nel compito, rilevabile solo copiando e incollando il testo in ChatGPT
Sebbene il metodo abbia alcuni limiti, Petronis ritiene che gli aspetti positivi superino i negativi nel contrastare l’uso improprio di ChatGPT

Daina Petronis, un’insegnante che progetta programmi di studio, ha rivelato sui social un trucco per scoprire se i suoi studenti usano ChatGPT per svolgere il loro lavoro pratico. Sebbene le condizioni d’uso di ChatGPT indichino che i ragazzi di età compresa tra i 13 e i 18 anni dovrebbero utilizzarlo solo con il permesso dei genitori, infatti, una ricerca suggerisce che un numero preoccupante di studenti sta già abusando dell’IA in classe. Se è vero che un giorno programmi come ChapGPT potranno trovare spazio in classe, al momento la sfida più grande che gli insegnanti devono affrontare quando si tratta di modelli di apprendimento linguistico (LLM) è il loro potenziale uso improprio.

“In teoria, i modelli di apprendimento linguistico possono essere utili per l’apprendimento, ma è necessario un grande sostegno per garantire che non vengano utilizzati in modo improprio”, ha dichiarato Petronis. Gran parte del lavoro di Petronis consiste nel ricercare le tendenze nel campo dell’istruzione, in particolare per quanto riguarda l’uso dei ChatGPT, i metodi disponibili per aiutare gli insegnanti a individuare coloro che utilizzano gli LLM in modo illecito e le limitazioni che li circondano. “Spesso vengo contattata da aziende che sviluppano strumenti di rilevamento dell’IA e che vogliono promuovere il loro software al mio pubblico. Prima di condividere questi strumenti con la mia comunità, chiedo sempre ai loro rappresentanti informazioni sulla loro accuratezza. La risposta costante di queste aziende è che non esiste un metodo infallibile per rilevare l’IA”.

Si aggiunge una frase centrale vuota

Un altro metodo approvato da alcuni è quello di chiedere al LLM se ha prodotto il lavoro in questione. “Ho testato questo metodo con diversi campioni di scrittura originale e con un testo generato da un LLM. Ho utilizzato un mio scritto pubblicato anni fa e ho affermato falsamente di averlo generato. Ho anche usato la scrittura che avevo generato e lui non l’ha riconosciuta”. Fortunatamente, Petronis ha trovato un metodo molto più semplice per eliminare gli imbroglioni, utilizzando quello che lei chiama il trucco del “cavallo di Troia”. In un video pubblicato sul suo account, ha spiegato che “questo trucco è piuttosto intelligente e può mostrarvi esattamente cosa cercare senza l’uso di alcun software o programma speciale”.

Inizia dividendo l’argomento del suo saggio (il titolo del saggio dato ai suoi studenti) in due paragrafi prima di aggiungere una frase centrale vuota utilizzando la dimensione più piccola possibile. L’idea è che se il messaggio del saggio viene copiato e incollato in ChatGPT, l’insegnante può cercare la frase nascosta nel piccolo carattere bianco quando il compito viene inviato. Sebbene il video sia stato visto più di un milione di volte e abbia ricevuto molti apprezzamenti, Petronis riconosce che il metodo ha dei “limiti”. “Se uno studente si accorge che nel suo compito c’è del testo nascosto, può capitare che lo rimuova o che lo scambi per una parte delle istruzioni”, ha spiegato. Tuttavia, ritiene che gli aspetti positivi siano di gran lunga superiori a quelli negativi.