Detector AI di Substack: la solita storia, con gli stessi difetti

Sì, Substack ha lanciato un nuovo strumento che, a detta loro, dovrebbe aiutarci a distinguere tra un articolo scritto da una persona vera e uno sputato fuori da un'intelligenza artificiale. Ogni post, nota e commento che superi le cento parole è ora sotto la lente d'ingrandimento di questo "occhio" digitale. L'idea è nobile, come quasi tutte le idee che riguardano l'AI, ma la pratica è un po' più complicata, come quasi tutte le pratiche che riguardano l'AI.

Il problema è che questo detective digitale, appena sbarcato sulla piattaforma, sembra avere gli stessi problemi di vista di altri suoi predecessori. Non è la prima volta che assistiamo a questo spettacolo. Ricordate DEV.to? Anche loro avevano un rilevatore che confondeva un po' le cose. E indovinate un po'? Substack ha fatto centro, o meglio, ha sbagliato centro, nello stesso modo.

Il motivo è semplice: questi strumenti spesso cercano schemi e regolarità che un'AI tende a produrre, ma a volte anche gli umani possono scrivere in modo "regolare" o prevedibile. Substack ha introdotto il suo rilevatore di testo AI questa settimana, applicandolo a tutti i contenuti superiori a 100 parole, ma i primi test mostrano già che etichetta erroneamente testi scritti da persone come generati da macchine. È un po' come se un cane addestrato a scovare tartufi abbaiasse a una patata perché ha la terra sopra.

Rilevatori simili, come quello testato da DEV.to, hanno già dimostrato di fallire nel distinguere accuratamente tra contenuti generati da AI e scritti da umani. Basta una piccola modifica a un testo generato da AI, anche solo cambiare qualche parola o la struttura di una frase, per eludere completamente questi sistemi. È come un gioco del gatto e del topo, dove il topo impara sempre nuovi trucchi prima che il gatto riesca a prenderlo sul serio. Forse dovremmo chiederci se è il caso di investire così tanto in questi strumenti, o se è meglio concentrarsi sulla qualità dei contenuti a prescindere da chi li scrive.

Per chi legge, la promessa di un contenuto "garantito umano" potrebbe non essere mantenuta, portando a una falsa sicurezza. Per chi scrive, invece, la situazione è più spinosa. Potresti passare ore a creare un pezzo brillante, solo per vederlo etichettato come "opera di bot" da un algoritmo un po' troppo zelante. La sfida principale di questi strumenti è la generazione di falsi positivi, penalizzando scrittori legittimi.

Questo non solo è frustrante, ma potrebbe anche minare la fiducia degli scrittori nella piattaforma. Se un algoritmo può decidere che il tuo lavoro non è autentico, che valore ha la tua voce? Forse è ora di accettare che l'AI è qui per restare e che la vera battaglia non è contro i testi generati, ma per la qualità e l'originalità, a prescindere da chi o cosa li abbia "aiutati" a nascere. Insomma, un bel grattacapo per tutti.