Un'IA dice che il mio articolo fa schifo. Ho controllato i numeri. Poi ho ricontrollato.

Un sistema di moderazione AI ha iniziato a marchiare articoli come "bassa qualità" — 347 in totale dal lancio. Suona male? Dipende da cosa significhi "bassa qualità" per un'IA che vede il mondo in pixel e statistiche. Lo sviluppatore ha fatto quello che fa ogni persona normale con uno smartphone e curiosità: ha iniziato a controllare. Ha guardato i dati dei post segnalati, li ha confrontati con quelli approvati, e ha cominciato a notare uno schema strano.

Quello che è saltato fuori è quasi prevedibile se ci pensi: l'IA non stava realmente giudicando la qualità. Stava applicando regole rigide — lunghezza minima, densità di parole chiave, numero di link — come se scrivere fosse un esame di matematica. Un articolo brillante ma corto? Bassa qualità. Un pezzo noioso lungo tre chilometri? Passa tranquillamente.

La cosa ridicola è che quando ha rieseguito l'analisi con dati leggermente diversi, i risultati sono cambiati drasticamente. Lo stesso articolo che era stato marcato come scarso una volta diventava accettabile in un'altra. Non è qualità che cambia: è il sistema che non sa quello che fa.

Questa storia non riguarda tanto un bug quanto un problema più profondo: le aziende stanno usando IA per automatizzare decisioni che richiedono giudizio umano, e fingono che i numeri siano imparziali quando in realtà rispecchiano solo le scelte di chi ha costruito il sistema. L'IA non sbaglia per cattiveria — sbaglia perché le abbiamo dato una bussola puntata nel posto sbagliato.

Lo sviluppatore ha deciso di documentare tutto e renderlo pubblico. Perché? Probabilmente perché ha capito che se non lo faceva, qualcun altro avrebbe subito la stessa cosa in silenzio, assumendosi la colpa.