Discord AI: ban ingiusti per immagini innocue

Discord ha ammesso un bel pasticcio: la sua intelligenza artificiale, quella che dovrebbe mantenere l'ordine, ha bandito un sacco di utenti per immagini assolutamente innocue. Pare che il sistema non sia così "intelligente" come si sperava, scambiando innocenti meme per contenuti proibiti. Un bel colpo all'ego di chi vede l'AI come la soluzione a tutto, non trovate?

Il problema non è roba di ieri. L'azienda ha confermato che questo bug ha iniziato a colpire gli account già a partire da maggio. Poi, giusto per gradire, altri 200 utenti sono stati buttati fuori nel weekend, prima che il team umano riuscisse a capire il guaio e a mettere una pezza. A volte, un occhio umano è ancora la migliore "AI" sul mercato, pare.

Semplice: l'algoritmo non ha capito il contesto. Un po' come quando tua nonna non afferra le battute su TikTok. L'AI di Discord è stata addestrata a riconoscere contenuti problematici, ma a quanto pare ha sviluppato una sensibilità eccessiva, vedendo pericoli dove non c'erano. Una sorta di "allarme rosso" per ogni ombra sospetta.

Il bello è che Discord ha dovuto ammettere l'errore pubblicamente, chiarendo che non c'erano intenzioni malevole dietro le immagini incriminate. Hanno sistemato il bug, certo, ma intanto l'esperienza di centinaia di utenti è andata in fumo. Tutto questo perché un pezzo di codice ha avuto un brutto presentimento.