I truffatori dell'AI creano persone nere fake per vendere roba di Shein

La storia è semplice e deplorabile. Ci sono creator su TikTok che stanno usando generatori di immagini AI (tipo Midjourney o simili) per creare volti di persone nere che non esistono nella realtà. Non è un'esagerazione: sono completamente sintetiche. Una volta che hanno il personaggio, lo mettono a vendere roba — soprattutto prodotti dropshippati da Shein, AliExpress e simili, i soliti scatoloni di bassa qualità.

Il genio criminale dietro tutto questo? Fare leva sull'autenticità. Usano queste facce false per sembrare creator veri e affidabili (il "diverso" vende meglio), postano video commoventi tipo "sono nera e nessuno mi supporta", e poi piazzano link a negozi con roba cinese. Il pubblico, ignaro che il volto sia generato, abbocca — e loro incassano le commissioni dal dropshipping.

Ma la cosa ancora più sporca? Mentre questi truffatori costruiscono le loro fabbriche di bot, creator reali — persone che stanno davvero cercando di fare soldi onestamente — faticano a farsi notare. La creator vera menzionata nell'articolo (Aliyah) lotta per vendere i suoi accessori fatti a mano, mentre AI-Persona-Numero-47 vende plastica cinese e porta a casa somme decenti grazie alle commissioni affiliate.

TikTok Shop ha reso tutto più semplice: hai un link affiliato, posti un video, guadagni una percentuale. Unisci questo a un volto generato via AI e niente responsabilità legale ("ma io il volto non l'ho creato, lo ha fatto un'AI!"), e hai appena costruito una macchina per stampare frodi.

La questione razziale qui è tutt'altro che secondaria. Usare volti di persone nere sintetiche per vendere roba scadente è blackface con filtri tecnologici — è proprio questo. Sfrutta stereotipi (il personaggio "autentico" che chiede supporto), usa corpi neri per fare soldi, e non paga una sola persona nera vera per il lavoro.

Per ora, non esiste un sistema efficace per fermare tutto questo. TikTok può bannare i singoli account, ma aprirne uno nuovo è questione di minuti. Le piattaforme non controllano davvero se i volti sono reali o generati, e gli algoritmi non riescono a distinguere un vero creator da una fabbrica di bot AI.