È il caso dell’applicazione cinese TikTok, di gran voga tra i giovanissimi, che permette la pubblicazione online di brevi video di adolescenti che si dilettano in ballo e canto.
Il blog Netzpolitik.org che si occupa di diritti digitali e cultura digitale, ha stilato un rapporto da cui emerge che la politica della piattaforma in fatto di tutela dei propri utenti diversamente abili o colpiti da malformazioni, è quantomeno controversa. Il commento di un portavoce dell’applicazione alimenta le perplessità sollevate rispondendo che si tratta di “Regole usate per proteggere e ora modificate”.
L’ombra della discriminazione arriva in occasione della Giornata mondiale dedicata alla disabilità, accusando TikTok di aver discriminato utenti con diversità mentali e/o fisiche.
Da ciò che è emerso sembrerebbe trattarsi di censura preventiva, limitando la pubblicazione dei video da parte di utenti che potrebbero diventare bersaglio di cyberbullismo o inibendo alcune funzionalità dell’app per alcuni profili, di norma automaticamente attive per gli altri utenti.
Netzpolitik è riuscito a prendere visione di alcuni documenti e grazie a una fonte interna all’azienda, si è reso noto che fino a poco tempo fa erano in vigore specifiche regole per gli account appartenenti a utenti “con autismo, sindrome di Down, deformità facciali e disabili o persone con problematiche al volto come voglie o strabismi e altro”. Stando alla documentazione recuperata, tali soggetti “sono estremamente vulnerabili ad atti di cyberbullismo” pertanto l’azienda ha scelto di limitare la diffusione dei loro video nel tentativo di tutelarli.
In altri documenti viene spiegato come quei post che possano innescare atti di cyberbullismo saranno “consentiti, ma catalogati con l’etichetta di rischio numero 4”. Questa dicitura indica una serie di azioni da effettuare ovvero verranno mostrati esclusivamente a connazionali, venendo così esclusi dall’algoritmo che sceglie a caso post da divulgare in una sezione aperta dell’app.
Vale a dire quindi che per tutti gli utenti che rientrano nelle linee guida sopracitate verrà applicato un trattamento diverso rispetto al resto degli utenti, ovvero una minor diffusione dei video nella community.
Il tutto, a detta di TikTok, per proteggere questi utenti anche se non è chiaro se dalla piattaforma manterranno tali politiche o meno.
La maggior parte del peso della scelta di catalogare i post viene lasciato ai moderatori umani sparsi tra Berlino, Pechino e Barcellona, i quali hanno un tempo limitato che non supera i trenta secondi per scegliere se associare ai video l’etichetta “Auto R”, innescando così tutte le operazioni di tutela.
In più, in alcuni casi le restrizioni sono state applicate direttamente all’utente e non ai singoli post, e le linee guida secondo Netzpolitik sono state applicate anche ad altri utenti come LGBT, o in sovrappeso.
Quello che si evince dal rapporto non è quindi una tutela di alcuni utenti ma una vera e propria discriminazione, creatasi per evitare situazioni di difficile gestione da parte dell’azienda per cui un portavoce ha infatti dichiarato che “non ha mai inteso quelle procedure come una soluzione a lungo termine”, anche se le stesse sono state confermate ai moderatori fino allo scorso settembre.
Questo, secondo l’app, si è reso necessario in quanto “All’inizio, in risposta a un aumento del bullismo sull’app, abbiamo sviluppato una policy provvisoria mentre l’intento era positivo, l’approccio è stato sbagliato e da allora abbiamo cambiato quelle regole in favore di policy anti-bullismo più sfumate e protezioni interne”.
L’augurio è quello di vedere realmente una tutela degli utenti vittime di cyberbullismo senza che gli stessi siano trasformati anche in vittime di un sistema che non sa ancora risolvere il problema all’origine, educando alla sensibilità e al rispetto di ogni vita.
Rispondi