Di recente, diverse aziende stanno lavorando su algoritmi e database di intelligenza artificiale per impedire alle “persone cattive” di facilitare l’”odio” sul web e sul posto di lavoro. Alla fine del 2019, Hatebase ha annunciato di volerlo fare eliminare l’incitamento all’odio online e stare al passo con il “gergo nazionalista bianco”. A metà maggio 2020, Facebook ha annunciato il Sfida dei memi odiosi, che mira a fermare “meme offensivi e discorsi di incitamento all’odio”. E a partire da questa settimana, l’International Game Developers Association (IGDA) sta spingendo per affrontare il crunch e sostenere la diversità utilizzando un database per segnalare “cattivi comportamenti”.

Con il numero crescente di database e algoritmi di intelligenza artificiale addestrati per ridurre qualsiasi “pensiero sbagliato” o cattivo comportamento, ci si aspetta solo che emergano più programmi di questo tipo nel prossimo e lontano futuro.

Nel frattempo, gamesindustry.biz riferisce che Renee Gittins - direttore esecutivo dell'IGDA (all'estrema destra nell'immagine dell'intestazione) - sta cercando di affrontare quattro "problemi chiave" nel settore a partire da oggi. Ciò include “diversità degli eventi”, “crisi”, “etica” e “riconoscimento adeguato per il lavoro completato”.

L’IGDA e Gittins affermano di voler “contribuire a migliorare il settore e renderlo solidale con tutti coloro che ne fanno parte”. Inoltre, questo presumibilmente si manifesterà attraverso un database in grado di raccogliere rapporti su comportamenti scorretti.

Di seguito, Gittins spiega come lei e l'IGDA vogliono esercitare pressioni sull'industria dei giochi affinché esplori le quattro questioni chiave poiché detta industria ha "bisogno di aiuto" a partire da ora:

“Abbiamo pensato che sarebbe stato bene proporli tutti insieme, in modo che abbiano il massimo effetto, con un piano di pressione per incoraggiare le aziende a prenderli davvero in considerazione. Vogliamo che queste siano conversazioni che le persone stanno avendo, e chiaramente in questo momento c'è un enorme bisogno nel settore dei giochi.

Inoltre i dipendenti potranno denunciare la propria azienda tramite un report. Tale rapporto verrà trasformato in un account anonimizzato, che verrà poi aggiunto al database:

"Teneremo traccia delle segnalazioni, se le persone dicono che un'azienda ha violato esplicitamente tali standard."

Questi account verranno monitorati per un utilizzo futuro per tenere sotto controllo il comportamento di un'azienda. Gittins spiega ulteriormente questo metodo, come indicato di seguito:

“Se qualcuno sta pensando di lavorare con [un'azienda] in futuro, o ha delle domande su come si sta comportando, le persone possono… ottenere uno storico di come si sono comportati rispetto agli standard che l'IGDA sta proponendo. Questo si evolverà in base alle esigenze della comunità e il monitoraggio di tali dati sarà importante a lungo termine”.

A differenza di altri sistemi che possono essere rumorosi sia nella concezione che nella pratica, questo metodo proposto da Gittins e dall’IGDA avrà luogo in silenzio. In altre parole, un’azienda cambierà nel tempo per adattarsi agli standard dell’anno in corso, accumulando badge senza che il pubblico raggiunga troppo rumore:

“Non stiamo cercando di denunciare le persone, stiamo cercando di migliorare il settore. La nostra missione è supportare e consentire agli sviluppatori di giochi di avere carriere soddisfacenti e sostenibili. Affinché ciò accada, le aziende per cui lavorano devono essere sostenibili, nel senso che continuano a operare, e devono essere sostenibili anche nel lavorare, nel senso che non bruciano i propri dipendenti.

Tuttavia, una cosa su cui stiamo lavorando per creare, dal lato opposto dello spettro, è un sistema di badge. I nostri partner di studio che hanno fatto particolarmente bene nel dare credito [al loro personale], o che hanno fatto molto bene nel supportare coloro che sono in congedo di paternità e maternità, ci saranno dei badge per celebrare il fatto che stanno supportando i dipendenti con le migliori pratiche.

Stiamo cercando di portare avanti le cose e di non richiamare aziende specifiche: vogliamo migliorare tutte le aziende”.

Infine, non aspettatevi che questa sia l'ultima azienda a produrre un altro database e un algoritmo di intelligenza artificiale per monitorare i "cattivi comportamenti" nel settore dei giochi. Detto questo, Gittins chiude dicendo quanto segue:

“Stiamo facendo qualcosa di nuovo per raggiungere le aziende, lavorare con loro e fornire risorse. Ed essere davvero una voce per gli sviluppatori di giochi e mettere i loro migliori interessi in un unico posto.