Discord revoca il ban di circa 200 utenti colpiti da un bug che riconosceva le immagini a griglia come contenuti dannosi

Circa 200 account Discord sono stati reintegrati a seguito di un bug che ha portato alla sospensione permanente degli utenti dal servizio di messaggistica a causa di immagini a griglia rilevate erroneamente come contenenti materiale dannoso. È stato riportato nel fine settimana che una vulnerabilità negli strumenti di moderazione AI di Discord ha fatto sì che il servizio rilevasse erroneamente qualsiasi immagine a griglia quadrata contenente CSAM.

"I nostri sistemi segnalano il contenuto confrontandolo con materiale noto e dannoso. Questo tipo di abbinamento di somiglianza può produrre falsi positivi, motivo per cui un membro del nostro team Trust & Safety revisiona sempre i contenuti segnalati prima di intraprendere qualsiasi azione," ha spiegato Discord in un thread su Twitter/X. Ha affermato che l'obiettivo principale dei contenuti segnalati è mettere in pausa i caricamenti, piuttosto che bannare un utente del tutto.

Il bug era ciò che causava i ban, e gli account interessati sono stati revisionati e reintegrati. Discord rivela che più di 8.000 account sono stati colpiti dal bug da maggio di quest'anno, ma tutti sono stati sbannati.

"Sappiamo che non è una spiegazione soddisfacente se questo fosse il tuo racconto, e avremmo dovuto scoprirlo prima. Stiamo lavorando a migliori tutele affinché non possa accadere di nuovo in silenzio e, più in generale, per garantire che i nostri sistemi di sicurezza non penalizzino chi non ha fatto nulla di sbagliato," ha scritto Discord.

Quindi, se aspettavi di mostrare il tuo inventario di Minecraft pieno di diamanti, ma non volevi essere bannato dal bug, ora sembra che le funzioni di riconoscimento dei pattern di Discord siano state perfezionate per evitare banni ingiustificati.