Facebook mette al bando i deepfake, cioè i video creati con una tecnica che sfrutta l'intelligenza artificiale per sovrapporre due volti in un video, creando uno scambio di identità e consentendo, ad esempio, di far dire a un politico frasi che non ha mai pronunciato. La compagnia di Mark Zuckerberg, già in campo con il progetto 'Deepfake Detection Challenge' insieme ad altri colossi come Microsoft e Amazon, ha annunciato che eliminerà dalla sua piattaforma i contenuti "manipolati allo scopo di ingannare", preservando tuttavia le parodie e la satira.
L'annuncio arriva in un momento in cui i social network sono sotto messi sotto pressione e chiamati a ripulire le proprie piattaforme da fake news e contenuti ingannevoli in vista delle elezioni presidenziali americane di fine 2020.
In un post firmato dalla vicepresidente del Global Policy Management, Monika Bickert, Facebook fa sapere che rimuoverà i contenuti modificati "in modi che non risultano evidenti a una persona comune, e che probabilmente indurrebbero a pensare che un soggetto del video abbia detto parole che in realtà non ha pronunciato". I deepfake, prosegue Bickert, "sebbene siano ancora rari su internet, rappresentano una sfida significativa per la nostra industria e per la società". Per capire se un video è manipolato, la compagnia si avvarrà dei suoi 50 partner mondiali per il fact checking in 40 lingue.
Facebook nel settembre scorso ha lanciato l'iniziativa "Deepfake Detection Challenge", volta a sviluppare strumenti in grado di identificare i deepfake. Il mese scorso il social si è anche alleato con Reuters per creare un corso online che aiuti i giornalisti a riconoscere i deepfake per non cadere in inganno.
