Guerra ai deepfake, Facebook eliminerà i video bufala (anche quelli porno)
Mark Zuckerberg dichiara guerra ai deepfake: i video in cui le persone dicono e fanno cose mai dette o fatte nella realtà verranno cancellati da Facebook. Questi contenuti sono realizzati con l’intelligenza artificiale e comportano rischi enormi per le vittime, come ci ha spiegato Matteo Viviani nei suoi servizi
Facebook dichiara guerra a deepfake e deep porn. Il social network di Menlo Park ha annunciato che eliminerà quegli odiosi video in cui i soggetti dicono e fanno cose che nella realtà non hanno mai né detto né fatto. Negli ultimi mesi questi filmati, che sono falsi ma sembrano veri, hanno conquistato milioni di click anche sui social network. Dopo la presa di posizione di Twitter che ha dichiarato guerra ai deepfake (clicca qui per l’articolo), anche Mark Zuckerberg ha adesso preso la stessa decisione. Pochi mesi fa ha lanciato la campagna "Deepfake Detection Challenge", che punta a sviluppare strumenti in grado di identificare i video bufala.
Da Facebook verranno dunque eliminati i contenuti "manipolati allo scopo di ingannare”, dunque soprattutto i deepfake creati con l'intelligenza artificiale. La tecnica di realizzazione di questi video permette di sovrapporre due volti (o altre parti del corpo) in un video, creando così uno scambio di identità e consentendo di far dire a una persona frasi che non ha mai pronunciato, oppure mostrare azioni che non ha mai compiuto. I video sono dunque falsi, ma sembrano verissimi.
In un post firmato dalla vicepresidente del Global Policy Management, Monika Bickert, Facebook fa sapere che rimuoverà i contenuti modificati "in modi che non risultano evidenti a una persona comune, e che probabilmente indurrebbero a pensare che un soggetto del video abbia detto parole che in realtà non ha pronunciato". Per capire se un contenuto è manipolato, la compagnia si avvarrà dei suoi 50 partner mondiali per il fact checking in 40 lingue. Sono esonerati i video sottoposti a post produzione per miglioramenti grafici e quelli realizzati per satira e parodie.
Con Matteo Viviani vi abbiamo parlato dell’intelligenza artificiale dietro ai deepfake, come potete vedere nel video qui sopra. Facebook ha dichiarato guerra anche ai deepnude, in cui vengono letteralmente incollati i volti di persone famose e che rappresentano oltre il 95% dell’intero insieme di video manipolati. Sempre Matteo Viviani ci ha mostrato in un secondo servizio (clicca qui per vederlo) le tecniche di deeporn e soprattutto i rischi che comportano. Per farlo ha messo alla prova Fedez e il nostro Nicolò De Devitiis mostrando loro dei falsissimi deepnude delle rispettive compagne: Chiara Ferragni e Veronica Ruggeri. Così recuperiamo delle loro foto in costume e facciamo partire il programma che ci permette anche di indicare le dimensioni delle parti intime come la grandezza del seno, dell’areola, del capezzolo. E dopo neanche 30 secondi il programma sforna le foto fake.
Noi abbiamo scherzato, ma la questione è molto seria. “Quello che ne consegue è chi ti dà della puttana e via dicendo”, dice Fedez. Proprio come è successo a Fabiana, una ragazza di 24 anni che si è ritrovata sul web ben 36 foto di lei completamente nuda. Lei fa la modella curvy e l’influencer. Un giorno ritrova le sue foto in un forum frequentato da milioni di utenti. “C’erano persone che chiedevano su commissione di spogliare foto di ragazze e in alcuni casi di bambine”, racconta Fabiana. “Non è solo una questione di social, avevo un’ansia perenne”. Speriamo che la decisione di Facebook aiuti a proteggere le vittime di queste terribili aggressioni alla vita delle persone.