News

Microsoft lancia un software di analisi per individuare video o immagini “deepfake”

Microsoft ha lanciato un nuovo software di analisi per individuare immagini o foto manipolate artificialmente, generalmente identificate con il nome di “deepfake”. Lo strumento, chiamato Video Authenticator, fornisce una percentuale o punteggio che determina se il supporto è stato manipolato. “Nel caso di un video, può fornire questa percentuale in tempo reale su ogni fotogramma durante la riproduzione del video”, scrive Microsoft in un post. “Funziona rilevando il confine di fusione degli elementi deepfake e sottili dissolvenze o scale di grigi che potrebbero non essere rilevabili dall’occhio umano.”

Se un contenuto online sembra reale, ma è sospetto, è probabile che si tratti di una manipolazione high tech che cerca di passare per reale, forse con un intento dannoso di disinformare le persone. E mentre molti deepfake sono creati con un intento ironico, tali media sintetici possono ancora assumere una vita propria mentre si diffondono, il che significa che possono anche finire per ingannare gli spettatori ignari.

Mentre la tecnologia AI viene utilizzata per generare deepfake realistici, identificare la disinformazione visiva utilizzando la tecnologia è ancora un problema difficile e una mente che pensa in modo critico rimane lo strumento migliore per individuare BS ad alta tecnologia. Tuttavia, i tecnologi continuano a lavorare sugli spotter deepfake, inclusa l’ultima offerta di Microsoft.

 

Una lotta continua contro la disinformazione

Sebbene il post avverta che la tecnologia può offrire solo un’utilità passeggera nella corsa agli armamenti contro la disinformazione alimentata dall’intelligenza artificiale: “Il fatto che i deepfake siano generati dall’intelligenza artificiale che può continuare ad apprendere rende inevitabile che batteranno la tecnologia di rilevamento convenzionale. Tuttavia, nel breve periodo, come le imminenti elezioni statunitensi, le tecnologie di rilevamento avanzate possono essere uno strumento utile per aiutare gli utenti più esigenti a identificare i deepfake”.

Microsoft sta anche collaborando con la AI Foundation con sede a San Francisco per rendere lo strumento disponibile alle organizzazioni coinvolte nel processo democratico quest’anno, compresi i notiziari e le campagne politiche. “Video Authenticator sarà inizialmente disponibile solo tramite RD2020 [Reality Defender 2020], che guiderà le organizzazioni attraverso i limiti e le considerazioni etiche inerenti a qualsiasi tecnologia di rilevamento deepfake. Le campagne e i giornalisti interessati a saperne di più possono contattare RD2020 qui”, aggiunge Microsoft.

Le “armi” anti-deepfake di Microsoft

Lo strumento è stato sviluppato dalla sua divisione R&D, Microsoft Research, in coordinamento con il suo team Responsible AI e un organo consultivo interno su AI, Ethics and Effects in Engineering and Research Committee – come parte di un programma più ampio che Microsoft sta conducendo per difendere la democrazia dalle minacce poste dalla disinformazione.

“Ci aspettiamo che i metodi per generare media sintetici continueranno a crescere in sofisticazione”, continua. “Poiché tutti i metodi di rilevamento dell’IA hanno tassi di fallimento, dobbiamo capire ed essere pronti a rispondere ai deepfake che sfuggono ai metodi di rilevamento. Pertanto, a lungo termine, dobbiamo cercare metodi più forti per mantenere e certificare l’ autenticità degli articoli di notizie e di altri media. Ci sono pochi strumenti oggi per assicurare ai lettori che i media che stanno vedendo online provengono da una fonte attendibile e che non sono stati alterati”.

Su quest’ultimo fronte, Microsoft ha anche annunciato un sistema che consentirà ai produttori di contenuti di aggiungere hash digitali e certificati ai media che rimangono nei loro metadati mentre il contenuto viaggia online, fornendo un punto di riferimento per l’autenticità.  Il secondo componente del sistema è uno strumento di lettura, che può essere distribuito come estensione del browser, per il controllo dei certificati e la corrispondenza degli hash per offrire allo spettatore quello che Microsoft chiama “un alto grado di accuratezza”, ovvero che un particolare contenuto è autentico e non è stato modificato. La certificazione fornirà anche allo spettatore dettagli su chi ha prodotto i media.

Microsoft spera che questo sistema di autenticità del watermark digitale finisca per sostenere una “Trusted News Initiative” annunciata lo scorso anno dall’emittente britannica BBC, in particolare per un componente di verifica, chiamato Project Origin, che è guidato da una coalizione della BBC, CBC / Radio-Canada, Microsoft e The New York Times. Secondo Microsoft la tecnologia di watermarking digitale sarà testata da Project Origin con l’obiettivo di svilupparla in uno standard che possa essere adottato ampiamente.

Marco Inchingoli

Nato a Roma nel 1989, Marco Inchingoli ha sempre nutrito una forte passione per la scrittura. Da racconti fantasiosi su quaderni stropicciati ad articoli su riviste cartacee spinge Marco a perseguire un percorso da giornalista. Dai videogiochi - sua grande passione - al cinema, gli argomenti sono molteplici, fino all'arrivo su FocusTech dove ora scrive un po' di tutto.

Recent Posts

Recensione Shark Detect Pro: aspirapolvere di qualità con autosvuotamento

Shark Detect Pro è il nome della nuova gamma di scope elettriche intelligenti di Shark, azienda che nel corso degli anni si sta…

21 Dicembre 2024

Vischio: non solo tradizione e baci ma anche salute

Tra le tante, tantissime, tradizioni del periodo natalizio c'è quella del vischio. Si parla di una tradizione secolare che al…

21 Dicembre 2024

Cosa succede nell’oceano quando due cicloni si scontrano?

Quando due cicloni tropicali si scontrano, si creano effetti complessi e straordinari sia nell’atmosfera sia nell’oceano. Un caso emblematico è…

21 Dicembre 2024

Videogiochi open-world: una via verso il relax e il benessere mentale

I videogiochi open-world, ottenuti dalla libertà di esplorare vasti ambienti senza rigidi vincoli narrativi, stanno guadagnandosi il riconoscimento non solo…

21 Dicembre 2024

WhatsApp: come menzionare un gruppo nell’aggiornamento di stato

WhatsApp porta in campo una nuova funzione per gli aggiornamenti di stato. Dopo l'aggiunta delle menzioni per i singoli contatti,…

20 Dicembre 2024

La dopamina e il cuore: un legame cruciale nella risposta allo stress

La dopamina, spesso associata al piacere e alla ricompensa, svolge un ruolo chiave non solo nel cervello, ma anche nella…

20 Dicembre 2024