Dicono che uno sguardo dica più di mille parole e, sebbene ai nostri tempi l’accesso ai filtri per foto e video possa rendere difficile la loro interpretazione, ci sono dettagli che possono aiutare. Ad esempio, la forma degli occhi e nello specifico le pupille possono aiutarci a determinare se stiamo guardando una persona reale o una che non esiste, ovvero la classica deepfake.
Almeno per il momento non ci riferiamo a fantasmi, ma a falsi volti generati dai sistemi di machine learning. Se in qualsiasi momento ti chiedi se il profilo che visiti su un qualsiasi social network sia vero o falso, potresti semplicemente dare un’occhiata alla forma dei suoi occhi, o meglio, delle sue pupille. Se non sono rotonde, come siamo abituati a vedere, è meglio uscire di lì.
Il mondo cibernetico è pieno di deepfake
I deepfake sono diventati molto popolari. Lo sviluppo di questo tipo di tecnologia, basato anche sul rivoluzionario machine learning, non ha sempre fini nobili. Sebbene utili per individuare criminali e pedofili online, oltre a far rivivere i volti di attori deceduti, molti li usano per creare profili falsi sui social network. Mediante questi finti volti, i malintenzionati cercano di diffamare o truffare le persone meno familiari con l’argomento.
Come determinare se siamo di fronte a una persona reale? Prestiamo attenzione ai loro occhi
A volte la nostra ricerca della verità comporta l’immergersi in alcune bugie, ma anche in questi casi è necessario imparare a differenziare l’una dall’altra. Ad esempio, ora che i deepfake abbondano su Internet, questa premessa potrebbe essere particolarmente utile per determinare quali evitare.
A questo proposito, gli scienziati della State University di New York hanno sviluppato uno strumento che aiuta a rilevare se i volti che incontriamo sul web sono reali o meno. I dettagli sono in un articolo di prestampa su arXiv.org. Il suo funzionamento si basa sull’estrazione automatica dei contorni delle pupille degli occhi nelle foto che gli vengono presentate per poi valutarli sulla base di informazioni reali. In questo modo, si mira a determinare se hanno forme ellittiche come quelle che hanno gli umani adulti normalmente sani.
I ricercatori hanno testato il loro sviluppo con un database di 2.000 immagini, di cui 1.000 erano volti reali e 1.000 erano volti falsi; questi ultimi sono stati creati da un algoritmo di apprendimento automatico del tipo di rete neurale generativa (GAN) adversarial o antagonistic. Come riportato, lo strumento è stato in grado di differenziare in modo affidabile entrambi i gruppi con le informazioni fornite.
La scoperta più significativa è stata l’ampia diffusione di forme irregolari della pupilla sui volti generati dal sistema GAN di alta qualità. Le pupille dei volti falsi non erano rotonde come quelle delle persone reali, ma presentavano “artefatti e incongruenze visibili nelle regioni degli occhi“.
La forma degli occhi può aiutare a differenziare una persona reale da una falsa
Ma come può questo dettaglio passare inosservato a chi lavora tanto nello sviluppo dei deepfake? Bene, gli autori credono che ciò sia possibile perché i modelli GAN di apprendimento automatico non comprendono l’anatomia dell’occhio umano in modo così accurato. In effetti, non è la prima volta che l’analisi oculistica si distingue come criterio per questo tipo di ricerca. Spesso si è parlato di strumenti che utilizzano il riflesso della luce al loro interno per valutare la veridicità dei ritratti. “Proponiamo un nuovo metodo basato sulla fisiologia che può utilizzare le forme irregolari delle pupille come segnale per rilevare i volti generati dal GAN, che è semplice ma efficace”, spiegano gli scienziati.
Lo studio rivela al mondo, compresi i truffatori intelligenti che vi si addentrano per commettere crimini online , un punto debole che può essere di grande utilità. Se perfezionati, questi tipi di strumenti possono aiutare a contrastare l’uso dannoso di immagini dall’aspetto realistico sul web. La domanda è: chi trarrà vantaggio per primo da questa scoperta?
