Perfektus viltus videoklipus atpazīs mākslīgais intelekts
Perfektus viltus videoklipus atpazīs mākslīgais intelekts

Video: Perfektus viltus videoklipus atpazīs mākslīgais intelekts

Video: Perfektus viltus videoklipus atpazīs mākslīgais intelekts
Video: The Avener, Kadebostany - Castle In The Snow - YouTube 2024, Marts
Anonim
Anglijā sākas operas par Ļitviņenko saindēšanu pirmizrāde
Anglijā sākas operas par Ļitviņenko saindēšanu pirmizrāde

Pirms gada Stenfordas Manish Agrawala palīdzēja izstrādāt lūpu sinhronizācijas tehnoloģiju, kas ļāva video redaktoriem gandrīz nemanāmi mainīt runātāju vārdus. Šis rīks var viegli ievietot vārdus, kurus persona nekad nerunāja, pat teikuma vidū, vai izdzēst viņa teiktos vārdus. Viss izskatīsies reāli ar neapbruņotu aci un pat daudzām datorsistēmām.

Šis rīks ir ievērojami atvieglojis kļūdu labošanu, atkārtoti neuzņemot visas ainas, kā arī ir pielāgojis TV šovus vai filmas dažādām auditorijām dažādās vietās. Taču šī tehnoloģija ir radījusi arī satraucošas jaunas iespējas grūti atrodamiem viltus videoklipiem ar skaidru nolūku sagrozīt patiesību. Piemēram, nesenā republikāņu video intervijā ar Džo Baidenu tika izmantota rupjāka tehnika.

Šovasar Agrawala un kolēģi Stenfordā un UC Berkeley atklāja uz mākslīgā intelekta balstītu pieeju lūpu sinhronizācijas tehnoloģijai. Jaunā programma precīzi nosaka vairāk nekā 80 procentus viltojumu, atzīstot vismazākās neatbilstības starp cilvēku skaņām un viņu mutes formu.

Bet Agravalā, Stenfordas Mediju inovāciju institūta direktors un Forest Baskett datorzinātņu profesors, kurš arī ir saistīts ar Stenfordas Cilvēka centrētā mākslīgā intelekta institūtu, brīdina, ka dziļiem viltojumiem nav ilgtermiņa tehniska risinājuma.

Kā darbojas viltojumi

Manipulācijai ar video ir likumīgi iemesli. Piemēram, ikviens, kurš filmējas izdomātā TV šovā, filmā vai reklāmā, var ietaupīt laiku un naudu, izmantojot digitālos rīkus, lai labotu kļūdas vai pielāgotu skriptus.

Problēma rodas, ja šie rīki tiek apzināti izmantoti nepatiesas informācijas izplatīšanai. Un daudzi paņēmieni ir neredzami parastajam skatītājam.

Daudzi dziļi viltoti videoklipi ir atkarīgi no sejas mijmaiņas, burtiski uzliekot vienas personas seju uz citas personas videoklipu. Bet, lai gan sejas maiņas rīki var būt pārliecinoši, tie ir salīdzinoši neapstrādāti un parasti atstāj digitālus vai vizuālus artefaktus, ko dators var atklāt.

No otras puses, lūpu sinhronizācijas tehnoloģijas ir mazāk pamanāmas, un tāpēc tās ir grūtāk atklāt. Viņi manipulē ar daudz mazāku attēla daļu un pēc tam sintezē lūpu kustības, kas precīzi atbilst tam, kā cilvēka mute patiesībā kustētos, ja viņš runātu noteiktus vārdus. Saskaņā ar Agrawal teikto, ņemot vērā pietiekami daudz cilvēka tēla un balss paraugu, viltus producents var likt personai “pateikt” jebko.

Viltojumu atklāšana

Bažās par šādas tehnoloģijas neētisku izmantošanu Agrawala sadarbojās ar Stenfordas doktorantu Ohadu Frīdu, lai izstrādātu noteikšanas rīku; Hani Farid, Kalifornijas Universitātes Berklija informācijas skolas profesore; un Šruti Agarvala, Bērklijas doktorante.

Sākumā pētnieki eksperimentēja ar tīri manuālu tehniku, kurā novērotāji pētīja video materiālus. Tas strādāja labi, bet praksē tas bija darbietilpīgs un laikietilpīgs.

Pēc tam pētnieki pārbaudīja uz mākslīgā intelekta balstītu neironu tīklu, kas būtu daudz ātrāks, lai veiktu to pašu analīzi pēc apmācības video ar bijušo prezidentu Baraku Obamu. Neironu tīkls atklāja vairāk nekā 90 procentus paša Obamas lūpu sinhronizācijas, lai gan citu skaļruņu precizitāte samazinājās līdz aptuveni 81 procentam.

Īsts patiesības pārbaudījums

Pētnieki saka, ka viņu pieeja ir tikai daļa no kaķu un peļu spēles. Uzlabojoties dziļas viltošanas metodēm, tās atstās vēl mazāk atslēgu.

Galu galā, saka Agrawala, patiesā problēma ir ne tik daudz cīņa ar dziļi viltotiem videoklipiem, cik cīņa ar dezinformāciju. Patiesībā, viņš atzīmē, liela daļa dezinformācijas rodas, sagrozot cilvēku patiesībā teiktā nozīmi.

"Lai samazinātu dezinformāciju, mums jāuzlabo plašsaziņas līdzekļu lietotprasme un jāizstrādā atbildības sistēmas," viņš saka. "Tas var nozīmēt likumus, kas aizliedz apzināti ražot dezinformāciju un to pārkāpšanas sekas, kā arī mehānismus, kā novērst kaitējumu."

Ieteicams: