Обяснени видеоклипове с Deepfake: Какви са те и трябва ли да се притеснявате?

- Видеоклиповете с Deepfake стават все по -често срещани и все по -зловещи.

Може би сте ги виждали да се появяват наскоро в новини известни политици , знаменитости , кралицата по Канал 4 през 2020 г. за радиоразпръсквачите алтернативна коледна реч и дори технически ръководители.

Ако е така, тогава вероятно се чудите как са направени и от кого и дали ще влошат епидемията от фалшиви новини. Разбираме вашата загриженост.

Deepfakes имат потенциал да бъдат наистина разрушителни и вие сте прави да научите всичко, което можете за тях сега.

манипулирани снимки в новините

• Мона Лиза оживява: Samsung AI кара рисуването да се движи

Какво представляват deepfakes?

Сякаш беше от научнофантастичен филм, технологията deepfake включва изкуствен интелект и модели за машинно обучение, които могат да манипулират видео. В най -простата си форма, deepfake е докторантиран видеоклип, който показва, че някой прави или казва нещо, което никога не се е случвало. Тази способност не се ограничава само до Холивуд или разузнавателни агенции; всеки може да използва онлайн софтуер или да изтегля приложения, които ще им позволят да правят убедителни дълбоко фалшиви видеоклипове.

Една от най -популярните мишени за deepfakes е Доналд Тръмп. Това е отчасти защото има съкровище от данни за него - хиляди аудио клипове, видеоклипове и снимки, на които той говори и жестикулира по същия начин. Всеки, който има достъп до дълбоко фалшив софтуер, може да използва тези данни, за да създава хиперреалистични видеоклипове, на които той прави или казва нещо. Те дори могат да преобразуват лицето му в друга тема, като например Ричард Никсън .

Как се правят deepfakes?

Има няколко различни начина за създаване на дълбоко фалшиви видеоклипове, но всички те изискват данни за захранване на модели за машинно обучение, които ще генерират вашето фалшиво съдържание. В момента всички, от изследователи до тези със злонамерени намерения, правят глупави фалшификати. Най -убедителните от тях изискват мощни компютърни платформи и дълбоки набори от данни с много аудио, видео или снимки за темата на вашата фалшификация.

Приложенията за социални медии като Snapchat също използват технология за преобразуване на лица, която може да се използва по подобен начин. Има дори инструменти от по-висок клас като FakeApp. Изработен от анонимен разработчик, използващ софтуер с отворен код, написан от Google, той ви позволява реалистично да генерирате размяна на лица, с малко индикации, че видеоклипът ви е бил манипулиран. FakeApp е безплатен и ако сте малко привързани, той е сравнително лесен за използване.

Още примери за дълбоко фалшиви видеоклипове

Има тонове висококачествени дълбоко фалшиви онлайн - дори такива с лица и гласове на знаменитости, разменени във филми за възрастни. Още по-подходящи за семейството примери обаче са по-долу. Просто направете бързо търсене в YouTube, ако искате да видите повече.

Бил Хейдър

Видеоклипът по -долу започва като десетки други в YouTube: Виждаме бившата звезда на Saturday Night Live Бил Хадер да прави най -доброто си впечатление за бившия губернатор на Калифорния Арнолд Шварценегер. Около 10 секунди след видеото лицето на Хадер се преобразува в лицето на Шварценегер. Този пример, който има над шест милиона гледания, се превърна в един от най -гледаните дълбоко фалшиви видеоклипове в YouTube.

Мона Лиза

Друг пример идва от изследователи от Samsung AI Center, които разработиха технология с дълбоки фалшификати, която може да направи класическите снимки и произведения на изкуството оживени. В тяхното видео можем да видим как Алберт Айнщайн и Мона Лиза се движат и говорят. За да създадат композит на Мона Лиза, по -специално, те използваха три видеоклипа с източник, всеки от които даде различни и понякога странни резултати.

Марк Зукърбърг

По -скорошен пример показва, че главният изпълнителен директор на Facebook Марк Зукърбърг обещава своята вярност към Спектър, злата организация от франчайза на Джеймс Бонд. Този конкретен дълбоко фалшив манипулира звука, за да накара Зукърбърг да звучи като психопат. Изпълнителите зад този deepfake, Bill Posters и Daniel Howe, в партньорство с рекламната компания Canny, също направиха deepfake с риалити звездата Ким Кардашиан Уест.

Ким Кардашиян: pic.twitter.com/OSpDUtUfer

- Джейми Бартлет (@JamieJBartlett) 13 юни 2019 г.

Трябва ли да се притеснявате?

Въпреки че повечето дълбоки фалшификати са смешни и невинни, те имат потенциала да бъдат злобни. Например, дълбоко фалшив видеоклип може да покаже политически кандидат, който казва или прави нещо ужасно - може би нещо толкова непростимо, че ако е навреме правилно, това може да разклати избори, преди да има време обществеността да научи истинската истина. Всеки може да бъде поставен в компрометираща ситуация.

Вече има известни личности, които не искат тяхното подобие да се появява в дълбоко фалшива порнография. Някои сравняват тази ситуация с отмъщение за порно. В крайна сметка един създател на дълбока фалшификация се нуждае само от поредица от снимки на знаменитостта, които могат бързо да бъдат извлечени от техните емисии в социалните мрежи или аудио и видео от тях, от които трябва да има много. И те трябва да знаят как да използват дълбоко фалшив софтуер.

Прекарайте минута в търсене и ще бъдете до коляно в уроци за това как да станете създател на дълбока фалшификация. С такава достъпност технологията за дълбоко фалшифициране само ще стане по -широко разпространена и несъмнено ще бъде използвана за тормоз и тормоз.

Дали deepfakes са незаконни?

НАС

Регулаторите и законодателите тепърва започват да се справят с този въпрос. Някои твърдят, че дълбоките фалшификации трябва да бъдат защитени от Първата поправка, или Свобода на словото . Други обаче, като представителя на Адам Шиф, са издали предупреждения. По време на изслушване на Комитета за разузнаване на Камарата на представителите за рисковете за националната и изборната сигурност, Шиф каза, че дълбоките фалшификации могат да имат отрицателен ефект върху изборите през 2020 г.

Комитетът за разузнаване на Камарата на представителите свика група експерти, на които е възложено да измислят дълбоко фалшива стратегия и възможни нови ограничения от правителството или платформите, но в момента в Конгреса има циркулиращо законодателство, предназначено да се справи с заплахата от фалшиви медии. Например, сенатор Бен Сасе предложи да го направи незаконен за злонамерено създаване и разпространение на deepfakes.