С навлизането на Deep Fakes обществото ще загуби доверие към всякакви информационни платформи

Възможно ли е Deep Fakes да доведат до колапс в общественото доверие в истината? Как Deep Fakes могат да се превърнат в "game changer" за политическите атаки и далеч не само. Как и защо в близко бъдеще само AI модели ще могат да се изправят срещу Deep Fakes. Коментира в "Мрежата" по програма "Христо Ботев" доц. Борис Грозданов, ръководител на секция "Философия на науката" в Института по философия и социология при Българската академия на науките.

"Когато има фалшив образ на примерно известен политик, който не просто е статичен образ, а е динамичен образ, има видео, което човек не може да разграничи от реално снимано видео с обикновена камера. Това вече е нещо много по-различно от това, което виждаме до момента като опити за подмяна на цифровата самоличност. На глас на човек, на образ на човек, на движение на човек, на думи на човек. Това е Deep Fake."

Колко проблема има в това

"Всъщност, исторически, ако не се лъжа, първата, може би, значима на международно ниво Deep Fake атака, която не беше съвършена по никакъв начин от технологична гледна точка, но въпреки всичко беше знакова, защото получи ниво на достоверност сред аудиторията, която беше международна, беше Deep Fake моделиране на личността на украинския президент, който в този Deep Fake призовава украинската армия да се предаде.

AI е абсолютният господар на данните и колкото повече, толкова по-добър господар е той."

Какво са данни

"Ако аз запиша 3 минути с твое аудио на твой глас, това са аудиоданни. Които данни аз мога да налея в специален AI модел, който да направи нещо, което е известно като клониране на твоя глас. С интонация, с паузи, със специфичната фонетика на звуците, с всички тези неща, които хората учат с много-много години в университетите. След това аз мога да му дам, примерно "За мишките и хората“, който този модел да прочете с твоя глас. Ако е достатъчно добър моделът и клонирането е успешно, никой няма да разбере, че не си ти тази, която чете "За мишките и хората"."

На какво можем да вярваме и кой е застрашен

"Колкото по-важен е един човек в социалната или политическата стълбица, толкова в по-естествена мишена се превръща той за съвсем скорошни атаки от противници от всякакъв характер. В съдебната система често се използват за доказателства данни с различна природа. Аудиоданни, доста популярни напоследък. Видеоданни, съобщения, всякакви видове данни. Представете си сега, че едно вещо лице в съдебната система е технически неспособно да разграничи реален запис от нереално направен запис.

Като казвам съдебна система, имам предвид една хипотетично справедливо функционираща съдебна система. Тя ще бъде изправена пред невъзможността, обективната невъзможност да разграничи фалшив запис, нещо, което даден човек никога не е казвал през живота си, от реален запис, който съдържа реално изказани думи. Това е много сериозен проблем за обществото, освен за индивидите. Засега няма достатъчно яснота, как да се пребори обществото с такъв тип проблеми."

Проблемът – какво е истина

"Най-накрая човешкото общество ще разбере цената на истината. Обществото ще се събуди един ден и ще разбере, че това, което е пренебрегвало цял живот, a именно истината и способността за разграничаване на истина от неистина, и способността за работа с истина или неистина, е всъщност много важно за функционирането и дори за оцеляването на това общество."

Важно е да се уточни, че данните не са истина и дори в науката проблема за истината стои с много сериозна сила

"Нека да дам един пример. Ако данните на един астроном пристигат от един изключително модерен и скъп телескоп, който е изведен в орбита, това са въпреки всичко само данни, които след няколко години тинейджер с чувство за хумор и с достатъчно добра видеокарта ще може да генерира своя версия на тези данни вкъщи. Те няма да са истинските данни от наблюдението на физическия свят на Вселената, но ще изглежда така. Проблемът е, че никой няма да е в състояние да каже кои са правилните данни, ако този тинейджър има приятел хакер и ги хакне горе в сървъра на телескопа, какво правим? А данните не са истина."

Може ли вече да се говори и коректно за истината

"Има закостенели структури, но едновременно с това потоците от информация и честотата на обмен на информация между потребител или мрежа, или какъвто и да е друг тип данни, променя тази закостенялост. Дори и при дълбоко убеждение в нещо. Всъщност, те откриват в себе си голяма честота на съмнения, на промени на данните, динамичност. Това е положителен процес, колкото и да е болезнен, защото в един момент човек си дава сметка, че той еволюира в способността си да разбира какво е истина и какво е неистина. Ние не си признаваме, че грешим, но се учим."

Какво го грози обществото от Deep Fake истините

"Две неща грозят обществото. Едното е, че обществото ще загуби абсолютно доверие към всякакви информационни платформи. Това ще го повторя, защото е абсолютно шокиращо. Обществото ще загуби абсолютно доверие към всякакви информационни платформи – радио, телевизия, интернет, социални мрежи, дори книги, публикувани на хартия. Защото те ще срещат ежедневно ен на брой версии за едно събитие или едно твърдение, всяко едно от което е противоречиво с останалите. И няма да има инструмент, или почти няма да има инструмент, който да позволи да разбереш коя от десетте противоречиви с другите версии е истинската версия."

Изкуственият интелект прилича на човек

"Съвсем скоро ще се появят такива, да ги наречем, модели със социална функция. Различни социални функции. Това ще бъде съвършеният колега, съвършеният бос, съвършеният партньор, съвършената домашна помощница, съвършеният гледач на деца, съвършеният. Те може да са роботизирани, но може и да са чист софтуер, зависи от задачата. В началото хората абсолютно ще си дават сметка, че това не е човек. 

Но в един момент тези калории, които ние ще отделяме за това по време на всеки разговор, на всяко общуване с тези модели, да държим в нашия си човешки рам, което е разход на калории, емоционална загуба, информацията, че това не е човек, това е машина, постепенно това ще отпадне по еволюционни причини, защото ще бъде неоправдан разход на емоционална енергия за човек. Защо ми трябва аз да знам, да си мисля за това? То ми върши работа такова каквото е. Най-краткият път към щастието е да забравя, че това не е човек."

Какъв е хоризонтът

"Кратък. Ако сме живи и здрави, и ние ще го заварим. Просто няма да има значение кой ще ни удовлетворява нуждите за щастие. В един момент за нас няма да има значение, вероятно. Защото човекът ще избере винаги да е щастлив с робот, който се държи любезно и не го лъже, отколкото с един несъвършен хомо сапиенс. Това няма да е Deep Fake, а Deep Fake Reality – фалшив свят на неединичен акт на измама. От това може да следват две неща. Едното е отмиране на цивилизацията. Другото е адаптация към към този начин на живот."

Как самият AI може да противодейства на Deep Fake и нарочно ли се създават такива светове, чуйте в звуковия файл.