Създаването на сигурна система срещу фалшификатите

Борба с фалшификатите: Създаването на сигурна система срещу тях

Днес можем да видим множество платформи, в които се разпространяват „информативни“ съдържания, но на колко от тях можем да се доверим и колко от тях ли са създадени с помощта на изкуствен интелект (ИИ)? Безпрецедентният възход на ИИ през 2023 г. позволи създаването на ниша – дълбоки фалшификации. Deepfake е игра на думи, насочена към модела на ИИ – deep learning.

В случая обаче се използва не за толкова добрата страна на възможностите на технологията, тъй като дълбоките фалшификации на практика са видеа и др., които са създадени с изключително добре приложен звуков, а дори и понякога визуален синхрон, в който известна личност (по-често) изговаря неприсъщи за него неща, в опит да заблуди обществото. Бил Гейтс, който е също и жертва на не малко подправено по този начин съдържание, включи умовете на Майкрософт в борбата с този тип подвеждаща информация.

Първоначалните резултати от усилията са обещаващи, макар и по-запознати хора в индустрията, като бившия ръководител на отдел „Доверие и безопасност“ в Google Арджун Нараян, заедно със свои колеги отбелязват, че макар добрия прогрес, то развитието на DALL-E и ChatGPT са предоставили главоломна преднина на противника.

В светлината на това обаче, един не толкова популярен учен, асистент-професор Нинг Янг от факултета по инженерство Маккелви към Вашингтонския университет в Сейнт Луис представи на вниманието ни AntiFake

Не сте чували за това? Предстои да разберете най-важното.

Какво всъщност стои зад термина дълбоки фалшификати и какви щети нанасят те?

И до момента света бе залят от фалшиви новини, но голяма част от потребителите забелязваха с невъоръжено око опитите за измама. Но дали това е така, когато видят видео с доверено лице, което им поднася мнението си? Основния фокус на deepfake е върху остановяването на дезинформация, дезинформираност и злонамерена информация; нарушаване на интелектуалната собственост; клевета и порнография.

AntiFake Deepfakes

В самото начало изкуственият интелект бе ограничен да представи пред нас фалшиво изображение например. Когато обаче технологията бе усъвършенствана до това, да може да показва видео на „действителни“ събития, представяйки ги като достоверен факт, тогава бяха развързани ръцете на тъмната индустрия, която започна да извършва кибер-атаки, разпространение на фалшиви новини и шантаж на определени лица. Само си представете какво може да означава това за един човек – той може да получи фалшиво обаждане от ръководителя си с указания да извърши плащане от корпоративната сметка на милиони към дадена фирма, което е вид финансова измама, може да се прибере у дома и да разбере, че жена му е получила фалшиво видео с изневяра, може да получи искане за откуп на детето си и т.н. – възможностите са неограничени.

Съответно и тъмните умове не спят. Наличието на толкова усъвършенствани средства за манипулация развихри въображението в тези среди, което пък повдигна нивото на тревожност сред обществото. Даваме ви един прост пример – ще разгледаме новата услуга за превод, например на Microsoft, могат да бъдат „подведени“ от злонамерена страна и да предадат погрешно превода на бизнес разговор.

По какъв начин иновативните средства за защита ще предотвратят всичко това?

За да се предотврати едно зловредно деяние, фокусът трябва да е върху превенцията – това правят и тези инструменти. AntiFake използва в кода си определени защити, които правят почти невъзможно синтезирането на гласовете, например от телевизионните реклами и поседващата им обработка. Това прави изключително трудно неоторизираната намеса и промяна на гласа чрез синтезиране, предпазвайки не само големите корпорации, банки, лицензирани онлайн казина и други сфери от потенциални проблеми, но и обещавайки да защити масовия потребител.

Все пак създателят оставя системата отворена за всеки потребител.

AntiFake Scientists Forge

В едно от интервютата си, г-н Янг казва „Аз искам всеки от нас да е спокоен, че когато пусне медия, съдържаща гласови данни, че съществува една програма, която може да не защити на 100% записа, но ще коства огромни усилия на този, които иска да го подправи, като това е близо до невъзможното“. С този инструмент лесно се хващат и подправените записи. Но основната му цел е да обърка „съвършения“ алгоритъм на изкуствения интелект до такава степен, че да го направи практически „глух“ за казаното на записа.

Противодействие срещу злоупотребите с изкуствен интелект

Вие сте човек, който е направил аудиозапис, който иска да бъде защитен. Според екипът от разработчици, вас ви очаква следното:

  1. Преди дори да сте си и помислили да пуснете записа където и да е в интернет, ще трябва да го обработите с AntiFake.
  2. След това вече ще можете да се насочите към споделянето му с увереността, че оригиналният звук ще бъде запазен.
  3. Дори и да бъде подправен този запис обаче, истината е, че който и да го чуе, ще чуе една много по-различна негова версия и никой няма да повярва, че подправеният глас дори прилича на този, който е на оригиналния запис.

Иновативно решение, нали? Малките неща водят до големи промени – е, едно малко изменение в аудиосигнала не позволява на изкуствения интелект да го пресъздаде.

Но всяко нещо трябва да бъде и практически доказано. Именно това показват и добрите резултати на AntiFake срещу най-известните към момента синтезатори, устоявайки на техните опити за промяна на защитата.

Кои би очаквал иронията – от инвестиции в ИИ компаниите се обръщат в инвестиции срещу ИИ, а именно този продукт към момента привлича вниманието. Добре утвърдени компании също не стоят на страна от проблема – FakeCatch е инициатива, която се заражда между Intel и Optic, като целта е да се разобличава намесата на ИИ в аудио и видео съдържание. Целта на Fictitious AI пък е да се фокусира върху разпознаването на генериран от чатбот текст.

 

В заключение

Можем да кажем, че по отношение на дълбоките фалшификати, ние сме в добри ръце, колкото бързо те се появиха и развиват, толкова бързо и срещу тях се изправя стена, която да спре безумието им. Но докато наваксат със защитата, ние съветваме да се фокусирате върху превенцията – бъдете максимално информирани как се развива света на изкуствения интелект, какви са възможностите му, както и проявявайте известна доза мнителност към всичко, което видите и чуете, защото изобщо може да не е това, което изглежда, или звучи.

 

новини Стара Загора  www.infoz.bg