недела, 21 април 2024
Андреа Перишиќ

Објавено на

часот

Сподели

КОЛУМНА

Во отсуство на законско регулирање, ВИ технологиите претставуваат опасност

Црна Гора не е подготвена да се справи со вештачката интелигенција која се користи во медиумите.

Кон крајот на минатата година, тогашниот директор на Здравствениот дом во Подгорица, Данило Јокиќ, беше мета на измамници на Фејсбук, кои со помош на deepfake, односно вештачка интелигенција (ВИ технологија) ја злоупотребиле неговата личност на, сега недостапната веб страница, Heart Wellness, со цел да продаваат сомнителни медицински препарати за чистење на крвните садови и лекување на ревматизам. Тоа подоцна се прошири како вест. Јокиќ оваа измама ја пријавил во полиција, односно кај инспекторите за компјутерски криминал, а потоа објавил дека најмногу биле оштетени граѓаните кои можеби наседнале на оваа измама.

Ова е само еден пример на злоупотреба на вештачката интелигенција во Црна Гора што укажува на последиците што може да ги предизвика непостоењето на правна регулатива за користењето на новите технологии. Технологиите на вештачката интелигенција отвораат и разни етички дилеми, првенствено во однос на тоа како истите се користат во обликувањето на медиумската содржина.

Сепак, ова прашање, иако станува сè поактуелно во светски рамки, сè уште не е препознаено како важно прашање во Црна Гора. Повеќе закони за медиумите веќе подолго време чекаат да бидат донесени а нацрт текстовите кои се досега подготвени не ги третираат соодветно бројните актуелни предизвици во медиумската средина, како што се, на пример, технологиите за вештачка интелигенција. На крајот на 2023 година, Црна Гора усвои Стратегија за медиуми за периодот од 2023 до 2027 година, но во неа повторно не се прецизира како таа ќе се справи со оваа појава.

,,Додека на европско ниво многу се зборува за вештачката интелигенција и за нејзиното влијание врз работата во медиумите, Црна Гора не само што не го ни констатирала овој можен проблем, туку ние уште го немаме решено ниту прашањето на социјалните мрежи и регулирањето на порталите. Иако фактот дека минатата година ја донесовме Стратегијата за медиуми е за пофалба, доволно е да се каже дека во тој документ, кој ги мапира сите предизвици за медиумската заедница, нема ниту збор за вештачка интелигенција“, велат од Синдикатот на медиуми на Црна Гора (SMCG) за Рес публика.

На крајот на минатата година, Советот на Европа донесе Упатства за одговорна употреба на системи со вештачка интелигенција во новинарството, кои се однесуваат на етичките дилеми и на обврската за тоа да корисниците да бидат информирани дека тие системи се користат во нивната работа. Во тој документ, секако, не е спорна употребата на технологии за вештачка интелигенција, бидејќи, како што се наведува, „таквите технологии, во согласност со професионалната етика и човековите права, можат да придонесат кон отпорноста на новинарството во дигиталната ера“.

Неодамна на ниво на Европската Унија (ЕУ) беше донесен Закон за вештачка интелигенција, кој иако не е стриктно поврзан со медиумите, придонесува за регулирање на оваа област. Борбата против лажните вести во ЕУ се сфаќа сè посериозно, па затоа европската заедница неодамна испрати барање до технолошките гиганти како што се Google и Meta јасно да ја означат содржината што е генерирана од вештачката интелигенција – било да станува збор за текстови, фотографии или кој било друг вид на медиумски материјал.

Некои земји, како што се САД, Јапонија, Велика Британија и Кина, имаат изготвено насоки, регулативи и закони со кои се регулира употребата на технологии за вештачка интелигенција, а се чини дека Црна Гора е сè уште далеку од таквите решенија.

Само една црногорска редакција има систем за вештачка интелигенција

Во Црна Гора досега има само една редакција која има воведено систем за вештачка интелигенција а кој ѝ помага во секојдневното работење. Порталот ДЕН од средината на 2023 година има виртуелни водители кои ја читаат информацијата која е подготвена од редакцијата на тој портал. Водителките се викаат Ана, Сара и Мара АИ, а тоа е прв ваков проект во Црна Гора. Функционира така што прво уредникот прави избор на вести и фотографии, а потоа вештачката интелигенција ги обработува вестите. Преку TTS системот текстот се претвора во аудио кое потоа се вметнува во системот кој ја стартува виртуелната презентерка на вести врз основа на кој понатаму се креираат нејзините движења. На крајот сето тоа се проверува од уредник, новинар и од обучен оператор.

Синдикатот на медиумите на Црна Гора се залага за тоа дека употребата на овие системи треба секогаш да биде одговорна. „Таа треба да биде мотивирана од вистинска желба за иновации, а не од обични претприемачки цели за намалување на бројот на вработени“, велат од СМЦГ.

Вештачката интелигенција има двојна природа. Од една страна, авторите на делото „Artificial intelligence and communication: A Human–Machine Communication research agenda на Андреа Гузман и Сет Луис велат дека технологиите за вештачка интелигенција можат да ја подобрат економијата на медиумите, персонализираната содржина, но и производствените процеси. На пример, тие можат да креираат транскрипти и инфографици или да филтрираат коментари кои содржат недозволен говор на порталите, а тоа е нешто со што медиумите во Црна Гора во голема мера не можат да се справат.

Од друга страна, во текстот „The Impact of Artificial Intelligence on Media, Journalists, and Audiences“ објавен на отворената научна платформа Frontiers, се предупредува дека вештачката интелигенција има повеќеслојно влијание врз медиумите, новинарите, публиката и медиумските содржини и дека таа може дополнително да влијае на ранливоста на медиумите и на нивната зависност од големите технолошки платформи. За одредени работи, како што се прикажување на поширокиот контекст или проверка на факти, неопходен е човек.

Во светот на медиумите, ChatGPT и Sora стануваат сè попопуларни алатки. Станува збор за технологии за вештачка интелигенција кои се развиени во ноември 2022 година од страна на OpenAI која е американска лабораторија во која се истражува вештачката интелигенција. ChatGPT е чет-бот кој може, меѓу другото, да пишува и новинарски текстови на дадена тема. Sora може да прави сложени видеа долги до една минута. „Моделот не само што разбира што барал корисникот, туку и како овие работи постојат во физичкиот свет“, се наведува на официјалната веб-страница.

Колку и да се корисни овие технологии, тие треба да се користат со претпазливост, бидејќи алгоритмите за вештачка интелигенција лесно може да се злоупотребат за ширење лажни вести, дезинформации и друга недозволена содржина.

Тоа најдобро е илустрирано со случајот од 2022 година, кога информативната страница на Мајкрософт МСН, која претходно отпушти десетици новинари и уредници и ги замени со алгоритам за вештачка интелигенција, објави еден куп лажни вести.

Излезе дека на алгоритамот на МСН особено му се допаднал Exemplore, која е комичен сајт кој главно содржи вести за паранормалното како и разни теории на заговор.

Дипфејк дилеми

Една од моментално најпознатите технологии за вештачка интелигенција која честопати се користи за ширење лажни содржини е дипфејк (deepfake). Станува збор за лажни видеа кои се создадени од вештачка интелигенција преку замена или дигитално менување на нечие лице и глас.

„Дипфејк понекогаш може да биде корисен, на пример кога се користи за „оживување“ на некои историски личности или на изумрени живи суштества, за научни цели или кога се користи за приватни или забавни цели, па благодарение на него можете да видите како вие би изгледале во вашиот омилен филм. Сепак, практиката покажува дека оваа технологија има одредени недостатоци, како и етички проблеми“, вели новинарката Јована Дамјановиќ за Рес публика.

Според неа, дипфејк многупати се користи за манипулирање со јавноста и во таа смисла тие можат трајно да уништат нечија кариера, приватен живот и интегритет. „Прашањето е колку медиумските работници се обучени да препознаваат дипфејк, а со тоа и да го запрат неговото ширење и инструментализацијата на медиумите, но и колку генерално е присутно знаењето за дипфејкот и колку е тешко да се докаже дека не станува збор за вистинска личност“, смета Дамјановиќ.

Неодамнешниот случај на ширење експлицитни фотографии од пејачката Тејлор Свифт на социјалната мрежа X, кои всушност беа дипфејк, покажа и колку светската легислатива генерално заостанува зад развојот на технологиите за вештачка интелигенција. Нејзините фотографии, иако многу брзо беа симнати од Х, беа видени и раширени од милиони луѓе.

Постојат и, на пример, сајтови на кои можете да најдете дипфејк порно видеа на познати личности од светот на уметноста, спортот, политиката… Еден таков сајт е MrDeep Fakes, регистриран во 2018 година, кој има милиони посетители месечно. Најчесто жртвите се жени. На оваа страница содржината е бесплатна, а можете да нарачате и видеа со одредена позната личност, за кое се плаќа во криптовалути. Има дури и инструкции за креаторите за тоа кои програми за дипфејк да се користат.

Вакви случаи има и на Балканот. Во февруари оваа година, јавноста во Србија беше информирана дека неколку 13-годишни момчиња биле осомничени дека користеле апликации за вештачка интелигенција за да создадат експлицитни фотографии од своите другарки и учителки во едно белградско училиште, а потоа ги споделувале понатаму.

Некои држави имаат закони кои им помагаат во борбата против злоупотребата на дипфејк. Законот за дипфејк во Калифорнија ја криминализираше дипфејк порнографијата која е создадена без согласност на жртвите и има дава можност да тужат. Овој закон, исто така, забранува употреба на дипфејк за време на изборни кампањи.

Закон за онлајн безбедност на Обединетото Кралство од 2023 година го прогласи за незаконско споделувањето експлицитни слики или видеа кои се дигитално манипулирани. Меѓутоа, овој закон се применува само во околности кога вознемиреноста на жртвата е намерно или несовесно предизвикана, и таа може да бара компензација врз основа на некои кривични закони, а сето тоа може да биде многу комплицирано и тешко да се докаже.

Во ЕУ употребата на дипфејк е регулирана со Законот за вештачка интелигенција. Иако не е директно забранета, законот ја регулира така што креаторот е должен да укаже дека се работи за дипфејк содржина.

Околу 40 проценти од граѓаните на Црна Гора не го разбираат поимот „вештачка интелигенција“

Според едно истражување на Институтот Дамар од 2023 година кое утврдува „Како граѓаните на Црна Гора ја перципираат вештачката интелигенција“, шест од десет граѓани на Црна Гора, или околу 60 проценти, слушнале за терминот „вештачка интелигенција“.

Меѓутоа, само шест проценти од испитаниците многу добро ја разбираат оваа технологија, 25,6 проценти делумно ја разбираат, 28,3 слабо ја разбираат, а дури 40,2 проценти воопшто не разбираат што точно се подразбира со овој термин.

Од Институтот Дамар објаснуваат дека има низа фактори за тоа зошто резултатите се толку различни, а меѓу нив се и недостатокот на образование, тешкотијата да се биде во чекор со најновите достигнувања во областа на вештачката интелигенција, стравот од технологијата и непознатото.

Во истражувањето „Слаби механизми и застарен етички кодекс – саморегулација на медиумите во Црна Гора“ спроведено од Институтот за медиуми на Црна Гора (ИМЦГ) се вели дека немало интензивна дискусија за тоа какво е влијание на алгоритмите врз работата на медиумите и за нивната видливост на социјалните мрежи, како и тоа дека нема дискусија за улогата на вештачката интелигенција во онлајн медиумите. „Забележани се само поединечни текстови во кои црногорските медиуми известуваат за случаи на лажни информации кои биле создадени со помош на вештачка интелигенција, текстови во кои го тестирале ChatGPT и ги прашувале новинарите што мислат за влијанието на вештачката интелигенција врз нивната работа“ се вели во извештајот.

Извештајот на ЕУРОПОЛ од 2023 година се предупредува дека за неколку години до 90 проценти од онлајн содржините би можеле да бидат синтетички генерирани.

„Се надеваме дека во Црна Гора конечно ќе почнеме да дејствуваме согласно моментот во кој живееме“, заклучуваат од СМЦГ.

Што предвидува Законот за вештачка интелигенција на ЕУ?

Закон за вештачка интелигенција на Европската Унија (ЕУ) е првата сеопфатна правна рамка за вештачката интелигенција во светски рамки. Таа ги гарантира безбедноста и основните права на луѓето и на компаниите, а во исто време ги поддржува развојот и примената на вештачката интелигенција.

Законот се заснова на разни правила за системи со вештачка интелигенција кои се засноваат на одреден степен на ризик, односно еден од три.

Огромното мнозинство на системи за вештачка интелигенција, како што се системи за препораки или филтри за спам емаил пошта, спаѓаат во категоријата на минимален ризик и тие нема да бидат строго контролирани.

Системите за вештачка интелигенција кои се идентификувани како високоризични се регулирани според строги барања, а примери за такви системи се оние кои се користат во медицината, спроведувањето на законот, граничната контрола…

Системите за вештачка интелигенција кои имаат неприфатлив ризик се забранети. Тоа се системи кои манипулираат со човечкото однесување, како што се, на пример, некои биометриски системи за препознавање емоции. Дипфејкс, чет-ботови и други слични содржини кои се генерирани од вештачката интелигенција ќе мора да бидат означени како такви.

Црна Гора, која претендира на тоа да стане членка на ЕУ, мора што поскоро да ја разбере сериозноста на феноменот на вештачката интелигенција, особено во областа на медиумите, а потоа да работи и на достигнување на стандардите на ЕУ во оваа област.

Андреа Перишиќ

Текстот е објавен како дел од иницијативата „Приказни од регионот“ која ја спроведуваат Рес публика и ИКС, во соработка со партнерите од Косово (Sbunker), Србија (Autonomija), Босна и Херцеговина (Анализирај.ба), Албанија (Exit News), и Црна Гора (PCNEN), во рамки на проектот „Користи факти“ кој се реализира од ИКС, со поддршка на Британската амбасада во Скопје.

КОЛУМНИ

Слободан Ташовски

Поддршка за иницијативата „Дипломатијата огледало на Македонија“

Ристо Цицонков

Гасификација на Македонија – дали е веќе доцна? (2)

Елени Стаматуку

Како „дипфејкс“ може да предизвикаат политичка несигурност

Рајко Пеколски

Граѓани без портмоне!

Марјана Дода

Македонија како бојно поле на политичките интереси на премиерите Рама и...

Мирко Стојановски

Културни војни: Мишко и Брега

ПОСЛЕДНИ ВЕСТИ