сабота, 20 април 2024
Боби Бадаревски

Објавено на

часот

Сподели

КОЛУМНА

Важноста на ВИ писменоста во борбата против дигиталното родово базирано насилство

Ако во ВИ технологијата нема свесна намера за генерирање на свесна содржина и инженерите немаат целосна контрола врз процесот на генерирање содржина тогаш кај лежи одговорноста за креирање на злонамерна содржина како акт на родово базирано насилство со вештачка интелигенција?

Во својата статија „Виралната апликација за аватар со вештачка интелигенција Ленса ме соблече – без моја согласност“ Мелиса Хејкила, новинарка во MIT Technology Review, раскажува:

„Кога ја тестирав новата вирална  апликација за AI аватари Lensa, се надевав дека ќе добијам слични резултати како некои од моите колеги од MIT Technology Review. Дигиталната апликација за ретуширање прв пат беше лансирана во 2018 година, но од неодамна стана многу популарна благодарение на додавањето на Magic Avatars, функција базирана на AI која генерира дигитални портрети на луѓе на основа на нивните селфи слики.

Но, додека Lensa генерираше реалистични, аватари за нив – замислете астронаути, бесни војници и кул насловни фотографии за електронска музика – јас добив тони голи слики. Од 100 генерирани аватари, 16 беа без горни делови, а во уште 14 ме стави во многу провокативни облеки и сексуализирани пози.

Имам азиско потекло и изгледа дека тоа е единствената работа која AI моделот го забележа од моите селфи слики. Добив слики на азиски жени, јасно моделирани според аниме или видео-игри. Или најверојатно порно, имајќи предвид дека значајниот дел од моите аватари кои беа голи или покажуваа многу делови од телото. Неколку од моите аватари изгледаа дека плачат.

Мојата колешка, бела жена, доби значително помалку сексуализирани слики, само неколку голи и наговестувања на деколте. Друг колега со кинеско потекло доби слични резултати како јас: купишта и купишта порнофицирани аватари.“

Надоврзувајќи се на искуството на Мелиса Хејкила со вештачката интелигенција накратко ќе ја прикажеме поврзаноста на родовото базирано насилство засновано на вештачката интелигенција ВИ.

Концепции за ВИ родово базирано насилство

Традиционално сфатено, технолошки посредуваното родово насилство, или уште познато како родово дигитално базирано насилство (РДБН), е чин на насилство извршено од едно или повеќе лица, кое е извршено, потпомогнато и делумно или целосно засилено со употреба на информатички и комуникациски технологии или дигитални медиуми, врз едно или повеќе лица врз основа на нивниот род/пол. Тоа што го карактеризира овој вид на насилство е постоењето на НАМЕРА да се изврши злонамерно дејство со употреба на дигитална технологија кое за последица предизвикува одредена штета на лицето на кое се однесува таквиот чин.

Во поглед на генерирањето на злонамерна содржина разликата меѓу продуцирањето на навредлива содржина во дигитално базираното насилство и навредлива содржина од страна на вештачката интелигенција (ВИ) се однесува на изворот на навредливата содржина и начинот на нејзиното производство. Во дигитално базираното насилство, навредливата содржина се произведува и шири од страна на луѓе. Ова може да вклучува креирање и споделување на навредливи пораки, слики, видеа или други форми на онлајн вознемирување.

Луѓето имаат намера и контрола врз производството и распространувањето на таквата содржина. Од друга страна, навредлива содржина од страна на ВИ се однесува на содржина која е произведена или генерирана од ВИ без свесна намера или контрола од страна на луѓето. ВИ може да креира и распространува содржина која може да биде навредлива или штетна, без да има свесност за последиците или намера зад тоа. Пример за ова може да биде автоматско генерирање на фалсификувани вести или слики.

Според тоа, главната разлика е во изворот на навредливата содржина и намерата зад неа. Во случаите на дигитално базираното насилство, навредливата содржина е произведена и распространета од страна на луѓе со намера и контрола. Наспроти тоа, навредлива содржина од страна на ВИ е резултат на алгоритми и системи кои не поседуваат свесност и намера, но можат да генерираат содржина која може да биде злонамерна или штетна.

Во контекст на вештачката интелигенција (ВИ), елементот на „намера“ од дигиталното базираното насилство (ДБН) изостанува. ВИ се однесува на системи и алгоритми кои се развиваат да извршуваат задачи кои обично би ги извршувале луѓе. Овие системи не поседуваат свесност, намера или моралност како што ги поседуваат луѓето. Имајќи го ова предвид, кога се зборува за насилство што се извршува со помош на ВИ, не можеме да говориме за намера од страна на ВИ.

Во овој контекст се наметнува прашањето: ако во ВИ технологијата нема свесна намера за генерирање на свесна содржина и инженерите немаат целосна контрола врз процесот на генерирање содржина тогаш кај лежи одговорноста за креирање на злонамерна содржина како акт на родово базирано насилство со вештачка интелигенција?

Одговорот кој се наметнува е следен: Инженерите и сите лица кои ги користат вештачката интелигенција (ВИ) и ги контролираат нивните активности се одговорни за креирање на злонамерна содржина, вклучувајќи ги и актите на родово базирано насилство со ВИ. Одговорноста не е исклучиво на инженерите, туку и на сите корисници и оператори на ВИ.

Инженерите имаат значајна улога во креирањето и програмирањето на ВИ, како и во поставувањето на етички стандарди и мерки за контрола. Тие треба да ги применуваат најдобрите практики и да се обидуваат да ги ограничат можностите за генерирање на злонамерна содржина. Но, крајната одговорност лежи на сите лица кои ги користат ВИ и ги контролираат нивните активности.

За концептот на ВИ писменост

Во современиот дигитален свет, ВИ писменоста е од суштинско значење. Таа им помага на луѓето да ги разберат и искористат предности од вештачката интелигенција, но и да се справуваат со предизвиците и ризиците поврзани со неа. AI писменоста е важна за поддршка на иновациите и напредокот во областите каде што AI има значајно влијание.

ВИ писменоста претставува збир на компетенции кои им овозможуваат на поединците критички да ги оценуваат технологиите на вештачката интелигенција, да комуницираат и соработуваат ефективно со виртуелни интелигентни асистенти и да ја користат вештачката интелигенција како алатка онлајн, дома и на работното место. Ова вклучува разбирање на етичките и правните аспекти на ВИ, способност за адаптација на нови технологии и способност за креирање и разбирање на ВИ – базирани решенија.

ВИ писменоста е од суштинско значење во современиот дигитален свет и им помага на луѓето да се справуваат со предизвиците и можностите што ги носи вештачката интелигенција.

ВИ писменоста се однесува на поширок спектар на знаења и вештини поврзани со вештачката интелигенција. Она што ја прави ВИ писменоста значајна е јакнењето на способноста на поединецот да ги разбере и анализира технологиите на вештачката интелигенција, како и нивното влијание и потенцијални ризици во сите аспекти на животот. ВИ писменоста вклучува разбирање на основните концепти и техники на машинско учење, длабоко учење, процесирање на природните јазици и други области поврзани со ВИ.

Исто така, оваа писменост вклучува и познавање на алгоритми, модели и методологии што се користат за обработка на податоци и креирање на ВИ-базирани решенија.

Chatbot Cyber на AI платформа за борба против дигитално родово базирано насилство

Chatbot Cyber е бот на ВИ Платформата за борба против дигитално родово базирано насилство. Оваа платформа е развиена од страна на Институтот за родови студии, Филозофски факултет Скопје, со цел да ја подигне свесноста и да помогне во борбата против дигиталното насилство, специфично ориентирано кон родовите.

Ботот може да помогне со совети и упатства за безбедност на интернет и како да се заштитите од дигитално насилство. Тој може да даде информации за безбедно користење на социјални мрежи, како да ги заштитите своите лични податоци и како да ги пријавите случаите на дигитално насилство. Chatbot Cyber е дизајниран да биде лесен за користење и пристапен за сите корисници. Тој може да комуницира на различни јазици и да се прилагоди на потребите на корисниците. Со помош на ВИ технологиите, овој бот може да препознае и да одговори на различни видови на прашања и барања.

Главната цел на Chatbot Cyber е да ги образува и да информира корисниците за дигиталното насилство, да ги подигне свесноста и да им помогне во борбата против него. Овој бот е достапен 24/7 и може да се користи од страна на сите кои имаат прашања или потреба за информации поврзани со дигиталното насилство.

Проф. д-р Боби

(Преземено од Республика)

КОЛУМНИ

Ристо Цицонков

Гасификација на Македонија – дали е веќе доцна? (2)

Елени Стаматуку

Како „дипфејкс“ може да предизвикаат политичка несигурност

Рајко Пеколски

Граѓани без портмоне!

Марјана Дода

Македонија како бојно поле на политичките интереси на премиерите Рама и...

Мирко Стојановски

Културни војни: Мишко и Брега

Фестим Ризанај

Вештачка интелигенција: помеѓу информациите и дезинформациите

ПОСЛЕДНИ ВЕСТИ