Некои луѓе пристапуваат до овие слики со плаќање претплата на популарни платформи за споделување содржини како Патреон. Патреон вели дека имаат „нула толеранција“ за таква содржина на својата платформа.
Националниот совет на полициски началници во Британија изрази огорченост поради фактот што некои платформи остваруваат „огромни профити“, но не преземаат „морална одговорност“.
И ГЦХК, владината разузнавачка, безбедносна и сајбер-агенција, реагирала на извештајот: „Престапниците со сексуална злоупотреба на деца ги прифаќаат сите технологии и некои веруваат дека иднината на материјалите со сексуална злоупотреба на деца лежи во содржината генерирана од вештачката интелигенција“.
Креаторите и дистрибутерите на таква содржина користат софтвер со вештачка интелигенција наречен Стејбл дифјужн (Stable Diffusion), кој е наменет да генерира слики за употреба во уметноста или графичкиот дизајн.
Стејбл дифјужн им овозможува на корисниците да ја опишат саканата слика со краток текст, а потоа програмата ја создава врз основа на тој опис.
Но Би-би-си открило дека софтверот се користи и за создавање реални слики со сексуална злоупотреба на деца, вклучително и силување бебиња и малолетници.
Полициските тимови на Обединетото Кралство што ја истражуваат онлајн-злоупотребата на деца велат дека веќе сретнале таква содржина.
Хонорарната истражувачка и новинарка Октавија Шипшенкс ја истражува оваа тема веќе неколку месеци. Таа контактирала со Би-би-си преку детската добротворна организација НСПЦЦ за да ги сподели своите откритија.
„Откако стана можно да се генерираат слики со вештачка интелигенција, постои еден огромен бран… не се работи само за многу млади девојчиња, педофилите зборуваат и за мали деца“, рече таа.
Компјутерски генерираната „псевдослика“ што прикажува детска порнографија во Британија се третира како вистинска, автентична, и е нелегално да се поседува, објавува или пренесува.
Шефот на Националниот совет на полициски началници за заштита на децата, Иан Кричли, вели дека би било погрешно да се тврди дека никој не е повреден бидејќи на таквите „синтетички“ слики нема вистински деца.
Тој предупреди дека педофилот може „да се искачува на скалата на злосторства, од мисли, преку слики генерирани од вештачка интелигенција, па сè до злоупотреба на вистинско дете“.
Сликите со злоупотреби се споделуваат во процес од три чекори: педофилите ја генерираат сликата со софтвер за вештачка интелигенција, потоа ја промовираат на платформи како што е јапонската платформа за споделување фотографии Пиксив (Pixiv), а таквите сметки имаат линкови што ги водат муштериите до поексплицитни слики, за кои луѓето можат да платат да ги видат на сметки на сајтови како Патреон.
Некои од креаторите на оваа содржина објавуваат слики на популарната јапонска платформа за социјални медиуми Пиксив, која главно се користи од уметници што споделуваат манга и аниме.
Меѓутоа, бидејќи страницата е со седиште во Јапонија, каде што споделувањето сексуализирани цртежи и илустрации на деца не е незаконско, креаторите ја користат платформата за да ја промовираат својата работа во групи и преку хаштагови, кои ги индексираат темите користејќи клучни зборови.
Портпаролот на Пиксив вели дека компанијата му придава големо значење на решавањето на овој проблем. На 31 мај тие објавија дека ги забраниле сите фотореалистични прикази на сексуални содржини во кои се вклучени малолетници.
Компанијата соопшти дека проактивно ги зајакнува своите системи за следење и посветува значителни ресурси за справување со прашањата поврзани со развојот на вештачката интелигенција.
Оливија Шипшенкс рекла за Би-би-си дека нејзиното истражување сугерира дека корисниците произведуваат слики од злоупотреба на деца во индустриски размери.
„Обемот едноставно е огромен, па креаторите велат дека целта им е да произведат најмалку 1.000 слики месечно“, рече таа.
Коментарите на корисниците на поединечни слики на Пиксив јасно покажуваат дека имаат сексуален интерес за деца, а некои корисници дури нудат слики и видеа на злоупотреба генерирани без вештачка интелигенција.
Шипшенкс следела некои групи на оваа платформа.
„Во рамките на тие групи, кои може да имаат до 100 члена, луѓето ќе споделат и линкови до вистинска содржина. Ужасни работи, јас не знаев ни дека постојат такви зборови (описи)“, вели таа.
Различни цени
Голем број од сметките на Пиксив во своите биографии содржат линкови што ги насочуваат луѓето кон она што тие го нарекуваат „нецензурирана содржина“ на платформата Патреон со седиште во САД. Вредноста на Патреон е проценета на околу 4 милијарди долари и тој тврди дека има повеќе од 250.000 корисници, повеќето од нив легитимни сметки на познати личности, новинари и писатели.
Обожавателите можат да им помогнат на креаторите со плаќање месечна претплата за пристап до содржини како што се блогови, поткасти, видеа, слики…
Сепак, истрагата на Би-би-си открила сметки на Патреон што нудат на продажба фотореалистични вознемирувачки фотографии од деца генерирани со вештачка интелигенција, при што цените варираат во зависност од видот на бараниот материјал.
Еден на својот профил напишал: „Тренирам девојчиња на мојот компјутер“, додавајќи дека тие се „покорни“. Друг нуди „ексклузивна нецензурирана уметност“ за 8,30 долари месечно.
Би-би-си му пратило на Патреон еден таков пример, за кој платформата потврдила дека е „полуреалистичен и ги прекршува нашите правила“. Сметката потоа веднаш била отстранета. Патреон вели дека има политика на нулта толеранција кон ова.
Компанијата рекла дека зголемувањето на штетната содржина генерирана од вештачката интелигенција на интернет е „реално и вознемирувачко“ и дека тие „идентификуваат и отстрануваат сѐ повеќе и повеќе“ таков материјал.
Генераторот на слики со вештачка интелигенција Стејбл дифјужн е создаден врз основа на глобална соработка на академици и неколку компании, а е предводен од британската фирма Стабилити АИ.
Објавени се неколку верзии на софтверот, а во кодот се вградени ограничувања што го контролираат видот на содржината што може да ја креира. Но минатата година во јавноста излезе претходна верзија со „отворен код“, која им овозможи на корисниците да ги отстранат сите филтри и да го обучат да произведе секаква слика – дури и нелегална.
Стабилити АИ рекла за Би-би-си дека забранува секаква злоупотреба на нејзините платформи.
„Ние силно ги поддржуваме напорите за спроведување на законот против оние што ги злоупотребуваат нашите производи за нелегални или злонамерни цели.“
Со оглед на брзиот развој на вештачката интелигенција, се поставуваат прашања за идните ризици што таа може да ги носи за приватноста, човековите права и безбедноста на луѓето, пишува Би-би-си.
Иан Кричли од НПЦЦ изразил загриженост дека поплавата од таква содржина може да го забави процесот на откривање на вистинските жртви на злоупотреба.
„Тоа бара дополнителен напор, во однос на полициските и судските дејствија, за да се открие каде се злоставува вистинско дете, каде било во светот, наместо дете за кое се покажало дека воопшто не постои“, објаснува тој.
Кричли смета дека ова е клучен момент за општеството.
„Може да обезбедиме интернетот и технологијата да отворат фантастични можности за младите луѓе – или може да станат многу поопасно место“, заклучува тој.
