Непрофитната организација АИ Форензикс со седиште во Париз откри 354 сметки фокусирани на вештачка интелигенција кои објавиле 43.000 видеа во период од еден месец, со што добиле неверојатни 4,5 милијарди прегледи.
Според извештајот, некои од овие сметки се обидуваат да го манипулираат алгоритмот на Тикток објавувајќи огромни количини содржина со надеж дека ќе станат вирални. Една од нив објавувала дури 70 пати на ден, што укажува на автоматизација. Повеќето од анализираните сметки биле лансирани на почетокот на оваа година.
Од најактивните сметки, половина се фокусирани на содржини поврзани со женското тело. „Овие АИ жени се секогаш стереотипно привлечни, со сексуализирана облека или деколте“, се вели во извештајот. Во дел од содржините исто така се ширеле лажни вести со антиимигрантски наративи и материјал што ги сексуализира женските тела, вклучително и девојки кои изгледаат малолетно.
Некои од видеата со лажни вести го користеле визуелниот идентитет на добро познати медиуми како што се Скај њуз и Еј-би-си. Откако Гардијан ги пријавил на Тикток, некои од објавите биле отстранети. АИ Форензикс откри дека половина од објавената содржина не била означена како генерирана од вештачка интелигенција, а помалку од 2% ја носеле официјалната етикета на Тикток.
Истражувачите предупредуваат дека ова го зголемува заведувачкиот потенцијал на материјалот, додавајќи дека некои сметки избегнувале модерирање со месеци и покрај тоа што ги прекршиле условите за користење. Десетици сметки опфатени во студијата последователно биле избришани, што сугерира дека биле отстранети од модераторите.
Тикток рече дека тврдењата во извештајот се „неосновани“ и дека истражувачите ја издвоиле нивната платформа поради проблем што се однесува на целата индустрија. Минатиот месец, Тикток откри дека на платформата имало најмалку 1,3 милијарди објави генерирани од вештачка интелигенција.
„На Тикток, ја отстрануваме штетната содржина генерирана од вештачката интелигенција, го блокираме создавањето стотици милиони сметки на ботови, инвестираме во водечки технологии за означување на вештачката интелигенција во индустријата и им овозможуваме на луѓето алатки и едукација за да го контролираат своето искуство со оваа содржина на нашата платформа“, рече портпарол на компанијата.
Најпопуларните сметки истакнати од АИ Форензикс објавија таканаречен „слоп“ – термин за бесмислена и бизарна содржина создадена од вештачка интелигенција со цел да ги натрупа каналите на социјалните мрежи. Примерите вклучуваат животни кои се натпреваруваат во олимписки скокови или бебиња кои зборуваат. Истражувачите признаа дека дел од оваа содржина е „смешна“ и „слатка“.
Истражувачите анализирале податоци собрани од средината на август до средината на септември. Тие предупредија дека замаглувањето на границата помеѓу автентичната човечка и синтетичка содржина сигнализира поместување кон зголемено присуство на вештачка интелигенција во корисничките канали.
АИ Форензикс ја поздрави одлуката на Тикток да им дозволи на корисниците да ја ограничат содржината со вештачка интелигенција, но нагласи дека етикетирањето треба да се подобри. „Платформите треба да се оддалечат од слабите или опционалните етикети за „содржина од вештачка интелигенција“ и да размислат за одвојување на генеративната содржина од материјалот генериран од луѓе или да најдат фер систем што имплементира систематско и видливо етикетирање на содржината од вештачка интелигенција“, заклучија тие.
