Но, таа доверба е ризична, како што покажува нова студија на Европската радиодифузна унија (ЕБУ). Здружението на 68 јавни радиодифузери од 56 земји систематски ја тестирало веродостојноста на најпопуларните системи со вештачка интелигенција.
Резултатот е застрашувачки: ЧетГПТ, Клод, Џемини и други четботови измислуваат и до 40 отсто од нивните одговори и ги претставуваат како факти.
Халуцинации: Вештачката интелигенција убедливо лаже
Популарниот четбот ЧетГПТ цврсто тврди дека папата Франциско е сè уште жив. Копилотот на Мајкрософт, кој е интегриран во канцелариските програми Ворд и Ексел, не знае дека Шведска е во НАТО. И Џемини на Гугл смета дека реизборот на Доналд Трамп е „можен“, иако тоа одамна се случи.
„Системите звучат убедливо, иако постојано тврдат сосема лажни работи“, предупредува економистот Петер Пош од Техничкиот универзитет во Дортмунд. „Ова ги прави особено опасни за неискусните корисници, бидејќи грешките честопати не се веднаш очигледни“.
Постои феномен кој експертите го нарекуваат „халуцинација“: вештачката интелигенција фантазира за информации што изгледаат кохерентни, но немаат фактичка основа. Ова се случува особено често кај регионалните настани, тековни настани или кога е потребно да се поврзат повеќе информации.
Закана за демократијата
Но, што значи ова за општеството каде што сè повеќе луѓе добиваат информации од четботови? Последиците се веќе забележливи: лажните информации брзо се шират на социјалните мрежи, бидејќи корисниците споделуваат „факти“ генерирани од вештачка интелигенција без верификација. Учениците и студентите вклучуваат измислени информации во своите дела. Граѓаните можат да донесуваат одлуки за тоа за кого да гласаат врз основа на лажни тврдења.
Особено проблематично е што многу корисници не се ни свесни дека четботовите можат да халуцинираат. Тие претпоставуваат дека технологијата функционира објективно и фактички, што е опасна заблуда. Системите за вештачка интелигенција предупредуваат на потенцијални грешки во нивните услови за користење, но – кој сè уште го чита тоа?
Штета врз угледот на медиумите
Друг проблем се однесува на кредибилитетот на етаблираните медиуми. Четботовите редовно тврдат дека нивните измислени информации доаѓаат од извори како што се, на пример, германските јавни радиодифузери АРД или ЗДФ, иако тие никогаш не го објавиле ова – или го објавиле сосема поинаку. Корисниците губат доверба во реномирани извори кога вештачката интелигенција ги злоупотребува нивните имиња за да шири лажни информации.
Студијата на ЕБУ ги тестирала четботовите со стотици фактички прашања: за историски настани, научни откритија и актуелни вести. Во зависност од темата, стапката на грешки се движела од 15 до 40 проценти. Ниту една од тестираните вештачки интелигенции не работела беспрекорно.
Зошто вештачката интелигенција греши?
Проблемот е во системот: четботовите навистина не разбираат што зборуваат. Тие пресметуваат кои зборови веројатно ќе одговараат врз основа на огромните количества текст и не можат да потврдат дека изјавата што е производ на таквите пресметки е точна. Тие немаат познавање за факти, само за статистички обрасци.
Технолошките компании се свесни за овие недостатоци и работат на решенија. Тие интегрираат бази на податоци, го подобруваат наоѓањето извори и ги преобучуваат системите. Милијарди се инвестираат во развој. Сепак, халуцинациите остануваат фундаментален, нерешен проблем со таа технологија.
Што можат да направат корисниците?
ЕБУ препорачува јасни правила за справување со четботовите: никогаш не верувајте слепо, секогаш проверувајте важни информации, за вестите и фактите верувајте им на етаблираните медиуми, а не на вештачка интелигенција. Особено се препорачува претпазливост кога станува збор за политичките теми, здравствените проблеми или финансиските одлуки.
Училиштата и универзитетите мора да подучуваат медиумска писменост: како да се препознаат дезинформации генерирани од вештачка интелигенција, кои извори се сигурни? Германската влада планира кампањи за подигање на свеста – но тие доцнат. Милиони луѓе ја користат оваа технологија веќе долго време и секој ден.
Додека не стане посигурна, важи следново: четботовите може да бидат корисни за креативни задачи или како помагала за пишување, но не се соодветни како проверувачи на факти или извори на вести. И никој не треба да се потпира на нив сто проценти.
Секој што сака да биде информиран не може да ги избегне реномираните медиуми кои имаат луѓе уредници, кои ги проверуваат изворите и ги оценуваат тврдењата и доказите. Дигиталната револуција може да промени многу работи, но потребата од внимателно истражување и проверка на фактите останува, заклучува Дојче веле.
