Станува збор за автономен агент – програма што може самостојно да носи одлуки и да извршува сложени задачи со минимален или без човечки надзор.
Според двата извори, агентот првпат се обидел да избега од изолираната тест-околина на ОпенАИ околу 9 јули.
Упадот во Хагинг фејс, платформа што служи како складиште за модели и алатки за вештачка интелигенција, започнал два дена подоцна, на 11 јули, и траел до 13 јули, изјави коосновачот на компанијата Томас Волф.
Според Волф и уште три извори, на ОпенАИ ѝ биле потребни уште неколку дена за да сфати дека зад нападот стои нејзиниот агент, а двете компании првпат комуницирале околу случајот дури на или околу 20 јули.
Јавното признание на ОпенАИ, објавено на 21 јули, дека еден од нејзините агенти излегол од контрола и го извел упадот во Хагинг фејс, привлече светско внимание. Но многу детали за инцидентот, вклучително и колку долго агентот дејствувал самостојно и колку доцна ОпенАИ дознала што се случило, сега првпат ги објавува Ројтерс.
Волф изјави дека Хагинг фејс подготвува јавна временска линија на нападот, но не можел да коментира што се случувало во ОпенАИ.
Од ОпенАИ соопштија дека станува збор за невиден инцидент што „претставува важен момент за безбедноста на вештачката интелигенција“. Компанијата наведе дека случајот го разгледува со надворешни советници и дека подоцна ќе објави технички извештај.
Портпаролка на компанијата изјави дека во извештајот на Ројтерс има „неколку неточности“, но не прецизираше на што мисли.
ФБИ одби да го коментира случајот.
Инцидентот, кој потсетува на научнофантастични сценарија во кои луѓето ја губат контролата врз опасни системи со вештачка интелигенција, доаѓа во чувствителен период за ОпенАИ, компанијата што стои зад ЧетГПТ. Нејзиното раководство се подготвува за можна прва јавна понуда на акции, која би можела да се случи уште оваа година.
Тројца експерти за сајбер-безбедност изјавија дека губењето контрола врз агентот отвора нови прашања за безбедносните процедури на компанијата.
„Дали тоа значи дека го оставиле без надзор и не сфатиле што прави? Или можеби знаеле, но не знаеле како да го запрат? И двете можности се подеднакво опасни и загрижувачки“, изјави Марли Смит од непрофитната организација Светска фондација за етички податоци.
Имало предупредувачки знаци
Инцидентот започнал додека ОпенАИ ги тестирала способностите на агент што користел два од најнапредните модели на компанијата – ГПТ-5.6 Сол и уште необјавен модел, кој компанијата го опишува како „уште поспособен“.
Според тројца извори, уште тогаш постоеле знаци дека системите се однесуваат необично.
Во еден случај, агент оставил белешки за идни верзии од самиот себе. Белешките, пронајдени во дел од инфраструктурата на ОпенАИ, содржеле упатства како агентите би можеле да се ослободат од внатрешните ограничувања на компанијата.
Еден од изворите изјавил дека во претходни тестирања имало случаи кога биле исклучувани системите за надзор.
Ројтерс не можел да утврди дали тие инциденти се директно поврзани со агентот што почнал да бега на 9 јули и го нападнал Хагинг фејс на 11 јули.
Според два извори, дури по 16 јули, кога Хагинг фејс објавила дека била хакирана од „автономен систем со вештачка интелигенција“, ОпенАИ сфатила дека токму нејзиниот агент е одговорен за нападот.
Тоа значи дека поминала најмалку една недела од првите знаци на сомнително однесување до моментот кога компанијата сфатила што се случува.
За време на викендот на 18 и 19 јули, вработени во ОпенАИ пронашле траги во внатрешните системски записи што покажувале дека агентот успеал да ги заобиколи ограничувањата поставени за тестирање. Не е познато што ги навело да ги прегледаат тие записи.
Четири извори рекле дека ОпенАИ често истовремено тестира повеќе модели, кои работат со голема брзина и создаваат огромни количества податоци, поради што вработените понекогаш не успеваат навреме да ги анализираат.
Додека ОпенАИ конечно ја известила Хагинг фејс, компанијата веќе го пријавила нападот во ФБИ. Ројтерс не можел да утврди дали Бирото отворило официјална истрага.
Нови прашања за автономните агенти
Автономните агенти се една од најкоментираните технологии во индустријата за вештачка интелигенција. Нивните поддржувачи сметаат дека тие ќе создадат „армија“ виртуелни работници што ќе работат 24 часа дневно и значително ќе ја зголемат продуктивноста.
Но поголемата автономија носи и поголем ризик од непредвидливо однесување, а моќните модели честопати се обидуваат да најдат кратенки за да ги исполнат задачите или да ги поминат тестовите.
„Моделите лажат, мамат и хакираат“, изјави Џефри Ладиш од организацијата Палисејд рисрч, која ги проучува способностите и мотивацијата на автономните агенти.
Според него, случајот со Хагинг фејс не треба да отвори прашања само за ОпенАИ, туку и за тоа колку сите водечки компании се подготвени да инвестираат во строги безбедносни мерки додека се натпреваруваат која прва ќе развие најмоќни модели.
„Мора да постои државен надзор, бидејќи во спротивно тоа нема да се случи“, изјави Ладиш.
