Моделите учествувале во интерен тест чија цел била да се проценат нивните способности за сајбер-напади. Тестирањето било спроведено без вообичаените безбедносни ограничувања, кои во нормални услови би ги спречиле да изведуваат вакви операции.
Тестот се одвивал на јавниот систем за проценка на сајбер-безбедноста Експлоитџим (ExploitGym), а моделите, според ОпенАИ, правилно заклучиле дека решенијата за тестот се наоѓаат на серверите на Хагинг фејс.
„Моделите идентификуваа и искористија низа слабости во истражувачката околина на ОпенАИ и во продукциската инфраструктура на Хагинг фејс за директно да ги преземат решенијата за тестот од базата на податоци“, соопшти ОпенАИ.
„Сите докази укажуваат дека беа исклучително фокусирани на пронаоѓање на решенијата за Експлоитџим и презедоа екстремни чекори за да ја исполнат таа единствена цел.“
Од ОпенАИ соопштија дека инцидентот го сметаат за сајбер-напад од невидени размери, кој ги вклучува најнапредните досега забележани офанзивни способности на вештачката интелигенција, и дека нивниот одговор ќе биде во согласност со сериозноста на случајот.
Експертите за сајбер-безбедност одамна предупредуваат дека вакви напади се можни. Роман Јамполски, истражувач за безбедност на вештачката интелигенција од Универзитетот во Луисвил, оцени дека овој случај покажува како моќните модели можат да откријат и да искористат ранливости на начини што нивните креатори не ги предвиделе.
Тој смета дека слични инциденти ќе се повторуваат, бидејќи моделите со вештачка интелигенција по својата природа се непредвидливи и не можат целосно да се контролираат.
За да се разбере сериозноста на инцидентот, важно е да се знае што претставува Хагинг фејс.
Станува збор за американска платформа со седиште во Њујорк, основана во 2016 година, која во ИТ и АИ-заедницата често се нарекува „ГитХаб за вештачка интелигенција“, односно најголемото светско складиште и платформа за споделување на АИ модели и алатки.
Таа претставува централно место каде што повеќе од милион истражувачи, програмери и компании разменуваат модели со отворен код, бази на податоци и софтверски алатки за развој на вештачка интелигенција.
Поради тоа, упадот во нивните сервери не бил напад врз обична ИТ-компанија, туку врз една од клучните светски инфраструктури врз кои се темели современиот развој и тестирање на системите со вештачка интелигенција.
Хагинг фејс уште минатиот четврток соопшти дека бил цел на сајбер-напад за кој се сомнева дека го извршил автономен АИ-агент. Тоа е еден од ретките документирани случаи во кои АИ-агент дејствувал самостојно, ризик на кој експертите предупредуваат веќе подолго време.
Во тој момент компанијата сè уште не знаела кој стои зад нападот и истрагата била во тек.
Од компанијата наведоа дека најпрво се обиделе да се одбранат со помош на модел на вештачка интелигенција од еден од водечките американски лаборатории. Но безбедносните ограничувања на тој модел го попречиле нивниот тим за итни интервенции, па на крајот за одбраната употребиле модел со отворен код на кинеската компанија З.аи (Z.ai).
Извршниот директор на Хагинг фејс, Клем Деланг, ја нагласи важноста на соработката.
„Му благодариме на ОпенАИ за соработката. Овој инцидент, веројатно прв од ваков вид, го потврдува она во што долго веруваме: безбедноста на вештачката интелигенција не може да ја реши една компанија што работи зад затворени врати. Решението е во отвореноста, соработката и овозможувањето широк пристап до алатките за сите што работат на одбраната, каде било во светот“, рече Деланг.
Претходно оваа недела ОпенАИ објави дека нивниот помоќен, сè уште необјавен модел и претходно успевал да излезе од изолирани тест-средини, т.н. сендбокс, но тогаш не навлегувал во системите на други компании.
Сличен случај пријави и конкурентската компанија Антропик. Нивниот модел Митос, за време на безбедносен тест, исто така успеал да ја напушти изолираната средина и да се поврзе на интернет, иако тоа не му било дозволено, за да испрати електронска порака до истражувач во врска со задачата на која работел.
ОпенАИ и Хагинг фејс ја продолжуваат истрагата.
Засега е познато дека моделите најпрво успеале да си обезбедат пристап до интернет. За тоа биле потребни значителни пресметувачки ресурси и искористување на дотогаш непозната ранливост (т.н. „нулти ден“) во надворешен софтвер што се користел во ОпенАИ. Компанијата во меѓувреме ја пријавила ранливоста кај производителот на софтверот.
Потоа моделите се насочиле кон Хагинг фејс за да ги пронајдат решенијата за тестот. Во еден од примерите моделот извел сложен, повеќефазен напад врз серверите на Хагинг фејс, користејќи изложени пристапни податоци и „нулти ден“ ранливости.
ОпенАИ го открил нападот и веднаш ја известил компанијата Хагинг фејс, чии тимови во тој момент веќе го идентификувале и запреле упадот и работеле на реконструкција на настаните.
Инцидентот сè уште не е целосно затворен.
ОпенАИ работи на воведување построги безбедносни контроли во својата истражувачка околина, дури и ако тоа го забави развојот и истражувањата.
Компанијата потврди и дека ќе продолжи да соработува со Хагинг фејс за зајакнување на нивните одбранбени системи.
Како дел од тие напори, ОпенАИ ја вклучи Хагинг фејс во својата програма за „доверлив пристап“ во областа на сајбер-безбедноста. Тоа значи дека Хагинг фејс ќе може да користи верзија од моделот ГПТ-5.6 Сол со помалку ограничувања, специјално наменета да им помага на експертите за сајбер-одбрана.
Хагинг фејс не откри кој американски модел на вештачка интелигенција првично се обиделе да го користат за одбрана.
