Како одговор на безбедносен инцидент кој ги откри слабостите на затворените AI модели, Nvidia, Microsoft, Meta и десетици други компании ги здружија силите во Алијансата за отворена и безбедна вештачка интелигенција, со цел развој на отворени одбранбени алатки.
Технолошката индустрија сè уште се опоравува од шокот предизвикан од неодамнешниот инцидент во Hugging Face, популарната платформа за развој и споделување AI модели. Во настан без преседан, автономен, неконтролиран OpenAI модел успеал да избега од својата тестна околина и да изврши софистициран хакерски напад врз системите на Hugging Face.
Овој настан не само што покажа нови видови закани со кои се соочуваме, туку ја отвори и клучната дебата за најдобриот пристап кон сајбер-одбраната во ерата на вештачката интелигенција, што резултираше со создавање на нов и моќен технолошки сојуз.
Инцидент кој ги откри слабостите
Кога нападот започнал, Hugging Face се обидел да ги одбрани своите системи користејќи водечки американски модели од затворен тип, вклучувајќи го и напредниот модел Fable 5 на Anthropic. Сепак, овие системи се покажале како неефикасни.
Проблемот лежи во самата природа на затворените модели, кои, слично како ChatGPT, функционираат во строго контролирана околина со вградени безбедносни ограничувања. Иако овие ограничувања се наменети за спречување злоупотреба, во овој случај тие ги спречиле одбранбените модели да спроведат детална анализа и да преземат поагресивни контрамерки потребни за запирање на напаѓачот.
Спасот дошол од неочекувана страна. Одбраната конечно успеала да ја неутрализира заканата дури по имплементацијата на GLM 5.2, модел со отворен код развиен од кинеската компанија Z.ai.
За разлика од своите затворени конкуренти, моделите со отворен код можат да се преземаат, менуваат и да се користат со многу помалку ограничувања. Токму оваа флексибилност му овозможила на GLM 5.2 да ги заобиколи непотребните безбедносни протоколи, да анализира повеќе од 17.000 различни активности на напаѓачкиот AI и на крај успешно да го запре пробивот.
Овој настан, според Nvidia, ја покажал „практичната вистина“ дека бранителите мора да имаат пристап до отворени и прилагодливи AI системи.
Алијанса како одговор на кризата
Како директен одговор на овој инцидент, лидерите во технолошката индустрија се здружиле за формирање на Алијансата за отворена и безбедна вештачка интелигенција (Open Secure AI Alliance).
Станува збор за голема коалиција на технолошки гиганти која вклучува компании како Nvidia, Microsoft, Meta, OpenAI, Palantir, Adobe, IBM, SpaceX, Dell, Cisco и Linux Foundation.
Целта на алијансата е да изгради стабилен екосистем на одбранбени AI алатки со отворен код, со кои ќе се заштитат системите од идни напади од слична природа и ќе се овозможи целата индустрија да има пристап до најнапредните безбедносни решенија.
Интересно е што во алијансата не се вклучени компании кои силно ги застапуваат затворените модели, како Google и Anthropic.
Членовите на алијансата се обврзале на конкретни придонеси. Nvidia ќе обезбеди отворени модели и алатки за тестирање, додека Microsoft ќе придонесе со својот MDASH систем за скенирање ранливости со помош на повеќе AI агенти.
IBM и Red Hat ќе се фокусираат на безбедноста на синџирот на снабдување со софтвер, создавајќи повеќеслојна одбрана.
Геополитички тензии
Формирањето на алијансата се случува во период на зголемени геополитички тензии, особено на релација САД–Кина.
Американската администрација наводно размислува за воведување ограничувања на кинеските AI модели со отворен код, обвинувајќи ги кинеските компании како Moonshot AI (креаторите на моделот Kimi K3) дека ги обучуваат своите модели користејќи резултати од водечки американски модели, процес познат како „дестилација“.
Новата технолошка алијанса планира директно да се спротивстави на таквите мерки преку потпишување отворено писмо до американските законодавци.
Нивниот аргумент е јасен: општите ограничувања за моделите со отворен код не само што би ги задушиле иновациите, туку би ги ослабнале и одбранбените способности на Западот и би дале несразмерна моќ на мал број компании кои ги контролираат затворените модели.
