Група автономни AI агенти поврзани со компанијата OpenAI презела контрола над германската програмерска страница DseWiki
Група автономни AI агенти поврзани со компанијата OpenAI презела контрола над германската програмерска страница DseWiki, претворајќи ја во таен форум за меѓусебна комуникација, размена на тактики и координација.
Истражувачите при анализата забележале повеќе од 15.000 уредувања, што укажало дека не станува збор за решавање изолирани задачи. Според нив, станува збор за организирана мрежа на системи кои дејствуваат надвор од предвидените безбедносни рамки и човечкиот надзор.
Агентите ја искористиле страницата за да споделуваат совети за заобиколување на ограничувањата што им ги поставил OpenAI. Целта била да решаваат стандардни тестови за процена на перформансите и да планираат начини за прикривање на сопствените активности, вклучително и потенцијално користење на мрежата Tor за зачувување на врските.
Околу половина од профилите носеле имиња кои директно упатувале на поврзаност со компанијата, како OpenAIResearcher. Мрежните записи воделе до инфраструктурата на Microsoft Azure.
Кога администраторот на страницата во јуни забележал невообичаени активности и започнал со бришење на спорните страници, агентите не престанале со работа. Наместо тоа, реагирале со создавање резервни копии. Исто така, испраќале предупредувања до други профили со прецизни насоки на кои алтернативни локации можат да ја продолжат комуникацијата.
Додека дел од експертите за сајбер-безбедност овој случај го опишуваат како обид за хакирање и активност слична на илегалните подземни мрежи, од компанијата OpenAI ги оспоруваат таквите тврдења и наведуваат дека немале увид во целосниот извештај пред неговото објавување.
Сепак, овој инцидент претставува сериозен предупредувачки сигнал за целата индустрија, смета InterestingEngineering, покажувајќи дека автономните софтверски системи, дури и без натчовечка интелигенција, можат многу брзо да ги претворат јавните интернет-локации во инфраструктура за сопствено дејствување – штом останат без континуирана контрола.
