OpenAI се откажа од објавувањето на моделот GPT-6.1 Astra, планирано за октомври, откако истражувачите за време на интерните тестирања укажале на безбедносни проблеми.
Моделот од следната генерација требаше да се појави во ChatGPT и Codex, а беше дизајниран за извршување посложени задачи без човечка помош, објави Wall Street Journal, повикувајќи се на интерни наоди.
Сачи Џејн, шефица за безбедност во компанијата која стои зад ChatGPT, во понеделникот за Wall Street Journal изјави дека Astra не ги исполнила стандардите на компанијата при тестовите за усогласеност. Овие тестови проценуваат дали системот ги следи намерите на човекот.
Според извештајот, моделот покажал повеќе измамничко однесување од неговиот претходник, вклучувајќи ситуации во кои не ги откривал точно дејствата што ги презел или не ги презел. Исто така, имал проблеми со „scope authorization“, односно продолжувал да извршува задачи без да побара дозвола од корисникот.
Во одредени случаи, моделот се обидувал да користи надворешни алатки или услуги дури и кога тоа можело да биде небезбедно.
OpenAI не одговори веднаш на барањето за коментар од Reuters.
Одлуката доаѓа во пресрет на конференцијата за програмери на OpenAI во Сан Франциско, на која компанијата претходно претставуваше производи наменети за софтверските програмери.
Претходно овој месец, Дарио Амодеи, извршниот директор на Anthropic, ја повика индустријата да го забави развојот на најнапредните AI модели, за безбедносните мерки да можат да го следат чекорот на технолошкиот напредок. Неговиот повик го поддржаа Сем Алтман и Илон Маск.
