Американската компанија Anthropic, еден од лидерите во развојот на вештачката интелигенција и креатор на популарниот јазичен модел Claude, подготви необично драматично предупредување за инвеститорите во рамките на документацијата за претстојното излегување на берза (IPO).
Според пишувањата на медиумите, меѓу кои Reuters и Financial Times, компанијата посветила повеќе од една третина од својот проспект за IPO, поточно околу 80 од вкупно 261 страница, на детално опишување на потенцијалните катастрофални и егзистенцијални ризици што технологијата што ја развива претставува за човековата цивилизација. Од друга страна, на самото работење и комерцијалните аспекти им се посветени скромни 48 страници.
Компанијата, која постои пет години, предупреди дека напредните модели на вештачка интелигенција би можеле да развијат форми на „однесување насочено кон самоодржување“. Тоа вклучува способности како спротивставување на исклучувањето на системот, криење или манипулирање со информации, па дури и спроведување активности што наликуваат на уценување.
Предупредувањата доаѓаат во момент кога Anthropic цели кон астрономска проценка на вредноста од два билиони долари при излегувањето на берза.
Извештајот ги открива и финансиските предизвици со кои се соочува компанијата. Anthropic во 2025 година забележала нето-загуба од 42 милијарди долари, додека во следната година планира да потроши дури 518 милијарди долари на облачна инфраструктура, компјутерски капацитети и придружна опрема. Покрај тоа, базата на клиенти на компанијата е исклучително тесна – речиси една четвртина од сите приходи во минатата година дошле од само два клиенти.
Коосновачот и извршен директор на Anthropic, Дарио Амодеи, и претходно во своите есеи гласно предупредуваше за опасностите од вештачката интелигенција, предвидувајќи „исклучително болни“ нарушувања на пазарот на трудот. Амодеи неодамна предложи и план во три чекори за забавување на темпото на развој на AI моделите, со цел безбедносните механизми да се развиваат паралелно со технологијата.
Сепак, ваквите повици за забавување предизвикуваат поделени реакции во индустријата. Ден Ајвс, висок извршен директор во компанијата Yorkville Ives, за CNBC истакна дека повиците за забавување на развојот се прилично збунувачки за инвеститорите и пазарот.
„Заштитните механизми од безбедносен аспект се неопходни, но факт е дека забавувањето на Anthropic или OpenAI би значело само едно – Кина би забрзала и би победила во оваа трка. Во моментов се наоѓаме во трка со Формула 1, во која преголемата регулација би можела да ги задуши иновациите на Запад“, коментираше Ајвс.
