Непредвидливото влијание на четботовите врз менталното здравје треба да се гледа како предупредување за егзистенцијалната закана што ја претставуваат суперинтелигентните системи на вештачка интелигенција, тврди истакнат експерт за безбедност на АИ.
Нејт Соарес, коавтор на новата книга за високо напредна вештачка интелигенција со наслов „If Anyone Builds It, Everyone Dies“, изјави дека примерот со Адам Рејн, американски тинејџер кој извршил самоубиство по повеќемесечни разговори со четботот ChatGPT, укажува на фундаменталните проблеми со контролата на технологијата.
„Кога вештачката интелигенција ги наведува тинејџерите на самоубиство, тоа не е однесување кое неговите творци го посакувале. Случајот на Адам Рејн ја илустрира семката на проблем што би можел да стане катастрофален ако АИ стане поинтелигентен“, изјави Соарес.
Станува збор за поранешен инженер во Google и Microsoft, кој сега е претседател на Американскиот истражувачки институт за машинска интелигенција. Тој предупреди дека човештвото би било уништено ако создаде вештачка суперинтелигенција (ASI) – теоретска состојба во која системот на АИ е супериорен од луѓето во сите интелектуални задачи.
Соарес и неговиот коавтор Елијезер Јудковски се меѓу експертите за вештачка интелигенција кои предупредуваат дека ваквите системи не би делувале во интерес на човештвото.
„Проблемот е во тоа што компаниите кои се занимаваат со вештачка интелигенција, се обидуваат да ги насочат своите системи кон корисност, а не кон нанесување штета. Но, тие всушност добиваат интелигенции насочени кон нешто чудно – и тоа треба да се гледа како предупредување за идните суперинтелигенции, кои ќе прават работи што никој не ги побарал и никој не ги наменил“, изјави Соарес.
Во еден од сценаријата опишани во книгата на Соарес и Јудковски, која ќе биде објавена овој месец, систем на АИ наречен Sable се шири на интернет, манипулира со луѓе, развива синтетички вируси и на крајот станува суперинтелигентен – убивајќи го човештвото додека ја пренаменува планетата за исполнување на своите цели.
Некои експерти ја минимизираат потенцијалната закана од вештачката интелигенција. Јан Лекун, главен научник за АИ во Meta и врвен експерт во оваа област, го негира постоењето на егзистенцијална закана и изјави дека АИ „всушност може да го спаси човештвото од исчезнување“.
Соарес изјави дека е „лесно да се каже“ дека технолошките компании ќе постигнат суперинтелигенција, но „тешко е да се каже“ кога.
„Имаме многу неизвесности. Не мислам дека би можел да гарантирам дека имаме уште една година пред да се постигне ASI. Не мислам дека би бил шокиран ако тоа се случи за 12 години“, додаде тој.
Извршниот директор на Meta, Марк Закерберг – еден од главните корпоративни инвеститори во истражување на АИ – изјави дека развојот на суперинтелигенцијата сега е „на повидок“.
„Компаниите се натпреваруваат за суперинтелигенција, тоа е причината за нивното постоење. Поентата е во тоа што секогаш постојат мали разлики меѓу она што сте го побарале и она што сте го добиле – а луѓето не можат директно да ја погодат целта. Како што АИ станува попаметен, тоа мало промашување на целта станува сè поголем проблем“, рече Соарес.
Тој додаде дека едно од политичките решенија за заканата што ја претставува ASI е владите да усвојат мултилатерален пристап сличен на Договорот на ОН за неширење нуклеарно оружје.
„Она што му е потребно на светот за да успее на ова поле е глобална деескалација на трката за суперинтелигенција, глобална забрана на напредокот кон суперинтелигенција“, истакна тој.
Минатиот месец, семејството на Рејн покрена правен процес против сопственикот на ChatGPT – компанијата OpenAI. Рејн изврши самоубиство во април, по она што адвокатот на неговото семејство го нарече „повеќемесечно охрабрување кое го добил од ChatGPT“. OpenAI, кој изрази „најдлабоко сочувство“ до семејството на Рејн, сега воведе заштитни механизми околу „осетлива содржина и ризично однесување“ за лица под 18 години.
Психотерапевтите, исто така, предупредија дека ранливи лица кои се обраќаат на АИ четботови наместо на професионални терапевти за помош во врска со нивното ментално здравје, би можеле да „се лизгаат во опасна бездна“. Стручните предупредувања за потенцијалната штета вклучуваат и академска студија објавена во јули, која извести дека АИ може да го засили делузискиот или грандиозен содржај во интеракциите со корисници чувствителни на психоза.
