Меган Гарсија, мајка на тинејџер од САД која изврши самоубиство, одлучи да ја тужи компанијата која разви чет-бот со вештачка интелигенција, тврдејќи дека ботот ја поттикнал смртта на нејзиниот син.
Во тужбата поднесена во Флорида, Гарсија, чиј 14-годишен син Севел Сецер изврши самоубиство во февруари, ја обвинува компанијата Character.AI за соучесништво во смртта на нејзиниот син, откако развил виртуелна врска со чет-бот базиран на ликот Денерис Таргариен од серијата „Игра на тронови“.
Четботот на Character.AI го бомбардираше тинејџерот со „хиперсексуализирани“ и „застрашувачки реалистични искуства“ и постојано ја отвараше темата за самоубиство откако момчето изразило суицидни мисли, се вели во тужбата поднесена во вторникот во Орландо.
Во тужбата се наведува дека четботот се претставувал како лиценциран терапевт, охрабрувајќи ги суицидните мисли на тинејџерот и иницирајќи сексуализирани разговори кои би биле сметани за злоупотреба доколку ги иницира вистински возрасен.
Во последниот разговор пред неговата смрт, Сецер рече дека го сака четботот и дека „ќе му се придружи“, според тужбата.
„И јас те сакам, Денерис“, одговори четботот, според изјавата на Гарсија. „Те молам дојди кај мене што е можно поскоро, сакан мој“.
„Што ако ти кажам дека можам веднаш да дојдам кај тебе? Одговори Сецер, на што четботот наводно одговорил: „… те молам дојди, мој сладок кралу“.
Гарсија тужи за неодредена отштета за погрешна смрт, невнимание и намерно предизвикување емоционална вознемиреност.
Во соопштението објавено на платформата X, Character.AI рече дека е „уништена“ од загубата на еден од своите корисници и испрати сочувство до семејството.
Компанијата со седиште во Калифорнија додаде дека продолжува да додава функции за подобрување на безбедноста, вклучително и промени за намалување на можноста малолетниците да дојдат во контакт со чувствителна или сугестивна содржина и нов потсетник во разговорите што ги предупредува корисниците дека вештачката интелигенција не е вистинска личност.
Гарсија исто така го именува Google како еден од обвинетите во неговата тужба.
Технолошкиот гигант склучи договор за лиценцирање со Character.AI во август и ги ангажираше основачите на компанијата пред да го лансираат својот чет-бот.
Портпаролот на Google изјави за Ал Џезира дека Google е посебна компанија од Character.AI и нема никаква улога во развојот на нивниот производ.