AI „watermark“ не остава видлива ознака во текстот, туку статистички образец во изборот на зборови кој може да укаже дека содржината е генерирана од AI модел
Како што AI моделите стануваат сè подобри во пишувањето, сè потешко е да се процени дали некој текст го напишал човек или машина. Anthropic затоа најави дека идните текстови создадени со помош на моделите Claude ќе добиваат своевиден воден жиг, односно ознака која би требало да помогне при препознавањето на AI содржината.
Промената е поврзана со новите правила на ЕУ, кои бараат компаниите да ја означуваат содржината генерирана со AI и да ја направат препознатлива за корисниците. Слични технологии веќе постојат за слики, додека решенијата за текст се понови. Google ја направи својата технологија за „watermark“ на AI текстот широко достапна во октомври 2024 година, додека OpenAI, наводно, претходно развил сопствено решение, но не го објавил.
Кај класичните документи, водениот жиг со векови претставувал физичка ознака вградена во хартијата, со цел да го докаже потеклото или автентичноста. Подоцна истиот принцип се пренесе и во дигиталната содржина, каде што невидливи идентификатори се користеа за заштита на музика, филмови и други медиуми.
Кај AI текстот watermark не е видлива ознака, туку скриен образец
Големите јазични модели создаваат текст така што го предвидуваат следниот збор врз основа на огромното количество податоци со кои биле обучени. Кога постојат повеќе можни зборови кои се вклопуваат во реченицата, моделот избира меѓу нив според одредена веројатност.
Кај системите за watermark, тие веројатности малку се менуваат, така што моделот почесто избира одредени зборови од однапред дефинирана група. Во доволно долг текст се создава статистички образец кој обичниот читател не може да го забележи, но соодветен систем со соодветен клуч може да го препознае.
Поради тоа, водениот жиг во AI текстот не е исто што и видлива ознака поставена врз фотографија. Исто така, тој не обезбедува апсолутна потврда дека содржината е напишана со AI. Даниел Сасер од Универзитетот Корнел објаснува дека таквиот систем обезбедува статистички доказ кој укажува на веројатноста дека е користен AI, а не едноставен одговор „да“ или „не“.
Колку е подолг текстот, толку е поголема веројатноста образецот да биде доволно изразен за да може сигурно да се открие.
Најавата на Anthropic предизвика загриженост кај корисниците кои стравуваат дека откривањето на употребата на AI би можело да влијае врз оценувањето на академски трудови, пријавите за работа или проценката на професионалната работа. Проблемот дополнително го усложнува фактот што сè уште не постојат јасни општествени правила за тоа кога користењето AI е прифатливо, а кога не е.
Експертите затоа предупредуваат дека присуството на „watermark“ не би требало автоматски да значи дека корисникот мамел, исто како што неговото отсуство не гарантира дека текстот го напишал човек.
Една од потенцијално покорисните примени на оваа технологија би можела да биде следењето на вкупната количина AI-генерирана содржина на интернет. Наместо идентификување на поединечни автори, watermark би можел да покаже колку синтетичка содржина влегува во поширокиот информативен простор и да помогне во зачувувањето на довербата во дигиталните медиуми.
