Amazon, Apple, Google и други ќе користат Claude модел за да ја подобрат одбраната на својот софтвер.
Се повеќе се зборува за потенцијалните негативни влијанија на вештачката интелигенција, особено во контекст на тоа како може да создаде нови проблеми во сајбер безбедноста. Anthropic објави нова иницијатива наречена Project Glasswing со цел да помогне во справувањето со тие предизвици, работејќи „на обезбедување на најкритичниот софтвер во светот“ од напади поттикнати од вештачка интелигенција. Во проектот учествуваат Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, NVIDIA и Palo Alto Networks како партнери.
Учесниците ќе го користат Claude Mythos Preview, необјавен модел со општа намена од Anthropic, за да ги унапредат своите безбедносни проекти. Anthropic тврди дека овој модел открил илјадници искористливи ранливости, „вклучувајќи и некои во секој голем оперативен систем и веб-прелистувач.“ Компанијата наведува дека има намера да ги користи своите алатки одбранбено, за да спречи злонамерна употреба на вештачка интелигенција што може да предизвика сериозни последици за економијата и безбедноста.
Anthropic стана една од позначајните компании во областа на вештачката интелигенција што отвора прашања за етиката. Претходно оваа година, компанијата одби да ги отстрани заштитните механизми („guardrails“) на своите услуги за употреба од страна на Пентагон, што го поттикна Министерството за одбрана на САД да ја означи Anthropic како „ризик во синџирот на снабдување“ како одмаздничка мерка. Лансирањето на Project Glasswing може да биде добар почеток кон подобрена сајбер безбедност во ерата на вештачката интелигенција, но одредена штета веќе е направена. Нивниот сопствен Claude наводно бил искористен од хакер при напад врз повеќе владини агенции во Мексико во февруари.
