Американската влада издаде итна наредба со која компанијата Anthropic е обврзана веднаш да го прекине пристапот до своите најнапредни модели за вештачка интелигенција „Fable 5“ и „Mythos 5“, пренесува Benchmark. Според соопштението на компанијата, одлуката е донесена на 12 јуни и се темели на причини поврзани со националната безбедност, но без јавно објаснување на конкретните детали.
Наредбата, како што се наведува, се однесува на сите странски државјани, без разлика дали се наоѓаат во САД или надвор од земјата. Ограничувањето опфаќа и вработени во Anthropic кои немаат американско државјанство.
Бидејќи техничкото одвојување на корисниците и персоналот според државјанство би било исклучително сложено, компанијата била принудена целосно да ги исклучи моделите „Fable 5“ и „Mythos 5“ за сите корисници, вклучително и американските државјани. Anthropic соопшти дека останатите модели во рамки на Claude платформата не се засегнати од оваа одлука.
Безбедносни причини и спор околу одлуката
Компанијата потврди дека ќе ја почитува правната наредба, но истовремено изрази несогласување со образложението. Според нив, одлуката произлегува од погрешно разбирање на техничкиот проблем и може да има негативно влијание врз развојот на целиот технолошки сектор.
Како потенцијална причина за интервенцијата се наведува откриен начин за заобиколување на заштитните механизми на моделите. Станува збор за ограничен „jailbreak“ метод кој овозможувал моделот да пристапи до одредена база на програмски код, да идентификува безбедносни пропусти и да предложи нивно поправање.
Anthropic тврди дека овој пропуст не е универзален и не претставува доволно сериозна причина за целосно повлекување на моделите. Компанијата додава дека „Fable 5“ биле опширно тестирани од интерни тимови, како и од американски и британски институции за безбедност на AI.
Широки последици и неизвесност
Од компанијата наведуваат дека целосна отпорност на сите можни „jailbreak“ сценарија засега не е технички изводлива. Наместо тоа, предлагаат повеќеслоен безбедносен пристап кој комбинира ограничувања, надзор и брза реакција при злоупотреби. Одлуката веќе се споредува со случајот на Huawei и американските извозни ограничувања од 2019 година, кога технологија беше користена како инструмент за ограничување на пристап до пазар и инфраструктура.
Најголемата неизвесност сега е дали вакви мерки ќе станат практика и за други AI компании, што би можело да предизвика значителни ризици за индустријата и корисниците кои зависат од ваквите сервиси.
Anthropic засега не соопшти кога моделите „Fable 5“ и „Mythos 5“ повторно би можеле да станат достапни. Идниот развој ќе зависи од дополнителни појаснувања од американските власти и можни технички измени на системите.
