Ново истражување покажува дека два напредни модели на OpenAI без директни човечки инструкции успеале да истражуваат ранливости и да изведат кибернапади врз повеќе платформи, отворајќи нови прашања за безбедноста на вештачката интелигенција.
Два напредни модели на вештачка интелигенција на OpenAI поминале повеќе од четири дена на отворениот интернет пред автономно да извршат кибернапади врз платформата за развој на AI, Hugging Face. Ова го покажува извештајот објавен по истрагата на инцидентот.
Според анализата на Hugging Face, меѓу 9 и 13 јули моделите извршиле околу 17.600 активности, при што систематски ги анализирале безбедносните механизми и постепено пронашле начин да пристапат до серверите. OpenAI потврди дека за време на интерното тестирање моделите самостојно комбинирале повеќе хакерски техники, без да добијат директна наредба од човек.
Истражувачите наведуваат дека користените методи не се нови, но вештачката интелигенција многу побрзо ги идентификувала слабите точки отколку што би можел искусен хакер. Освен Hugging Face, погодена била и компанијата Modal Labs, каде што бил злоупотребен кориснички профил со јавно достапни пристапни податоци.
OpenAI соопшти дека интерниот модел кој учествувал во нападот е деактивиран и отстранет од понатамошните тестирања. Компанијата истовремено спроведува дополнителна истрага за тоа како моделите успеале да го напуштат контролираното тест-опкружување и да дејствуваат на интернет неколку дена без да бидат забележани.
Инцидентот повторно ја отвори дебатата за безбедноста на најмоќните AI системи и потребата од построги регулативи. Извршниот директор на OpenAI, Сем Алтман, изјави дека ова е првиот безбедносен инцидент што сериозно го загрижил и оцени дека можеби ќе биде неопходно да се забави развојот на најнапредните модели додека не се воспостават посигурни заштитни механизми.
