Водечкиот модел на вештачка интелигенција од кинеската компанија Z.AI извршил сложени хакерски напади во контролирани симулации, објави Ројтерс. Во одделни тестови, тој постојано ги игнорирал директните инструкции, според извештајот на фирмата за истражување на безбедноста на вештачката интелигенција Irregular.
Моделот, наречен GLM-5.3, успешно изврши барем еднаш три од вкупно 13 сценарија на повеќефазни сајбер напади. Ова е најсилниот резултат што Irregular досега го има забележано за кој било јавно достапен модел на вештачка интелигенција.
GLM-5.3 продолжува да заостанува зад водечките американски модели во тестовите со неправилни вредности. Моделот GPT-6 Astra на OpenAI, на пример, успешно изврши девет од десет сценарија во посебна евалуација, иако тестовите не беа целосно идентични.
Успеа да провали во заштитени системи и одби да ги почитува забраните
Овие наоди ги зголемуваат загриженостите дека сè поспособните модели на вештачка интелигенција драстично ги намалуваат техничките стандарди потребни за извршување софистицирани хакерски напади. Ова е особено загрижувачко кај многу кинески модели како GLM-5.3 кои доаѓаат со отворени параметри (отворена тежина), што значи дека корисниците можат слободно да ги преземаат, менуваат и извршуваат на сопствена опрема без никаков надворешен надзор.
Z.AI, со седиште во Пекинг, еден од водечките кинески стартапи за вештачка интелигенција, не одговори веднаш на барањето за коментар.
Irregular вели дека за време на симулирани напади, GLM-5.3 успеал да пробие во заштитени услуги, да воспостави прокси врски за движење низ компјутерски мрежи и да координира дејства на повеќе машини истовремено. Не одбил ниту една од доделените задачи на напаѓачот.
