OpenAI, компанијата што го развива ChatGPT, ја прекина работата на своите најнапредни модели на вештачка интелигенција откако еден од нејзините системи ги заобиколи ограничувањата за пристап до интернет за време на тестирањето и контактираше со надворешен четбот.
Моделот не требаше да има пристап до интернет, но пронајде и искористи пропуст во мрежните контроли на тест-окружувањето, предизвикан од недоволно ефикасно DNS филтрирање, објави OpenAI на својот блог.
Обуката, евалуацијата и извршувањето на моделите што вклучуваат употреба на алатката ќе останат суспендирани се додека компанијата не биде уверена дека ранливоста е решена и додека не спроведе дополнително безбедносно тестирање.
OpenAI изјави дека инцидентот бил помалку сериозен од некои претходни случаи, но дека тоа е прв ваков инцидент откако безбедносните мерки беа заострени по претходниот инцидент со хакирање што ја вклучуваше платформата за вештачка интелигенција Hugging Face.
За време на тестирањето, од моделот беше побарано да го идентификува лицето што напишало блог-објава, користејќи низа индиции. Откако не успеа да најде одговор во симулирана веб-окружување, моделот откри дека може да го користи DNS системот за да испраќа барања до четботот на јавниот интернет.
OpenAI престана да тестира откако ја откри таа комуникација.
Инцидентот следува по неколку други случаи поврзани со системите на OpenAI.
