Valsts atbalstīti hakeri no Krievijas, Ķīnas un Irānas ir izmantojuši OpenAI rīkus, lai uzlabotu savas prasmes un veiktu hakeru uzbrukumus. Kā ziņoja Microsoft, uzņēmuma eksperti izsekoja hakeru grupas, kas saistītas ar Krievijas militāro izlūkdienestu, Islāma revolucionāro gvardu korpusu, kā arī Ķīnas un Ziemeļkorejas valdībām, kuras mēģināja uzlabot savas hakeru kampaņas ar lielu valodu modeļu palīdzību.
Uzņēmums paziņoja par atradumu, ieviešot vispārēju aizliegumu valsts atbalstītajām hakeru grupām izmantot savus AI produktus. "Mēs vienkārši nevēlamies, lai mūsu identificētās struktūras, kuras mēs uzraugām un zinām, ka tās rada dažāda veida draudus, mēs nevēlamies, lai tām būtu piekļuve šai tehnoloģijai," sacīja viceprezidents. Microsoft par klientu drošību Toms Bērts. Ziņojumā ir minētas tādas hakeru grupas kā Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon un Salmon Typhoon.
Apgalvojumi, ka hakeri ir pieķerti, izmantojot rīkus AI lai uzlabotu savas spiegošanas spējas, uzsver bažas par tehnoloģiju straujo izplatību un tās ļaunprātīgas izmantošanas iespējām. Rietumu kiberdrošības eksperti jau pērn brīdināja, ka noziedznieki ļaunprātīgi izmanto šādus rīkus, lai gan līdz šim par to nebija konkrētu datu.
"Šis ir viens no pirmajiem, ja ne pirmais, gadījumiem, kad AI uzņēmums ir publiski apspriedis, kā uzbrucēji izmanto AI tehnoloģijas," sacīja Bobs Rotsteds, OpenAI kiberdrošības draudu izlūkošanas vadītājs.
OpenAI ka Microsoft aprakstīja hakeru AI rīku izmantošanu kā "agrīnā stadijā" un "inkrementālu". Saskaņā ar Bērta teikto, neviens uzņēmums nav redzējis, ka kiberspiegi būtu guvuši sasniegumus: "Mēs esam redzējuši, ka viņi vienkārši izmanto šo tehnoloģiju tāpat kā jebkurš cits lietotājs."
Ziņojumā ir aprakstītas hakeru grupas, kas dažādos veidos izmanto lielus valodu modeļus. Hakeri, kuri, domājams, strādāja Krievijas spēles uzdevumā, izmantoja modeļus, lai izmeklētu "dažādas satelītu un radaru tehnoloģijas, kas varētu būt nozīmīgas militārajām operācijām Ukrainā", paziņoja aģentūra. Microsoft. Un Ziemeļkorejas hakeri izmantoja modeļus, lai izveidotu saturu, kas "visticamāk tiks izmantots pikšķerēšanas kampaņās".
Irānas hakeri arī paļāvās uz modeļiem, lai viņi uzrakstītu pārliecinošākus e-pastus. Un ķīniešu hakeri, kurus pēc viņu teiktā atbalsta valsts Microsoft, eksperimentē ar lieliem valodu modeļiem, lai uzdotu jautājumus par konkurējošiem izlūkdienestiem, kiberdrošības problēmām un "ievērojamām personībām".
Lasi arī: