Uzbrucēji izmanto pasaulē populārāko tērzēšanas robotu ChatGPT, lai radītu jaunus ļaunprātīgas programmatūras celmus.
Kiberdrošības uzņēmums WithSecure ir apstiprinājis, ka ir atradis bēdīgi slavenā AI autora radītās ļaunprātīgas programmatūras piemērus savvaļā. ChatGPT īpaši bīstamu padara tas, ka tas var ģenerēt neskaitāmas ļaunprogrammatūras variācijas, padarot tās grūti atpazīstamas.
Uzbrucēji var vienkārši nodrošināt ChatGPT ar esoša ļaunprātīga koda piemēriem un uzdot tai izveidot jaunus celmus, pamatojoties uz tiem, ļaujot viņiem saglabāt ļaunprātīgu programmatūru, netērējot gandrīz tikpat daudz laika, pūļu un zināšanu kā iepriekš.
Šīs ziņas nāk daudzās runās par AI regulēšanu, lai novērstu tā izmantošanu ļaunprātīgiem mērķiem. Kad pagājušā gada novembrī ChatGPT kļuva ļoti populārs, nebija noteikumu, kas regulētu tā izmantošanu, un mēneša laikā tas tika nolaupīts, lai rakstītu ļaunprātīgus e-pastus un failus.
Modelī ir noteikti drošības pasākumi, kas paredzēti, lai novērstu ļaunprātīgu uzvedņu izpildi, taču uzbrucēji tos var apiet.
Juhani Hintika, WithSecure izpilddirektors, pastāstīja Infosecurity, ka kiberdrošības aizstāvji parasti izmanto mākslīgo intelektu, lai atrastu un filtrētu ļaunprātīgu programmatūru, ko manuāli izveidojuši draudu dalībnieki.
Tomēr šķiet, ka tagad tas mainās, jo jaudīgi AI rīki, piemēram, ChatGPT, kļūst brīvi pieejami. Attālās piekļuves rīki ir izmantoti nelikumīgiem mērķiem, un tagad tas pats attiecas uz mākslīgo intelektu.
Tims Vests, WithSecure draudu izlūkošanas vadītājs, piebilda, ka "ChatGPT atbalstīs programmatūras inženieriju gan labā, gan sliktā veidā, un tas palīdz un samazina šķēršļus ļaunprātīgas programmatūras izstrādātāju ienākšanai tirgū."
Saskaņā ar Hintikas teikto, pikšķerēšanas e-pastus, ko ChatGPT var izveidot, cilvēki parasti pamana, un, tā kā LLM kļūst arvien progresīvāki, tuvākajā nākotnē var kļūt grūtāk novērst iekļūšanu šādās krāpniecībās.
Turklāt, uzbrucēju uzbrukumu panākumiem pieaugot satraucošā ātrumā, uzbrucēji reinvestē un kļūst organizētāki, paplašina darbības, izmantojot ārpakalpojumus, un padziļina savu izpratni par mākslīgo intelektu, lai uzsāktu veiksmīgākus uzbrukumus.
Hintika secināja, ka, raugoties uz nākotnes kiberdrošības ainavu, "tā būs laba AI spēle pret sliktu AI".
Lasi arī: