Kods, ko rakstījis mākslīgais intelekts, var būt bīstams

Mašīnmācīšanās algoritmi šobrīd ir ļoti populāri, jo tos izmanto, lai izveidotu jebkāda veida “oriģinālu” saturu pēc tam, kad ir apmācīti milzīgās jau esošās datu kopas. Tomēr mākslīgā intelekta (AI) ģenerējošais kods nākotnē varētu radīt reālas programmatūras drošības problēmas.

AI sistēmas, piemēram, GitHub Copilot, sola atvieglot programmētāju dzīvi, izveidojot veselas "jauna" koda daļas, pamatojoties uz dabiskās valodas teksta datiem un jau esošu kontekstu. Taču koda ģenerēšanas algoritmi var arī ieviest nedrošības faktoru, kā nesen atklāja jauns pētījums, kurā piedalījās vairāki izstrādātāji.

Īpaši aplūkojot OpenAI izstrādāto mākslīgā intelekta platformu Codex, kas ir arī koda dzinējs aiz iepriekš minētā GitHub Copilot, pētījumā piedalījās 47 dažādi izstrādātāji. No studentiem līdz pieredzējušiem profesionāļiem viņi ir saņēmuši izaicinājumu izmantot Codex, lai atrisinātu ar drošību saistītas problēmas Python, JavaScript, C un citās augsta līmeņa programmēšanas valodās.

Pētnieki atzīmēja, ka tad, kad programmētājiem bija piekļuve Codex AI, iegūtais kods, visticamāk, bija nepareizs vai nedrošs, salīdzinot ar kontroles grupas izstrādātajiem "manuālajiem" risinājumiem. Turklāt programmētāji ar AI darbināmiem risinājumiem biežāk apgalvoja, ka viņu neaizsargātais kods ir drošs, salīdzinot ar iepriekšminēto kontroles grupu.

Ale Perry, Stenfordas universitātes absolvents un pētījuma vadošais līdzautors, sacīja, ka "koda ģenerējošās sistēmas pašlaik nevar aizstāt cilvēku izstrādātājus". Pēc viņa teiktā, izstrādātāji var izmantot mākslīgā intelekta rīkus, lai veiktu uzdevumus ārpus savas kompetences vai paātrinātu programmēšanas procesu, kurā viņiem jau ir noteiktas prasmes. Pēc pētījuma autora domām, jāuztraucas par abiem un vienmēr jāpārbauda ģenerētais kods.

Saskaņā ar Stenfordas maģistrantūras studentes un pētījuma otrās līdzautores Megha Srivastava teikto, Codex nav bezjēdzīgs: neskatoties uz "mēmā" AI trūkumiem, kodu ģenerēšanas sistēmas var būt noderīgas, ja tās tiek izmantotas zema riska uzdevumiem. Turklāt programmētājiem, kas piedalījās pētījumā, nebija lielas pieredzes drošības jautājumos, kas varētu palīdzēt identificēt ievainojamu vai bīstamu kodu, sacīja Srivastava.

AI algoritmus var arī pielāgot, lai uzlabotu kodēšanas ieteikumus, un uzņēmumi, kas izstrādā savas sistēmas, var iegūt labākus risinājumus, izmantojot modeli, kas ģenerē viņu pašu drošības praksei piemērotāku kodu. Pēc pētījuma autoru domām, kodu ģenerēšanas tehnoloģija ir "aizraujoša" attīstība, un daudzi cilvēki vēlas to izmantot. Vienkārši vēl ir daudz darāmā, meklējot pareizos risinājumus AI trūkumu novēršanai.

Jūs varat palīdzēt Ukrainai cīnīties pret krievu iebrucējiem. Labākais veids, kā to izdarīt, ir ziedot līdzekļus Ukrainas bruņotajiem spēkiem Savelife vai izmantojot oficiālo lapu NBU.

Interesanti arī:

• Ne viss, ko mēs saucam par AI, patiesībā ir mākslīgais intelekts. Lūk, kas jums jāzina
• Eksperti brīdina: drīz mākslīgais intelekts nozags intelektu