Kuidas häkkerid oma rünnakutes generatiivset tehisintellekti kasutavad ja mida me saame selle vastu teha

Generatiivne tehisintellekt (AI) on viimasel ajal tähelepanu keskpunktis olnud. Tehisintellektil töötav vestlusbot ChatGPT ja muud loomuliku keele töötlemise toetatud süsteemid, nagu VALL-E, on toonud generatiivse AI laiema avalikkuse ette ning vallandanud selle eelised ja kahjulikud mõjud.

Üks generatiivse tehisintellektiga seotud põhimuresid on asjaolu, et seda saab kasutada pahatahtlike ärakasutamiste uuendamiseks ja keerukamate küberrünnakute leidmiseks. Niisiis, kuidas kasutavad häkkerid oma rünnakutes generatiivset AI-d ja mida see küberjulgeoleku tuleviku jaoks tähendab?

Mis on generatiivne AI ja kuidas see töötab?

Nagu nimigi viitab, on generatiivne AI tüüp AI, mis on võimeline looma uut sisu – pilte, teksti, heli ja sünteetilisi andmeid.

Üks kuulus näide on ChatGPT, tehisintellektil töötav vestlusbot, millega saate pidada inimlikke vestlusi ja hankige suurepäraseid filmisoovitusi – see tähendab, kui te ei suuda välja mõelda sisukamat missiooni ChatGPT saatmiseks peal.

Anname teile idee või kaks – võite paluge ChatGPT-l kõik need keerulised meilid teie eest kirjutada, kasutada ChatGPT kui tõlketööriist, ja isegi muutke ChatGPT oma tervisliku toitumise planeerimise assistendiks. Kokkuvõttes suudab see vestlusbot mõne sekundiga välja mõelda näiliselt uue, veenva sisu ja esitada selle poliitiliselt korrektselt.

Kuid generatiivne tehisintellekt ei saa veel olla loov viisil, nagu inimene saab. Selle põhjuseks on asjaolu, et see kasutab kohutava hulga andmete töötlemiseks ja kohandatud väljundite genereerimiseks järelevalveta ja pooljärelevalvega masinõppe algoritme.

Näiteks kui soovite tellida Picasso-laadse maali generatiivselt tehisintellektilt, nagu DALL-E 2, peate sisestama teie kirjeldus määratud väljale – ütleme "Picasso Guernica, kuid kassipoegadega" – ja jääge paar sekundit. Selle aja jooksul rakendab AI kõiki varem õpitud kunstniku stiili spetsiifilisi jooni, lisage kassipojad hea mõõdu järgi ja leidke midagi originaalset – saime selle pildi, mida näete veidi eespool.

Kuidas häkkerid oma rünnakutes generatiivset tehisintellekti kasutavad?

Pahasid on alati köitnud head algoritmid. Seega pole üllatav, et nad kasutavad generatiivset AI-d oma rünnakute käivitamiseks. Kasutades ML-meetodeid, nagu tugevdav õpe ja generatiivsed võistlevad võrgustikud, küberkurjategijad võivad tulla välja uute, keerukamate küberrünnakutega, mis võivad standarditest läbi murda küberkaitse.

Üks näide sellest perverssusest on OpenAI tipptasemel vestlusbot, as Küberkurjategijad kasutavad ChatGPT-d pahavara kirjutamiseks. Alguses tundus ChatGPT lõbus ja mänguline, kuid nüüd on see paljastatud kui üks peamisi turva- ja privaatsusohte. Kui teile meeldib ChatGPT-ga vestelda, on mõistlik jälgida mida küberkurjategijad saaksid ChatGPT-ga teha.

Lühidalt öeldes on ChatGPT ja muud generatiivsed AI tööriistad muutnud küberkurjategijate elu lihtsamaks ja turvameeskondade jaoks raskemaks. Mõned viisid, kuidas küberohtude osalised kasutavad oma rünnakutes tehisintellekti, on järgmised:

• Parema ja keerukama pahavara loomine: Häkkerite käes saab generatiivset AI-d kasutada raskesti tuvastatavate pahavara tüvede genereerimiseks ja rünnakute sooritamiseks. Koos tehisintellekti mudelitega võib pahavara varjata oma kavatsust, kuni see täidab oma halva eesmärgi.
• AI-toega isikupärastatud andmepüügimeilide kirjutamine: Generatiivse AI abil pole andmepüügimeilidel enam pettuse tunnusmärke, nagu halb õigekiri, halb grammatika ja konteksti puudumine. Lisaks saavad AI-ga nagu ChatGPT ohutegijad käivitada andmepüügirünnakuid enneolematu kiiruse ja ulatusega.
• Sügavate võltsandmete genereerimine: kuna see võib luua veenvaid inimtegevuse imitatsioone, nagu kirjutamine, kõne ja pildid – generatiivset tehisintellekti saab kasutada sellistes pettustes nagu identiteedivargus, finantspettus ja desinformatsioon.
• CAPTCHA-de purustamine ja parooli äraarvamine: CAPTCHA-st saavad nüüd häkkerid mööda hiilida, mida saidid ja võrgud kasutavad volitamata juurdepääsu otsivate robotite eemaldamiseks. ML-i kasutades saavad nad täita ka muid korduvaid ülesandeid, nagu parooli arvamine ja jõhkra jõuga rünnakud.
• ML saboteerimine küberohtude tuvastamisel: Kui turvasüsteem on liiga paljude valepositiivsete tulemustega üle koormatud, võib häkker selle tõelise küberrünnakuga üllatada.

Kuidas saame võidelda generatiivse AI ohuga?

Kuna küberrünnakud muutuvad keerukamaks ja nende tagajärjed tõsisemaks, muutuvad traditsioonilised turvasüsteemid möödunud ajastu asjadeks. Kuna tehisintellekt suudab varasematest rünnakutest õppida ja kohaneda, on see hindamatu väärtus nii küberkurjategijate kui ka nende vastaste jaoks.

Tehisintellekti kasutamisel küberjulgeolekus on mõned tõsised eelised, nagu kiirem ohu tuvastamine, ohu tuvastamine ja ohule reageerimine – seega tundub, et tulega võitlemine on õige lahendus. Enne kui küberkurjategijad õpivad, kuidas anda hävitavaid lööke üksikisikutele ja ettevõtetele kogu maailmas maailmas peavad küberturvalisuse spetsialistid õpetama oma tehisintellektiga töötavaid süsteeme end nende eest kaitsma. rünnakud.

Kuid kõik ei sõltu AI-st. Lõppude lõpuks saame tugevdada ka oma turvalisust ja privaatsust läbiproovitud meetoditega, nagu mitmefaktoriline autentimine (MFA), biomeetriline tehnoloogia, paroolihalduri kasutamine, kõige paremini krüpteeritud koostöötööriistad, ja hea, vana terve mõistus.

Võitlus AI-ga AI-ga

Niisiis, kas oleme lähitulevikus tunnistajaks tehisintellekti küberjulgeoleku sõdadele? No loodame, et mitte. Kuna aga tehisintellekt areneb edasi ja muutub kättesaadavaks kõigile – nii küberkurjategijatele kui ka küberjulgeolekuspetsialistidele – muutub tehisintellekti ja ML roll lähiaastatel suuremaks.