Microsoft on pööranud oma tehisintellekti turvariski hindamise tööriista Counterfit avatud lähtekoodiga, võimaldades kõigil seda tööriista tasuta kasutada. Praegu saavad organisatsioonid kasutada Counterfiti turvariskide hindamise automatiseerimiseks, tagades, et nende kasutatav kaitse on nullist.
Microsoft töötas algselt välja Counterfiti kui sisemise tööriista, mis võimaldaks kiiresti hinnata tehisintellekti ja masinõppesüsteemide turvalisust. See alustas elu skriptide kogumikuna, enne kui see muudeti kiiresti üldiseks tehisintellektiautomaatikaks, mida operaator saab kasutada mitme tehisintellekti süsteemi korraga rünnamiseks.
Nüüd kasutab Microsoft oma tehisintellekti punase meeskonna operatsioonides regulaarselt Counterfitit. Kuna Counterfit on keskkonna, mudeli ja andmete agnostiline, saab tööriist täpse hinnangu anda ilma takistuseta.
Tööriist ise on mõeldud kasutamiseks turvatöötajatele. Counterfit kasutab laialdase toega sarnaseid töövooge teiste populaarsete punase meeskonna tööriistadega nagu Metasploit või PowerShell Empyre skriptimiseks, eellaaditud rünnakualgoritmid, haavatavuse skannimine, täpsem logimine ja muu, millele pääseb juurde käsurea kaudu.
Ka Counterfiti paremaks arendamiseks on Microsoft teinud palju koostööd turvaasjatundjate ja suurte organisatsioonidega. On Microsofti turvalisuse ajaveeb, Airbusi vanemteadur Matilda Rhode ütles:
Tehisintellekti kasutatakse üha enam tööstuses; on ülioluline vaadata selle tehnoloogia kindlustamist, eriti selleks, et mõista, kus saab probleemruumis realiseerida funktsiooniruumi rünnakuid. Avatud lähtekoodiga tööriistade väljaandmine selliselt organisatsioonilt nagu Microsoft turvatöötajatele hindamiseks tehisintellekti süsteemide turvalisus on nii teretulnud kui ka selge viide sellele, et tööstus võtab selle probleemi vastu tõsiselt.
Leiate avatud lähtekoodiga Microsofti Counterfit nende ametlikul GitHubil.
Seotud: Töö, mida te kunagi ei teadnud, tegi AI
Miks on võltsfit kasulik?
Isegi Microsofti suuruse ettevõtte jaoks ei ole tõhusate turuhinnangute täitmine lihtne, eriti kui need ettevõtted on tohutu Fortune 500 juhid, valitsused, mittetulundusühingud ja palju muud. Eelmises Microsofti uuringus leiti, et suur hulk ettevõtteid ei suutnud oma tehisintellekti süsteeme täpselt testida.
Leidsime, et 25 ettevõttest 28-st teatas, et neil pole oma tehisintellekti süsteemide turvamiseks õigeid tööriistu ja et turvaalased spetsialistid otsivad selles ruumis konkreetseid juhiseid.
Counterfit muudab nende hindamiste läbiviimise lihtsamaks, automatiseerides analüüsi- ja testimisprotsessi.
Seotud: Tehisintellekti tehnoloogia abil saate oma äri paremaks muuta
Lisaks hiljuti avaldatud Gartneri uuring loetles tehisintellekti turvalisuse kasutuselevõtu üheks olulisemaks turvameetmeks, mida ettevõte saab kaitse parandamiseks võtta. Samas uuringus märgiti, et "aastaks 2024 suudavad organisatsioonid, kes rakendavad spetsiaalset tehisintellekti riskijuhtimise kontrolli, edukalt vältida tehisintellekti negatiivseid tulemusi kaks korda sagedamini kui neid, kes seda ei tee".
Lühidalt, Counterfitist avatud lähtekoodiga tehisintellekti turvalisuse hindamise tööriist peaks aitama muuta maailma veidi turvalisemaks.
Kas teie järgmine viirusetõrjetellimus peab sisaldama tehisintellekti või on see lihtsalt järjekordne turvalisuse moesõna?
Loe edasi
- Turvalisus
- Tehnikauudised
- Avatud lähtekoodiga
- Küberturvalisus
Gavin on Windowsi ja Technology Explained nooremtoimetaja, Really Useful Podcasti regulaarne kaasautor ja oli MakeUseOfi krüptokeskse õe saidi Blocks Decoded toimetaja. Tal on Devoni mägedelt rüüstatud BA (Hons) kaasaegne kirjutamine digitaalsete kunstipraktikatega ning üle kümne aasta pikkune professionaalne kirjutamiskogemus. Ta naudib rikkalikult teed, lauamänge ja jalgpalli.
Telli meie uudiskiri
Liituge meie uudiskirjaga, kus leiate tehnilisi näpunäiteid, ülevaateid, tasuta e-raamatuid ja eksklusiivseid pakkumisi!
Veel üks samm !!!
Palun kinnitage oma e-posti aadress e-kirjas, mille teile just saatsime.
