Microsoft Turns Counterfit AI Security Assessment Tool avoimen lähdekoodin

Microsoft on kääntänyt tekoälyn suojausriskien arviointityökalunsa, Counterfit, avoimen lähdekoodin, jolloin kuka tahansa voi alkaa käyttää työkalua ilmaiseksi. Tällä hetkellä organisaatiot voivat käyttää Counterfit-sovellusta tietoturvariskien arviointien automatisointiin varmistaen, että heidän käyttämänsä suojaus on ajan tasalla.

Microsoft kehitti alun perin Counterfitin sisäisenä työkaluna, joka pystyi nopeasti arvioimaan tekoälyn ja koneoppimisjärjestelmien turvallisuuden. Se aloitti elämän komentosarjojen kokoelmana, ennen kuin se muuttui nopeasti yleiseksi tekoälyautomaatioksi, jota operaattori voi käyttää "hyökkäykseen useisiin tekoälyjärjestelmiin" kerralla.

Microsoft käyttää nyt säännöllisesti Counterfitia ydintyökaluna tekoälyn punaisen ryhmän toiminnassa. Koska Counterfit on ympäristö-, malli- ja data-agnostinen, työkalu voi tuottaa tarkan arvioinnin ilman impedanssia.

Itse työkalu on suunniteltu turvallisuusammattilaisten käyttöön. Counterfit käyttää samanlaisia ​​työnkulkuja kuin muut suositut punaisten joukkueiden työkalut, kuten Metasploit tai PowerShell Empyre, laajalla tuella komentosarjoja, esiladattuja hyökkäysalgoritmeja, haavoittuvuuksien skannausta, edistyneitä kirjauksia ja muuta varten, joita käytetään komentoriviltä.

Microsoft on työskennellyt laajasti tietoturva-alan ammattilaisten ja suurten organisaatioiden kanssa myös Counterfitin kehittämiseksi. Sen Microsoft Security -blogiMatilda Rhode, vanhempi kyberturvallisuustutkija, Airbus, sanoi:

Tekoälyä käytetään yhä enemmän teollisuudessa; on elintärkeää katsoa eteenpäin tämän tekniikan turvaamisessa, erityisesti ymmärtääksesi, missä ominaisuusavaruushyökkäykset voidaan toteuttaa ongelmatilassa. Avoimen lähdekoodin työkalujen julkaisu organisaatiosta, kuten Microsoft, turvallisuuden ammattilaisten arvioitavaksi tekoälyjärjestelmien turvallisuus on sekä tervetullut että selkeä osoitus siitä, että teollisuus ottaa tämän ongelman vakavasti.

Löydät avoimen lähdekoodin Microsoft Counterfit heidän virallisella GitHubillaan.

Liittyvät: AI ei suorittanut työpaikkoja, joita et koskaan tiennyt

Miksi counterfit on hyödyllinen?

Jopa Microsoftin kokoiselle yritykselle tehokkaiden turvallisuusarviointien suorittaminen ei ole helppoa, varsinkin kun kyseiset yritykset ovat valtavia Fortune 500 -johtajia, hallituksia, voittoa tavoittelemattomia ja paljon muuta. Aikaisemmassa Microsoftin tutkimuksessa todettiin, että suuri joukko yrityksiä ei kyennyt testaamaan tekoälyjärjestelmiään tarkasti.

Huomasimme, että 25 yrityksestä 28 yrityksestä ilmoitti, että heillä ei ole oikeita työkaluja tekoälyjärjestelmiensä suojaamiseen ja että turvallisuusalan ammattilaiset etsivät tarkkoja ohjeita täältä.

Counterfit helpottaa näiden arviointien suorittamista automatisoimalla analyysin ja testauksen.

Liittyvät: Tapoja, joilla voit parantaa tekoälyä tekotekniikan avulla

Lisäksi äskettäin julkaistu Gartner-tutkimus mainitsi tekoälyturvallisuuden käyttöönoton yhdeksi tärkeimmistä turvatoimenpiteistä, joita yritys voi toteuttaa suojauksen parantamiseksi. Samassa tutkimuksessa todettiin, että "vuoteen 2024 mennessä organisaatiot, jotka toteuttavat omistettuja tekoälyn riskinhallintatoimenpiteitä, välttävät tekoälyn negatiiviset tulokset onnistuneesti kahdesti niin usein kuin ne, jotka eivät."

Lyhyesti sanottuna Counterfitistä tulee avoimen lähdekoodin tekoälyn turvallisuusarviointityökalu, jonka avulla maailmasta tulee hieman turvallisempi paikka.

Nämä 4 virustorjuntatyökalua käyttävät tekoälyä järjestelmän suojaamiseen

Täytyykö seuraavaan virustentorjuntaan sisällyttää tekoäly vai onko se vain yksi tietoturva-avainsana?

Lue seuraava

Kirjailijasta