Technológia & MI · Rövidhír

Rejtett modellmódosítást vizsgált a Microsoft Research

A Lazarus kutatás az MI-ügynök alapjául szolgáló modell sértetlenségére irányítja a figyelmet. Magyar cégeknél ez a beszerzés és a hozzáférések kérdését is érinti.

November 10-én modellmódosításon alapuló hátsókapu-kutatást ismertetett a Microsoft Research. A vállalat szerint a Lazarus kísérletben módosított modell normálisan működhet a rejtett kiváltó feltételig; ez a magyar cégek számára az MI-ügynökök beszerzési és jogosultsági kockázatait teszi kézzelfoghatóvá.

A kutatási bemutató alapján nem állítunk megtörtént vállalati betörést. A cikk tárgya a bemutatott támadási lehetőség, nem egy azonosított magyar sértett vagy incidens.

A gyakorlati vállalati kérdés az, hogy ki tudja összekapcsolni a beszerzett modellt a ténylegesen használt változattal. Egy jól sikerült próbabeszélgetés más bizonyítékot ad, mint a szállítási út és a változatok dokumentálása. A bevezetési jegyzőkönyvben ezért hasznos külön soron kezelni a működési teszt eredményét és a modell eredetét igazoló információkat.

A hozzáférések áttekintésénél a végrehajtható műveletekből érdemes kiindulni: milyen adatot olvashat vagy módosíthat az adott rendszer? Ez konkrétabb döntési alap, mint egy általános biztonságos címke.

A nyelvi adatokról a Google Language Explorer bemutatójában, az üzleti válaszfeldolgozásról a Google Űrlapok új funkciójánál írtunk. A következő érdemi fejlemény a kutatás független megismétlése és a védekezési módszerek dokumentált vizsgálata lehet.

Kapcsolódó cikkek

Sütik és adatvédelem

Az oldal működéséhez szükséges sütiket és helyi tárolást mindig használjuk. Statisztikai mérést csak a hozzájárulásoddal végzünk; ezt bármikor visszavonhatod a lábléc „Sütibeállítások” linkjén. Részletek: Süti tájékoztató, Adatkezelési tájékoztató.