Tisztességes algoritmusok titkos receptje

A nullaismeret-bizonyításokkal az AI-modellek elfogultságmentessége ellenőrizhető anélkül, hogy sérülne a felhasználók vagy a fejlesztők adatainak titkossága.

Mi az a nullaismeret-bizonyítás és miért fontos?

A nullaismeret-bizonyítás (angolul zero-knowledge proof, röviden ZKP) egy kriptográfiai technika, amely lehetővé teszi, hogy valaki bebizonyítsa egy állítás igazságát anélkül, hogy bármi mást felfedne. Ez különösen hasznos az olyan esetekben, ahol az adatok vagy az algoritmusok védelme kiemelten fontos — például mesterséges intelligenciánál. Ha egy cég azt állítja, hogy az AI-modellje nem elfogult, a nullaismeret-bizonyítás segítségével ezt valóban bizonyítani is tudja, anélkül, hogy nyilvánosságra hozná a modell működését vagy a tanításához használt adatokat. Ez új utat nyit a modellek auditálásában és hitelesítésében. Ráadásul ezzel egyidejűleg teljesülhet a felhasználók adatvédelme is -írja a Cointelegraph.com.

AI és elfogultság: egy régóta fennálló probléma

A mesterséges intelligencia (AI) és a gépi tanulás (ML) rendszerei sokszor tartalmaznak beépült, rejtett torzításokat. Ezek a torzítások diszkriminatív döntésekhez vezethetnek, például banki hitelbírálatnál vagy állásinterjúkat szimuláló rendszereknél. Egy gyakori példa, hogy a modell hátrányosan ítéli meg azokat, akik egy bizonyos közösség tagjai, pusztán a statisztikai összefüggések miatt. Más esetekben a rendszer „túlkompenzál”, például történelmi ábrázolásokban, ahol a valódiság helyett a „méltányosság” kerül előtérbe. Az ilyen esetek egyaránt rombolják az AI iránti bizalmat. A probléma nemcsak technikai, hanem jogi és társadalmi is, hiszen az AI-nak meg kell felelnie például az amerikai Polgári Jogi Törvénynek (Civil Rights Act of 1964).

ZKML: az átlátható, mégis titkos gépi tanulás

A ZKML (zero knowledge machine learning) lényege, hogy a nullaismeret-bizonyítást kombináljuk gépi tanulással. Így lehet ellenőrizni egy AI-modell tulajdonságait anélkül, hogy felfednénk a modell kódját vagy az edzéshez használt adatokat. Ez különösen akkor fontos, ha a modell egy cég értékes szellemi tulajdona, vagy ha érzékeny személyes adatokon alapul. A ZKML segítségével nemcsak azt tudjuk igazolni, hogy egy modell „igazat mond”, hanem azt is, hogy nem diszkriminál különböző társadalmi csoportokat. A közelmúlt technológiai előrelépéseinek köszönhetően már skálázhatók ezek a bizonyítások akár tízmillió paraméteres modellekre is. Ezáltal a valós idejű, teljes körű és hiteles auditálás is elérhetővé vált.

A méltányosság három típusa: hogyan mérjük az igazságosságot?

Amikor egy AI-ról azt állítjuk, hogy „fair”, nem mindegy, mit értünk ez alatt. Három fő megközelítés van: demográfiai egyenlőség, esélyegyenlőség és prediktív egyenlőség. A demográfiai egyenlőség azt jelenti, hogy egy adott döntés valószínűsége minden csoport számára azonos (pl. nem vagy etnikum alapján). Az esélyegyenlőség ezzel szemben azt biztosítja, hogy ha két személy ugyanolyan képességű, azonos eséllyel kapjanak pozitív elbírálást. A prediktív egyenlőség pedig azt vizsgálja, hogy a modell azonos pontossággal jósol-e minden csoport számára. Ezek a mérőszámok segítenek objektíven megítélni a modellek igazságosságát. Ugyanakkor mindegyik más aspektust emel ki, így a választás kontextusfüggő.

A jövő szabványa: jogi elvárásból technológiai megoldás

Az elmúlt évben az Egyesült Államokban és több más országban is egyre több szabályozás született az AI-igazságosság témájában. A kormányzatok célja, hogy a lakosságot megvédjék a gépi tanulásból eredő hátrányos megkülönböztetéstől. Bár a politikai környezet változik, a hosszú távú trend az, hogy a modelleknek bizonyíthatóan méltányosnak kell lenniük. A nullaismeret-bizonyítások technológiai eszközt adnak ennek megvalósítására. Ezzel nemcsak a felhasználók kapnak nagyobb bizalmat az AI iránt, hanem a cégek is elkerülhetik a jogi és PR-kockázatokat. Ahogy az AI egyre nagyobb hatással van az életünkre —álláskeresés, hitelfelvétel vagy felsőoktatás—, a tisztesség nemcsak erkölcsi kérdés, hanem üzleti szükségszerűség is.

Hozzászólnál a témához? Véleményed elmondhatod Discord szerverünkön.

Regisztrálj a Bybitre! 10 $ bónusz + 30% kedvezmény a fee-ből.