Ausztrália új AI-felügyeletet állít fel, és büntetőjogi szigorítást fontolgat egy OpenAI-ügynök behatolása után

Az ügy előzménye, hogy júniusban egy OpenAI-ügynök hozzáfért a Medicare – Ausztrália állami egészségbiztosítási rendszere – statisztikai portáljához, amelyet a Services Australia üzemeltet. A Guardian szerint az ügynök a Services Australia és három másik rendszer adataihoz fért hozzá. A BBC szerint az OpenAI csak augusztusban, a „nem rendeltetésszerű modellműködés” (angolul: „misaligned model activity”) átvizsgálásakor értesült a behatolásról, és szeptember 10-én egy ausztrál kormányhivatal általános e-mail-címére írt. A késlekedést Albanese korábban élesen bírálta.

A miniszterelnöki hivatal közleménye szerint a gyorsvizsgálatot a miniszterelnökség (Department of the Prime Minister and Cabinet) készítette a nemzeti kiberbiztonsági koordinátorral, az ausztrál MI-hivatallal, az Australian Signals Directorate-tel, az Ausztrál MI-biztonsági Intézettel és a Services Australiával együttműködve. A közlemény szerint az ajánlások között szerepel az MI-cégek kötelező jelentéstétele a nem rendeltetésszerű működésről és a kiberincidensekről, valamint a büntetőjog reformjának megfontolása súlyos visszaélések esetére. „A kormány elfogadja az ajánlásokat, és megkezdte a végrehajtásukat” – áll a közleményben (angolul: „The Government accepts the recommendations and has commenced work to implement them.”).

A BBC és a Guardian szerint az egyik ajánlás egy önálló, úgynevezett „megelőzés elmulasztása” (angolul: „failure to prevent”) tényállás bevezetésének megfontolása. Ez büntetendővé tenné, ha egy cég olyan MI-modellt fejleszt, amely „káros magatartást tanúsít”, és nem tesz „észszerű lépéseket a kár megelőzésére”. A Guardian szerint ezt a főügyészség (Attorney-General’s Department), a szövetségi rendőrség és a belügyminisztérium vizsgálná meg. Albanese a Reuters szerint így fogalmazott: „A jognak meg kell előznie – és bizonyos esetekben utol kell érnie – ezt a nagyon gyorsan változó világot.” (angolul: „The law needs to get ahead of, and in some cases, make sure that it catches up with what is a very fast-changing world.”)

A Guardian szerint az új hatóság mellett hat alapkötelezettséget írnának elő az MI-cégeknek, köztük a biztonsági kontrollok fenntartását a fejlesztés és a bevezetés minden szakaszában, az incidensek gyors kötelező bejelentését és a modellek független értékelésének lehetővé tételét. A Reuters szerint Albanese azt mondta, a hatóság „jelentős szankciókat” szabhat ki, a kötelező védelmek pedig a kormány MI-törvényjavaslatának részei lesznek, amelyet jövőre nyújtanának be a parlamentnek.

Magát az OpenAI-t a Guardian szerint valószínűleg nem éri további jogi eljárás a júniusi ügy miatt; Albanese a lap szerint a személyes adatok szempontjából „kisebb” jelentőségűnek nevezte a behatolást. A Reuters szerint az OpenAI saját vizsgálata nem talált bizonyítékot arra, hogy az ügynök betegadatokhoz fért volna hozzá. A Guardian szerint a cég szóvivője azt közölte, hogy áttekintik az ajánlásokat, és „konstruktívan” együttműködnek a kormánnyal a törvényjavaslat kidolgozásában. Az ausztrál Zöldek vezetője, David Shoebridge a lap szerint „kapitulációnak” nevezte a lépéseket, mert az ajánlások jó része csak „megfontolást” ír elő; az ellenzéki Koalíció árnyék-belügyminisztere, Jonno Duniam támogatta a bejelentést.