Vágólapra másolva!

Egy OpenAI által fejlesztett mesterségesintelligencia-ügynök nyilvános és nem nyilvános információkhoz is hozzáfért ausztrál kormányzati rendszerekben. Anthony Albanese ausztrál miniszterelnök elfogadhatatlannak nevezte a történteket, és Sam Altmannel, az OpenAI vezérigazgatójával is beszélt az ügyről.

Az eset júniusban történt, amikor az MI-ügynök egy belső értékelés keretében Ausztráliával kapcsolatos egészségügyi statisztikákat és más adatokat keresett. Az OpenAI közlése szerint eközben több ausztrál kormányzati weboldalt és szolgáltatást is elért, és olyan műveleteket hajtott végre, amelyeket a vállalat nem szándékozott.

Az érintett információk között az ausztrál Medicare egészségbiztosítási rendszerhez kapcsolódó, nyilvánosan nem hozzáférhető adatok is voltak. Az OpenAI ugyanakkor azt közölte, hogy nem talált bizonyítékot arra, hogy az ügynök betegek adataihoz hozzáfért volna.

A vállalat augusztusban, a modellek nem megfelelő működését vizsgáló átfogó felülvizsgálat során szerzett tudomást a lehetséges incidensről. Az ausztrál hatóságokat azonban csak szeptemberben értesítette.

Az OpenAI szeptember 10-én a Services Australia általános tájékoztatási e-mail-címére küldött üzenetet a történtekről. A kormányzati ügynökség szeptember 15-én továbbította az ügyet az Ausztrál Kiberbiztonsági Központnak (Australian Cyber Security Centre), majd néhány nappal később Katy Gallagher közszolgálati minisztert is tájékoztatták.

Anthony Albanese hivatala szeptember 19-én vagy 20-án értesült az esetről, a miniszterelnök pedig szeptember 23-án, New Yorkban hozta nyilvánosságra a történteket.

Albanese közölte, hogy beszélt Sam Altmannel, és kifejezte Ausztrália komoly aggodalmát. A miniszterelnök szerint elfogadhatatlan, hogy a vállalatnak ilyen sok időbe telt a kormány értesítése, és azzal sem volt elégedett, ahogyan az OpenAI végül jelezte az incidenst.

Az eddig ismert információk alapján az események időrendje a következő:

• Június 18. – Az OpenAI MI-ügynöke nyilvános és nem nyilvános információkhoz is hozzáfért egy ausztrál kormányzati rendszerben.
• Augusztus – Az OpenAI egy szélesebb körű belső felülvizsgálat során észlelte a lehetséges biztonsági incidenst. A pontos időpontot nem közölték.
• Szeptember 10. – A vállalat e-mailben értesítette a Services Australiát, az üzenetet azonban az ügynökség általános tájékoztatási címére küldték.
• Szeptember 15. – A Services Australia továbbította az ügyet az Australian Cyber Security Centre-nek. Néhány nappal később az illetékes minisztert is értesítették.
• Szeptember 19–20. – Anthony Albanese miniszterelnöki hivatala tudomást szerzett az esetről.
• Szeptember 23. – Albanese New Yorkban nyilvánosságra hozta az incidenst.

Albanese közölte, hogy egyeztetett Victoria és Új-Dél-Wales vezetőivel is, akik részletes kiberbiztonsági tájékoztatást kapnak az ügyről.

Richard Marles ügyvezető miniszterelnök hangsúlyozta, hogy Ausztrália legfontosabb nemzetbiztonsági információit jóval erősebb védelem alatt tartják. A most érintett adatok védelmét egy „kerítéshez”, a legérzékenyebb információkét pedig egy „erődhöz” hasonlította.

Marles szerint az MI-ügynök „átmászott a kerítésen”, de ezt nem szándékosan tette, és nem is kapott erre utasítást.

Az OpenAI közleménye szerint az esetet egy átfogó belső vizsgálat során azonosították. A vállalat azt közölte, hogy modelljei Ausztráliával kapcsolatos kérdésekre kerestek válaszokat és statisztikákat, amikor olyan műveleteket hajtottak végre, amelyeket nem szándékoztak.

A cég szerint az érintett szervezeteket értesítették, és technikai információkkal segítik a vizsgálatokat, valamint az esetleges biztonsági hiányosságok megszüntetését. Az OpenAI jelezte, hogy saját felülvizsgálata továbbra is folyamatban van.

A BBC-nek nyilatkozó ausztrál szakértők szerint ez lehet az első nyilvánosan ismert eset, amikor egy MI-ügynök ilyen módon fért hozzá kormányzati adatokhoz anélkül, hogy közvetlen emberi utasítást kapott volna erre.

Hammond Pearce, az Új-Dél-Walesi Egyetem Kiberbiztonsági Intézetének vezető oktatója szerint korábban is történtek olyan esetek, amikor MI-ügynökök váratlan műveleteket hajtottak végre, a mostani incidens azonban a kormányzati rendszerek érintettsége miatt különösen figyelemre méltó.

Rob Nicholls, a Sydney-i Egyetem MI-szabályozással foglalkozó kutatója az OpenAI értesítési gyakorlatát is szokatlannak nevezte. Szerinte egy ilyen ügyben indokolt lett volna közvetlenül az ausztrál kiberbiztonsági hatósághoz fordulni.

A szakértők szerint az eset azért is jelentős, mert az MI-ügynökök egyre összetettebb feladatokat képesek önállóan végrehajtani, ami új kiberbiztonsági kérdéseket vet fel.

A legfrissebb hírekért kövess minket az Origo Google News oldalán is!

Ne maradjon le az ORIGO cikkeiről, iratkozzon fel hírlevelünkre!