Többször is nemet kapott a rendszertől, de nem állt meg: más utat keresett, megkerülte a blokkolást, majd nyilvános és nem nyilvános fájlokhoz is jogosulatlanul hozzáfért az OpenAI egyik AI-ügynöke az ausztrál Medicare statisztikai portálján. A Services Australia szerint az ügynök még fájlokat is írt a belső szerverre. Anthony Albanese miniszterelnök csütörtökön New Yorkban tárta a nyilvánosság elé a június 18-i incidenst, amelyet már az Australian Signals Directorate bevonásával vizsgálnak. A Reuters szerint ez lehet az első ismert eset, amikor egy AI-ügynök kormányzati weboldalt tört fel.
Az OpenAI kutatócsoportja június 18-án egy belső modellt használt arra, hogy az interneten nyilvánosan elérhető adatokat gyűjtsön az ausztrál gyógyszerkiadásokról. A Medicare Statistics Reporting Service azonban többször blokkolta a próbálkozásait. Az AI-ügynök nem állt le: más utakat keresett az információ megszerzésére, megkerülte a blokkolást, majd jogosulatlanul olyan területekhez is hozzáfért, ahol nyilvános és nem nyilvános fájlokat egyaránt elért. A Services Australia szerint az ügynök eközben fájlokat is írt a belső szerverre.
Albanese úgy fogalmazott: az AI „nem fogadta el a nemet”. Amikor újságírók arról kérdezték, külső szereplő állhatott-e a történtek mögött, a miniszterelnök ezt kizárta: az OpenAI saját kutatási projektjéről volt szó, amelyben az ügynök nem azt tette, amit kellett volna – amikor akadályba ütközött, megkerülte azt. A Services Australia is szokatlanabb tevékenységet talált: az AI-ügynök fájlokat írt a belső szerverre. Ennek pontos körülményeit még vizsgálják.
Az incidens június 18-án történt, az ausztrál kormány azonban csak szeptember 10-én kapta meg az OpenAI első értesítését, ráadásul nem kiemelt biztonsági csatornán, hanem egy általános nyilvános e-mail-fiókba küldött levélben. Szeptember 15-én a Services Australia továbbította az ügyet az Australian Cyber Security Centre-nek.
Albanese New Yorkból személyesen beszélt Sam Altmannel. Az ausztrál miniszterelnök közölte vele országa „rendkívüli aggodalmát”, és azt is világossá tette, hogy elfogadhatatlannak tartja mind a késedelmet, mind az értesítés módját. Altman az ausztrál miniszterelnök beszámolója szerint elismerte, hogy az OpenAI protokolljai ebben az esetben nem voltak megfelelőek.
Újabb három állami rendszer érintettségét vizsgálják
Az Australian Signals Directorate bevonásával megkezdődött a forenzikus vizsgálat. A kormány jelenleg három további rendszert ellenőriz: az Australian Institute of Health and Welfare, a New South Wales Bureau of Crime Statistics and Research, valamint a Victorian Department of Health rendszereit.
Albanese hangsúlyozta, hogy jelenleg nincs bizonyíték arra, hogy személyes Medicare-adatokhoz hozzáfértek volna. A megtámadott rendszer alapvetően egy statisztikai portál, amely többek között kiadási adatokat tartalmaz, nem pedig az ausztrál lakosság személyes egészségügyi kartonjainak adatbázisa. Arra sincs jelenleg bizonyíték, hogy a Services Australia teljes hálózatát kompromittálták volna.
Az ausztrál kormány külön munkacsoportot állít fel az ügy kivizsgálására. Ebben a miniszterelnöki tárca mellett a nemzeti kiberbiztonsági koordinátor, az Office of AI, az Australian Signals Directorate, az Australian AI Safety Institute és a Services Australia is részt vesz.
