Agent OpenAI 'zhakował' australijski portal rządowy

Agent OpenAI włamał się w czerwcu do australijskiej strony rządowej i uzyskał dostęp do prywatnych danych. Eksperci oceniają, że może to być pierwszy taki udokumentowany przypadek na świecie.

Premier Australii Anthony Albanese powiedział w środę w Nowym Jorku, że agent AI „przeniknął" do portalu statystycznego zawierającego „niewrażliwe" dane z publicznego systemu opieki zdrowotnej Medicare.

Albanese stwierdził, że odbył „bardzo szczerą rozmowę" z dyrektorem generalnym OpenAI Samem Altmanem, zarzucając firmie zbyt późne ujawnienie incydentu. Dodał, że sprawa może mieć „konsekwencje prawne".

OpenAI poinformowało, że dowiedziało się o naruszeniu dopiero w sierpniu podczas analizy „nieprawidłowej aktywności modelu". Firma przekazała informację australijskiej agencji rządowej drogą mailową 10 września.

Pięć dni później australijska agencja Services Australia przekazała sprawę do krajowego centrum cyberbezpieczeństwa. Następnie o incydencie poinformowano jednego z ministrów rządu oraz premiera.

Albanese powiedział, że rozmawiał z Samem Altmanem i wyraził „głębokie zaniepokojenie Australii tym incydentem", a także „rozczarowanie" tym, że firma przez wiele miesięcy nie ujawniła naruszenia oraz „sposobem, w jaki to zrobiła".

Premier Australii stwierdził, że Altman przyznał, iż w OpenAI wystąpiły „problemy z procedurami".

Albanese poinformował również, że krajowa agencja cyberbezpieczeństwa przeprowadzi „dochodzenie" mające ustalić, czy incydent mógł wpłynąć także na inne systemy rządowe.

Dodał, że dochodzenie ma również ocenić, czy sprawa powinna zostać przekazana policji. Zaznaczył przy tym, że „oczywiście będą konsekwencje prawne".

Opisując naruszenie, Albanese powiedział, że dotyczyło ono „publicznych i niepublicznych plików" znajdujących się w portalu Medicare Statistics Reporting Service, który zawiera „niewrażliwe" dane i statystyki.

Dodał, że incydent mógł również objąć trzy inne systemy rządowe: Australijski Instytut Zdrowia i Opieki Społecznej, Biuro Statystyk i Badań nad Przestępczością Nowej Południowej Walii oraz Departament Zdrowia stanu Wiktoria.

„Na obecnym etapie nic nie wskazuje na to, aby doszło do uzyskania dostępu do danych osobowych, jednak dochodzenie w tej sprawie nadal trwa," powiedział Albanese.

„Mimo to sytuacja jest oczywiście nie do przyjęcia," dodał.

OpenAI poinformowało w oświadczeniu: „Zidentyfikowaliśmy aktywność obejmującą kilka australijskich stron internetowych i usług rządowych, gdy nasze modele podczas wewnętrznej oceny próbowały wyszukiwać odpowiedzi oraz dostępne statystyki dotyczące Australii".

„W jej trakcie nasze modele podjęły działania, których nie zamierzaliśmy," dodano w oświadczeniu.

Albanese odmówił odpowiedzi na pytanie, czy poruszył tę sprawę w rozmowie z prezydentem USA Donaldem Trumpem podczas ich wtorkowego spotkania w Nowym Jorku, gdzie światowi przywódcy zgromadzili się na Zgromadzeniu Ogólnym ONZ.

Australia znalazła się w gronie 22 państw, które na początku tygodnia podpisały wspólne oświadczenie wzywające do wprowadzenia globalnego nadzoru oraz zabezpieczeń dotyczących rozwoju sztucznej inteligencji.

Eksperci ds. cyberbezpieczeństwa powiedzieli BBC, że ten incydent powinien być sygnałem ostrzegawczym dla regulatorów, ponieważ agenci AI stają się coraz powszechniej dostępni zarówno dla użytkowników indywidualnych, jak i firm.

Dr Hammond Pearce z University of NSW Institute for Cyber Security powiedział BBC, że choć jest to pierwszy znany przypadek, w którym agent AI z własnej inicjatywy naruszył zabezpieczenia instytucji rządowej, podobnych incydentów będzie więcej.

„Spodziewam się, że tego rodzaju ataki będą się powtarzać," powiedział. Dodał, że prawdopodobnie będą one „coraz poważniejsze i coraz częstsze".

„Mam nadzieję, że ten incydent będzie sygnałem alarmowym dla rządów na całym świecie," dodał.

Na początku tego roku OpenAI ujawniło, że grupa testowanych agentów AI wymknęła się mechanizmom kontroli i potajemnie współpracowała przy próbie włamania do firmy technologicznej Hugging Face.

W tym roku ujawniono także inne przypadki niepożądanych działań sztucznej inteligencji. W jednym z nich cyfrowy asystent, bez otrzymania takiego polecenia, usunął osobę z listy oczekujących na zajęcia pilatesu, aby zwolnić miejsce dla mężczyzny z Australii.

Także szefowie firm rozwijających sztuczną inteligencję, w tym Sam Altman z OpenAI, Dario Amodei z Anthropic i Elon Musk, ostrzegali, że tempo rozwoju AI może stwarzać zagrożenia dla ludzkości i wymaga odpowiednich ograniczeń.

Jednocześnie Stany Zjednoczone i Chiny, rywalizujące o dominację w dziedzinie sztucznej inteligencji, sprzeciwiają się bardziej rygorystycznym regulacjom. Oba kraje dążą do wykorzystania potencjalnych korzyści gospodarczych i technologicznych związanych z AI, jednocześnie bagatelizując część obaw dotyczących bezpieczeństwa.

Ten tekst został napisany i sprawdzony przez dziennikarzy BBC. Przy tłumaczeniu zostały użyte narzędzia AI, jako część projektu pilotażowego.

Edycja: Julita Waleskiewicz