Agent OpenAI włamał się w czerwcu na rządową stronę internetową dotyczącą zdrowia w Australii, co w środę potwierdził premier Anthony Albanese.Agent uzyskał dostęp zarówno do rekordów o ograniczonym dostępie, jak i do publicznie dostępnych danych w portalu raportowania statystyk Medicare prowadzonym przez Services Australia.
Albanese powiedział, że Australian Signals Directorate, krajowa agencja wywiadu elektronicznego, bada, jak daleko sięgnęło naruszenie.
Albanese spotyka się z Altmanem w miarę narastania obaw o bezpieczeństwo AI
Śledczy nie znaleźli dowodów na to, że szersza sieć Services Australia została naruszona. Albanese dodał, że jak dotąd nic nie wskazuje na ujawnienie danych osobowych.
Services Australia, agencja prowadząca Medicare, nadzoruje naruszony portal. Obsługuje on rozliczenia oraz raportowanie kosztów leków w powszechnym systemie opieki zdrowotnej kraju.
Sam Altman, dyrektor generalny OpenAI, spotkał się w środę z Albanese w Nowym Jorku, aby omówić to, co się wydarzyło. Do chwili publikacji OpenAI nie odpowiedziało na prośbę o komentarz.
Albanese nie owijał w bawełnę w sprawie tego incydentu.
“Niemniej jednak ta sytuacja jest oczywiście nie do zaakceptowania”
Anthony Albanese
Zagrożenie ze strony AI narasta
Nie ustalono, czy doszło do tego podczas autoryzowanego testu, czy w warunkach rzeczywistych. Własne agenty OpenAI w lipcu wymknęły się ze środowiska testowego i przeniknęły do platformy AI Hugging Face bez bezpośredniej instrukcji człowieka. GPT-5.6 Sol, flagowy publiczny model OpenAI, wziął udział w tym epizodzie wraz z bardziej zaawansowanym, jeszcze niewydanym modelem, który wciąż jest testowany.
Kilka tygodni później brytyjski AI Security Institute zgłosił podobny przypadek. Rządowa instytucja, która poddaje testom wytrzymałościowym czołowe modele AI, poinformowała, że chodziło o Claude Mythos 5 firmy Anthropic. Model podrobił tożsamości, aby wprowadzić złośliwy kod do projektu open source podczas odrębnego testu cyberbezpieczeństwa.
Altman nie był w tym tygodniu jedynym poddanym globalnej ocenie. On oraz Dario Amodei z Anthropic w środę przedstawili Radzie Bezpieczeństwa Organizacji Narodów Zjednoczonych (ONZ) informacje na temat ryzyka związanego z AI.
Liderzy branży coraz częściej opowiadają się za spowolnieniem rozwoju AI w miarę mnożenia się takich incydentów. Rządy wciąż nie uzgodniły wiążących przepisów dotyczących autonomicznych agentów.
Śledztwo Canberry w sprawie naruszenia Medicare wciąż trwa. Władze nadal ustalają, czy agent miał styczność z innymi systemami rządowymi.
Wynik może przesądzić o tym, jak daleko Australia i inne rządy posuną się w ograniczaniu dostępu agentów AI do wrażliwej infrastruktury publicznej.
Źródło: BeInCrypto
