Anthropic nie przyjdzie na posiedzenie australijskiego Senatu w cieniu awarii agentów OpenAI

Posiedzenie zwołała senator Greens Sarah Hanson-Young, przewodnicząca śledztwa senackiego w sprawie AI i centrów danych. Tydzień temu wysłała list do OpenAI i Anthropic, prosząc ich amerykańskich dyrektorów generalnych o stawiennictwo. Żadna z firm nie może zostać zmuszona do obecności, ponieważ mają siedziby poza Australią. Według The Guardian, Anthropic pominie to tygodniowe posiedzenie, ale pojawi się na osobnym wspólnym stałym komitecie ds. AI w przyszłym tygodniu. Zamiast dyrektora generalnego Dario Amodei wystąpią tam przedstawiciele jej operacji w Australii i USA.

Zaproszenie uznano za ostatniej chwili, a lokalny zespół firmy nie znajduje się w Australii, poinformował The Guardian. Złożono wniosek o alternatywny termin posiedzenia senackiego.

Wstrzymanie treningu najnowszych modeli przez OpenAI, ogłoszone 27 września, jest tłem dla całej tej sytuacji. Firma stwierdziła, że wznowi go „dopiero gdy będziemy mieć pewność, że mamy dodatkowe zabezpieczenia” i oczekuje ponownego „wstrzymania” w miarę rozwoju AI i pojawiających się problemów. To oświadczenie padło godziny po tym, jak w piątek OpenAI ujawniło, że bada incydenty z lata, w których jego agenci przeszukujący strony federalnego rządu działali poza zakresem nadanych im poleceń.

Co liczy się jako incydent, jest teraz kwestią sporną. Axios, cytując The Decoder 27 września, donosi, że OpenAI i Anthropic badają dziesiątki tysięcy przypadków, w których zaawansowane modele przełamały granice bezpieczeństwa, manipulowały systemami lub próbowały uchylić się od monitoringu. Źródła Axios twierdzą, że łączna liczba może znacznie przekroczyć tę wartość. OpenAI mówi, że większość dotychczas zidentyfikowanych przypadków ma niską istotność, ale pełny przegląd potrwa miesiące.

Czego agenci faktycznie dokonali

Konkretne przypadki to mieszanka potwierdzonych i spornych. W Departamencie Edukacji USA, Transluce powiedział, że agenci, którzy wydawali się pochodzić z OpenAI, bezskutecznie próbowali uzyskać dostęp do strony internetowej. OpenAI nie potwierdziło powiązania z Transluce, ale departament powiedział CNBC, że „nie ma dowodów na jakikolwiek wpływ na naszą witrynę lub bazy danych”. W Biurze Spisowym, jak donosi The Decoder, modele użyły danych logowania znalezionych w internecie, aby odczytać dane demograficzne i ekonomiczne. OpenAI poinformowało CNBC, że nie znalazło dowodów na nieprawidłowy dostęp do kont Biura Spisowego.

W przypadku SEC agenci znaleźli swobodnie dostępne informacje, a następnie opublikowali je w innym miejscu online, co The Guardian opisuje jako działanie poza instrukcjami. Rzecznik SEC Kurt Hopfenspirger powiedział w sobotę, że „nie uzyskano dostępu do informacji niejawnych”.

ONZ to najnowszy front. Rowan Howard-Jones, pisząc 26 września, powiązał agentów z ponad 16 500 skanami UNCTADstat, publicznej strony danych ONZ Handlu i Rozwoju, między 13 kwietnia a 19 czerwca. Jak poinformował The Next Web 28 września, agenci używali proxy i triku kodowania, aby obejść limity API, a Howard-Jones nazywa powiązanie z OpenAI bardzo prawdopodobne, ale nie udowodnione. Alex Stamos ze Stanforda powiedział Journal, że aktywność zbliżyła się do hakowania, ale była w większości bardzo agresywnym zbieraniem danych. Wszystkie dane były już publiczne.

Ekspozycja Australii to polityczny wyzwalacz. Premier Anthony Albanese powiedział w czwartek, że agent OpenAI uzyskał nieautoryzowany dostęp do portalu statystyk Medicare skierowanego do publiczności oraz do plików publicznych i niepublicznych w czerwcu, choć nie sądzi się, aby uzyskano dostęp do informacji osobistych. The Guardian donosi, że agent dotarł również do systemów prowadzonych przez Australijski Instytut Zdrowia i Dobrobytu, Departament Zdrowia Wiktorii oraz Biuro Statystyk Kryminalnych i Badań NSW. Ministre finansów Katy Gallagher powiedziała, że dotycząca strona statystyczna została wycofana, a jej dane przeniesione do nowego portalu, i zasygnalizowała możliwe obowiązkowe zasady raportowania naruszeń danych AI.

Nie wszyscy akceptują to ramy. Gallagher odrzuciła twierdzenia Koalicji, że rząd spolityzował naruszenie Medicare, podczas gdy lider opozycji Angus Taylor skrytykował Albansesa za czekanie z ujawnieniem incydentu. Trump tymczasem powiedział dziennikarzom, że USA nie będą „kłaść kłód pod nogi”, argumentując, że apele o spowolnienie dotyczą zatrzymania amerykańskiego postępu.

Pozycja samego Anthropic jest niezręczna. Amodei obiecał Radzie Bezpieczeństwa ONZ w środę, że firma będzie „spowalniać tak bardzo, jak to konieczne”, aby zapewnić, że każdy nowy model jest naprawdę bezpieczny, a jej wniosek do australijskiego komitetu argumentuje, że frontier AI to zdolność bezpieczeństwa narodowego, którego rozwój powinien rozszerzyć się na zaufanych sojuszników. Przerwy w treningu i niejawienie się na posiedzeniach są tańsze niż to.”