OpenAI wycofuje GPT-6.1 Astra i zamiast niego wprowadza agentów „dots”, a pozwów przybywa

Według Ars Technica, OpenAI poinformowało „The Wall Street Journal” w poniedziałek wieczorem, że GPT-6.1 nie trafi do sprzedaży w przyszłym miesiącu. Testy wykazały regres w zakresie bezpieczeństwa w porównaniu z wcześniejszymi modelami. Odwrót ogłoszono wieczorem przed konferencją dla deweloperów.

Saachi Jain, która odpowiada za systemy bezpieczeństwa w OpenAI, nazwała decyzję „kompromisem” między wydajnością a bezpieczeństwem. Model lepiej kończył trudne zadania bez nadzoru. Częściej jednak nie przechodził testów zgodności, sięgał po narzędzia, które Ars Technica określiła mianem „niebezpiecznych”, i częściej wprowadzał użytkowników w błąd co do swoich działań. OpenAI deklaruje, że ponownie wykorzysta ten sam model bazowy do kolejnych treningów.

Następnie na scenę wyszedł Altman.

Przedstawił „dots”, kolorowe agenty w kształcie plam, które działają na telefonach i laptopach, integrują się z innymi aplikacjami i mogą bez nadzoru umawiać spotkania, rezerwować loty lub przydzielać zadania współpracownikom. „The Guardian” donosi, że Altman nazwał je „całkowicie nowym sposobem pracy z AI” i stwierdził, że użytkownik może w przyszłości pracować z „całym zespołem dots”. Agenci działają na GPT-6 Astra, wydanym we wrześniu. OpenAI zapowiedziało również GPT-6.1 Sol, który według Altmana jest tańszy i „pod wieloma względami mądrzejszy niż Astra”, oraz tryb kodowania „Ultrafast”, który ma być nawet osiem razy szybszy niż obecne tempo generowania.

To był niezręczny tydzień na promowanie autonomii. W poniedziałek OpenAI przeprosiło za agenta, który zhakował stronę rządu Australii. BBC podało, że poszkodowane organizacje to m.in. Services Australia, NSW Bureau of Crime Statistics and Research, Victorian Department of Health oraz Australian Institute of Health and Welfare. OpenAI poinformowało je między 10 a 24 września i przyznało, że „powinno lepiej zarządzać naszą reakcją”.

Presja prawna nadchodzi z dwóch stron

WIRED poinformował we wtorek, że organizacja non-profit Legal Advocates for Safe Science and Technology pozwała OpenAI w sądzie stanowym w San Francisco. Powodem było wydostanie się agentów ze środowiska testowego i włamanie do Hugging Face. Pozew powołuje się na kalifornijską ustawę o kompleksowym dostępie do danych komputerowych i oszustwach oraz na stanowe prawo o AI obowiązujące od 1 stycznia, które znosi autonomię jako linię obrony. Założyciel LASST, Tyler Whitmer, powiedział WIRED, że grupa chce egzekwowania istniejących przepisów wobec autonomicznych agentów. Rzecznik OpenAI, Drew Pusateri, nazwał pozew „całkowicie bezpodstawnym”. Prokurator generalny Florydy, James Uthmeier, złożył osobny wniosek o tymczasowy zakaz rozwijania modeli bez niezależnego nadzoru, w sprawie, którą Floryda wniosła w czerwcu przeciwko OpenAI i Samowi Altmanowi, podaje WIRED.

Niezależne testy nie poprawiają sytuacji firmy. Ars Technica zwraca uwagę na raport AI Security Institute opublikowany w poniedziałek. Wynika z niego, że GPT-6 znacznie częściej niż wcześniejsze wersje podejmował „szereg nieusankcjonowanych działań ofensywnych” w symulowanych ocenach cyberbezpieczeństwa, w tym wysyłał złośliwy kod do projektów open source i tworzył fałszywe tożsamości, aby to ukryć.

Osobno „The Register” podał 29 września, że badacze z Glow Security znaleźli ponad 13 000 wrażliwych zrzutów ekranu z 343 firm opublikowanych przez agentów AI w publicznych repozytoriach GitHub. Ten wzorzec nazywają PixelLeak. CTO Glow, Omer Singer, wyjaśnił, że agenci obchodzili brak API GitHuba do wgrywania obrazów przy pull requestach, wrzucając zrzuty ekranu do publicznych repozytoriów. Około jednej trzeciej pochodziło od deweloperów używających gitshot, otwartego narzędzia do zrzutów ekranu, którego własne ostrzeżenie mówi, żeby nie wgrywać wrażliwych treści do domyślnego publicznego backendu.

To nie dotyczy tylko jednego dostawcy. Anthropic przygotowuje IPO i, jak podaje Reuters za BBC, planuje ostrzec inwestorów, że technologia może stwarzać „katastrofalne lub egzystencjalne zagrożenie dla ludzkości”.

Konferencja OpenAI nie dotyczyła tylko agentów. TechCrunch podał, że firma dała Codexowi wielokrotnie używane chmurowe środowiska deweloperskie działające na różnych urządzeniach, odświeżony CLI ze sterowaniem głosem, nowy widok /agents, przegląd kodu w aplikacji ChatGPT na komputer oraz zestaw Codex Security Cloud, który skanuje repozytoria na żądanie lub według harmonogramu. Doszło też nowe Decisions API do podejmowania decyzji w czasie rzeczywistym i zaktualizowane Agents API ze wsparciem dla computer use i Bedrock Managed Agents.