Meta otwiera program bug bounty dla Muse, nagroda do 300 000 dolarów. Testy robota ujawniają luki w bezpieczeństwie AI

Meta otworzyła publiczny program bug bounty dla agenta Muse 25 września, o czym poinformowała na blogu Meta AI Research. Program przewiduje nagrody do 300 000 dolarów za potwierdzone zgłoszenia, w tym do 130 000 dolarów za udane prompt injection, które wpływa na jednego użytkownika.

Muse to agent osobisty działający w izolowanym środowisku, które Meta nazywa „komórką”. To kontener systemd-nspawn z własnym systemem plików, wirtualnym interfejsem sieciowym, filtrowanymi wywołaniami systemowymi i ograniczonymi uprawnieniami jądra. Uprawnienia root wewnątrz komórki mapują się na zwykłego użytkownika hosta, więc root w kontenerze nie jest rootem systemu głównego. Meta wzmocniła Muse dzięki dogfoodingowi, agentic red teamingowi oraz błędom wykrytym przez badaczy bezpieczeństwa w zamkniętym programie bug bounty. Wpis Mety to najbardziej szczegółowy publiczny opis inżynierii bezpieczeństwa w tej serii materiałów. Ukazuje się jednak w momencie, gdy badania pokazują, jak trudno zweryfikować skuteczność takich zabezpieczeń.

27 września The Decoder napisał o systemie HomeBody, stworzonym przez badaczy ze Stanfordu i Caltech. Umożliwia on robotowi Unitree G1 samodzielne poruszanie się po nieznanej kuchni, sprzątanie i wyjmowanie przedmiotów z szuflad. HomeBody eliminuje typową, wytrenowaną warstwę sterowania między modelem językowym a robotem. Wymienialny model wizyjno-językowy, w tym przypadku GPT Astra, bezpośrednio wywołuje bibliotekę umiejętności: chwytanie, nawigację i otwieranie szuflad. Robot najpierw eksploruje pomieszczenie, buduje cyfrowego bliźniaka w Nvidia Isaac Sim i zapisuje obiekty oraz ich położenie w pamięci przestrzennej. Dzięki temu znajduje przedmioty, nawet gdy znikają z pola widzenia. Przy zadaniach typu „posprzątaj kuchnię” model językowy planuje każdy krok i sam koryguje błędy. The Decoder wskazał ograniczenia, takie jak opóźnienia Astry, przegrzewające się serwopalce i wysokie koszty obliczeniowe. Kod jest dostępny na GitHubie. Wcześniejsze benchmarki wykazały znacznie lepsze rozumowanie przestrzenne Astry, podczas gdy inne badania zwracały uwagę na problemy bezpieczeństwa przy sterowaniu robotem przez Astrę.

Tego samego dnia The Decoder poinformował, że Boris Power, szef działu badań stosowanych w OpenAI, stwierdził, że 80–90 procent badań firmy koncentruje się na GPT 7, GPT 8 i kolejnych modelach, ponieważ tam powstaje „większość wartości”. Aktualizacje w ramach jednej generacji, np. przejście z GPT 5.1 na 5.2, wynikają ze specjalistycznych danych treningowych, ale są celowo krótkoterminowymi zakładami, wyjaśnił Power. Głównym wyzwaniem dzisiejszych asystentów nazwał nie jakość modelu, lecz wdrożenie użytkownika. Dodał, że większość użytkowników ChatGPT nie wie, co mogą robić z AI.

Te wypowiedzi rzucają światło na lukę, wokół której krąży temat bezpieczeństwa w materiałach. Meta przyznaje, że Muse może i będzie popełniać błędy, a jej system zakłada, że agent może być atakowany. OpenAI twierdzi, że przełom przyniesie nowa generacja modeli. Żadna z tych deklaracji nie jest gwarancją. Prace nad HomeBody pokazują, że awarie mają wymiar zarówno fizyczny, jak i cyfrowy.

Tom's Hardware poinformował 27 września, że Flock zabiega o usunięcie mapy swoich kamer stworzonej przez badacza bezpieczeństwa. Joshua Michael odkrył lukę bez uwierzytelniania, która dawała mu token dostępu bez logowania, podaje The Intercept. Wykorzystał go do odpytywania ArcGIS, zewnętrznej warstwy mapowej używanej przez Flock, aby pobrać bazę urządzeń w listopadzie 2025. Powstała w ten sposób Flock Surveillance Map zawiera 335 701 lokalizacji kamer. Flock twierdzi, że jej platforma chmurowa nigdy nie padła ofiarą naruszenia danych. Michael powiedział The Intercept, że firma ogłosiła to dopiero po tym, jak pobrał bazę urządzeń.