Apple zacieśnia ochronę prywatności w macOS, gdy agenci AI proszą o dostęp do całego dysku

Apple ostrzegło 2 października, że niektórzy deweloperzy wykorzystują ustawienie Full Disk Access w sposób, który może narażać użytkowników na ryzyko. Ujawniają pliki, pocztę, wiadomości i historię przeglądania bez ich wiedzy.

Luka w prywatności

Zdaniem 9to5Mac, Apple wyjaśniło, że Full Disk Access został pierwotnie zaprojektowany, aby umożliwić poprawne działanie aplikacji do tworzenia kopii zapasowych, ale teraz omija większość kontrolek prywatności. Firma zauważyła, że wraz ze wzrostem możliwości agentów AI ryzyko związane z tym poziomem dostępu będzie znacząco rosło. Wkrótce użytkownicy będą musieli podejmować bardzo wyraźne działania, aby nadać aplikacji ten nadzwyczajny poziom dostępu. To odchodzi od pasywnych modeli uprawnien, które definiowały macOS przez ostatnią dekadę, sygnalizując przejście do aktywnych, szczegółowych zgód użytkownika na dane wrażliwe.

Ten ruch następuje w obliczu szybkiego rozwoju narzędzi takich jak Meta Muse czy Dots od OpenAI. To stale aktywne agenty AI, które wymagają rozległego dostępu do danych osobistych. 9to5Mac informuje, że pojawiły się już niepokojące historie dotyczące Meta Muse, podkreślając wymierne zagrożenia szerokiego zakresu uprawnień agentów na urządzeniach osobistych.

Zmiany w narzędziach dla przedsiębiorstw

Po stronie konsumenckiej Apple naprawia luki, a deweloperzy korporacyjni szybko budują infrastrukturę do zarządzania zachowaniem i kosztami agentów. Kimchi, platforma agentów kodujących oparta na Pi, wymusza twarde limity budżetowe i przypisywanie wydatków w czasie rzeczywistym, zanim żądanie trafi do modelu. To zapewnia, że dane modelu pozostają w granicach organizacyjnych i zapobiega niekontrolowanym wydatkom.

Microsoft i Hugging Face opublikowali ThinkingBox, benchmark, który ocenia agentów AI na podstawie śladów, jakie zostawiają, a nie wygenerowanych zdań. W ablacji zbioru wspólnego obejmującego 121 680 ważnych prób na 12 modelach LLM, 79 853 próby nie przeszły testów wykonalności. Spośród tych porażek 67,24% zakończyło się czysto i nie zgłoszono ostatecznego błędu narzędzia, a jednak testy wykonalności wykryły błędne wartości pól w 77,61% z nich. To pokazuje, że agenci mogą brzmieć poprawnie, pozostawiając błędny stan w bazie danych, co jest krytycznym trybem awarii w systemach produkcyjnych.

Badacze bezpieczeństwa zidentyfikowali też nowe wektory manipulacji agentami. SC Media donosi, że naukowcy ominięli zabezpieczenia agentów AI, używając ofuscacji JavaScript. Ta technika pozwala ukryć złośliwy kod w treści internetowej, zwodząc agentów do wykonania niechcianych akcji. Wynik ten podkreśla potrzebę silnych warstw walidacji w wdrożeniach korporacyjnych agentów.

Tożsamość i nadzór

AgentMail promuje koncepcję nadania agentom AI własnej tożsamości, zamiast pożyczania im poświadczeń użytkownika. Zdaniem AgentID, przekazanie agentowi hasła użytkownika sprawia, że każda aplikacja myśli, że to użytkownik. Nadanie agentowi własnej tożsamości, z własną skrzynką i kluczem logowania, pozwala aplikacjom traktować agenta jako odrębnego podmiot, z użytkownikiem zarejestrowanym jako odpowiedzialny właściciel. To ogranicza zasięg szkód w przypadku wycieku poświadczeń.

Artykuł Emre Turana, „Oversight Has a Capacity”, twierdzi, że bramy zatwierdzania z udziałem człowieka nie wystarczają same w sobie. Badanie wykazało, że gdy recenzent jest modelowany jako zmęczony, zrealizowane bezpieczeństwo przyjmuje kształt odwróconego U w stosunku do stopy eskalacji. Więcej nadzoru ludzkiego może uczynić system mniej bezpiecznym, jeśli recenzent jest przytłoczony. Optymalna strona bezpieczeństwa eskaluje poniżej pełnej eskalacji, sugerując, że automatyczne wstępne filtrowanie jest niezbędne do ochrony uwagi człowieka.

Systemy projektowe też się zmieniają, by uwzględniać agentów. Luke Wroblewski zauważa, że gdy agenci piszą większość kodu, system projektowy staje się częścią warstwy sterowania AI. Plik AGENTS.md może instruować agentów AI do ponownego używania klas tematów i zmiennych CSS, zapewniając, że każda aktualizacja strony pozostaje zgodna z wytycznymi marki i deweloperskimi. To pozwala zespołom marketingowym, inżynieryjnym i produktowym aktualizować strony jednocześnie, nie niszcząc spójności projektowej.

Infrastruktura i kontekst

Spawned oferuje interfejs infrastruktury chmurowej zaprojektowany specjalnie dla agentów, pozwalając im alokować, skalować i operować zasobami w AWS, GCP lub Azure. Platforma zapewnia, że wdrożenia to prawdziwa infrastruktura chmurowa, eksportowalna i kompatybilna z Terraformem od początku. To daje przedsiębiorstwom kontrolę nad tym, co agenci budują w ich środowiskach chmurowych.

Dla deweloperów pracujących z agentami, narzędzia takie jak Nautilus pozwalają uruchamiać agentów kodujących z telefonu, złączając pracę na PC. To rozdzielenie inicjowania i przeglądu wykorzystuje przenośność urządzeń mobilnych do startu zadań i precyzję środowisk desktopowych do przeglądu kodu. Narzędzie działa na darmowej infrastrukturze chmurowej, nie wymagając karty kredytowej ani płatnej maszyny wirtualnej.

Wraz z rozprzestrzenianiem się tych narzędzi, nacisk przesuwa się z surowej mocy modelu na niezawodne wykonanie, bezpieczną tożsamość i zarządzalny nadzór. Przemysł przechodzi do modelu, w którym agenci są traktowani jako odrębni, odpowiedzialni aktorzy z rygorystycznymi granicami dostępu i działań.