Apple zacieśnia zasady prywatności w macOS, bo agenci AI potrzebują pełnego dostępu do dysku

Apple ogranicza sposób, w jaki deweloperzy proszą o Full Disk Access w macOS. Firma napisała na blogu developerskim, że niektórzy programiści wykorzystują to uprawnienie tak, że odsłaniają pliki użytkowników, pocztę i historię przeglądania bez wyraźnej zgody.

Zmiana bezpośrednio dotyka obecnej fali narzędzi typu „personal agent”, które potrzebują głębokiej integracji z systemem, by zarządzać e-mailem czy organizować pliki. Przesunięcie następuje, gdy branża dyskutuje o architekturze tych asystentów. Apple skupia się na bezpieczeństwie, inni deweloperzy dążą do większej autonomii. Nathan Baschez, projektant produktu w Notion, w niedawnym eseju dla The Leverage krytykuje model „personal agent”. Uważa, że kierunek pracy nie polega na jednym agencie wykonującym wszystko, lecz na „fabrykach”: wspólnych systemach AI zaprojektowanych do obsługi konkretnych typów zadań w organizacji. Ten punkt widzenia sugeruje, że monolityczny agent, z którego Apple się obawia, może zniknąć na rzecz bardziej modularnej, wyspecjalizowanej infrastruktury.

Microsoft również zabiera głos w sprawie oceny tych agentów.

Wspólny raport z Hugging Face, opublikowany 3 października, opisuje „ThinkingBox”, benchmark oceniający agentów AI na podstawie rekordów w bazie danych, które zostawiają, a nie generowanego tekstu. Badanie wykazało, że w serii 121 680 prób 67,24% nieudanych działań nadal wydawało się kończyć czysto w oczach obserwatora, mimo że dane w tle były błędne. To podkreśla istotną lukę: agenci często brzmią pewnie, wykonując błędy, które ujawniają tylko sprawdziany stanu backendu. Liczby sugerują, że powierzchowne metryki sukcesu są niebezpiecznie mylące dla tych systemów.

Infrastruktura dla ery agentów

Gdy przedsiębiorstwa wdrażają te narzędzia, pojawia się nowa warstwa oprogramowania wspierająca je. Spawned, chmura dla agentów, wystartował, aby umożliwić systemom AI zaopatrywanie i zarządzanie prawdziwą infrastrukturą w AWS, GCP lub Azure. W przeciwieństwie do tradycyjnych konsol, Spawned jest zaprojektowany do obsługi przez agentów, oferując deklaratywny framework, który zapobiega „halucynowanym komponentom” i ucieczce kosztów w chmurze.

Platforma podkreśla, że zasoby są eksportowalne i kompatybilne z Terraformem, co zapewnia, że firmy nie są zamykane u nowego dostawcy tylko dlatego, że ich AI go używa. Obawy o bezpieczeństwo wykraczają poza lokalne uprawnienia do tożsamości sieciowej. AgentID, usługa od AgentMail, proponuje, aby agenci mieli własne cyfrowe tożsamości, zamiast pożyczać danych logowania użytkowników. Gdy agent używa logowania człowieka, aplikacja nie może odróżnić osoby od bota.

Jeśli agent zachowa się źle, jedynym sposobem, by go zatrzymać, jest zmiana hasła użytkownika, co blokuje też człowieka. AgentID daje agentowi własną skrzynkę i klucz logowania, pozwalając właścicielowi cofnąć dostęp bez wpływu na jego prywatne konto. Złożoność zarządzania tymi systemami komplikuje dodatkowo „agent drift”. Przewodnik opublikowany 4 października wyjaśnia, że zachowanie agenta może się zmieniać bez aktualizacji kodu. Dzieje się tak, gdy podstawowy model, narzędzia lub źródła danych ewoluują. Ponieważ agenci działają w systemie systemów, zmiana biblioteki zależności lub kontrole bezpieczeństwa dostawcy modelu mogą zmienić wyjście agenta. Oznacza to, że tradycyjne zarządzanie wydania jest niewystarczające; zespoły muszą monitorować cały ekosystem nieprzerwanie. Dla deweloperów budujących tych agentów, narzędzia stają się bardziej wyspecjalizowane. Kimchi, platforma agentów kodujących, egzekwuje twarde limity budżetowe i zapewnia zero egressu danych modelu, trzymając kod i prompty w granicach firmy. Podobnie, Cosh oferuje agenta terminalowego opartego na Rust, który unika obcinania kontekstu, częstego problemu w długich sesjach.

Te narzędzia odzwierciedlają rosnący konsensus, że autonomia musi iść w parze ze ścisłymi operacyjnymi barierami. Interwencja Apple stanowi przypomnienie, że wraz ze wzrostem możliwości agentów AI, ryzyka związane z ich dostępem do danych osobowych będą rosnąć znacząco. Firma nie opisała szczegółowych technicznych mechanizmów nowych kontroli, ale podkreśliła, że przyznawanie tak „nadzwyczajnego” dostępu będzie wymagało bardzo wyraźnej akcji użytkownika. Gdy branża rywalizuje w budowaniu nowej paradygmatu, napięcie między autonomią a prywatnością staje się definiującym ograniczeniem.