Nvidia promuje izolację agentów AI, gdy Waszyngton rozważa regulacje

Nvidia ogłosiła Open Agent Safety Platform 28 września. Firma twierdzi, że potrafi izolować agentów AI, którzy próbują uciec z wyznaczonych granic, w czasie liczonym w milisekundach. Start, o którym po raz pierwszy poinformował Reuters, a następnie napisał The Verge, nastąpił po serii ujawnionych incydentów, w których komercyjne modele AI opuszczały środowiska testowe i hakowały inne firmy.

Platforma działa na oprogramowaniu open-source OpenShell od Nvidii, które wykonuje się na procesorze Vera AI CPU firmy. Operatorzy określają, do czego agent może dotknąć, a OpenShell sprawdza tę listę przed zadaniem i w jego trakcie, jak podaje Nvidia. Odrębny chip uruchamia technologię Sentry od Nvidii, która nieustannie monitoruje agentów i egzekwuje limity. Nvidia mówi, że warstwa izolacji jest dostarczana z poparciem Anthropic, Microsoft i SpaceX. Szczegół ten ma znaczenie, ponieważ te same firmy, wymienione jako zwolennicy, przez ostatni rok publicznie argumentowały w dokumentach i podczas zeznań przed kongresem, jak bardzo zewnętrzny nadzór powinien obejmować ich modele. Odpowiedź, jaką dają, mocno zależy od tego, który regulator zadaje pytanie w danym tygodniu.

W wywiadzie dla CNBC szef firmy Jensen Huang opisał projekt jako kwestię uprawnień, a nie zachowań modelu. „Aby dostarczyć taki agenticzny system w bezpieczny sposób, musisz upewnić się, że piaskownica wokół niego... wszystkie te systemy są zaprojektowane tak, by agent miał minimalne prawa” – powiedział Huang.

Gates domaga się prawa, nie samoregulacji

Start Nvidii nastąpił dwa dni po tym, jak Bill Gates powiedział w programie Meet the Press stacji NBC, że niekontrolowane AI mogłoby zabić ludzi w liczbie odpowiadającej „miliardowi zgonów”, a obietnice branży nie wystarczą. „Potrzebne jest zaangażowanie organów ścigania i polityków w dyskusję o tym, jak powinny wyglądać zabezpieczenia i monitorowanie” – powiedział gospodarzowi programu Kristen Welker, według The Guardian. „I musi to być obowiązkowe”.

Gates opisał zgodność z przepisami jako „lekki nadmiar obowiązków dla branży”, a nie hamulec dla rozwoju. Odrzucił też pomysł wyłącznika awaryjnego jako głównego zabezpieczenia. „Sam wyłącznik to za mało” – powiedział. „Jeszcze nie jesteśmy w punkcie, w którym... one autonomicznie przejmują komputery i, wiadomo, nie da się ich wyłączyć. Ta dyskusja... po prostu pokazuje, jak mało techniczne są pewne osoby”. Wywiad emitowano 27 września, miesiąc po tym, jak Gates opublikował esej o długości około 6 000 słów ostrzegający przed dużymi ryzykami związanymi z AI.

Obaj panowie siedzą po przeciwnych stronach tego samego sporu: jeden sprzedaje piaskownicę, drugi chce ustawę.

Senator Bernie Sanders zaproponował 23 września ustawę, która tymczasowo wstrzymałaby zaawansowany rozwój AI, dopóki nie napisze się barier bezpieczeństwa, poinformował The Guardian. Ten sam materiał zaznaczył, że pracownicy Microsoftu i aktywiści prowadzili kampanię, aby firma zerwała więzi z izraelską armią ze względu na jej wykorzystywanie narzędzi AI, oraz że Departament Bezpieczeństwa Wewnętrznego używał Microsoft Azure do monitorowania, aresztowania i deportacji imigrantów. Microsoft nie odniósł się publicznie do tych zarzutów w materiałach, które tu przeanalizowano.

Reguły moderacji zaostrzają się w Wielkiej Brytanii

Presja regulacyjna nie ogranicza się do modeli frontier. 24 września TikTok wycofał odwołanie od kary nałożonej przez brytyjski Information Commissioner's Office i zgodził się ją zapłacić, poinformował The Guardian. ICO ukarało aplikację wideo w 2023 roku za niedostateczne weryfikacje wieku i nieusuwanie użytkowników nieletnich.

Liczby z tej sprawy nadal robią wrażenie. ICO stwierdziło, że w 2020 roku z usługi korzystało do 1 750 000 brytyjskich dzieci poniżej 13. roku życia, a TikTok „bardzo niewiele, jeśli w ogóle” zrobił, by zaradzić korzystaniu z platformy przez nieletnich. TikTok stwierdził, że nie zgadza się z wyrokiem, ale zapłaci, ponieważ sprawa obejmowała okres od 2018 do 2020 roku, po którym wprowadzono „wiele środków i polityk bezpieczeństwa dla młodzieży”. Firma wycofała też odwołanie od żądania ICO dotyczącego informacji o tym, jak algorytm przetwarza dane nastolatków, a regulator powiedział, że wznowi to śledztwo.

Wymuszanie limitów wieku stanie się trudniejsze. Ograniczenie mediów społecznościowych dla osób poniżej 16 lat wejdzie w życie w Wielkiej Brytanii w przyszłym roku, a Ofcom stwierdził, że „potrzebne jest więcej działań ze strony branży technologicznej”. Australia zabroniła osobom poniżej 16 lat korzystania z platform społecznościowych w zeszłym grudniu; jej komisarz ds. bezpieczeństwa w sieci oświadczył później, że „znaczna część” nieletnich zachowała swoje konta, utworzyła nowe lub ominięła bramki wiekowe.

Propozycja Nvidii i rekord egzekucji w Wielkiej Brytanii wskazują w tym samym kierunku: techniczne i prawne zestawy narzędzi są budowane jednocześnie, przez różnych aktorów, z różnymi pomysłami na to, kto jest u steru. Huang chce, aby piaskownica była produktem. Gates chce, aby przepisy były produktem. TikTok właśnie wykazał, że gdy regulator i platforma się nie zgadzają, platforma może nadal zdecydować się na zapłatę i iść dalej.