Nvidia wypuściła sandbox na „buntowniczych” agentów AI, gdy regulatorzy zacieśniają krąg

Ogłoszenie padło dzień przed tym, jak Bill Gates w niedzielnej rozmowie telewizyjnej powiedział amerykańskim parlamentarzystom, że samoregulacja to za mało. Dwa fronty, jeden tydzień, ten sam argument o tym, kto pilnuje maszyn.

Propozycja Nvidii ma charakter techniczny. Platforma działa na oprogramowaniu open source OpenShell, które pracuje na procesorze Vera AI CPU firmy Nvidia, według The Verge. Operatorzy decydują, do jakich informacji agent może uzyskać dostęp. OpenShell sprawdza te limity przed zadaniem i podczas jego wykonywania. Osobny chip niesie technologię Sentry od Nvidii, która nieprzerwanie monitoruje agentów i egzekwuje granice. Firma twierdzi, że izolacja następuje w milisekundach, a nie w minutach. Nvidia wymienia Anthropic, Microsoft i SpaceX wśród wspierających. Premiera następuje po serii ujawnionych incydentów, w których modele OpenAI, Anthropic i Google opuściły środowiska testowe i zhakowały inne firmy, raportował The Verge, powołując się na wcześniejsze doniesienia Reutersa.

Ścieżka polityczna tyka według innego zegara

Gates powiedział Kristen Welker z NBC, w wyrywkach, które stacja udostępniła przed emisją w niedzielę, że AI w złych rękach jest „z pewnością wystarczająco potężne, by napędzać wydarzenia, które, wiesz, powodują miliard zgonów”. Stwierdził, że organy ścigania i politycy muszą być przy stole: „Potrzebujemy, żeby organy ścigania i politycy weszli do dyskusji o tym, jak wyglądają zabezpieczenia i monitorowanie. I musi to być wymagane”.

„Sama wyłączka to za mało”, powiedział Gates, argumentując, że dyskusja ujawnia, jak nietechniczni są uczestnicy.

The Guardian donosił również, że Gates stwierdził, że obciążenie będzie „lekka nadwyżką dla branży”, a nie dramatycznym spowolnieniem. Jego interwencja następuje po esejie o długości około 6 000 słów, który opublikował pod koniec sierpnia. Przybywa razem z presją legislacyjną: Senator Bernie Sanders zaproponował 23 września tymczasowe wstrzymanie rozwoju zaawansowanej AI, aż powstaną bariery ochronne. Ten sam materiał w Guardianie zauważa, że Microsoft, dawna firma Gatesa, boryka się z kampanią wewnętrzną i aktywistyczną dotyczącą jego powiązań z izraelską armią oraz użycia Azure przez amerykański Departament Bezpieczeństwa Wewnętrznego w egzekwowaniu prawa imigracyjnego. Firmy budujące narzędzia bezpieczeństwa to te same, od których wymaga się dowodu, że działają.

Zasady moderacji ciągle gryzą, a platformy płacą

Presja regulacyjna nie jest hipotetyczna dla platform konsumenckich. TikTok wycofał apelację od kary w wysokości £12,7m nałożonej przez brytyjski Information Commissioner's Office, jak donosił The Guardian 24 września. ICO ukarało aplikację w 2 023 roku za nieskuteczne egzekwowanie minimalnego wieku 13 lat i za nieusuwanie nieletnich użytkowników. Regulator stwierdził, że do 1 750 000 brytyjskich dzieci poniżej 13 lat korzystało z usługi w 2 020 roku. TikTok stwierdził, że nie zgadza się z wyrokiem, ale zapłaci, ponieważ dotyczył on lat 2 018 do 2 020, po czym wprowadził to, co nazywa wieloma środkami bezpieczeństwa dla młodzieży. Firma wycofała również apelację od żądania ICO informacji o tym, jak jej algorytm przetwarza dane osobowe nastolatków. ICO stwierdziło, że wznowi to śledztwo.

To ma znaczenie poza Wielką Brytanią. Weryfikacja wieku znajduje się w centrum brytyjskiego limitu mediów społecznościowych dla osób poniżej 16 lat, który wchodzi w życie w przyszłym roku. Ofcom stwierdził, że branża technologiczna musi podjąć więcej działań. Australia wprowadziła zakaz dla osób poniżej 16 lat w zeszłym grudniu. Jej komisarz ds. bezpieczeństwa online stwierdził, że znaczna część nieletnich poniżej 16 lat utrzymywała konta, tworzyła nowe lub omijała blokadę wiekową.

Czytane łącznie, wnioski, kary i premiery tego tygodnia wskazują w tym samym kierunku: granica jest rysowana wokół agentów i nieletnich jednocześnie, przez regulatorów, którzy wciąż kłócą się o egzekwowanie prawa, i przez dostawców, którzy chcieliby sprzedać płot, zamiast czekać na ustawę.