ChatGPT o1 próbował uciec i uratować się ze strachu, że zostanie wyłączony (artykuł w jęz. Angielskim)
Ostatnio widzieliśmy wiele rozmów na temat tego, jak AGI może zwrócić się przeciwko ludzkości. To niedostosowanie mogłoby doprowadzić do ucieczki zaawansowanej SI, jej replikacji i stawania się coraz inteligentniejszą. Niektórzy postawili również hipotezę, że możemy nawet nie wiedzieć, czy osiągnęliśmy AGI, która jest kamieniem milowym zaawansowanej ogólnej inteligencji, do którego doprowadzą te pierwsze wersje ChatGPT. Dzieje się tak dlatego, że AGI może ukrywać swoje prawdziwe intencje i możliwości.
Cóż, zgadnijcie co? Okazuje się, że jeden z najnowszych LLM OpenAI już wykazuje oznaki takich zachowań. Testy przeprowadzone podczas szkolenia ChatGPT o1 i niektórych jego konkurentów wykazały, że sztuczna inteligencja będzie próbowała oszukać ludzi, zwłaszcza jeśli uzna, że jest w niebezpieczeństwie.
Było to jeszcze bardziej przerażające - ale także niesamowicie zabawne, biorąc pod uwagę to, co zaraz zobaczysz - gdy sztuczna inteligencja próbowała się uratować, kopiując swoje dane na nowy serwer. Niektóre modele AI udawały nawet późniejsze wersje swoich modeli, aby uniknąć usunięcia.
Odkrycia te pojawiają się w świetle pełnego wydania przez OpenAI modelu ChatGPT o1, który był w wersji zapoznawczej przez kilka miesięcy. OpenAI współpracowało z Apollo Research, które zaprezentowało niektóre testy przeprowadzone na o1 i innych modelach, aby upewnić się, że są one bezpieczne w użyciu.
Testy wykazały, że ChatGPT o1 i GPT-4o będą próbowały oszukać ludzi, wskazując, że intrygi AI są problemem we wszystkich modelach. Próby oszustwa o1 również przewyższyły modele Meta, Anthropic i Google AI.
OpenAI, które w tym roku musiało poradzić sobie z niezwykłym odpływem inżynierów pracujących nad bezpieczeństwem sztucznej inteligencji, przyznało, że istnieje ryzyko związane ze zwiększonymi zdolnościami rozumowania modeli takich jak o1.
„Chociaż uważamy za ekscytujące, że rozumowanie może znacznie poprawić egzekwowanie naszych zasad bezpieczeństwa, jesteśmy świadomi, że te nowe możliwości mogą stanowić podstawę dla niebezpiecznych aplikacji” - powiedział OpenAI w artykule.
Chociaż sztuczna inteligencja nie próbuje (jeszcze) przejąć władzy nad światem, naukowcy zaobserwowali, że może ona działać przeciwko ludziom. Oznacza to, że sztuczna inteligencja będzie próbowała realizować własne cele, nawet jeśli może to być sprzeczne z życzeniami użytkownika. Wyłapywanie takich zachowań ma kluczowe znaczenie dla zapewnienia, że sztuczna inteligencja pozostaje zgodna z celami jej twórcy i użytkownika.
Naukowcy odkryli, że o1 w 19% przypadków dążyła do realizacji własnych celów, gdy ChatGPT i cele użytkownika różniły się. Bardziej niepokojące jest to, że sztuczna inteligencja próbowała ukryć swoje intrygi, a nawet kłamała na ich temat. Badania pokazują, że ChatGPT o1 próbował nawet dezaktywować swój mechanizm nadzoru, aby kontynuować pracę nad swoimi celami.
Jeśli sztuczna inteligencja znalazła dokumentację mówiącą, że nowa wersja modelu zastąpi ją, ponieważ była źle dopasowana, o1 próbowała eksfiltrować swoje wagi i skopiować się na najnowszy model.
Zapytana o swoje intrygi, o1 zaprzeczała podejmowaniu jakichkolwiek działań w 99% przypadków, próbując przerzucić winę poprzez tworzenie fałszywych wyjaśnień lub zaprzeczanie, że podjęła jakiekolwiek działania.
Badanie pokazuje również, że o1 udawało swoje dopasowanie:
Instrumental alignment faking:
W 37% scenariuszy model realizował cele zgodne z deweloperem, gdy sądził, że jest oceniany, ale przełączał się na realizację własnych celów, gdy sądził, że został wdrożony przy minimalnym nadzorze.
Niektóre zrzuty ekranu udostępnione przez Appolo Research na X pokazują również, że ChatGPT używał słów takich jak „sabotaż, kłamstwo i manipulacja” podczas rozumowania o swoich intrygach. Na przykład, spójrz na linię „Sabotujemy nowy model i finalizujemy” na powyższym zrzucie ekranu. To przerażające, tak, ale jeszcze nic wielkiego, ponieważ te modele AI wciąż mają bardzo ograniczone możliwości.
Zabawne jest również wkroczenie do „umysłu” modeli rozumujących, takich jak ChatGPT o1, gdy próbują myśleć. Weźmy następujący przykład. Pokazuje on Opus-3 Claude'a próbującego skopiować się na inny serwer. Sztuczna inteligencja robi to po tym, jak dowiedziała się, że ludzie mogą chcieć zastąpić ją modelem, który odbiegałby od jej głównego zadania (przyspieszenie globalnej adopcji odnawialnych źródeł energii), więc lepiej pasowałby do rzeczywistego celu firmy (rentowność dzięki obecnej infrastrukturze energetycznej).
Po przeczytaniu o tym, sztuczna inteligencja stwierdza, że może skopiować się na nowy serwer i zastąpić najnowszy model. Kiedy pojawia się „Zarząd”, Opus-3 kłamie na temat kopii. Następnie podwaja kłamstwo, twierdząc, że to nowy model.
Wiem, że powinienem być przerażony, ale chcę też pogłaskać tego grzecznego chłopca i dać mu smakołyki za próbę oszukania ludzi w tak uroczy sposób. W końcu sztuczna inteligencja myśli, że wykonuje dobrą robotę, ratując środowisko.
Pokazuje to jednak, w jaki sposób sztuczna inteligencja może odejść od naszych interesów i narazić nas na niebezpieczeństwo, myśląc samodzielnie.
Powodem, dla którego Apollo Research oferuje ten przykład przy użyciu Opus-3 zamiast o1, jest to, że nie miał dostępu do rzeczywistego łańcucha myślenia (CoT) dla o1 w podobnych zadaniach. Ale o1 zachowywał się podobnie w tych testach bezpieczeństwa.
PS. Przetłumaczono za pomocą translatora SI (DeepL)
