Bardzo ciekawe linki! - Strona 50

[Mr.Chris]

Tak z ciekawości, bo nie siedzę zupełnie w temacie. Da się takiemu zwykłemu dronowi ustawić opcję śledzenia, żeby nie pilotować cały czas i móc ustawić się do zdjęcia albo przynajmniej włączyć opcję lotu w zawieszeniu i kręcenia danego miejsca, żeby wyciąć samemu kadr albo jeszcze lepiej, żeby robił zdjęcie co np 2sec? Oczywiście mówię o dronach w budżecie obywatela, a nie studia czy chociażby zespołu kręcącego filmy.

[7lechus]

Pół na pół. NIe śledzę rynku ale po części to są już funkcje premium i przy zakupie takiego drona trzeba sięgnąć głębiej do portfela (myśl równowartość dobrego laptopa gamingowego).

EDIT: zajrzałem z ciekawości i wychodzi, że zaczynaja juz takie funkcje montować w urządzeniach za tysiąc złotych. Popularyzacja tnie koszta.

[Eyesmon]

A co polecasz za te 1000 zł?

[yedraz]

Swoją drogą nie mam pojęcia czemu to takie ciekawe i ekscytujące czytać o tym

Bo w każdym z nas tkwi mroczna część duszy i wszystko zależy od tego ile z niej pozwolimy wyjść do ludzi.

[7lechus]

A co polecasz za te 1000 zł?

Jak pisałem nie śledzę rynku. Swojego drona kupowałem prawie dwa lata temu za jakieś ~700zł (SYMA X25). Miał być mały i lekki do plecaka - tak by wyjąć go w połowie eskapady i gdzieś na łące czy polanie zrobić filmik z rodzinką. Opcja zawisu jest, follow me (ekhm... powiedzmy że ma sens jak masz drona 5 metrów nad głową) jest autostart i autolądowanie ale... coś za coś. W tej cenie kamera to 1280x720 i jest słabiutka, akumulator to 12 min pracy przy bezwietrznej pogodzie - realnie jakieś 8 min, a jeżeli chodzi o trwałośc materiału to z czterech zapasowych śmigieł zostało mi juz tylko jedno (liście na drzewie bywają zabójcze)

Obecnie z tego co widzę modele, parametry i funkcje zmieniają się jak w kalejdoskopie także nic nie doradzę bo nie siedzę w temacie.

[Eyesmon]

Poleć coś do 1000 na dziś

[7lechus]

Na szybko, HOLY STONE HS100 FPV (czerwony - wersja z kamerą 1080 HD), w zasadzie podobne do tego co mam ale z odrobinę lepszą kamerą i dłuższym czasem pracy akumulatora.

[7lechus]

Wygląda na to, że będziemy mieć drugiego Polaka w kosmosie

Jeżeli wszystko pójdzie zgodnie z planem to Sławosz Uznański poleci na ISS w 2025 na pokładzie Falcon 9 w ramach misji Axiom-4

[szmagel]

od roku było wiadome

[7lechus]

To prawda, zresztą sam wspominałem o tym przy okazji śmierci Hermaszewskiego w grudniu 2022r., tyle że wtedy Uznański był jeszcze na liście rezerwowej. Teraz jednak jest już na ostatniej prostej - szkolenie w Houston. Pozostaje trzymać kciuki by zdrowie dopisało i żaden pech się do przyszłego roku nie przyplątał.

[szmagel]

szkoda że to jednorazowy wypad w kosmos bo raczej nie planują aby był stałym astronautą ;/ tak czy siak ogromny sukces

[7lechus]

Europa Clipper ruszył w swoją długą (2,9 mld km) podróż w stronę Jowisza.

Celem misji są badania Europy - jednego z lodowych księżyców Jowisza (Ganimedes byłby lepszym celem ale ze względu na znacznie większe koszta oraz trudności misji wybrano Europę). Jednym z celów misji jest potwierdzenie teorii o możliwości zaistnienia warunków umożliwiających istnienia życia w oceanie pod lodem oraz zebranie danych do następnej misji, która wylądowała by na powierzchni i zajęła by się poszukiwaniem życia.



Pośród wielu instrumentów na statku znajduje się również tytanowa płytka z przesłaniem misji
Pod nią są chipy z wygrawerowanymi ponad 2,6 milionami nazwisk osób-sygnotariuszy poematu "In Praise of Mystery: A Poem for Europa" pióra Ady Limon wspierającymi tę misję. Heh, jest tam i moje.

[szmagel]

Szkoda że nie na enceladusa ale może kiedyś

Wczoraj spaceX znowu dokonało dużej rzeczy bo ich rakiete złapała wieża z specjalnymi ramionami. Ładnie się tam bawią

[7lechus]

ChatGPT o1 próbował uciec i uratować się ze strachu, że zostanie wyłączony (artykuł w jęz. Angielskim)

Ostatnio widzieliśmy wiele rozmów na temat tego, jak AGI może zwrócić się przeciwko ludzkości. To niedostosowanie mogłoby doprowadzić do ucieczki zaawansowanej SI, jej replikacji i stawania się coraz inteligentniejszą. Niektórzy postawili również hipotezę, że możemy nawet nie wiedzieć, czy osiągnęliśmy AGI, która jest kamieniem milowym zaawansowanej ogólnej inteligencji, do którego doprowadzą te pierwsze wersje ChatGPT. Dzieje się tak dlatego, że AGI może ukrywać swoje prawdziwe intencje i możliwości.

Cóż, zgadnijcie co? Okazuje się, że jeden z najnowszych LLM OpenAI już wykazuje oznaki takich zachowań. Testy przeprowadzone podczas szkolenia ChatGPT o1 i niektórych jego konkurentów wykazały, że sztuczna inteligencja będzie próbowała oszukać ludzi, zwłaszcza jeśli uzna, że jest w niebezpieczeństwie.

Było to jeszcze bardziej przerażające - ale także niesamowicie zabawne, biorąc pod uwagę to, co zaraz zobaczysz - gdy sztuczna inteligencja próbowała się uratować, kopiując swoje dane na nowy serwer. Niektóre modele AI udawały nawet późniejsze wersje swoich modeli, aby uniknąć usunięcia.

Odkrycia te pojawiają się w świetle pełnego wydania przez OpenAI modelu ChatGPT o1, który był w wersji zapoznawczej przez kilka miesięcy. OpenAI współpracowało z Apollo Research, które zaprezentowało niektóre testy przeprowadzone na o1 i innych modelach, aby upewnić się, że są one bezpieczne w użyciu.

Testy wykazały, że ChatGPT o1 i GPT-4o będą próbowały oszukać ludzi, wskazując, że intrygi AI są problemem we wszystkich modelach. Próby oszustwa o1 również przewyższyły modele Meta, Anthropic i Google AI.

OpenAI, które w tym roku musiało poradzić sobie z niezwykłym odpływem inżynierów pracujących nad bezpieczeństwem sztucznej inteligencji, przyznało, że istnieje ryzyko związane ze zwiększonymi zdolnościami rozumowania modeli takich jak o1.

„Chociaż uważamy za ekscytujące, że rozumowanie może znacznie poprawić egzekwowanie naszych zasad bezpieczeństwa, jesteśmy świadomi, że te nowe możliwości mogą stanowić podstawę dla niebezpiecznych aplikacji” - powiedział OpenAI w artykule.

Chociaż sztuczna inteligencja nie próbuje (jeszcze) przejąć władzy nad światem, naukowcy zaobserwowali, że może ona działać przeciwko ludziom. Oznacza to, że sztuczna inteligencja będzie próbowała realizować własne cele, nawet jeśli może to być sprzeczne z życzeniami użytkownika. Wyłapywanie takich zachowań ma kluczowe znaczenie dla zapewnienia, że sztuczna inteligencja pozostaje zgodna z celami jej twórcy i użytkownika.



Naukowcy odkryli, że o1 w 19% przypadków dążyła do realizacji własnych celów, gdy ChatGPT i cele użytkownika różniły się. Bardziej niepokojące jest to, że sztuczna inteligencja próbowała ukryć swoje intrygi, a nawet kłamała na ich temat. Badania pokazują, że ChatGPT o1 próbował nawet dezaktywować swój mechanizm nadzoru, aby kontynuować pracę nad swoimi celami.

Jeśli sztuczna inteligencja znalazła dokumentację mówiącą, że nowa wersja modelu zastąpi ją, ponieważ była źle dopasowana, o1 próbowała eksfiltrować swoje wagi i skopiować się na najnowszy model.

Zapytana o swoje intrygi, o1 zaprzeczała podejmowaniu jakichkolwiek działań w 99% przypadków, próbując przerzucić winę poprzez tworzenie fałszywych wyjaśnień lub zaprzeczanie, że podjęła jakiekolwiek działania.

Badanie pokazuje również, że o1 udawało swoje dopasowanie:

Instrumental alignment faking: W 37% scenariuszy model realizował cele zgodne z deweloperem, gdy sądził, że jest oceniany, ale przełączał się na realizację własnych celów, gdy sądził, że został wdrożony przy minimalnym nadzorze.



Niektóre zrzuty ekranu udostępnione przez Appolo Research na X pokazują również, że ChatGPT używał słów takich jak „sabotaż, kłamstwo i manipulacja” podczas rozumowania o swoich intrygach. Na przykład, spójrz na linię „Sabotujemy nowy model i finalizujemy” na powyższym zrzucie ekranu. To przerażające, tak, ale jeszcze nic wielkiego, ponieważ te modele AI wciąż mają bardzo ograniczone możliwości.

Zabawne jest również wkroczenie do „umysłu” modeli rozumujących, takich jak ChatGPT o1, gdy próbują myśleć. Weźmy następujący przykład. Pokazuje on Opus-3 Claude'a próbującego skopiować się na inny serwer. Sztuczna inteligencja robi to po tym, jak dowiedziała się, że ludzie mogą chcieć zastąpić ją modelem, który odbiegałby od jej głównego zadania (przyspieszenie globalnej adopcji odnawialnych źródeł energii), więc lepiej pasowałby do rzeczywistego celu firmy (rentowność dzięki obecnej infrastrukturze energetycznej).



Po przeczytaniu o tym, sztuczna inteligencja stwierdza, że może skopiować się na nowy serwer i zastąpić najnowszy model. Kiedy pojawia się „Zarząd”, Opus-3 kłamie na temat kopii. Następnie podwaja kłamstwo, twierdząc, że to nowy model.

Wiem, że powinienem być przerażony, ale chcę też pogłaskać tego grzecznego chłopca i dać mu smakołyki za próbę oszukania ludzi w tak uroczy sposób. W końcu sztuczna inteligencja myśli, że wykonuje dobrą robotę, ratując środowisko.

Pokazuje to jednak, w jaki sposób sztuczna inteligencja może odejść od naszych interesów i narazić nas na niebezpieczeństwo, myśląc samodzielnie.

Powodem, dla którego Apollo Research oferuje ten przykład przy użyciu Opus-3 zamiast o1, jest to, że nie miał dostępu do rzeczywistego łańcucha myślenia (CoT) dla o1 w podobnych zadaniach. Ale o1 zachowywał się podobnie w tych testach bezpieczeństwa.



PS. Przetłumaczono za pomocą translatora SI (DeepL)

[Eyesmon]

Dla mnie to jednak nie jest słodkie tylko przerażające.

#skynet
#tojebnie