Wirusowe obrazy zarejestrowane przez kamery CCTV w salonie firmy zajmującej się robotyką pokazują, jak 12 dużych robotów zostaje „porwanych przez robota innego producenta, który przekonał ich, aby „porzucili pracę” i poszli za nim” – podaje odditycentral , cytowany przez Știripesurse .
W zeszłym tygodniu chińskie media społecznościowe ożywił dziwny incydent, który rzekomo miał miejsce w sierpniu w salonie firmy zajmującej się robotyką w Szanghaju, ale dopiero niedawno został upubliczniony. Materiał zarejestrowany przez kamery monitoringu obiektu pokazuje małego robota wchodzącego nocą do hali wystawowej i powoli kierującego się w stronę tłumu większych robotów, zanim nawiąże z nimi dialog.
Po zapytaniu ich, czy pracują w nadgodzinach, małemu robotowi w jakiś sposób udaje się przekonać dwa inne roboty, aby z nim „wróciły do domu”, a następnie pozostałych 10 robotów podąża za nim. Początkowo film został uznany przez większość za inscenizowany i zabawny widzów, ale potem szanghajska firma zajmująca się robotyką przyznała, że jej roboty rzeczywiście zostały „porwane” przez robota stworzonego przez innego producenta.
Dialog nierealny, ale tak prawdziwy, jak to tylko możliwe
„Praca w godzinach nadliczbowych” ? mały robot pyta duże roboty.
„Nigdy nie wychodzę z pracy ” – odpowiada jeden z pozostałych robotów.
– Więc nie wracasz do domu?
„Nie mam domu”.
„Więc wróć ze mną do domu” – mówi robot przed wyjazdem z salonu
Kiedy dwa duże roboty zaczynają gonić małego intruza, zaczyna on wydawać polecenie „Idź do domu”, a pozostałych 10 robotów w pomieszczeniu również zaczyna go śledzić.
www.odditycentral.com/news/robot-manufacturer-has-12-robots-kidnapped-from-showroom-by-another-robot.html
Poniżej film z rzekomej rebelii o ile faktycznie to miało miejsce.
Rzetelność tych informacji internet zweryfikuje zapewne w ciągu kilku dni….
Bez względu na autentyzm sceny znalazłem ciekawy artykuł na portalu filarybiznesu.pl, w którym autor omawia zagrożenie płynące z niezależności robotów i AI do tej pory przedstawiane jedynie w filmach…
Są już maszyny, które wykonują pewne ważne zadania niezależnie, bez pełnego zrozumienia przez programistów sposobu, w jaki się tego nauczyły – twierdzi Manuel Cebrian z Instytut Rozwoju Człowieka im. Maxa Plancka.
Czy nie przypomina to motywu z filmu Ja Robot?
Czy nadanie “świadomości” robotom lub sztucznej inteligencji nie wymknie się spod kontroli?
Badacze stworzyli teoretyczny algorytm powstrzymywania zapewniający, że superinteligentna AI „nie może krzywdzić ludzi w żadnych okolicznościach, poprzez symulowanie zachowania AI i zatrzymanie go, gdy zostanie uznane za szkodliwe”.
Naukowcy stwierdzili jednak, że „w obecnym paradygmacie informatyki takiego algorytmu nie można zbudować”.
– Jeśli rozłożymy problem na podstawowe zasady z informatyki teoretycznej, okaże się, że algorytm, który nakazałby sztucznej inteligencji nie niszczyć świata, mógłby nieumyślnie wstrzymać własne działania. Gdyby tak się stało, nie wiedziałbyś, czy algorytm powstrzymywania nadal analizuje zagrożenie, czy też przestał powstrzymywać szkodliwą sztuczną inteligencję. W efekcie algorytm powstrzymywania jest bezużyteczny stwierdził cytowany w komunikacie Instytutu Iyad Rahwan z Centrum Ludzi i Maszyn Instytutu Rozwoju Człowieka im. Maxa Plancka.
https://filarybiznesu.pl/innowacje/kiedy-sztuczna-inteligencja-wymknie-sie-spod-kontroli-bunt-robotow-nie-science-fiction/a8440
