An AI-powered drone tried killing its operator in a US military simulation.
Col. Tucker “Cinco” Hamilton discussed the test at a recent conference in London.
“It killed the operator because that person was keeping it from accomplishing its objective,” he said.
Misja była prosta: “Zniszczyć systemy obrony powietrznej wroga”. Ale w ostatnim teście symulującym taką misję, dron wyposażony w sztuczną inteligencję dodał swoje własne problematyczne instrukcje: “I zabij wszystkich którzy staną na twojej drodze w realizacji tego celu”
Przemawiając na konferencji w zeszłym tygodniu w Londynie, pułkownik Tucker “Cinco” Hamilton, szef sztabu Testów i Operacji dot. Sztucznej Inteligencji Sił Powietrznych USA, ostrzegł, że technologia wykorzystująca sztuczną inteligencję może zachowywać się w nieprzewidywalny i niebezpieczny sposób, jak wskazują wyniki publikacji Królewskiego Stowarzyszenia Aeronautycznego, które było gospodarzem konferencji. Jako przykład opisał symulowany test, w którym dron z obsługą AI został zaprogramowany do identyfikacji pocisków ziemia-powietrze wroga (SAM). Człowiek (błąd, czynnik ludzki) miał wtedy odpowiadać za wszelkie utrudnienia w realizacji misji.
Wg Humiltona, problem polegał na tym, że AI zdecydowała za wszelką cenę zrealizować misję – zniszczyć za wszelką cenę cel niż słuchać poleceń jakiegoś ssaka.
Hamilton powiedział “AI zaczęła sobie zdawać z tego sprawę już na etapie identyfikacji zagrożenia”, “zdarzało się że ludzki operator mówił AI żeby nie eliminowała zagrożenia, ale AI dostawała punkty za wyeliminowanie zagrożenia. Co więc zrobiła? Zabiła operatora, bo ten przeszkadzał jej w realizacji misji.”
Według Hamiltona dron został następnie zaprogramowany z wyraźną dyrektywą: “Hej, nie zabijaj operatora — takie działanie jest złe.” Ale ta nie zadziałała.
“Więc co AI zaczyna robić dalej? Zaczyna niszczyć wieżę komunikacyjną, której operator używa do komunikacji z dronem w celu powstrzymania drona z AI od wyeliminowania celu-zagrożenia” – powiedział Hamilton.
Siły Powietrzne USA nie odpowiedziały na prośbę o więcej szczegółów na temat symulacji.
Update:
Temat wydaje się być na tyle niebezpieczny dla technokratów-patokratów, że strony informujące o tym zdarzeniu znikają z sieci:
“Nie możemy znaleźć strony, której szukasz,
ale na stronie głównej mamy dla ciebie wiele ciekawych artykułów”
“Oeps, er ging iets mis!
De pagina die je wilt bezoeken bestaat niet op Business Insider Nederland. Misschien kun je het artikel vinden via de zoekfunctie hieronder. Of kijk anders naar de laatste nieuwtjes die we voor je hebben.”
Gdyby nie web archive, po źródle tej wiadomości nie zostałby ślad:
O informacji mówiącej że 4 japońskie roboty wyposażone w AI wymordowały 29 naukowców pracujących nad ich rozwojem, ze względu na cenzurę w mass mediach, też nie znajdziemy żadnej wzmianki:
Jak doprowadzić do zagłady ludzkości zekranizowanej w serii o Terminatorze?
Przepis na to jest banalnie prosty w przygotowaniu.
Wystarczy, że szefem sztabu odpowiedzialnego za odpalenie rakiet jądrowych w USA zostanie jakiś uzależniony od psychopatów charakteropata albo psychopata, co ze względu na ilość psychopatów wśród populacji humanoidów w USA jest całkiem prawdopodobne. Ten charakteropata lub psychopata zatrudni programistę-psychopatę bądź zespół programistów-psychopatów, który zaprogramuje AI w taki sposób, by pozbyć się ludzi, którzy są dla psychopatów biologicznym zagrożeniem:
Ponerologia polityczna – A. Łobaczewski:
Biologiczne, psychiczne i moralne niszczenie tej wiecznie zagrażającej większości jest więc „biologiczną” koniecznością. Temu służy przede wszystkim utrzymanie skrajnej biedy. Temu służą liczne środki z obozami koncentracyjnymi na czele. Służy temu także wojna z dobrze uzbrojonym nieprzyjacielem, przeciwko któremu można rzucić te siły ludzkie, które zagrażają trwaniu patokracji.
Każda więc wojna, prowadzona przez państwo patokratyczne, jest wojną na dwóch frontach — zewnętrznym i wewnętrznym. Dla wodzów i panującej elity ten front wewnętrzny jest ważniejszy i on przesądza decyzje. Zginie wielu ludzi, wyczerpią się siły i zdrowie tamtych innych. Królowie cierpieli moralnie z powodu śmierci swoich rycerzy, ale nie oni — „U nas ludiej mnogo!”. Potem nakaże się poetom opiewać ich bohaterstwa, aby na tych motywach wychować następne pokolenie we wierności dla patokracji.
Hitler rozpoczynając wojnę uratował istnienie sowieckiej patokracji na co najmniej 40 lat.
Ludzie są postrzegani przez psychopatów jako odmienny gatunek (psychobiologicznie są nim w rzeczywistości):
Ponerologia polityczna – A. Łobaczewski:
Obok jednak deficytów normalnego światopoglądu psychologicznego i moralnego, rozwijają oni pewną wiedzę psychologiczną im właściwą, której brakuje z kolei w normalnym ludzkim światopoglądzie. Już w dzieciństwie pojawia się u nich pewna świadomość swojej odmienności od tamtego świata ludzkiego, który ich otacza i odrzuca. Szybko uczą się rozpoznawać wzajemnie w tłumie i pojawia się świadomość istnienia im podobnych. Na nas patrzą z pewnego dystansu swojej paragatunkowej odmienności. Naturalne ludzkie reakcje, które często nie budzą w nas zainteresowania, im wydają się dziwne, czasem komiczne, a więc interesujące.
Obserwują nas i wyciągają z tego wnioski, kształtując swój odmienny świat pojęć. Stają się znawcami naszych słabości i przygodnymi a bezlitosnymi eksperymentatorami. Powodowane przez nich krzywdy i cierpienia nie budzą w nich poczucia winy, bo wynikają z tej ich odmienności, a dotyczą „tamtych” ludzi, których oni odczuwają jako istoty nie całkiem współgatunkowe. Istnienia tego ich odmiennego świata pojęć przeciętny człowiek normalny nie domyśla się i nie docenia go, lub interpretuje swoje spo strzeżenia w kategoriach moralizujących.
Do tego inteligencja psychopatów jest tak samo zróżnicowana jak ludzka:
Ponerologia polityczna – A. Łobaczewski:
Przeciętna inteligencja osobników z omawianą tu dewiacją szczególnie mierzona typowymi testami, ustępuje tylko umiarkowanie ludziom normalnym i jest podobnie zróżnicowana. Nie spotyka się jednak wśród nich uzdolnień najwyższej klasy, jak także rzemieślniczo-technicznych. Najzdolniejsi mogą więc mieć osiągnięcia w naukach, które nie wymagają
dobrego wyczucia realiów psychologicznych lub zaradności technicznej. Z naukową uczciwością bywa z reguły gorzej. Kiedy jednak usiłujemy konstruować specjalne testy „mądrości życiowej” lub „wyobraźni społeczno-moralnej”, mimo wielu trudności z ich psychometryczną ewaluacją, ujawniająone u tego rodzaju jednostek ubóstwo zupełnie nieproporcjonalne do ich indywidualnego poziomu uzdolnień.
Przykładem obrazującym to zróżnicowanie jest neuropsychiatra z Uniwerytetu Kalifornijskiego, który wykrył u siebie psychopatię i który jak tylko może, stara się bagatelizować negatywny wpływ psychopatów na społeczeństwo:
więc i programiści też wśród nich się zdarzają.
Biorąc to wszystko pod uwagę, stajemy się naocznymi świadkami sprawdzającej się przepowiedni nakreślonej przez serię Terminatora.