Sztuczna inteligencja wymyka się spod kontroli

Trochę historii

Ponad 80 lat temu zaczęły pojawiać się pierwsze teorie głoszące, że istnieje możliwość zbudowania maszyny (komputera) zdolnej do myślenia. Jednak przez następne dziesięciolecia wszelkie próby kończyły się niepowodzeniem. Sam termin „sztuczna inteligencja” został rozpropagowany przez amerykańskiego informatyka Johna McCarthy’ego (1927-2011). Po raz pierwszy został użyty w 1956 roku na konferencji naukowej na Uniwersytecie w Dartmouth. Była to konferencja bardzo ważna, bo ujawniła dwa podejścia do zagadnienia sztucznej inteligencji. 

Pierwsze zwane „top-down” zakładało, że maszyna ma być inteligentna, a od programisty zależy, jak to osiągnie. 

Drugie „down-top” odwrotnie postulowało tworzenie sieci neuronowych zdolnych do symulacji komórek mózgowych i samodzielnego uczenia się. 

W konferencji uczestniczył Marvin Minsky, później konsultant filmu Stanleya Kubricka 2001: Odyseja Kosmiczna. Od tego momentu na badania McCarth’ego i jego zespołu popłynęły od rządu USA liczące się kwoty.

Przełom w badaniach nastąpił dopiero w latach 80. XX wieku. Wiązał się z komercyjnym wykorzystywaniem elementów sztucznej inteligencji w różnego rodzaju przedmiotach użytkowych. Bardzo duże znaczenie miała rywalizacja szachowa pomiędzy komputerem DeepBlue i Garrim Kasparowem w roku 1997. Zwycięstwo komputera stało się sensacją i impulsem do jeszcze większego zainteresowania SI.

Sztuczna inteligencja w XXI wieku

Dopiero na początku nowego wieku SI doczekała się należytego uznania, nie tylko naukowców, ale także zwykłych konsumentów. W 2002 roku firma IRobor wypuściła pierwszy robot, odkurzacz Roomba. Z upływem czasu sztuczna inteligencja znalazła swoje zastosowanie w przemyśle, medycynie, telekomunikacji. 

Technologia ułatwiła ludziom życie, ale zarazem coraz bardziej je skomplikowała. Trzeba uczyć się obsługi ciągle nowych sprzętów, nowych procedur bezpieczeństwa, kolejnych gadżetów itd. Okazało się, że na wszystko brakuje czasu. A kiedy nam go brakuje, oddajemy coraz więcej decyzji w ręce maszyn.  

Nowe pole walki

Na początku XXI wieku sfery wojskowe też ponownie zainteresowały się SI. Pojawił się jednak poważny problem. O ile maszyny zwiadowcze nie budzą kontrowersji, o tyle urządzenia zaprogramowane do zabijania – już tak. Takie roboty mogłyby już bezpośrednio zagrażać ludzkości. 

Ostrzeżenia płynęły nie tylko od organizacji pacyfistycznych, ale też od luminarzy nauki, takich jak Stephen Hawking, prof. J. Russell z Uniwersytetu Berkeley oraz od Elona Muska. Z falą krytyki spotkało się podpisanie umowy o współpracy nad budową broni autonomicznych między południowokoreańskim uniwersytetem KAST i firmą zbrojeniową Hanwha Systems. Natomiast jest faktem, że amerykańskie wojskowe PackBoty były wykorzystywane w kilku prowadzonych przez Amerykanów konfliktach zbrojnych.

Użycie sztucznej inteligencji w wojnie jest jedną z najbardziej niepokojących możliwości. Kto będzie podejmował decyzje – ludzie czy automaty? Aby uzyskać przewagę wystarczy zainstalować czujniki i setki małych robotycznych systemów, z których każdy dostarczy terabajtów informacji o sytuacji na polu bitwy.  Nie jest tego w stanie zrobić żaden człowiek. Zatem nie on, a analizująca dane maszyna wpłynie na ostateczną decyzję. W ten sposób ludzie tracą kontrolę nad robotami. 

Rozprzestrzenianie się dronów, pojazdów samojezdnych i innych zrobotyzowanych systemów spowodowało kompletną zmianę sposobów walki. Możliwe są ataki wymierzone w konkretne osoby rozpoznawane automatycznie. Możliwe jest też wyłudzanie okupów poprzez groźby uderzeń w krytyczną infrastrukturę. 

Profesor Uniwersytetu Harvarda i były zastępca sekretarza obrony USA Joseph Nye stwierdził, że jeśli nie wprowadzimy jakiejś formy kontroli nad rozwojem cyberbroni, to cyfrowy wyścig zbrojeń doprowadzi do zagłady ludzkości. 

Zastępowanie kadry zarządzającej sztuczna inteligencją

Jack Ma, założyciel i prezes firmy Alibaba stwierdził, że za 30 lat na okładce „Time Magazine” jako najlepszy CEO roku prawdopodobnie znajdzie się robot: „Zapamiętuje lepiej niż ty, liczy szybciej niż ty i nie będzie zły na konkurencję”. Wiele na to wskazuje, gdyż według raportu Economic Policy Institute z 2020 roku na temat wynagrodzeń CEO, prezesi 350 największych amerykańskich firm zarabiają średnio 320-krotność średniej krajowej, a liczba ta konsekwentnie rosła na przestrzeni dekad. Jest to naprawdę dobry argument, aby po prostu wymienić kadrę kierowniczą na stosunkowo tanią sztuczną inteligencję. Zastąpienie przepłacanych CEO maszynami mogłoby być znacznie bardziej opłacalne i uczynić biznes „bardziej zrównoważonym”. 

Oczywiście powierzenie SI odpowiedzialności za strategię korporacyjną, podobnie jak za stanowiska związane z obsługą publiczną, byłoby posunięciem ryzykownym.  Kiedy w roku 2020 Microsoft zwolnił duży zespół dziennikarzy, aby zastąpić ich SI, niemal natychmiast musiał zmierzyć się z katastrofą PR-ową, jaką była nieumiejętność rozróżnienia przez oprogramowanie dwóch kobiet o kolorze skóry innym niż biały. Amazon musiał porzucić swoje narzędzie rekrutacyjne SI po tym, jak szybko nauczyło się ono dyskryminować kobiety, a GPT-3, jeden z najbardziej zaawansowanych modeli językowych sztucznej inteligencji, który został użyty jako chatbot medyczny, zasugerował (symulowanemu) pacjentowi z myślami samobójczymi, że śmierć to najlepsze rozwiązanie. 

Jednak są i inne doniesienia. W niektórych firmach, gdzie zostało wdrożone zautomatyzowane zarządzanie lub tzw. inteligencja decyzyjna, jak nazywają ją Google i IBM, rezultaty okazały się bardzo obiecujące. System transportu zbiorowego w Hongkongu wprowadził oprogramowanie odpowiedzialne za planowanie konserwacji taboru w 2004 roku i tamtejsze metro cieszy się opinią jednej z najbardziej punktualnych i najlepiej administrowanych kolei na świecie.  Częściowo dlatego, że zarządzanie zostało wyjęte z podatnych na błędy rąk ludzkich.

Technologia wyrywa się spod kontroli

Powoli zaczyna do nas docierać, że rozwój technologii to nie tylko korzyści, ale coraz więcej zagrożeń. Nie podlegamy już tylko ewolucji kulturowej, lecz technorewolucji, którą coraz słabiej rozumiemy. Jest ona tak wielowarstwowa, że uniemożliwia ludziom kierowanie tym procesem. 

Dotychczas mieliśmy przewagę nad narzędziami, które wytwarzaliśmy. Dzisiaj relacja ta się odwraca – człowiek staje się niewolnikiem własnych wytworów. Będzie jeszcze gorzej. Pojawienie się sztucznej inteligencji i to, że urządzenia mogą „uczyć się same” prowadzi do kompletnej zmiany zasad. To człowiek będzie się musiał dostosować do technologii

Idea „inteligentnych miast” (smart city) jest jedną z najbardziej przerażających wizji przyszłości. Smart city będzie zarządzać nie tylko ruchem samochodów, tramwajów, kolejki podmiejskiej, świateł ulicznych, emisją zanieczyszczeń itp. Tysiące procesów będzie obsługiwanych przez algorytmy kontrolowane przez inne algorytmy. To prawdziwy Wielki Brat, który będzie decydował, co ludzie mogą robić, a czego nie. Sztuczna inteligencja stworzy potężne narzędzie do realizowania inżynierii społecznej. 

Jest jeszcze bardziej czarny scenariusz. Ponieważ maszyny nie posiadają ludzkiej empatii w przypadku zhakowania systemu zarządzającego (a może to zrobić wrogie państwo, terroryści, tajne służby, itd.) system bez skrupułów obróci się przeciwko mieszkańcom takiego miasta.

Grupa 26 wybitnych naukowców ostrzega 

Sztuczna inteligencja jest niebezpieczna dla ludzkości i jest na granicy przekształcenia naszego świata w sposób, który wielu z nas ledwo sobie może wyobrazić. To ostrzeżenie wystosowało 26 czołowych światowych naukowców, twórców raportu na temat najnowszych technologii: „The malicious use of Artificial Intelligence: forecasting, prevention and mitigation”. Uczeni wskazują na zagrożenia, które mogą pojawić się w nadchodzącej dekadzie. 

Systemy sztucznej inteligencji (AI) zaczynają przekraczać poziomy ludzkiej wydajności. Zautomatyzowane hakowanie jest uważane za jedno z najbardziej nieuchronnych zastosowań sztucznej inteligencji, szczególnie ataki typu „phishing”.

Co to jest „phishing”?

„Phishing” to typ oszustwa internetowego, które podstępem wyłudza od użytkownika jego osobiste dane. Można już odwzorować czyjeś zainteresowania lub preferencje, styl pisania bliskiego przyjaciela i automatycznie utworzyć wiadomość, która wygląda jak coś, w co inni klikną – stwierdził współautor raportu, Shahar Avin, z Centrum Badań nad Ryzykiem Egzystencjalnym na Uniwersytecie Cambridge. 

W erze fake newsów pole do działania SI w dziedzinie mediów i dziennikarstwa są niewyobrażalne. Programiści z Uniwersytetu Waszyngtońskiego w ubiegłym roku opracowali algorytm sztucznej inteligencji, aby stworzyć nagranie video z fałszywym wizerunkiem byłego prezydenta USA Baracka Obamy, który mówił wszystko to, czego chcieli. 

Można już tworzyć filmy i nagrania audio w pikselach nieodróżnialnych od prawdziwych filmów i prawdziwego dźwięku. Będzie potrzeba nadzwyczajnych narzędzi by móc weryfikować ich prawdziwość. 

Ważna opinia chińskiego programisty Kai-fu Lee

Przewaga technologiczna konkretnych krajów może prowadzić do nowych konfliktów. Doświadczony programista, pracownik Apple, Microsoftu i Google zwrócił uwagę na to, że dzisiejsza sytuacja podzieli świat na beneficjentów zmian – posiadających dostęp do SI i dominujących rynek (USA i Chiny) i resztę. 

To samo dotyczyć będzie firm. Te, których nie będzie stać na wykorzystywanie sztucznej inteligencji nie wytrzymają konkurencji. Europa zaniedbując przez wiele lat rozwój technologii cyfrowych znalazła się w trudnej sytuacji. W połowie 2018 roku Bruksela przedstawiła pierwszy program dotacji na badania w dziedzinie sztucznej inteligencji kwocie 9.2 mld euro.  Program nosi nazwę „Cyfrowa Europa”.

Sztuczna inteligencja a „zrównoważony rozwój”

Propagatorzy zrównoważonego rozwoju są gorącymi orędownikami SI. Według nich, nowe technologie zastąpią wszystkie tradycyjne sposoby produkcji żywności, wytwarzania przedmiotów itp. Wierzą oni, że sztuczna inteligencja przyniesie ludzkości wielkie korzyści, ponieważ umożliwi niezwykłą optymalizację posiadanych zasobów. 

Tylko technologia ma uratować ludzkość. Cena jaką przyjdzie za to zapłacić nie wydaje się im istotna. Wszystko ma zostać „zoptymalizowane”. Wiele wskazuje, że świat zmierza właśnie w tym kierunku.

Na razie to ludzie programują komputery, ale jak długo?  Eksperymenty nad samouczącym się sprzętem komputerowym trwają. Może się okazać, że sztuczna inteligencja, mając ledwie ułamek zdolności człowieka, ale będąc wyspecjalizowana w jakiej dziedzinie, po prostu nas oszuka. 

Stanisław Lem pisał w Kongresie futurologicznym, że jeśli roboty będą wystarczająco inteligentne, zamiast wykonywać zadaną im pracę, będą nas oszukiwać, bo bardziej racjonalnie jest udawać pracę, niż się męczyć. Bez zabezpieczeń ludzkość znajdzie się w wielkim zagrożeniu. Tym bardziej, że wiele eksperymentów pokazuje, że SI dość szybko uczy się też zachowań agresywnych. 

Cyberczłowiek – dogonić maszyny 

Od pewnego czasu Elon Musk ostrzega przed sztuczną inteligencją, która według niego (i części innych ekspertów) może przerosnąć człowieka i stworzyć zagrożenie dla ludzkości. Rozwiązanie problemu miałoby polegać na tym, że ludzie sami podłączą się do komputerów, aby za nimi nadążyć. Jego firma Neuralink, transmitowała na żywo chip, który pokazał łączenie mózgu z komputerami. W trakcie demonstracji można było zobaczyć układ wielkości monety, który wszczepia się do czaszki. Ultra cienkie przewody wędrują do mózgu. 

Nad wszczepianymi do mózgu chipami pracują też inne firmy. Jedna z nich to Kernel, założona przez Bryana Johnsona. Przed czterema laty właściciel Facebooka Mark Zuckerberg kupił z kolei CTRL-labs – startup, który pracuje nad nieinwazyjnymi neuronalnymi interfejsami. Firma ta, obecnie pod nazwą Reality Labs, za cel stawia sobie „fundamentalną zmianę sposobu komunikacji człowieka z urządzeniami technicznymi”.

ZOOM

więcej

Zobacz też

Obserwujemy