Mit sztucznej inteligencji. Dlaczego komputery nie potrafią myśleć jak my ebook

Dla Brooke i Bena

Na kartach tej książki przeczytacie o micie sztucznej inteligencji (AI). Mitem nie jest przekonanie, że prawdziwa AI jest możliwa. Co do tego przyszłość AI pozostaje naukową niewiadomą. Mówiąc o micie sztucznej inteligencji, mam na myśli przekonanie, że jej nadejście jest nieuniknione i to tylko kwestia czasu; że już wkroczyliśmy na drogę, która doprowadzi do AI będącej na poziomie inteligencji człowieka, a następnie do superinteligencji. Wcale tak nie jest. Ta droga istnieje tylko w naszej wyobraźni. Niemniej jednak przekonanie o nieuchronności AI jest tak głęboko zakorzenione w popularyzatorskim wymiarze dyskusji – promowanej przez ekspertów w mediach, liderów idei takich jak Elon Musk, a nawet wielu naukowców zajmujących się AI (choć na pewno nie wszystkich) – że argumentowanie przeciwko temu często bywa traktowane jako forma luddyzmu1 lub przynajmniej jako wyraz krótkowzroczności wizji przyszłości technologii oraz jako potencjalne zagrożenie polegające na tym, że nie będziemy przygotowani do życia w świecie inteligentnych maszyn.

Jak pokażę, naukowe badania nad AI sprawiły, że zdaliśmy sobie sprawę, że jeśli chodzi o podstawy inteligencji, mamy do czynienia z tajemnicą i nikt obecnie nie wie, jak tę zagadkę rozwiązać. Zwolennicy idei o możliwości opracowania AI są silnie zmotywowani, aby minimalizować znaczenie jej znanych ograniczeń. W końcu branża AI to wielki biznes, a jej dominujące oddziaływanie na kulturę jest coraz większe. Jednak niezależnie od tego, czy nam się to podoba, czy nie, obecna wiedza o naturze inteligencji wskazuje, że możliwości przyszłych systemów AI są ograniczone. Powinniśmy to powiedzieć wprost: wszystkie świadectwa sugerują, że inteligencja ludzka i maszynowa są radykalnie różne. Mit AI głosi, że różnice te są tylko tymczasowe i potężniejsze systemy ostatecznie je zlikwidują. Futuryści tacy jak Ray Kurzweil oraz filozof Nick Bostrom, prominentni zwolennicy mitu, nie mówią tylko o tym, że osiągnięcie AI na poziomie ludzkim jest nieuniknione, ale twierdzą także, iż wkrótce po jej nadejściu superinteligentne maszyny zostawią nas daleko w tyle.

Ta książka wyjaśnia dwa ważne aspekty mitu o AI: naukowy i kulturowy. Naukowa część mitu zakłada, że wystarczy, abyśmy dalej „szli drogą” wyzwań związanych z ogólną inteligencją, dokonując postępów w wąskich zastosowaniach inteligencji, takich jak granie w gry czy rozpoznawanie obrazów. To poważny błąd, ponieważ sukces w wąskich zastosowaniach nie zbliża nas ani na krok do inteligencji ogólnej. Biorąc pod uwagę naszą obecną wiedzę o AI, wnioskowania, które musiałyby umieć przeprowadzać systemy ogólnej inteligencji – aby przeczytać gazetę, prowadzić podstawową rozmowę lub być pomocnym jak robot Rosie z Jetsonów – nie mogą być zaprogramowane, nauczone ani wytworzone. Podczas gdy skutecznie stosujemy prostsze, wyspecjalizowane wersje inteligencji, które korzystają z szybszych komputerów i dużej ilości danych, nie robimy stopniowych postępów na drodze do ogólnej sztucznej inteligencji, lecz raczej zbieramy najłatwiej dostępne owoce. Przeskok do ogólnego „zdrowego rozsądku” to zupełnie inna sprawa i nie znamy drogi łączącej jedno z drugim. Nie istnieje żaden algorytm dla ogólnej inteligencji. Mamy ponadto dobre powody dla sceptycyzmu co do tego, że taki algorytm wyłoni się w wyniku dalszych wysiłków na rzecz systemów uczenia głębokiego lub jakiegokolwiek innego podejścia, które jest dzisiaj popularne. Znacznie bardziej prawdopodobne jest, że konieczny będzie znaczący przełom naukowy, a nikt obecnie nie ma najmniejszego pojęcia, jak taki przełom mógłby wyglądać, nie mówiąc już o szczegółach tego, jak go osiągnąć.

Mit o AI jest zatem szkodliwy, ponieważ mówienie bez końca o stałych postępach ukrywa fakt znanej nauce tajemnicy. Mit podtrzymuje wiarę w nieuchronny sukces, ale prawdziwy szacunek dla nauki powinien skłonić nas do powrotu do punktu wyjścia. W ten sposób przechodzimy do drugiego tematu – kulturowych konsekwencji mitu. Kierowanie się tym mitem nie jest dobrym sposobem na bycie „dobrze poinformowanym przez źródła” ani nawet wyrazem przyjęcia postawy neutralnej. Jest szkodliwe dla nauki i dla nas samych. Dlaczego? Jednym z powodów jest to, że mało prawdopodobne jest opracowanie innowacji, jeśli zamiast stawić czoła rzeczywistości, zdecydujemy się zignorować centralną tajemnicę. W zdrowej kulturze innowacji podkreśla się znaczenie eksploracji nieznanych obszarów; nie wspiera się przesadnie długiego trwania przy znanych metodach – szczególnie gdy te metody okazały się niewystarczające, by pchnąć nas znacznie dalej. Mitologia dotycząca nieuchronnego sukcesu w obszarze AI ma tendencję do psucia samej kultury wynalazczości niezbędnej do rzeczywistego postępu, czy to postępu z AI podobnej ludziom, czy bez niej. Mit ten również zachęca do biernego pogodzenia się z powolnym rozwojem świata maszyn, w którym prawdziwe wynalazki są spychane na margines na rzecz futurystycznych narracji promujących obecne podejścia, często wspieranych przez ugruntowane interesy.

Kto powinien przeczytać tę książkę? Z pewnością każdy, kto jest podekscytowany ideą AI, ale zastanawia się, dlaczego jej realizacja zawsze jest odległa o 10 lub 20 lat. Wyjaśnię, jaki naukowy powód się za tym kryje. Powinieneś również przeczytać tę książkę, jeśli uważasz, że postęp AI w kierunku superinteligencji jest nieunikniony i obawiasz się, co zrobić, gdy już nastąpi. Chociaż nie mogę udowodnić, że pewnego dnia AI nie przejmie władzy, mogę podać powody, by poważnie wątpić w prawdopodobieństwo takiego scenariusza. Ogólnie rzecz biorąc, powinieneś przeczytać tę książkę, jeśli jesteś po prostu ciekawy, a jednocześnie zdezorientowany powszechnym szałem na punkcie AI, z jakim mamy do czynienia w naszym społeczeństwie. Wyjaśnię pochodzenie mitu o AI, co wiemy i czego nie wiemy o perspektywach rzeczywistego osiągnięcia AI na poziomie ludzkim oraz dlaczego musimy lepiej docenić jedyną prawdziwą inteligencję, którą znamy – naszą własną.

Treść książki

W części pierwszej, zatytułowanej Uproszczony świat, wyjaśniam, jak w powszechnym podejściu do AI uproszczono znaczenie pojęć odnoszących się do ludzi, jednocześnie rozszerzając idee dotyczące technologii. Zaczęło się to od Alana Turinga, twórcy dziedziny AI, i obejmowało zrozumiałe, ale niefortunne uproszczenia, które nazywam „błędnymi koncepcjami inteligencji”. Za sprawą przyjaciela Turinga i statystyka Irvinga Johna Goode’a, który wprowadził pojęcie „ultrainteligencji” mające odpowiadać przewidywanej konsekwencji osiągnięcia AI na poziomie ludzkim, początkowe błędy osiągnęły status ideologii. Przyglądając się temu, co głosili Turing i Good, widzimy, jak kształtował się nowoczesny mit AI. Jego rozwój wprowadził nas w erę, którą nazywam „technologicznym kiczem” – tanimi imitacjami głębszych idei, odcinającymi nas od inteligentnego zaangażowania i osłabiającymi naszą kulturę. Kicz mówi nam, jak myśleć i jak się czuć. Handlarze kiczem odnoszą korzyści, podczas gdy konsumenci kiczu tracą. Wszyscy kończymy w spłyconym świecie.

W części drugiej, zatytułowanej Problem wnioskowania, twierdzę, że jedynym rodzajem wnioskowania, innymi słowy „myśleniem”, którym musiałaby się posługiwać AI mająca odpowiadać poziomowi ludzkiemu (lub czemukolwiek, co się do tego zbliża), jest taki rodzaj, co do którego nie mamy pojęcia, jak go zaprogramować czy skonstruować. Problem wnioskowania dotyka samego serca debaty o AI, ponieważ dotyczy bezpośrednio inteligencji, zarówno ludzi, jak i maszyn. Nasza wiedza o różnych typach wnioskowania sięga Arystotelesa i innych starożytnych Greków i była rozwijana w dziedzinach logiki i matematyki. Wnioskowanie jest obecnie opisywane przy użyciu formalnych, symbolicznych systemów, takich jak programy komputerowe, więc analizując kwestię wnioskowania, można uzyskać bardzo wyraźny obraz projektu inżynierii inteligencji. Istnieją trzy typy wnioskowania. Klasyczne podejście do AI skupiało się na jednym typie – dedukcji, nowoczesne ujęcie AI zajmuje się innym – indukcją. Kluczowy dla ogólnej inteligencji jest trzeci typ – abdukcja, nad którym, niespodzianka, nikt nie pracuje – wcale2. Wreszcie, ponieważ każdy typ wnioskowania jest odrębny – co oznacza, że jeden typ nie może być zredukowany do innego – wiemy, że niepowodzenie w budowaniu systemów AI przy użyciu typu wnioskowania wspierającego ogólną inteligencję będzie skutkowało brakiem postępów w kierunku sztucznej ogólnej inteligencji (ang. artificial general intelligence – AGI).

W części trzeciej, zatytułowanej Przyszłość mitu, twierdzę, że mit ma bardzo niekorzystne konsekwencje, jeśli traktuje się go poważnie, ponieważ podważa naukę. W szczególności osłabia kulturę inteligencji ludzkiej i wynalazczości, niezbędną dla osiągania istotnych przełomów, których będziemy potrzebować, aby zrozumieć naszą własną przyszłość. Nauka o danych (zastosowanie AI w kontekście „wielkich zbiorów danych” – ang. big data) jest w najlepszym wypadku protezą ludzkiej pomysłowości, która, używana prawidłowo, może pomóc nam poradzić sobie ze współczesnym „zalewem danych”. Jeśli jednak jest wykorzystywana jako zamiennik dla indywidualnej inteligencji, ma tendencję do pochłaniania inwestycji bez przynoszenia oczekiwanych rezultatów. Wyjaśniam, w szczególności, jak wśród innych współczesnych przedsięwzięć naukowych mit negatywnie wpłynął na badania w neurobiologii. Cena, którą płacimy za mit, jest zbyt wysoka. Ponieważ nie mamy dobrego naukowego powodu, by wierzyć, że mit jest prawdziwy, a wszystko wskazuje na to, by go odrzucić na rzecz naszego własnego rozkwitu, musimy radykalnie przemyśleć dyskusję na temat AI.

Ten rozdział jest dostępnytylko w pełnej wersji książki.

Zapraszamy do zakupu

Ten rozdział jest dostępnytylko w pełnej wersji książki.

Zapraszamy do zakupu

Ten rozdział jest dostępnytylko w pełnej wersji książki.

Zapraszamy do zakupu

Ten rozdział jest dostępnytylko w pełnej wersji książki.

Zapraszamy do zakupu

Ten rozdział jest dostępnytylko w pełnej wersji książki.

Zapraszamy do zakupu

Ten rozdział jest dostępnytylko w pełnej wersji książki.

Zapraszamy do zakupu

Ten rozdział jest dostępnytylko w pełnej wersji książki.

Zapraszamy do zakupu

Ten rozdział jest dostępnytylko w pełnej wersji książki.

Zapraszamy do zakupu

Ten rozdział jest dostępnytylko w pełnej wersji książki.

Zapraszamy do zakupu

Ten rozdział jest dostępnytylko w pełnej wersji książki.

Zapraszamy do zakupu

Ten rozdział jest dostępnytylko w pełnej wersji książki.

Zapraszamy do zakupu

Ten rozdział jest dostępnytylko w pełnej wersji książki.

Zapraszamy do zakupu

Ten rozdział jest dostępnytylko w pełnej wersji książki.

Zapraszamy do zakupu

Ten rozdział jest dostępnytylko w pełnej wersji książki.

Zapraszamy do zakupu

Ten rozdział jest dostępnytylko w pełnej wersji książki.

Zapraszamy do zakupu

Ten rozdział jest dostępnytylko w pełnej wersji książki.

Zapraszamy do zakupu

Ten rozdział jest dostępnytylko w pełnej wersji książki.

Zapraszamy do zakupu

Ten rozdział jest dostępnytylko w pełnej wersji książki.

Zapraszamy do zakupu

Ten rozdział jest dostępnytylko w pełnej wersji książki.

Zapraszamy do zakupu

Ten rozdział jest dostępnytylko w pełnej wersji książki.

Zapraszamy do zakupu

Ten rozdział jest dostępnytylko w pełnej wersji książki.

Zapraszamy do zakupu

Ten rozdział jest dostępnytylko w pełnej wersji książki.

Zapraszamy do zakupu

1 Słowo „luddyzm” pochodzi od nazwiska prawdopodobnie wyimaginowanego angielskiego tkacza Neda Ludda, który około 1779 roku miał rzekomo zniszczyć krosna tkackie; termin odnosi się do idei wyznawanych przez jego zwolenników z początku XIX wieku, sprzeciwiających się użyciu maszyn włókienniczych w Anglii. Współczesny luddysta jest sceptyczny wobec każdej nowej technologii i sprzeciwia się wszelkim zmianom technologicznym, które uderzają w ludzką naturę i zagrażają realizacji potrzeb człowieka (przyp. tłum.). ↩

2 Nie zamierzam sugerować, że naukowcy nie zmagali się z abdukcją w AI – zmagali się. W latach osiemdziesiątych i dziewięćdziesiątych XX wieku pracowano nad logicznymi podejściami do abdukcji, zwanymi „programowaniem opartym na logice abdukcyjnej”. Jednak systemy te łączyła z abdukcją „tylko nazwa”, ponieważ polegały na dedukcji, a nie na prawdziwej abdukcji. Systemy te nie odnosiły sukcesów i szybko zostały porzucone, gdy w pracach nad AI nadeszła era Internetu. Ostatnio, od około 2010 roku do dzisiaj, przyjęto różne probabilistyczne (w szczególności bayesowskie) podejścia jako możliwe ścieżki do autentycznego wnioskowania abdukcyjnego. Te systemy jednak również nie są w pełni abdukcyjne. Nie są one przebranymi podejściami dedukcyjnymi jak ich poprzednicy, ale są to przebrane podejścia indukcyjne lub probabilistyczne. Abdukcja tylko z nazwy nie jest tym, co mam na myśli, mówiąc o abdukcji, a systemy używające tej nazwy, ale nierozwiązujące problemu, nie pomogą nam poczynić postępów w AI. Wszystko to wyjaśnię na kolejnych stronach. ↩

3 A.M. Turing, Maszyna liczące a inteligencja, tłum. M. Szczubiałka, w: Filozofia umysłu, wyb. i wstępem opatrzył B. Chwedeńczuk, Fundacja ALETHEIA – Wydawnictwo SPACJA, Warszawa 1995, s. 271–300. ↩

4 Tamże, s. 271. ↩

5 A.M. Turing, On Computable Numbers, with an Application to the Entscheidungsproblem, „Proceedings of the London Mathematical Society” 1937, Vol. 2–42, issue 1, s. 230–265. ↩

6 Ang. słowo insight będzie w dalszej części książki tłumaczone jako „intuicja”, ale też „zdolność do zrozumienia”, „zrozumienie”, „wgląd” itp. jako odnoszące się do zdolności do uchwycenia, zrozumienia jakiejś prawdy, jakiegoś zagadnienia, problemu itp. (przyp. tłum.). ↩

7 A.M. Turing, Systems of Logic Based on Ordinals, rozprawa doktorska, Princeton University 1938, s. 57. ↩

8 Gödel wykazał również, że dodanie nowych reguł mogłoby w niektórych systemach załatać tę niedoskonałość, ale nowy system, z dodatkowymi regułami, miałby z kolei inne ograniczenia, i tak w nieskończoność. To było dokładnie to, na czym Turing skoncentrował się w swojej późniejszej pracy nad systemami formalnymi i zupełnością. ↩

9 W sprawie oryginalnych wyników dotyczących twierdzeń o niezupełności zob. pracę K. Gödel, Über formal unentscheidbare Sätze der Principia Mathematica und verwandter Systeme I, „Monatshefte für Mathematik Physik” 1931, 38, s. 173–198. Tłumaczenie na język angielski: On formally undecidable propositions of Principia mathematica and related systems I, w: K. Gödel. Collected Works, Vol. 1: 1929–1936, eds. S. Feferman et al., Oxford University Press, Oxford 1986, s. 145–195. ↩

10 Używam tutaj wymiennie terminów „formalny”, „matematyczny” i „obliczeniowy”. Terminologia ta nie jest niewłaściwa, chociaż technicznie wszystkie systemy matematyczne lub obliczeniowe znane są jako systemy formalne. Mam nadzieję, że nie wprowadza zamieszania, ale w każdym razie terminy „matematyczny” i „obliczeniowy” odnoszą się do systemów formalnych, które posiadają dobrze zdefiniowany słownik symboli oraz zasady manipulacji tymi symbolami. Mam więc na myśli zarówno arytmetykę, jak i języki komputerowe, wypowiadając się w sposób ogólny i dzięki temu dostosowany do celów niniejszego omówienia. ↩