Czy AI może myśleć? Eksperyment myślowy w chińskim pokoju Searle'a

Wykorzystanie sztucznej inteligencji do wielu różnych celów staje się coraz bardziej popularne. Od samojezdnych samochodów po tworzenie nagradzanych zdjęć, analizowanie miliardów tweetów i (jak na ironię) pisanie całych artykułów. Nikt nie może zaprzeczyć, że rosnąca produkcja danych cyfrowych i postęp w zakresie mocy obliczeniowej zmieniły nasze codzienne życie i sposób, w jaki myślimy o inteligencji. Niektórzy uczeni, jak Nicholas Christakis (grecko-amerykański socjolog) określają sztuczną inteligencję jako jedną z radykalnych technologii, które na zawsze zmienić interakcje międzyludzkie .

Wciąż jednak przed nami długa droga; a znany filozof John Searle argumentował, że sztuczna inteligencja nigdy tak naprawdę nie może myśleć jak ludzie . Aby to zademonstrować, skonstruował słynny argument chińskiego pokoju, który wywarł duży wpływ na współczesną filozofię.

Konfigurowanie argumentu chińskiego pokoju: dwa rodzaje sztucznej inteligencji

Rozróżnienie między Sztuczna inteligencja (AI) i Sztuczna inteligencja ogólna (AGI) jest w tym momencie pomocny. Większość z nas już wchodzi w interakcję z jakimś rodzajem sztucznej inteligencji. W pierwszym przypadku komputery i maszyny naśladują ludzką inteligencję w wąskim znaczeniu; na przykład sztuczna inteligencja może być dobra w filtrowaniu i analizowaniu miliardów słów na Twitterze, ale naprawdę źle w zrozumieniu żartu; lub świetnie jeździ samochodem lub gra w szachy, ale nie jedno i drugie. Ograniczeniem sztucznej inteligencji jest zatem brak elastyczności i brak ciągłego uczenia się; modele muszą zostać przeszkolone przed ich wdrożeniem.

Jeff Hawkins, przedsiębiorca i neuronaukowiec, wyjaśnia, że ​​w przeciwieństwie do sztucznej inteligencji, AGI polega na tworzeniu „maszyn, które mogą szybko uczyć się nowych zadań, dostrzegać analogie między różnymi zadaniami i elastycznie rozwiązywać nowe problemy” (2021, s. 119). I tu natykamy się na filozoficzną dyskusję: czy takie AGI jest w ogóle możliwe? Nie interesuje nas, czy ta „Inteligencja” byłaby dobra, czy zła (z moralnego punktu widzenia), czy też doprowadziłaby do utopii lub dystopii; raczej badamy możliwość takiej Inteligencji.

Argument o chińskim pokoju Searle'a

Filozof John Searle, pod wpływem późniejsza filozofia Wittgensteina zmierzył się z tym problemem w swojej książce Umysły, mózgi i nauka (1984). Twierdził, że programy mogą naśladować procesy umysłowe wykonywane przez ludzi, ale tylko formalnie, tj. Nie robią tego zrozumieć co oni robią. Innymi słowy, taka inteligencja to po prostu przestrzeganie zbioru zasad (algorytmów) bez przypisywania im znaczenia. Aby lepiej zilustrować swój punkt widzenia, wymyślił eksperyment myślowy: chiński pokój.

Searle prosi nas, abyśmy wyobrazili sobie, że jesteśmy zamknięci w pokoju, w którym można znaleźć różne kosze z chińskimi symbolami. W tym pokoju znajdziesz księgę zasad w twoim ojczystym języku z instrukcjami, jak manipulować chińskimi znakami. Zbiór zasad zawiera tylko zasady, takie jak: „jeśli widzisz symbol [X], odpowiedz symbolem [Y]” i tak dalej. W tym sensie nigdy nie poznasz znaczenia tych chińskich symboli.

Załóżmy ponadto, że ktoś spoza pokoju wsunął pod drzwiami kilka chińskich znaków. Możesz odpowiedzieć na te wiadomości, biorąc postacie z koszyków, porządkując je zgodnie z instrukcją i wsuwając pod drzwi. Załóżmy, że instrukcje są tak jasne i szczegółowe, że wkrótce Twoje odpowiedzi będą nie do odróżnienia od odpowiedzi native speakera. Osoba na zewnątrz pokoju myśli teraz, że rozumiesz i mówisz po mandaryńsku.

Searle następnie pyta: czy możemy stwierdzić, że znasz mandaryński? Wygląda na to, że nie. Na zasadzie analogii, ponieważ dokładnie tak dzieje się ze sztuczną inteligencją, sztuczna inteligencja nie zrozumieć jak ludzie. Searle pisze: „zrozumienie języka (…) wymaga czegoś więcej niż tylko posiadania kilku formalnych symboli. Wiąże się to z interpretacją lub znaczeniem przypisanym do tych symboli” (2003, 31). Wtedy okazuje się, że droga do Sztucznej Inteligencji Ogólnej jest zablokowana przez nieodłączne ograniczenia.

Postęp technologiczny i gry imitacyjne

Możesz zapytać: co z postępem technologicznym? Czy w końcu uda się przezwyciężyć te ograniczenia? Algorytmy uczenia maszynowego stają się coraz bardziej złożone, a ilość informacji w Internecie wykorzystywanych do uczenia takich modeli rośnie wykładniczo. Mówiąc najprościej, wydaje się, że to kwestia czasu, zanim sztuczna inteligencja będzie w stanie zrozumieć język, a nie tylko go odtworzyć. Pytanie nie brzmi Jak, Ale Kiedy .

Wbrew temu rozumowaniu Luciano Floridi, profesor Uniwersytetu Oksfordzkiego, zgadza się z Searle. Mówi, że niezależnie od postępu technologicznego nieodłączne ograniczenia sztucznej inteligencji pozostaną. To jak mnożenie liczb przez zero: niezależnie od tego, jak duża jest liczba, wynikiem zawsze będzie zero. Wracając do eksperymentu myślowego Searle'a dotyczącego chińskiego pokoju, nawet jeśli instrukcja obsługi stanie się bardziej skomplikowana i skomplikowana, osoba w pokoju nigdy nie zrozumie mandaryńskiego.

Z innej strony można by zauważyć, że w chińskim pokoju Searle'a chodzi o to, że ludzie na zewnątrz są przekonani, że biegle posługujesz się mandaryńskim. Czy nie o to chodzi? Czy to nie wystarczy? Dla Alana Turinga , ojciec sztucznej inteligencji, jeśli ktoś nie potrafi odróżnić drugiego człowieka od maszyny, ten program się powiódł! Czy wystarczy symulacja?

Nie musimy spekulować. Przykłady można łatwo znaleźć: wirtualny asystent Google może wykonywać połączenia telefoniczne i umawiać się na spotkania, tak że ludzie nie zdają sobie sprawy, że rozmawiają z sztuczną inteligencją; YouTuberzy przeprowadzili wywiad z modelem Open AI GPT-3; wreszcie, prawdopodobnie wchodziłeś w interakcję z chatbotem, gdy potrzebowałeś pomocy w swoim banku lub przy zamówieniu jedzenia. Jak ujął to Turing, jest to tzw gra w imitację .

Gra w naśladownictwo to jednak za mało. Jak wspomniano wcześniej, pojedyncze algorytmy mogą przewyższać ludzi w niektórych zadaniach, ale to nie znaczy, że myślą lub że ciągle się uczą. Sieci głębokiego uczenia mogą grać w szachy (IBM Deep Blue) lub Go (AlphaGo), a nawet wygrywać w Jeopardy w programach telewizyjnych (IBM Watson), ale żadna z nich nie wie, że gra.

Poza tym często zapominamy, że podczas „konfrontacji” dziesiątki inżynierów, matematyków, programistów, kabli, laptopów itp. stoją za sztuczną inteligencją, która sprawia, że ​​wszystko działa; są naprawdę świetnymi lalkarzami! Inteligencja to coś więcej niż posiadanie właściwych odpowiedzi lub obliczanie właściwego ruchu. Jak pisze Jeff Hawkins: „Jesteśmy inteligentni nie dlatego, że jedną rzecz potrafimy robić szczególnie dobrze, ale dlatego, że możemy nauczyć się robić praktycznie wszystko”. (2021, s. 134)

Czy klucz leży w naszych mózgach?

Biorąc pod uwagę powyższe, argument przedstawiony przez chiński pokój Searle'a jest aktualny. Tak więc, jeśli symulacje nie spełniają ideałów sztucznej inteligencji ogólnej i obrazów, które mamy z science fiction, np. ja robotem (2004) lub Była maszyna (2015), jaka jest przyszłość AI? Być może potrzebne jest inne podejście.

Kiedy IBM Deep Blue wygrał z Garrym Kasparowem w 1997 roku, szachowy arcymistrz powiedział: „Wszystko, co możemy zrobić (…), maszyny zrobią to lepiej (…) Jeśli uda nam się to skodyfikować i przekażesz to komputerom, zrobią to lepiej”. (W Epstein, 2019, s. 22). W słowach Kasparowa jest wskazówka: jeśli możemy kodyfikować co robimy. Rzecz w tym, że wciąż próbujemy zrozumieć, jak to się dzieje, że ludzie są inteligentni i jak na przykład rozwijają umiejętności językowe. Wiele aspektów naszego poznania pozostaje tajemniczych; musimy jeszcze skodyfikować ten proces. Czy to możliwe, że droga do Sztucznej Inteligencji Ogólnej jest zamknięta przez nasz brak jasności co do tego, jak działa mózg?

Taką postawę przyjął w swojej książce Jeff Hawkins Tysiące mózgów (2021). Uważa, że ​​AGI musi działać tak, jak nasz mózg, co obejmuje umiejętność poruszania się po świecie, czyli posiadanie ciała. Ucieleśnienie jest kluczowe, ponieważ mózg działa poprzez ciało: uczymy się dotykając, poruszając się, widząc, słysząc, badając, smakując, zastanawiając się itp.

AGI potrzebowałby podobnie czujników i ruchomych mechanizmów. Ciało nie musi być podobne do człowieka; niezbędna jest jedynie umiejętność odkrywania świata i poruszania się po nim. Dlatego neuronaukowcy, badacze robotyki i twórcy sztucznej inteligencji muszą ze sobą współpracować. Filozoficzna konsekwencja tej intuicji burzy stary dualizm René Descartes : nie możemy myśleć bez ciała.

Wracając do Chińskiego pokoju Searle'a, każdy AGI potrzebowałby dostępu do innych informacji kontekstowych: kiedy te symbole są używane? Jak ludzie zachowują się, wysyłając te symbole? Rozciągając eksperyment myślowy, potrzebne byłyby okna i czujniki. Jak już można zauważyć, modyfikacje te dotyczą raczej charakterystyki pomieszczenia niż osoby, która się w nim znajduje. Używając terminologii technicznej, nie chodzi tylko o to, jak działa procesor (jednostka centralna) (zilustrowane przez osobę w środku), ale także o interakcję z jego kontekstem i umiejętności nawigacyjne, które można przypisać temu procesorowi.

Nieumyślnie chiński pokój odtworzył kartezjański obraz inteligencji. Jeśli dokonano tych modyfikacji, nie ma powodu, dla którego pokój – jako całość – uniemożliwiono by zrozumienie mandaryńskiego.

Konsekwencje sporu o chiński pokój: luddyści czy cyfrowi utopiści?

Myślę, że Searle zgodziłby się z Hawkinsem: gdyby tajemnice mózgu zostały ujawnione, AGI byłoby wykonalne. Hawkins jest zdania, że ​​takie zmiany nastąpią w ciągu najbliższych dwóch, trzech dekad (2021, s. 145). Wszystko zależy od ustalenia, po pierwsze, w jaki sposób ludzie uczą się i myślą oraz interakcji poznawczych między naszymi ciałami a otaczającym nas kontekstem.

Co stałoby się dalej? Jakie są konsekwencje posiadania AGI? Według Maxa Tegmarka są luddyści, którzy wierzą, że implikacje będą negatywne dla ludzkości, podczas gdy po drugiej stronie możemy znaleźć cyfrowych utopistów, którzy wierzą, że nadejście takich technologii oznacza początek lepszego czasu dla wszystkich. Bez względu na Twoje stanowisko jedno jest pewne: nasza zdolność myślenia i uczenia się nie powinna być oczywista; czekając, aż sztuczna inteligencja zacznie myśleć, powinniśmy nadal badać nasze możliwości jako istot ludzkich.

Literatura

Epstein, DJ (2019). Zakres (Kindle Ver). Grupa Wydawnicza Pingwina.

Hawkins, J. (2021). Tysiąc mózgów: nowa teoria inteligencji (Edi Kindle). Podstawowe książki.

Searle, J. (2003). Umysły, mózgi i nauka . Wydawnictwo Uniwersytetu Harvarda.

Tegmark, M. (2017). Życie 3.0. Bycie człowiekiem w dobie sztucznej inteligencji . Alfreda A. Knopfa.