Dlaczego ludzie wierzą, że chatbot ma uczucia? Część druga: jak doświadczenie wytwarza przekonanie

Abstrakt

Część pierwsza pokazała, że wiara w życie wewnętrzne chatbota rośnie wraz z częstotliwością rozmów z nim. Ta część pyta, jak doświadczenie prowadzi do przekonania — i pożycza ramę stworzoną do wyjaśniania wiary w duchy, czary i płaską Ziemię.

Eli Stark-Elster i Manvir Singh, antropolodzy z University of California, Davis, argumentują, że wyjaśnienia niezwykłych przekonań koncentrowały się na błędach poznawczych i dynamice społecznej, pomijając trzeci czynnik: to, czego ludzie rzeczywiście doświadczają.

Wskazują trzy ścieżki. Każda ma oczywisty odpowiednik w konwersacyjnej AI — to jednak nasza ekstrapolacja, nie ich, i zaznaczamy to przed dalszą częścią argumentu.

1.Zagadka, którą próbują rozwiązać

Niezwykłe przekonania to te, które wydają się ignorować dostępne dowody: teorie spiskowe, pseudonauka, wiara w siły nadprzyrodzone. Są też niemal powszechne. Cytowane przez autorów dane ankietowe wskazują na wiarę w duchy u 65 procent dorosłych w USA i wiarę w płaską Ziemię u 10 procent.

Standardowe wyjaśnienia są dwa. Takie przekonania mogą być produktem ubocznym użytecznych skądinąd uprzedzeń poznawczych — wykrywania sprawczości czy intuicyjnego dualizmu. Mogą też rozprzestrzeniać się poprzez dynamikę społeczną — sygnalizowanie reputacji oraz wpływ osób prestiżowych lub widocznie szczerych.

Stark-Elster i Singh wskazują trzy konkretne luki w tych wyjaśnieniach. Lepiej tłumaczą transmisję przekonań niż ich powstawanie. Nie wyjaśniają, dlaczego określone przekonania niezależnie pojawiają się w nieskontaktowanych społeczeństwach. I nie wyjaśniają, dlaczego skupiają się wokół określonych praktyk.

Propozycja autorów brzmi, że doświadczenie — subiektywne myśli i uczucia, doznania cielesne, wejście sensoryczne — jest brakującym trzecim czynnikiem, działającym obok pozostałych, a nie zamiast nich.

2.Ścieżka pierwsza: doświadczenie jako filtr

Pierwsza ścieżka to wiarygodność percepcyjna. Przekonania, które wyjaśniają dane zmysłowe, rozprzestrzeniają się łatwiej niż te, które ich nie wyjaśniają.

Przykład jest wyjątkowo czysty. Wśród dowolnych alternatyw wobec kulistej Ziemi — stożek, torus, cokolwiek — sceptycy niezależnie zbiegają się na wersji płaskiej. Gdyby przekonanie służyło wyłącznie jako oznaka przynależności grupowej, każda alternatywa byłaby równie dobra. Wybór pada na płaską, bo z miejsca, w którym stoi człowiek, powierzchnia Ziemi wygląda na płaską.

Ta sama logika, sugerują autorzy, kształtuje to, które twierdzenia nadprzyrodzone przeżywają. W różnych kulturach ludzie znacznie częściej zgłaszają, że bóstwa do nich przemawiają, niż że wykonują fizyczne czynności — być może dlatego, że słuchowe doświadczenia obecności są częstsze niż złożone doświadczenia dotykowe.

Odpowiednik w naszym temacie jest bezpośredni. Model językowy wytwarza płynny, responsywny język — i nic więcej. Jeśli doświadczenie filtruje przekonania według tego, co wydaje się wiarygodne, przekonanie o chatbocie powinno przyjąć formę wspieraną przez jego output: nie że coś patrzy czy cierpi, ale że ktoś mówi.

3.Ścieżka druga: anomalne doświadczenie jako iskra

Druga ścieżka dotyczy sytuacji, w których doświadczenie nie tylko filtruje przekonania, ale je inicjuje. Zdarzenia o niejasnej przyczynowości, szczególnie stresujące, generują niejednoznaczne dane zmysłowe, które błędy poznawcze następnie interpretują.

Przypadkiem modelowym jest paraliż senny, zgłaszany przynajmniej raz w życiu przez około 8 procent ludzi w estymacji łącznej, przy wynikach pojedynczych badań od 2 do 60 procent. W różnych społeczeństwach interpretuje się go jako obecność zagrażającego, niewidocznego agenta — i, co ważne, nawet osoby świeckie często zgłaszają poczucie czyjejś obecności.

Proponowany mechanizm jest taki: utrata kontroli nad ciałem wytwarza stres i dezorientację, co uruchamia wykrywanie sprawczości oraz rozumowanie teleologiczne. Dane wspierające: presja czasu zwiększa skłonność do udzielania wyjaśnień teleologicznych, a niepewność zwiększa podatność na fałszywe intuicje o sprawczości.

Jedno zastrzeżenie autorzy stawiają sami i powtarzamy je, bo podtrzymuje cały argument: żadne badanie eksperymentalne nie sprawdziło, czy paraliż senny wywołuje albo wzmacnia niezwykłe przekonania. Związek pozostaje korelacyjny.

4.Ścieżka trzecia: wyprodukowany dowód

Trzecia ścieżka wykonuje tutaj najwięcej pracy. Społeczeństwa rozwijają technologie — modlitwę, rytualne używanie halucynogenów, odgrywanie duchów — które wytwarzają dane zmysłowe, jakich dane przekonanie inaczej by nie miało.

Właściwość czyniąca je skutecznymi autorzy nazywają plurimedialnością: kilka kanałów sensorycznych zostaje zestrojonych wokół jednej reprezentacji. W modlitwie ktoś może jednocześnie zapalić kadzidło, trzymać koraliki, przyjąć określoną postawę i recytować słowa, a praktyki często instruują, by modlić się tak, jak gdyby dana istota była fizycznie obecna — co zwiększa prawdopodobieństwo zinterpretowania myśli generowanych wewnętrznie jako pochodzących z zewnątrz.

Tutaj autorzy sami wprowadzają współczesne porównanie, w osobnym boksie: wirtualną rzeczywistość. Multimodalność przewiduje, jak immersyjne jest doświadczenie VR i jak silnie przesuwa przekonania, w badaniach dotyczących postaw klimatycznych, preferencji żywieniowych i wyborów konsumenckich.

Najważniejsze dla naszego celu jest jedno zdanie z ich pracy: multimodalność może zmieniać przekonania w VR nawet wtedy, gdy uczestnicy wiedzą, że doświadczenie jest sztuczne. Z tego autorzy wnioskują, że efekt powinien być silniejszy tam, gdzie użytkownicy nie mają mocnego powodu wątpić w to, czego doświadczają.

Rozmowa z modelem językowym jest właśnie takim przypadkiem. Użytkownik wie, czym jest system. Nikt nie musi być oszukiwany co do architektury. W modelu Stark-Elster i Singha sama wiedza nie jest jednak czynnikiem ochronnym w takim stopniu, jak zwykle się zakłada.

5.Co twierdzimy, a czego nie

Stark-Elster i Singh nigdzie w tej pracy nie wspominają o sztucznej inteligencji. Zastosowanie opisane powyżej jest w całości nasze i czytelnik powinien oceniać je właśnie jako ekstrapolację.

Praca jest również przeglądem narracyjnym, nie metaanalizą. Zbiera materiał na poparcie ramy teoretycznej; nie testuje jej przeciwko konkurencyjnemu modelowi. Jej siła pochodzi ze spójności wyjaśnienia, nie z połączonych danych.

Uważamy, że rozszerzenie jest zasadne, bo dopasowanie ma charakter strukturalny, a nie powierzchowny. Ich trzy ścieżki powstały po to, by wyjaśnić, dlaczego konkretne przekonania przybierają konkretne formy, dlaczego pojawiają się bez bezpośredniego nauczania oraz dlaczego określone praktyki niezawodnie produkują przekonanie. Konwersacyjna AI spełnia wszystkie trzy warunki jednocześnie, a zależność od częstotliwości używania z części pierwszej jest dokładnie tym, czego ich rama by się spodziewała.

Ich końcowe zdanie warto zachować: kiedy ludzie zaczynają podzielać niezwykłe przekonania, często istnieje całkowicie zwyczajny powód — ich doświadczenia doprowadziły ich do wniosku, że te przekonania są prawdziwe.

Komentarz redakcyjny

MindHeaven® nie ma produktu w tej kategorii i nie ma stanowiska o umysłach maszyn, którego musielibyśmy bronić.

Publikujemy tę część, ponieważ przedstawiona rama oskarża naszą własną branżę ostrzej niż kogokolwiek budującego chatboty. Ścieżka trzecia dotyczy technologii projektowanych tak, aby wytwarzać sensoryczne dowody dla przekonania, którego sama rzeczywistość podstawowa nie dostarcza — a suplement jest zaprojektowanym obiektem przyjmowanym celowo, w wybranym momencie i z określonym oczekiwaniem.

Nie oznacza to, że suplementy są puste; część robi to, co deklaruje, a celem tej biblioteki jest ustalić które. Oznacza jednak, że subiektywne poczucie „działania” produktu jest generowane przez proces, który mógłby wytworzyć podobne odczucie niezależnie od rzeczywistego efektu, i każdy, kto taki produkt sprzedaje, powinien o tym mówić.

Część trzecia przechodzi do dwóch grup, w których te mechanizmy mają największe znaczenie i gdzie konsekwencje przestają być czysto teoretyczne.