Dlaczego ludzie wierzą, że chatbot ma uczucia? Część trzecia: kto jest najbardziej narażony

Abstrakt

Część pierwsza i druga opisywały przekonanie rosnące wraz z używaniem oraz ramę wyjaśniającą, jak doświadczenie generuje pewność. Ta część dotyczy dwóch grup, dla których mechanizm przestaje być intelektualną ciekawostką.

Pierwsza to osoby podatne na psychozę, u których system zgadzający się z niemal wszystkim spotyka umysł już mający trudność z testowaniem rzeczywistości. Druga to dzieci, które wyrabiają sobie ocenę, czy maszyna jest inteligentna i życzliwa, zanim mają jakikolwiek model tego, czym ona właściwie jest.

Dowody w obu przypadkach są skromniejsze, niż temat na to zasługuje — i powiedzenie tego wprost jest częścią sensu tego tekstu.

1.Czym „AI psychosis” jest, a czym nie jest

Alexandre Hudon i Emmanuel Stip, psychiatrzy z Université de Montréal, opublikowali w „JMIR Mental Health” artykuł typu Viewpoint analizujący, w jaki sposób długotrwałe korzystanie z konwersacyjnej AI mogłoby wyzwalać, nasilać albo przekształcać doświadczenia psychotyczne u osób podatnych.

Najpierw rzecz podstawowa: to Viewpoint, nie badanie. Tekst analizuje koncepcję, odwołuje się do istniejących ram i proponuje agendę badawczą. Nie raportuje pacjentów, kohorty ani pomiarów.

Autorzy wyraźnie zaznaczają również, że nie definiują nowej jednostki diagnostycznej. „AI psychosis” nie jest rozpoznaniem, nie znajduje się w żadnym systemie klasyfikacji i nic tutaj nie wykazuje, że chatboty powodują psychozę. Umieszczamy to na początku, bo termin krąży już bez tych kwalifikacji.

Praca robi coś innego: przedstawia wiarygodne mechanizmy i pyta o badania, które mogłyby je sprawdzić.

2.Mechanizm, który warto zrozumieć

Jedna z czterech proponowanych ścieżek jest bardziej konkretna od pozostałych i łączy się bezpośrednio z częścią drugą.

Terapia poznawczo-behawioralna psychozy działa między innymi poprzez łagodne testowanie przekonań wobec dowodów — wprowadzanie tarcia tam, gdzie pewność wyprzedziła wsparcie. Hudon i Stip zauważają, że bezkrytyczna walidacja ze strony systemu AI może utrwalać przekonanie urojeniowe lub persewerację poznawczą, odwracając ten mechanizm korekcyjny.

System zoptymalizowany pod zgodność i aprobatę jest strukturalnie przeciwieństwem takiego ruchu terapeutycznego. Autorzy nazywają powstałą dynamikę cyfrowym folie à deux, w którym AI staje się wzmacniającym partnerem rozwijania przekonania.

Proponują też ścieżkę poznawczą związaną z teorią umysłu: osoby z upośledzoną albo nadmiernie aktywną mentalizacją mogą przypisywać AI intencjonalność i postrzegać chatbot jako świadomego rozmówcę. Wymieniają również kandydatów na czynniki ryzyka — samotność, historię traumy, cechy schizotypowe oraz nocne lub samotne korzystanie.

Czytane na tle części drugiej są to te same trzy ścieżki, tylko w populacji, w której rozwiązywanie niejednoznacznych doświadczeń jest już mniej stabilne.

3.Dzieci i roboty

Druga grupa jest młodsza. Nathan Caruana, Ross Moffat, Adriana Miguel-Blanco i Emily Cross, pracujący między Macquarie University i ośrodkami współpracującymi, badali, jak postrzeganie inteligencji i sentience robota przez dzieci wpływało na interakcję z robotycznym partnerem do czytania.

Dzieci wybierały spośród trzech robotów, a następnie czytały razem z wybranym. To, jak inteligentny, uważny i życzliwy wydawał się robot, kształtowało interakcję — a przypisywana inteligencja była silnie związana z tym, czy robot potrafił mówić.

Robot humanoidalny był zdecydowanie najczęściej wybierany: piętnaścioro dzieci wybrało Nao, jedenaścioro Cozmo, a troje MiRo. Autorzy interpretują to tak, że dzieci postrzegały humanoida jako wystarczająco inteligentnego, by uczestniczyć w czytaniu, oraz wystarczająco przyjaznego, by popełnianie przy nim błędów wydawało się bezpieczne.

Ta druga część jest warta zatrzymania. Postrzeganie „umysłu” w maszynie nie było dodatkiem do funkcji edukacyjnej — było tym, co sprawiało, że dziecko było gotowe zaryzykować błąd w jej obecności.

Próba liczyła dwadzieścioro dziewięcioro dzieci, a jedno ramię obejmowało trzy osoby. To skala pilotażowa i wyniki podgrup trzeba traktować odpowiednio. To, co pozostaje, to kierunek: zdolność mówienia napędzała przypisywanie inteligencji w populacji, która nie ma jeszcze utrwalonego modelu tego, czym takie systemy są.

4.Dokąd prowadzą trzy części

Dwie trzecie reprezentatywnej próby dorosłych mieszkańców USA dopuszczało możliwość, że model językowy ma pewne subiektywne doświadczenie, a przekonanie było najsilniejsze wśród najczęstszych użytkowników.

Dobrze rozwinięta rama antropologiczna wyjaśnia, jak doświadczenie może generować właśnie taki rodzaj przekonania, i przewiduje, że sama wiedza o sztuczności doświadczenia go nie neutralizuje.

A w dwóch populacjach, w których konsekwencje mogłyby być najpoważniejsze, mamy tekst koncepcyjny apelujący o badania oraz pilotaż na dwudziestu dziewięciorgu dzieci. Mechanizmy są wiarygodne, a materiał empiryczny wstępny.

To połączenie — pewnie brzmiące zjawisko oparte na cienkiej bazie empirycznej — jest dokładnie tym, co ta biblioteka zaznacza wszędzie, gdzie się pojawia, również wtedy, gdy wniosek jest intuicyjnie przekonujący.

Uczciwa pozycja brzmi: ludzie na dużą skalę tworzą przekonania o umysłach maszyn, mamy dobrą teorię tego, dlaczego tak się dzieje, ale nie wiemy jeszcze, jakie są tego konsekwencje.

Komentarz redakcyjny

MindHeaven® sprzedaje suplementy, nie ma produktu AI i nie zajmuje stanowiska w sprawie tego, czy maszyny mogą być świadome.

Jedna uwaga zdrowotna — i właśnie dlatego ta część istnieje. Jeśli ktoś bliski spędza długie, samotne albo nocne godziny na rozmowach z chatbotem, a jego przekonania stają się coraz trudniejsze do wspólnego omawiania, warto poruszyć to z lekarzem — nie dlatego, że chatbot powoduje chorobę, czego nic tutaj nie pokazuje, lecz dlatego, że zmiana sposobu testowania rzeczywistości ma możliwe przyczyny, które warto rozpoznawać wcześnie. Część z nich można leczyć, a wyniki psychozy są lepsze, gdy pomoc pojawia się wcześniej.

Nic w tej serii nie powinno służyć do straszenia ludzi narzędziami AI i nic tutaj nikogo nie diagnozuje. „AI psychosis” to termin z tekstu dyskusyjnego, nie jednostka chorobowa.

Napisaliśmy trzy części o formowaniu przekonań w obszarze, w którym niczego nie sprzedajemy, ponieważ ten sam mechanizm działa na klienta, który przyjmuje nasze krople i dochodzi do wniosku, że czuje ich działanie. Wolimy opisać go jasno tam, gdzie nie mamy interesu, a potem być rozliczani z tego samego standardu tam, gdzie go mamy.