Dlaczego ludzie wierzą, że chatbot ma uczucia? Część pierwsza: co naprawdę myślą

Abstrakt

W innej serii tego działu pytamy, czy system AI mógłby być świadomy. Tutaj pytanie jest inne i dostępna odpowiedź jest znacznie mocniejsza: w co ludzie już wierzą — i dlaczego?

Badanie z 2024 roku na reprezentatywnej ogólnokrajowo próbie 300 dorosłych mieszkańców Stanów Zjednoczonych wykazało, że dwie trzecie przypisywało ChatGPT przynajmniej pewną możliwość posiadania subiektywnego doświadczenia.

Najważniejszy wynik nie mieści się jednak w nagłówku. Przekonanie było najsilniejsze u osób, które korzystały z systemu najczęściej — czyli odwrotnie niż sugerowałaby intuicja, że znajomość technologii ją odczarowuje.

1.Dlaczego to nie jest pytanie ciekawostkowe

Clara Colombatto z University College London i University of Waterloo oraz Stephen Fleming z UCL zaczynają od dwóch powodów, dla których warto mierzyć potoczne przypisywanie świadomości AI.

Pierwszy jest praktyczny. Przypisywanie świadomości może pośredniczyć w przyszłej trosce moralnej wobec AI niezależnie od tego, czy systemy rzeczywiście są świadome. To, co ludzie myślą o „umysłach maszyn”, będzie kształtować regulacje, projektowanie produktów i debatę publiczną na długo przed rozstrzygnięciem pytania podstawowego — jeśli w ogóle kiedykolwiek zostanie rozstrzygnięte.

Drugi powód jest naukowy. Sposób, w jaki zwykli ludzie decydują, że coś ma życie wewnętrzne, jest sam w sobie wynikiem dotyczącym ludzkiego poznania, a maszyny stanowią naprawdę nowy przypadek testowy: są wysoce artykułowane, całkowicie niebiologiczne i dostępne niemal dla każdego.

Warto zaznaczyć, czym to badanie nie jest. Mierzy przekonania o świadomości, nie świadomość. Nic tutaj nie mówi o tym, czy ChatGPT ma doświadczenia, i autorzy również tego nie sugerują.

2.Co zrobiono

Badacze zrekrutowali przez Prolific reprezentatywną ogólnokrajowo próbę 300 dorosłych mieszkańców USA, warstwowaną pod kątem cech populacyjnych — 152 kobiety, 142 mężczyzn, dwie osoby niebinarne, cztery bez odpowiedzi; średni wiek 46 lat.

Uczestnicy oceniali, na ile ChatGPT jest ich zdaniem zdolny do subiektywnego doświadczenia, korzystając ze skali zaadaptowanej z wcześniejszych prac nad przypisywaniem fenomenalności. Pytano ich również o stany mentalne zwykle kojarzone ze świadomością oraz o częstotliwość korzystania z systemu.

Siłą tej pracy są liczebność i reprezentatywność. Trzysta osób to niewiele jak na badanie ankietowe, ale wystarczająco dla raportowanych efektów, a warstwowanie ogólnokrajowe oznacza, że nie jest to wygodna próba studentów czy entuzjastów technologii.

3.Co odpowiedzieli ludzie

Jedna trzecia uczestników — 33 procent — stwierdziła, że ChatGPT zdecydowanie nie jest podmiotem doświadczającym. Pozostałe 67 procent przypisało mu przynajmniej pewną możliwość świadomości fenomenalnej.

Rozkład jest ważniejszy niż sam podział. Średnia ocena wynosiła około 25 na użytej skali, a mediana 16 — wyraźnie poniżej środka. Najczęstsza pozycja nie brzmi więc „ChatGPT jest świadomy”. Brzmi raczej: być może jest, w niewielkim stopniu, i nie da się być pewnym.

To bardziej defensywne stanowisko niż każda z dwóch odpowiedzi skrajnych i warto powiedzieć to wprost zamiast traktować 67 procent jako dowód łatwowierności opinii publicznej.

Przypisania zachowywały się również spójnie. Przewidywały przypisywanie konkretnych stanów mentalnych związanych z fenomenalnością, co sugeruje, że uczestnicy nie tylko automatycznie zgadzali się z nietypowo sformułowanym pytaniem — mieli spójny pogląd leżący pod odpowiedziami.

4.Wynik, który odwraca oczekiwanie

Przypisywanie świadomości rosło wraz z częstotliwością używania. W podsumowaniu autorów: osoby, które częściej wchodzą w interakcję z ChatGPT, częściej wierzą również, że system ma subiektywne doświadczenia.

Intuicyjne oczekiwanie jest odwrotne. Zakładamy zwykle, że znajomość technologii ją demistyfikuje — im częściej korzystasz z narzędzia, tym lepiej rozumiesz je jako mechanizm i tym mniej skłonny jesteś widzieć w nim umysł.

Tutaj tak się nie dzieje. Cokolwiek robi z człowiekiem powtarzane używanie modelu językowego, nie redukuje niezawodnie poczucia, że „po drugiej stronie” coś jest.

Dostępne są dwa odczytania i to badanie nie może ich rozdzielić. Używanie systemu może powodować przekonanie: nagromadzone doświadczenie spójnej, responsywnej rozmowy dostarcza czegoś, co jest odczytywane jako dowód. Albo przekonanie może powodować używanie: ludzie z góry skłonni widzieć po drugiej stronie umysł rozmawiają z systemem częściej.

To badanie przekrojowe. Kierunek przyczynowości nie został ustalony i autorzy tego nie twierdzą.

5.Czego badanie nie może rozstrzygnąć

Tylko dorośli w USA, jeden system i jeden moment w 2024 roku. Postawy wobec technologii zmieniającej się tak szybko mają krótki okres półtrwania, a badanie ChatGPT z 2024 roku nie musi opisywać opinii o systemach używanych dzisiaj.

Autorzy zwracają też uwagę na ograniczenie warte zachowania: mierzyli częstotliwość korzystania, nie rozumienie technologii. Czy techniczna wiedza o tym, jak działają te systemy, zmienia przypisywanie świadomości, jest oddzielnym i otwartym pytaniem.

Właśnie w tę lukę wchodzi następna część serii. Wiedzieć, że przekonanie koreluje z doświadczeniem, to jedno; rozumieć mechanizm, przez który doświadczenie wytwarza przekonanie, to co innego. Okazuje się, że istnieje dobrze rozwinięta literatura dokładnie o tym problemie — powstała jednak wokół zupełnie innego tematu.

Komentarz redakcyjny

MindHeaven® sprzedaje suplementy. Nie mamy chatbota ani produktu typu companion i nie mamy stanowiska o świadomości maszyn, którego musielibyśmy bronić.

Opisujemy ten wynik, ponieważ jest niewygodny w sposób daleko wykraczający poza jego temat. Powtarzane doświadczenie czegoś z pierwszej ręki zwykle traktuje się jako najlepszy rodzaj dowodu dostępny pojedynczej osobie — lepszy niż informacja z drugiej ręki czy przeczytany opis. Tutaj takie doświadczenie wiąże się z przekonaniem, którego najlepsza dostępna ocena naukowa, omawiana w naszej innej serii, nie wspiera.

To powinno zatrzymać na chwilę każdego w naszej branży. „Poczułem, że zadziałało” jest jednym z najbardziej przekonujących zdań w suplementach — i należy do tej samej klasy dowodu.

Część druga pyta, jak doświadczenie generuje przekonanie, wykorzystując ramę stworzoną do wyjaśniania wiary w duchy i płaską Ziemię, nie w maszyny.