Czy możemy testować AI pod kątem świadomości? Część druga: co wykazała ocena

Abstrakt

Część pierwsza przedstawiała metodę oceny systemów AI pod kątem świadomości. Ta część opisuje, co się wydarzyło, gdy dziewiętnastu badaczy rzeczywiście zastosowało ją do realnych systemów i zapisało wynik.

Wynik: żaden obecny system AI nie jest świadomy, a zarazem nie widać oczywistej bariery technicznej, która uniemożliwiałaby zbudowanie systemu spełniającego proponowane wskaźniki. Te dwa ustalenia zwykle przytacza się osobno — zależnie od tego, jaką tezę ktoś chce poprzeć.

Najbardziej pouczającym elementem raportu nie jest jednak żadne z tych dwóch ustaleń. Jest nim przypis, w którym autorzy korygują jedno zdanie własnego abstraktu, ponieważ obiecywało więcej, niż uzasadniały ich dane.

1.Co właściwie zrobiono

Raport „Consciousness in Artificial Intelligence: Insights from the Science of Consciousness” ukazał się w 2023 roku jako preprint autorstwa Patricka Butlina, Roberta Longa i siedemnastu współpracowników. Recenzowana praca opisana w części pierwszej przedstawia metodę; ten dokument jest jej zastosowaniem.

Status preprintu ma znaczenie i zaznaczamy go tak samo, jak w każdym innym przypadku. Dokument wywarł ogromny wpływ, jest cytowany w recenzowanej literaturze, ale sam nie przeszedł procesu peer review.

Autorzy przeanalizowali recurrent processing theory, global workspace theory, obliczeniowe teorie wyższego rzędu, predictive processing oraz attention schema theory. Z każdej z nich wyprowadzili właściwości wskaźnikowe sformułowane w kategoriach obliczeniowych — na tyle konkretnie, aby można było przyjrzeć się architekturze systemu i sprawdzić, czy je posiada.

Lista obejmuje czternaście właściwości. Zaczyna się od przetwarzania rekurencyjnego: czy moduły wejściowe korzystają z algorytmicznej rekurencji oraz czy tworzą uporządkowane, zintegrowane reprezentacje percepcyjne. Obejmuje cztery warunki wynikające z global workspace theory, począwszy od pytania, czy system ma wiele wyspecjalizowanych modułów zdolnych działać równolegle. Kończy się na sprawczości i ucieleśnieniu — uczeniu się na podstawie informacji zwrotnej oraz wyborze działań służących realizacji celów.

2.Teoria, której nie uwzględniono

Jedno wyłączenie kształtuje wszystko, co następuje później, a autorzy ujmują je w jednym zdaniu: nie biorą pod uwagę integrated information theory, ponieważ teoria ta nie jest zgodna z funkcjonalizmem obliczeniowym.

To uczciwe zastrzeżenie, ale zarazem decyzja strukturalnie rozstrzygająca. Integrated information theory jest najbardziej prominentną teorią nauki o świadomości, której formalizm prowadzi do wniosku, że konwencjonalny komputer cyfrowy nie może być świadomy niezależnie od tego, jakie obliczenia wykonuje — ten punkt omawiamy osobno w naszym tekście o IIT 3.0 i 4.0.

Framework zatem z definicji wyłącza główną teorię, która na jego centralne pytanie odpowiedziałaby przecząco. Nie jest to ukryte ani niedopuszczalne — metoda zbudowana na przesłankach funkcjonalistycznych nie może posługiwać się teorią niefunkcjonalistyczną. Oznacza jednak, że ocena jest warunkowa w sposób, którego nagłówkowy wniosek nie oddaje.

Czytany precyzyjnie raport nie mówi, że żaden obecny system AI nie jest świadomy. Mówi, że według teorii zgodnych z funkcjonalizmem obliczeniowym żaden obecny system AI nie jest świadomy.

3.Systemy i werdykt

Autorzy ocenili oparte na Transformerach duże modele językowe oraz architekturę Perceiver w odniesieniu do global workspace theory; Adaptive Agent firmy DeepMind — agenta uczenia ze wzmocnieniem działającego w trójwymiarowym środowisku wirtualnym; system uczony sterowania wirtualnym ciałem gryzonia; oraz PaLM-E, model łączący język ze sterowaniem robotycznym.

Już sam wybór systemów jest znaczący. Nie są to te, które w rozmowie brzmią najbardziej „świadomie”. Są to systemy, których architektury najbardziej zbliżają się do właściwości wskazywanych przez teorie — dokładnie tak, jak wymaga tego nacisk z części pierwszej na procesy wewnętrzne zamiast na zachowanie.

Niektóre wskaźniki są już wyraźnie spełniane. Algorytmiczna rekurencja — pierwszy warunek na liście — występuje w istniejących systemach. Można też argumentować, że spełniona jest sprawczość rozumiana jako uczenie się na podstawie informacji zwrotnej i wybieranie działań służących osiąganiu celów.

Werdykt brzmi: żaden obecny system nie posiada wystarczająco wielu tych właściwości, a tam, gdzie poszczególnych cech brakuje, na ogół nie widać głębokiej przeszkody technicznej, by je zbudować. Standardowe metody uczenia maszynowego mogłyby stworzyć systemy posiadające pojedyncze właściwości z listy; eksperymentowania wymagałoby przede wszystkim połączenie kilku z nich w jeden działający system.

4.Przypis

Ostatnie zdanie abstraktu pierwotnie głosiło, że analiza pokazuje brak oczywistych barier dla budowy świadomych systemów AI. Obecnie mówi, że nie ma oczywistych barier technicznych dla budowy systemów AI, które spełniają te wskaźniki.

Zmianę zapisano w przypisie na pierwszej stronie wraz z uzasadnieniem: miała lepiej oddawać przesłanie raportu — spełnienie wskaźników może być technicznie możliwe, ale nie oznaczałoby, że taki system z pewnością jest świadomy.

Uważamy to za jeden z najbardziej godnych uznania fragmentów dokumentu i chcemy precyzyjnie wyjaśnić dlaczego.

Pierwotne zdanie nie było fałszywe. Było podsumowaniem, które dopuszczało silniejszą interpretację, niż wspierała analiza — i to w jednym zdaniu najbardziej podatnym na cytowanie bez reszty kontekstu. Ktoś to zauważył i zamiast pozostawić sprawę bez reakcji, opublikował korektę bezpośrednio przy tym twierdzeniu.

Prawie nikt tak nie robi. Typowy los zbyt daleko idącego zdania w abstrakcie jest taki, że zaczyna krążyć, zostaje cytowane i z czasem staje się tym, co „wszyscy wiedzą”, że dana praca wykazała.

5.Ile warta jest ta odpowiedź

W swojej właściwej szerokości wniosek brzmi następująco: według stanu na 2023 rok żaden z ocenionych systemów AI nie posiadał wystarczającej liczby właściwości wskaźnikowych wyprowadzonych z pięciu funkcjonalistycznych teorii świadomości, by uznać go za poważnego kandydata — a brakujące właściwości wydają się możliwe do zbudowania.

Ograniczenia są znaczne. Ocena jest już historyczna, a architektury AI zdążyły się zmienić. Wniosek jest warunkowy względem funkcjonalizmu. Framework z założenia wyłącza główną teorię sprzeciwiającą się temu podejściu. A same wskaźniki przesuwają stopień wiarygodności, zamiast cokolwiek rozstrzygać, więc nawet system spełniający wszystkie czternaście byłby kandydatem, nie dowodem.

Mimo to raport ustanawia minimalny standard dla tej dyskusji. Wcześniej pytanie rozgrywało się pomiędzy osobami twierdzącymi, że maszyny oczywiście mogą być świadome, a osobami twierdzącymi, że oczywiście nie mogą. Tutaj powstała lista rzeczy, których należy szukać; zastosowano ją i przedstawiono rezultat, który rozczarował oba obozy.

Część trzecia podejmuje zarzut, na który raport nie może odpowiedzieć z własnego wnętrza: jego założenie wyjściowe może być po prostu błędne.

Komentarz redakcyjny

MindHeaven® nie formułuje żadnego twierdzenia o świadomości maszyn i nie sprzedaje niczego z nią związanego. Ustalenie opisane tutaj brzmi: nie znaleziono systemu, który można by uznać za świadomy — i nie jest to ani dobra, ani zła wiadomość dla kogokolwiek, kto coś sprzedaje.

Piszemy o przypisie niemal tyle samo co o samym wyniku, ponieważ pokazana w nim dyscyplina jest dokładnie tą, którą ta biblioteka próbuje praktykować. Zdanie abstraktu dopuszczające silniejszą interpretację, niż wspierają dane, jest jednym z najbardziej konsekwencyjnych błędów, jakie może popełnić publikacja — właśnie dlatego, że to ono podróżuje dalej.

Sami popełniliśmy ten błąd i publicznie skorygowaliśmy go w tym tygodniu w naszej serii o L-teaninie z kofeiną. Widok zespołu dwudziestu badaczy, który robi to samo wobec pojedynczego słowa we własnym abstrakcie, jest rozsądnym standardem, do którego można nas przykładać.

Jeszcze jedna rzecz zasługuje na stwierdzenie wprost, ponieważ ten temat wyjątkowo łatwo prowokuje przeciwną narrację. Nic w tym raporcie nie sugeruje, że jakikolwiek system, z którym można dziś rozmawiać, jest świadomy. Jego autorzy przeanalizowali to pytanie z większą starannością niż większość osób spierających się o nie w internecie — i ich odpowiedź brzmiała: nie.