Czy możemy testować AI pod kątem świadomości? Część trzecia: warunek biologicznego substratu

Abstrakt

Części pierwsza i druga przedstawiały metodę oceny systemów AI pod kątem świadomości oraz jej wynik. Obie opierają się na jednym założeniu: że o świadomości decyduje wykonywanie właściwych obliczeń, niezależnie od tego, z czego system jest zbudowany.

Ned Block, pisząc w tym samym czasopiśmie, argumentuje, że założenie to wykonuje ogromną część pracy, choć nie zostało jeszcze dostatecznie uzasadnione. Proponuje, że świadomość może dodatkowo wymagać czegoś poniżej poziomu obliczeń — biologicznego warunku, który nazywa meat condition.

Jego argument nie brzmi, że maszyny nie mogą myśleć. Brzmi raczej: kryteria, według których przypisujemy świadomość, zawierają ukryte rozwidlenie, a wybór jednej z dróg przesądza odpowiedź jeszcze zanim pojawią się dane.

1.Cel krytyki

Block odnosi się bezpośrednio do pracy opisanej w części drugiej. Wskazuje wpływowy artykuł o świadomości AI autorstwa dziewiętnastu badaczy, wśród nich laureata Nagrody Turinga z 2018 roku, i cytuje jego pierwsze jawne założenie: implementacja określonego rodzaju obliczeń jest konieczna i wystarczająca dla świadomości.

To funkcjonalizm obliczeniowy, a zarzut Blocka jest precyzyjny. Nie twierdzi on, że stanowisko to jest fałszywe. Twierdzi, że współczesna dyskusja nie traktuje wystarczająco poważnie możliwości, iż wykonywanie określonych obliczeń nie jest wystarczające — ponieważ może być potrzebny również subobliczeniowy warunek biologiczny.

Słowo „subobliczeniowy” jest tu kluczowe. Block nie wskazuje na nic, co robi samo obliczenie. Wskazuje na fizyczną maszynerię, która to obliczenie realizuje, i pyta, czy maszyneria ta musi być określonego rodzaju.

Jak zauważa, współczesne teorie świadomości są neutralne względem biologicznego „materiału”: opisują role i relacje, nie określając, co fizycznie ma je wypełniać. Tę neutralność zwykle traktuje się jako zaletę. Block traktuje ją jako nieprzeanalizowane zobowiązanie teoretyczne.

2.Rozwidlenie

Najbardziej użyteczną częścią argumentu nie jest sama teza, lecz struktura, którą Block odsłania pod nią.

Nikt nie ma bezpośredniego dostępu do świadomości kogokolwiek poza samym sobą. Każde przypisanie świadomości innej istocie — drugiemu człowiekowi, psu, ośmiornicy, pszczole czy modelowi językowemu — jest ekstrapolacją z przypadku ludzkiego. Pytanie brzmi: na podstawie czego ekstrapolujemy.

Jeśli ekstrapolujemy na podstawie właściwości obliczeniowych, systemy AI wypadają dobrze: wykonują odpowiednie operacje, często sprawniej niż proste zwierzęta. Jeśli jednak ekstrapolujemy na podstawie subobliczeniowej biologicznej maszynerii, która te właściwości realizuje u nas, dobrze wypadają proste zwierzęta, ponieważ zbudowane są z tych samych materiałów — a AI otrzymuje zero.

Wniosek Blocka pojawia się natychmiast i jest rzeczywiście niewygodny: AI i proste zwierzęta stają się konkurentami, gdy próbujemy przypisywać świadomość. Kryteria, które czynią model językowy kandydatem, osłabiają przypadek owada; kryteria dopuszczające owada wykluczają maszynę.

W tym miejscu debata przestaje dotyczyć wyłącznie AI. Kto uważa, że pszczoły mogą być świadome — co pozostaje żywym pytaniem i co omawiamy w innym tekście tego działu — a jednocześnie uważa, że modele językowe również mogą być świadome, utrzymuje dwa stanowiska ciągnące w przeciwne strony i powinien wyjaśnić, jak je godzi.

3.Część empiryczna

To, co wynosi tę dyskusję ponad czysto filozoficzny impas, polega na tym, że Block proponuje coś konkretnego do zbadania.

W 2023 roku badanie opublikowane w „Nature”, oparte na danych dotyczących sprzężeń genów, wsparło hipotezę, że żebropławy — ctenophores — stanowią grupę siostrzaną wobec wszystkich pozostałych zwierząt. Są tu istotne z nietypowego powodu: przynajmniej na jednym etapie cyklu życia posiadają całkowicie elektryczny układ nerwowy, a synapsy chemiczne występują jedynie tam, gdzie układ styka się ze środowiskiem — w przetwornikach sensorycznych i efektorach ruchowych.

Każde inne zwierzę posiadające układ nerwowy, w tym człowiek, korzysta z układu elektrochemicznego: sygnały rozchodzą się elektrycznie w obrębie neuronów, ale komunikacja między neuronami odbywa się głównie chemicznie, poprzez uwalnianie neuroprzekaźników.

Block przedstawia trzy scenariusze ewolucyjne wyjaśniające, jak mogła powstać ta różnica, i zauważa, że we wszystkich trzech przetwarzanie elektrochemiczne wydaje się mieć przewagę funkcjonalną nad czysto elektrycznym. A wszystkie zwierzęta, które traktujemy poważnie jako kandydatów do świadomości, bez wyjątku należą do grupy elektrochemicznej.

Na tej podstawie formułuje program badawczy, a nie końcowy wniosek: powinniśmy badać, co szczególnego wnosi obliczanie elektrochemiczne.

To propozycja testowalna. Co istotne, wykonuje ten sam ruch co Butlin i współpracownicy — pyta, jaka cecha substratu ma znaczenie — tylko schodzi o jeden poziom niżej.

4.Czego ten argument nie ustala

Meat condition pozostaje, w ujęciu samego Blocka, niesprecyzowany. Argumentuje on, że taki warunek może istnieć i że dziedzina go nie wykluczyła. Nie identyfikuje go jednak, nie mierzy i nie pokazuje, że rzeczywiście zachodzi.

Argument ewolucyjny jest sugestywny, ale nie rozstrzygający. Fakt, że wszyscy poważni kandydaci do świadomości są elektrochemiczni, jest zgodny z hipotezą, że elektrochemia jest konieczna — i równie zgodny z możliwością, że elektrochemia była po prostu jedyną drogą, jaką ewolucja znalazła do złożoności obliczeniowej, która naprawdę ma znaczenie. Sam sposób argumentacji Blocka dopuszcza, że przewaga może być funkcjonalna.

Nie jest to więc obalenie części pierwszej i drugiej. Jest to argument, że ich wniosek zależy od przesłanki, która obecnie pozostaje zakładem, a nie ustaleniem — i przypadkiem jest to właśnie przesłanka decydująca o odpowiedzi.

5.Gdzie kończy się ta seria

Istnieje metoda oceny systemów AI pod kątem świadomości, która bada architekturę zamiast zachowania, czerpie wskaźniki z kilku teorii jednocześnie i traktuje je jako przesuwające prawdopodobieństwo, a nie wydające werdykt. To rzeczywisty postęp wobec argumentacji opartej wyłącznie na twierdzeniach.

Zastosowana do realnych systemów nie wskazała żadnego obecnego kandydata i nie ujawniła oczywistej bariery technicznej dla zbudowania systemu spełniającego listę wskaźników.

Cały aparat pozostaje jednak warunkowy względem funkcjonalizmu obliczeniowego, przez co z definicji wyłącza główną teorię, która się z nim nie zgadza — a poważny filozof argumentuje, że samo to założenie nie zostało ustanowione.

Uczciwe podsumowanie brzmi więc: dziedzina zbudowała dobre narzędzie do pytania, którego jeszcze nie potrafi potwierdzić, że narzędzie rzeczywiście mierzy. To nie jest porażka. Tak wygląda nauka, zanim jej fundamenty zostaną ustalone — i jest to wyraźnie lepsze od stanu tej debaty sprzed pięciu lat.

Jedną lukę w naszym własnym przeglądzie trzeba zaznaczyć. Dyskusja trwała dalej: Cyriel Pennartz opublikował krytykę metody wskaźnikowej, a Butlin, Bayne i Fleming odpowiedź — oba teksty w tym samym czasopiśmie. Oba znajdują się za paywallem i nie udało nam się uzyskać kopii, więc ich nie przeczytaliśmy i ta seria ich nie uwzględnia.

Komentarz redakcyjny

MindHeaven® sprzedaje suplementy i nie ma interesu w tym, czy maszyny mogą być świadome. Poświęciliśmy temu tematowi trzy części, ponieważ rozumowanie jest tu wyjątkowo przejrzyste, a stawki po obu stronach zostały przedstawione wyjątkowo uczciwie.

Lekcja, którą można przenieść na inne dziedziny, kryje się w rozwidleniu Blocka. Kryterium wyglądające jak kwestia dowodów może okazać się wyborem dokonanym jeszcze przed pojawieniem się dowodów — wyborem, który następnie określa, co dowody w ogóle mogą pokazać. Zdecyduj, że oceniasz związek po mechanizmie, a znajdziesz obietnicę. Zdecyduj, że oceniasz go po wynikach u ludzi, a często znajdziesz znacznie mniej. Oba podejścia mogą być uzasadnione; błędem jest nie zauważyć, że dokonaliśmy wyboru.

Wolimy wskazać ten problem w dziedzinie, w której niczego nie zyskujemy, aby czytelnik mógł rozliczać nas z tej samej zasady w dziedzinie, w której mamy interes.

Nic w tej serii nie sugeruje, że jakikolwiek istniejący dziś system jest świadomy, i niczego z niej nie należy używać jako argumentu, że taki system istnieje.