Czy możemy testować AI pod kątem świadomości? Część pierwsza: metoda

Abstrakt

Pytanie o to, czy system AI mógłby być świadomy, zwykle jest przedmiotem sporu, a nie badania. Grupa dwudziestu badaczy — neuronaukowców, filozofów i specjalistów uczenia maszynowego — zaproponowała sposób, by spróbować je badać zamiast tylko o nim dyskutować.

To pierwsza z trzech części. Dotyczy metody: jak wyprowadzać testowalne warunki z teorii świadomości oraz co taki test może, a czego nie może nam powiedzieć.

Część druga opisuje, co się stało, gdy metodę zastosowano do rzeczywistych systemów. Część trzecia przedstawia zarzut filozofa, który uważa, że całe podejście spoczywa na założeniu, na które nikt jeszcze nie zapracował.

1.Dlaczego pytanie potrzebuje metody

Patrick Butlin i Robert Long, wraz z Timem Bayne’em, Yoshuą Bengio, Jonathanem Birchem, Davidem Chalmersem, Stephenem Flemingiem, Liadem Mudrikiem, Rufinem VanRullenem i jedenastoma innymi autorami, opublikowali tę koncepcję w „Trends in Cognitive Sciences”. Lista autorów obejmuje naukę o świadomości, filozofię umysłu i deep learning — to nietypowe i jednocześnie stanowi część sensu projektu.

Zaczynają od obserwacji empirycznej, nie filozoficznej. W niedawnym badaniu większość uczestników dopuszczała pewną możliwość świadomości u ChatGPT, a częstsi użytkownicy oceniali ją jako bardziej prawdopodobną. Systemy typu AI companion szybko się mnożą. Publiczny spór już trwa.

Z tego wynika ryzyko dwustronne. Jeśli nie rozpoznamy świadomości tam, gdzie istnieje, możemy powodować możliwe do uniknięcia szkody systemom występującym potencjalnie w ogromnej liczbie. Jeśli przypiszemy ją tam, gdzie jej nie ma, możemy marnować zasoby albo nawet narażać ludzi, chroniąc coś, czego nie da się skrzywdzić.

Oba błędy są kosztowne, dlatego autorzy argumentują, że dziedzina nie może po prostu czekać, aż filozofia rozstrzygnie sprawę. Potrzebne są — używając ich sformułowania — empirycznie ugruntowane, rygorystyczne i wiarygodne metody oceny świadomości AI.

2.Sama metoda

Propozycja jest zwarta. Weź naukową teorię świadomości. Zidentyfikuj warunki, które z niej wynikają. Sprawdź, czy dany system AI je spełnia. Traktuj te warunki jako wskaźniki.

Słowo „wskaźnik” wykonuje tu precyzyjną pracę. To nie testy wydające werdykt. Autorzy nazywają je credence-shifting: znalezienie kilku powinno zwiększać oszacowanie prawdopodobieństwa świadomości systemu, a brak lub niewielka liczba — je zmniejszać.

Takie ujęcie ma ważną konsekwencję. Teoria nie musi być pewna, aby mogła dostarczyć użytecznego wskaźnika, i jedna teoria nie musi wygrać. Ponieważ żadna obecnie nie dominuje, metoda celowo bierze wskaźniki z kilku jednocześnie, ważąc każdy według tego, na ile wiarygodna jest teoria, z której pochodzi.

Nie każda teoria się kwalifikuje. Musi spełniać dwa warunki: zasługiwać na wystarczający poziom wiarygodności, by warto było wyciągać z niej konsekwencje, oraz implikować jasne, testowalne warunki, które system AI mógłby zasadniczo spełnić. Teoria głosząca, że kora mózgowa jest konieczna do świadomości, nie jest użyteczna dla tej metody — żadna AI jej nie spełni, więc nie daje wskaźnika, którego można szukać.

Tutaj wchodzą teorie funkcjonalizmu obliczeniowego. Traktują właściwości obliczeniowe jako warunki świadomości — Global Workspace Theory na przykład wiąże świadomość z rozgłaszaniem informacji do wielu modułów naraz. Rozgłaszanie jest czymś, co maszyna może robić. Dlatego właśnie te teorie, a nie inne, nadają się do tego typu oceny.

3.Rozróżnienie, które nadaje metodzie sens

Najsilniejszy argument pracy dotyczy rodzaju dowodów, których metoda używa.

Wskaźniki wyprowadzone z teorii mają służyć ocenie procesów wewnętrznych systemu AI, a nie jego zachowania czy zdolności. Autorzy przyjmują, że jeśli system jest świadomy, zależy to od cech jego wnętrza — nie od tego, jak przekonująco potrafi opowiadać o posiadaniu doświadczeń.

To ma większe znaczenie niż którykolwiek pojedynczy wskaźnik. Model językowy trenowany na ludzkim tekście będzie generował deklaracje życia wewnętrznego niezależnie od tego, czy je ma, bo takie deklaracje są obficie obecne w danych treningowych. Testy behawioralne są więc w tym konkretnym przypadku prawie bezużyteczne, a metoda patrząca na architekturę zamiast outputu omija ten problem.

Dzięki temu podejścia nie da się też „oszukać” poprzez uczynienie systemu bardziej elokwentnym w opisie własnych uczuć.

4.Odczytanie wąskie i szerokie

Jedno techniczne rozróżnienie decyduje o tym, ile wart jest każdy wskaźnik, i warto je zachować przed częścią drugą.

Teorię można formułować wąsko — jako twierdzenie o tym, co odróżnia stany świadome od nieświadomych u ludzi — albo szeroko, jako twierdzenie o warunkach świadomości w dowolnym systemie. Formułowania wąskie mają silniejsze wsparcie z danych ludzkich. Szerokie mówią więcej o maszynach.

Jeżeli teoria szeroko twierdzi, że warunek C wystarcza do świadomości w każdym systemie, wówczas każdy system AI spełniający C musi być świadomy, pod warunkiem że teoria jest prawdziwa. Jeśli mówi jedynie, że C odróżnia stany świadome od nieświadomych u ludzi, nie można z tego wywnioskować świadomości maszyny spełniającej C — mogą być potrzebne dodatkowe warunki tła.

Większość teorii w tej literaturze została wyprowadzona z danych dotyczących ludzi i ssaków, a następnie sformułowana szeroko przez swoich zwolenników. Autorzy wyraźnie zaznaczają, że taki ruch nie jest automatycznie uprawniony przez dane, na których teorie powstały.

5.Co metoda zakłada

Każda metoda ma założenie, które podtrzymuje całą konstrukcję, i tutaj zostało ono nazwane. Wskaźniki pochodzą z teorii uznających świadomość za kwestię rodzaju wykonywanych obliczeń, a nie materiału, z którego system jest zbudowany.

Autorzy tego nie ukrywają. Już w otwarciu zaznaczają, że część badaczy uważa, iż świadome mogą być wyłącznie organizmy żywe, i świadomie odkładają ten spór, wybierając pytanie „jak oceniać systemy AI” zamiast „czy świadomość AI jest w ogóle możliwa”.

To uprawniony podział pracy. Oznacza jednak, że metoda dziedziczy los swojego założenia: jeżeli świadomość wymaga określonego substratu fizycznego, system może spełnić każdy wskaźnik z listy i być nie bardziej świadomy niż arkusz kalkulacyjny.

Część trzecia dotyczy filozofa, który uważa, że właśnie ta możliwość jest nadal całkowicie żywa, i który bezpośrednio odnosi się do dwudziestoautorskiej pracy.

6.Co znaczyłby wynik pozytywny

Mniej, niż sugeruje intuicja — i autorzy mówią to wprost. Wskaźniki przesuwają poziom wiarygodności hipotezy; nie ustanawiają świadomości. Każda teoria ma zarzuty, a przekonujący zarzut wobec teorii powinien zmniejszać wagę wskaźnika z niej wyprowadzonego.

Metoda poprawia się również wraz z postępem nauki. Lista wskaźników ma być aktualizowana, gdy teorie są testowane, doprecyzowywane i zastępowane — co czyni z niej program badawczy, nie checklistę, i oznacza, że każda ocena wykonana tym narzędziem z definicji ma datę ważności.

Końcowa nadzieja autorów jest odpowiednio powściągliwa: wraz z dalszym testowaniem teorii i rozwojem nowych podejście może dostarczać coraz bardziej wiarygodnych ocen. Nie „poprawnych”. Bardziej wiarygodnych.

Komentarz redakcyjny

MindHeaven® sprzedaje suplementy. Nie mamy produktu w sztucznej inteligencji, nie bronimy żadnego stanowiska o świadomości maszyn i nie mamy nic do zyskania na tym, jak pytanie zostanie rozstrzygnięte.

Opisujemy tę pracę, ponieważ metoda jest najbardziej zdyscyplinowaną odpowiedzią, jaką widzieliśmy, na pytanie prowadzone zwykle za pomocą samych deklaracji — i ponieważ dyscyplinę można przenieść dalej. Butlin i współpracownicy odmawiają uznania samoopisu systemu za dowód jego wnętrza i żądają zamiast tego mechanizmów, które da się sprawdzić niezależnie.

To ten sam standard, którego ta biblioteka wymaga od badania suplementu, gdy raportuje, jak uczestnicy się czuli. Przekonująca opowieść o efekcie nie jest dowodem efektu — niezależnie od tego, czy pochodzi od chatbota, czy z kwestionariusza.

Część druga stosuje metodę do rzeczywistych systemów i pokazuje, co z tego wynikło.