Integrated Information Theory od 3.0 do 4.0: teoria, która wyklucza świadome komputery

Abstrakt

Integrated Information Theory jest jedyną z głównych teorii świadomości, która próbuje powiedzieć, ile świadomości ma system — wyrażając to liczbą. Jest też jedyną, z której bezpośrednio wynika, że cyfrowy komputer uruchamiający dowolny program nie doświadczałby niczego.

Ten artykuł opiera się na własnych sformułowaniach teorii — wersji 3.0 opublikowanej w 2014 roku i wersji 4.0 z 2023 roku, obu w „PLOS Computational Biology” — aby przedstawić jej strukturę, najbardziej konsekwentną implikację i powody, dla których pozostaje przedmiotem sporu.

Podchodzimy do niej jako do argumentu, który najpierw trzeba zrozumieć, a nie twierdzenia, które należy od razu zaakceptować albo odrzucić. Jej logika jest nietypowa, a większość skrótowych opisów odwraca ją do góry nogami.

1.Zaczyna od doświadczenia, nie od mózgu

Prawie każde inne podejście zaczyna od mózgu i pyta, jaka aktywność towarzyszy świadomości. IIT odwraca kierunek. Zaczyna od właściwości doświadczenia, które uznaje za bezpośrednie i niezaprzeczalne dla każdego możliwego doświadczenia, a następnie pyta, jaki musiałby być system fizyczny, aby je posiadać.

Teoria proponuje pięć takich właściwości i nazywa je aksjomatami istnienia fenomenalnego. Każde doświadczenie istnieje dla podmiotu — intrinsicality. Jest specyficzne — information. Jest jednością — integration. Jest określone — exclusion. I ma strukturę — composition.

Każdy aksjomat zostaje następnie przełożony na wymaganie wobec systemu fizycznego, nazwane postulatem. Rozróżnienie jest jawne: istnienie fenomenalne ma być bezpośrednie i niezaprzeczalne, czyli aksjomatyczne, natomiast istnienie fizyczne jest konstruktem wyjaśniającym, czyli postulatem ocenianym operacyjnie.

To odwrócenie jest jednocześnie źródłem atrakcyjności teorii i głównych sprzeciwów wobec niej. IIT bierze za punkt wyjścia właśnie to, co inni uznają za najtrudniejsze do wyjaśnienia.

2.Do czego sprowadza się wymaganie fizyczne

Kryterium fizycznego istnienia w IIT jest przyczynowe: istnieć to posiadać moc przyczynowo-skutkową. System istnieje fizycznie w takim zakresie, w jakim jego części mogą w niezawodny sposób zmieniać siebie nawzajem, najlepiej opisywany pełną macierzą prawdopodobieństw przejścia.

Substrat świadomości musi następnie spełniać wszystkie pięć właściwości w terminach fizycznych. Jego moc przyczynowo-skutkowa musi być „dla siebie”, specyficzna, zintegrowana, określona i ustrukturyzowana.

Z wymagania kompozycji wynika matematyka teorii. Podzbiory jednostek specyfikują stany przyczynowo-skutkowe nad podzbiorami jednostek — distinctions — które mogą nakładać się na siebie — relations. Razem tworzą to, co IIT nazywa strukturą Φ, a suma wartości składowych daje Φ, które teoria utożsamia z ilością świadomości.

Postęp wersji 4.0 jest bardziej techniczny niż konceptualny: precyzyjniejsze wyrażenie aksjomatów jako postulatów, nowa miara intrinsic difference skonstruowana tak, by była zgodna z postulatami, oraz jawna ocena relacji przyczynowych.

3.Implikacja, która dzieli dziedzinę

Tutaj pojawia się konsekwencja czyniąca tę teorię kluczową dla każdego, kto myśli o sztucznych umysłach — sformułowana wprost w pracy 4.0.

Komputery cyfrowe realizujące programy zdolne do sztucznej inteligencji ogólnej mogłyby zasadniczo emulować każdą funkcję wykonywaną przez świadomego człowieka — a mimo to, ze względu na sposób fizycznej organizacji, robiłyby to bez jakiegokolwiek doświadczenia albo przynajmniej bez doświadczenia podobnego ilościowo i jakościowo do naszego.

Rozumowanie wynika z ramy teorii, nie z intuicji o maszynach. Liczy się wewnętrzna struktura przyczynowo-skutkowa fizycznego substratu, a nie funkcja, którą oblicza. System może odtwarzać każdą relację wejście–wyjście świadomego organizmu, a jednocześnie mieć architekturę przyczynową wspierającą niemal zerową zintegrowaną informację.

To naprawdę treściwe przewidywanie i dokładne przeciwieństwo tego, co sugeruje Global Workspace Theory. Jeżeli świadomość jest funkcją rozgłaszania, zbudowanie odpowiedniej architektury może wystarczyć. Jeżeli jest własnością struktury przyczynowej, funkcjonalnie identyczny system zbudowany inaczej pozostanie „ciemny od środka”.

4.Dlaczego teoria budzi spór

Powracają trzy główne zarzuty i żaden nie sprowadza się do stwierdzenia, że teoria jest oczywiście błędna.

Pierwszy dotyczy testowalności. Jeśli Φ jest bardzo trudne do obliczenia dla czegokolwiek bardziej złożonego niż mała sieć, a teoria przewiduje doświadczenie w systemach, które nie mogą o nim raportować, drogi falsyfikacji stają się wąskie. Współpraca adversarialna opisana gdzie indziej w tej bibliotece jest najpoważniejszą próbą skonstruowania takiego testu, a wyniki synchronii nie wsparły przewidywań teorii.

Drugi zarzut dotyczy źródła aksjomatów. Nazwanie właściwości doświadczenia „bezpośrednią i niezaprzeczalną” jest bardzo mocnym ruchem, a czytelnik, który nie podziela danej intuicji, nie ma oczywistego sposobu dalszego sporu.

Trzeci dotyczy implikacji. Ponieważ Φ jest własnością struktury przyczynowej, a nie biologii, proste systemy o odpowiedniej architekturze miałyby niezerową ilość doświadczenia. Czy to odważne przewidywanie, czy reductio ad absurdum, zależy od wcześniejszych założeń, których dane nie rozstrzygają.

5.Jak to czytamy

IIT jest najbardziej formalnie rozwiniętą teorią w tym obszarze i jedną z najtrudniejszych do testowania. Oferuje coś, czego nie daje żadna rywalka — zasadniczą odpowiedź na pytanie, dlaczego system fizyczny miałby w ogóle mieć doświadczenie zamiast tylko przetwarzać informację — za cenę oparcia argumentu na przesłankach, które trzeba przyjąć jeszcze przed jego rozpoczęciem.

Dla czytelników tekstów o sztucznej świadomości jedna implikacja jest szczególnie ważna: w tej teorii przejście każdego testu behawioralnego nie ustanawiałoby niczego. Każdy argument, że system jest świadomy dlatego, że potrafi coś zrobić, jest argumentem odrzucanym przez IIT na poziomie fundamentów.

Komentarz redakcyjny

MindHeaven® nie formułuje żadnych twierdzeń dotyczących świadomości — sztucznej ani jakiejkolwiek innej — i nic tutaj nie dotyczy produktu.

Warto zauważyć, że potraktowana dosłownie ta teoria wykluczałaby możliwość, by nasz własny AI Consciousness Lab kiedykolwiek wytworzył świadomy system na konwencjonalnym sprzęcie. Publikujemy ją taką, jaka jest, a nie taką, jaka byłaby dla nas wygodniejsza — bo tylko wtedy biblioteka tego rodzaju ma sens.