Czy maszyna może wiedzieć, czego nie wie? Metapoznanie jako brakująca zdolność

Abstrakt

W innych tekstach tego działu pytamy, czy maszyna mogłaby mieć doświadczenia. Tutaj chodzi o inne pytanie, bardziej uchwytne i prawdopodobnie pilniejsze: czy maszyna potrafi znać granice własnych kompetencji.

Jedenastu badaczy — psychologów, informatyków i specjalistów uczenia maszynowego, w tym Yoshua Bengio, Melanie Mitchell i Bernhard Schölkopf — argumentuje, że właśnie tej zdolności obecnym systemom brakuje najbardziej i że jej rozwinięcie może mieć większe znaczenie niż dalszy wzrost surowych możliwości.

Ich sposób ujęcia problemu jest nietypowy dla tej dziedziny. Brakującą zdolność nazywają mądrością, definiują ją wystarczająco precyzyjnie, by można było się o nią spierać, i wyraźnie oddzielają ją od wszystkiego, co dotyczy świadomości.

1.Rozróżnienie, które warto zachować

Samuel Johnson i Igor Grossmann z Waterloo, wraz z Amir-Hosseinem Karimim, Bengio, Nickiem Chaterem, Tobiasem Gerstenbergiem, Kate Larson, Sydney Levine z Google DeepMind, Mitchell z Santa Fe Institute, Iyadem Rahwanem i Schölkopfem z instytutów Maxa Plancka, przedstawili argument w pracy przyjętej do „Trends in Cognitive Sciences”.

Punktem wyjścia są problemy nierozstrzygalne metodami analitycznymi — takie, dla których żadna procedura nie gwarantuje poprawnej odpowiedzi i potrzebny jest osąd. Większość naprawdę konsekwentnych problemów ludzkich należy właśnie do tej kategorii.

Dla takich sytuacji autorzy rozróżniają dwa poziomy strategii. Strategie obiektowe generują kandydatów na rozwiązania: heurystyki, reguły praktyczne, rzeczy, które faktycznie robisz. Strategie metapoznawcze zarządzają dopasowaniem strategii obiektowej do konkretnego zadania.

To właśnie drugi poziom jest tematem pracy. Przykłady są bardzo konkretne: pokora intelektualna, przyjmowanie perspektywy innych oraz adaptacja do kontekstu. Chodzi o wiedzę, która z twoich metod pasuje tutaj, jak pewnym powinieneś być i czyjej perspektywy brakuje.

Teza autorów brzmi, że systemy AI mają szczególny problem właśnie z tym typem metapoznania — nie z generowaniem możliwych odpowiedzi, co robią bardzo płynnie, lecz z oceną, czy wybrane podejście rzeczywiście pasuje do problemu.

2.Dlaczego to nie jest pytanie o świadomość

Warto powiedzieć to wyraźnie, bo oba tematy są stale ze sobą mieszane i pomyłka działa w obie strony.

Metapoznanie to zdolność systemu do modelowania i regulowania własnego przetwarzania. Da się je mierzyć behawioralnie: można sprawdzić, czy pewność systemu śledzi jego trafność, czy odmawia odpowiedzi na problemy poza własną kompetencją oraz czy aktualizuje stanowisko po otrzymaniu danych sprzecznych z wcześniejszym wnioskiem.

Świadomości fenomenalnej — tego, czy „jest jak to jest” być danym systemem — nie da się mierzyć w ten sam sposób. Właśnie dlatego metoda wskaźników, którą omawiamy osobno, w ogóle musiała powstać.

System mógłby mieć bardzo dobre metapoznanie i nie mieć żadnego doświadczenia. Termostat w najbardziej prymitywnym sensie modeluje własny stan, a nikt nie uważa, że odczuwa zimno. Z drugiej strony teorie świadomości wyższego rzędu zakładają, że reprezentowanie własnych stanów mentalnych jest częścią tego, co czyni je świadomymi — więc tematy się stykają, ale jeden nie rozstrzyga drugiego.

Johnson i współpracownicy pozostają wyraźnie po stronie mierzalnej. Nic w tej pracy nie twierdzi, że maszyny mają albo mogą mieć doświadczenia, i nie należy jej cytować tak, jakby to robiła.

3.Co dałoby lepsze metapoznanie

Autorzy wymieniają cztery konsekwencje i lista zwraca uwagę właśnie tym, że nie brzmi efektownie.

Odporność na nowe środowiska — system rozpoznający, że dana sytuacja wykracza poza to, co widział, może działać ostrożnie zamiast być pewnie błędnym. Wyjaśnialność — system mający model własnego rozumowania ma o czym raportować. Współpraca — wspólne cele wymagają reprezentowania tego, co partner wie i zamierza. I bezpieczeństwo poprzez mniejszą liczbę niedopasowanych celów, co wynika z pozostałych trzech elementów.

Słowem wykonującym najwięcej pracy we wszystkich czterech punktach jest pewność. Nadmierna pewność stale powraca w diagnozie obecnych porażek i łączy się bezpośrednio z propagacją dezinformacji: system, który nie wie, czego nie wie, potrafi wygłosić zarówno prawdę, jak i błąd z tą samą płynnością.

To opis rozpoznawalny dla większości użytkowników takich systemów. Warto zauważyć, że problemem nie jest niedobór wiedzy jako taki. Jest nim brak modelu granicy tej wiedzy.

4.Co proponują autorzy

Trzy kierunki: benchmarkowanie mądrości, trening strategii rozumowania o charakterze „mądrym” oraz adaptacja architektury do metapoznania. Trzeci jest najbardziej konkretną propozycją — system miałby rozważać kilka pytań metapoznawczych równolegle z pytaniem głównym zamiast po prostu odpowiedzieć i zakończyć proces.

Problem benchmarkowania jest miejscem, w którym autorzy najbardziej otwarcie przyznają trudność. Obecne ewaluacje nie obejmują bogactwa codziennych problemów nierozstrzygalnych, z którymi radzi sobie mądry osąd — co jest niemal wpisane w definicję, bo problem mający jednoznacznie punktowaną odpowiedź nie jest „nierozstrzygalny” w używanym przez nich sensie.

Jak mierzyć jakość osądu, nie redukując go do zadania z jedną właściwą odpowiedzią, pozostaje tutaj nierozwiązane. Praca nazywa przeszkodę, ale jej nie usuwa.

5.Czym jest ta praca

To argument programowy, nie wynik eksperymentalny. Nie ma tu eksperymentów, zbudowanych systemów ani pomiarów. Autorzy szkicują wizję i proponują kierunek programu badawczego.

Autorytet tekstu wynika z zestawu autorów, a nie z danych — co jest realnym rodzajem informacji o tym, jakie pytania dziedzina uznaje za warte uwagi, ale nie jest dowodem, że proponowane podejście będzie działać.

Czytaliśmy zaakceptowany manuskrypt udostępniony przez autorów przed publikacją. Zaznaczamy to tak, jak zaznaczylibyśmy status preprintu, choć akceptacja oznacza, że tekst przeszedł już recenzję.

Zanim uznalibyśmy którykolwiek z tych postulatów za ustalony, chcielibyśmy zobaczyć benchmark, który przetrwa kontakt z systemem zoptymalizowanym pod jego wynik — czyli dokładnie problem wskazany przez autorów i pozostawiony bez rozwiązania.

Komentarz redakcyjny

MindHeaven® sprzedaje suplementy. Nie mamy produktu AI i nie mamy żadnego interesu w tym, czy maszyny nabędą dobry osąd.

Opisujemy ten tekst, ponieważ jego centralne rozróżnienie stosujemy stale, choć wcześniej nie mieliśmy dla niego wygodnej nazwy. Strategia obiektowa polega na ustaleniu, co pokazuje badanie. Strategia metapoznawcza polega na ustaleniu, czy metoda, której używasz do czytania badań, pasuje do tego konkretnego badania — czy wielkość efektu znaczy to, co jej przypisujesz, czy wynik zerowy jest informacyjny, czy tylko niedostatecznie zasilony statystycznie.

Każdy błąd, który musieliśmy korygować w tej bibliotece, wystąpił na drugim poziomie, nie pierwszym. Nie chodziło o błędne odczytanie wyniku, lecz o zastosowanie procedury interpretacyjnej niedopasowanej do sytuacji — założenie, że źródło jest niedostępne bez sprawdzenia, albo potraktowanie kierunku pojedynczego badania jako kierunku całej literatury.

Pokora intelektualna w sensie tej pracy nie jest skromnością. To dokładny model miejsca, w którym twoja metoda przestaje działać. To wymagający standard i sami nie spełniamy go konsekwentnie.