Jakie jest znaczenie AIXI dla obecnych badań nad sztuczną inteligencją?

” Obecne badania nad sztuczną inteligencją „to dość szeroka dziedzina. Z miejsca, w którym siedzę, w dziedzinie głównie CS, ludzie koncentrują się na wąskiej inteligencji, która może wykonywać ekonomicznie istotną pracę przy wąskich zadaniach. (To znaczy, przewidywanie, kiedy komponenty ulegną awarii, przewidywanie, które reklamy użytkownik kliknie itd.)

W przypadku tego rodzaju narzędzi ogólność formalizmu, takiego jak AIXI, jest słabością, a nie siła. Nie musisz brać sztucznej inteligencji, która teoretycznie mogłaby cokolwiek obliczyć, a następnie powoli trenować ją, aby skupiała się na tym, co chcesz, kiedy możesz po prostu bezpośrednio kształtować narzędzie, które jest lustrem twojego zadania.

Nie jestem tak zaznajomiony z badaniami AGI, ale mam wrażenie, że AIXI jest do pewnego stopnia najprostszym pomysłem, który może zadziałać – zajmuje całą trudną część i wpycha ją do obliczeń, więc po prostu wyzwanie inżynieryjne. ”(To jest trochę o„ znalezieniu przybliżeń do AIXI ”). Pytanie brzmi, zaczyna się od AIXI i próbuje znaleźć mniej lub bardziej owocną ścieżkę badawczą niż rozpoczęcie czegoś małego i funkcjonalnego, i próba budować?

Moje wrażenie jest takie, że to drugie jest znacznie bardziej powszechne, ale znowu widzę tylko mały róg tej przestrzeni.

Komentarze

• Ty ' tak naprawdę nie odpowiadasz na pytania w aktualnym poście . Pierwsze pytanie to czy AIXI naprawdę jest wielkim problemem w badaniach ogólnej sztucznej inteligencji ? „. Pytanie ściśle dotyczy znaczenia AIXI w AGI badaniach , nie dotyczy tego, czy uważasz, że inne konkretne narzędzia są lepsze dla odpowiednich zadań, zamiast zawężać przybliżenia AGI modele do tych samych konkretnych zadań. W poście kolejne pytanie brzmi: ” dlaczego nie ' czy mamy więcej publikacji na ten temat? ” Brak odpowiedzi na to pytanie w Twoim poście.

Czy AIXI to naprawdę wielka sprawa w badaniach nad sztuczną ogólną inteligencją?

Tak, to świetna teoretyczna wkład do AGI. AFAIK, to najpoważniejsza próba zbudowania teoretycznych ram lub podstaw dla AGI. Podobnymi dziełami są Schmidhuber „s Gödel Machines i architektura SOAR .

AIXI jest abstrakcyjnym i nie antropomorficznym frameworkiem dla AGI, który opiera się na polu uczenia się o wzmocnieniu, bez kilku zwykłych założeń (np. Bez Markowa i ergodyczność , co gwarantuje, że agent może łatwo naprawić wszelkie błędy, które popełnił w przeszłości). Mimo że pewne optymalne właściwości AIXI zostały udowodnione, jest to (Turing) nieobliczalny (nie można go uruchomić na komputerze), więc ma bardzo ograniczoną praktyczną użyteczność. Niemniej jednak w książce Huttera Universal Artificial Intelligence: Sequential Decisions based on Algorithmic Probability (2005), gdzie kilka właściwości AIXI jest rygorystycznie udowodnionych, opisana jest również obliczalna, ale trudna do wykonania wersja AIXI, AIXItl . Ponadto w artykule A Monte Carlo AIXI Approximation (2009) autorstwa Joela Venessa i in., A computable and tractable przybliżenie AIXI. Były więc próby uczynienia AIXI praktycznym użytecznym.

Artykuł Co to jest AIXI? – An Introduction to General Reinforcement Learning (2015) autorstwa Jana Leike, który jest jednym z współautorów rozwoju i ewolucji frameworka AIXI, zawiera delikatne wprowadzenie do agenta AIXI.Zobacz także The AIXI Architecture w Stanford Encyclopedia of Philosophy, aby uzyskać możliwie delikatniejsze wprowadzenie do systemu AIXI.

Czy można to traktować jako centralną koncepcję w tej dziedzinie?

Tak, wprowadzenie AIXI i powiązanych badań przyczyniło się do ewolucji dziedziny AGI. Było kilka dyskusji i opublikowanych artykułów, po ich wprowadzeniu w 2000 r. Przez Huttera w artykule A Theory of Universal Artificial Intelligence based on Algorithmic Complexity .

Zobacz np sekcja 7, „Przykłady superinteligencji”, artykułu Artificial General Intelligence and the Human Mental Model (2012), autorstwa Romana V. Yampolskiego i Joshuy Foxa. Zobacz także https://wiki.lesswrong.com/wiki/AIXI , w którym omówiono kilka problemów związanych z systemem AIXI, które należy rozwiązać lub ewentualnie uniknąć w przyszłych ramach AGI. Ponadto zapoznaj się również z tym i tym artykułami.

Jeśli tak, dlaczego nie mamy więcej publikacji na ten temat (a może mamy i nie jestem ich świadomy)?

Było kilka publikacji, głównie autorstwa Marcusa Huttera i współpracujących z nim badaczy. Publikacje Marcusa Huttera można zobaczyć na następującej stronie internetowej: http://www.hutter1.net/official/publ.htm .

Jeśli chcesz przyczynić się do rozwoju tej teorii, istnieje kilka sposobów. Jeśli jesteś dobrze wykształcony matematycznie, możesz spróbować rozwiązać niektóre z problemów opisanych tutaj ( które są również wymienione we wspomnianej wyżej książce Huttera z 2005 r.). Ponadto można również przyczynić się do nowych przybliżeń lub ulepszeń istniejących przybliżeń agenta AIXI. Na koniec możesz zbudować nową platformę AGI, unikając problemów związanych ze strukturą AIXI. Zobacz także projekty promowane przez Hutter . Warto też wziąć pod uwagę np. Gödel Machines i pokrewna praca, zanim spróbujesz wprowadzić nowy szkielet (pod warunkiem, że jesteś w stanie to zrobić).

Myślę, że ta teoria nie przyciągnęła więcej ludzi prawdopodobnie dlatego, że jest wysoce techniczna i matematyczna (więc nie jest łatwe do zrozumienia, chyba że masz bardzo solidne doświadczenie w uczeniu się przez wzmacnianie, teorii prawdopodobieństwa itp.). Myślę też, że większość ludzi (w społeczności AI) nie jest zainteresowana teoriami, ale kierują się głównie praktycznymi i użytecznymi wynikami.

AIXI jest naprawdę strukturą koncepcyjną. Cała ciężka praca nad kompresją środowiska wciąż pozostaje.

Aby dokładniej omówić pytanie postawione w odpowiedzi Matthew Gravesa: biorąc pod uwagę nasz obecny ograniczony poziom zdolności do reprezentowania złożonych środowisk, wydaje mi się, że tak nie jest ” t robi dużą praktyczną różnicę, czy zaczynasz od AIXI jako definiującego „górę” systemu i pracujesz w dół (np. za pomocą rzekomo uogólnionych metod kompresji), czy zaczynasz od „dołu” i próbujesz rozwiązać problemy w pojedynczej domenie za pośrednictwem domeny- konkretne metody, które (masz nadzieję) można później wyodrębnić w celu zapewnienia kompresji międzydomenowej.

Komentarze

• Drugi akapit jest wynikiem twojego jedynego opinii. Nie podajesz żadnych argumentów / wyjaśnień, dlaczego tak myślisz. Dla mnie ” biorąc pod uwagę nasz obecny ograniczony poziom umiejętności reprezentowania złożonych środowisk ” zdecydowanie nie jest wystarczającym wyjaśnieniem ani argumentacją.
• @nbro Aby zacytować słynny badacz sztucznej inteligencji: ” Jeszcze nie przedstawiliśmy ani jednej koncepcji na komputerze „, na pewno nie z rodzajem plastyczności, który jest naturalny dla ludzi. Dlatego w praktyce trudno jest określić użyteczność AIXI, ponieważ nie ' nie mamy silnego pojęcia o rodzajach reprezentacji, którymi musi manipulować, ani o tym, jak pożytecznie można nimi manipulować.