Jaký význam má AIXI pro současný výzkum umělé inteligence?

„ Současný výzkum umělé inteligence “je docela široká oblast. Z místa, kde sedím, se v převážně CS sféře lidé zaměřují na úzkou inteligenci, která může dělat ekonomicky relevantní práci na úzkých úkolech. (To znamená, předpovídat, kdy komponenty selžou, předpovídat, na které reklamy uživatel klikne atd.)

U těchto druhů nástrojů je obecnost formalismu jako AIXI slabostí místo síla. Nemusíte brát umělou inteligenci, která by teoreticky dokázala vypočítat cokoli, a pak ji pomalu trénovat, aby se soustředila na to, co chcete, když jste mohli přímo tvarovat nástroj, který je zrcadlem vašeho úkolu.

Nejsem tak obeznámen se samotným výzkumem AGI, ale můj dojem je, že AIXI je do jisté míry nejjednodušší myšlenka, která by mohla fungovat – bere všechnu těžkou část a tlačí ji do výpočtu, takže je to jen technická výzva. “(Tady jde o„ hledání aproximací k AIXI. “) Otázkou se pak stává, že začíná u AIXI a snaží se přiblížit více či méně plodnou cestu výzkumu než začít u něčeho malého a funkčního a zkoušet vybudovat?

Můj dojem je, že ten druhý je mnohem běžnější, ale opět vidím jen malý roh tohoto prostoru.

Komentáře

• ' ve skutečnosti neřešíte otázky v aktuálním příspěvku . První otázka je je AIXI opravdu velký problém v výzkumu umělé obecné inteligence ? ". Otázka se striktně ptá na důležitost AIXI v AGI výzkumu , neptá se na to, jestli si myslíte, že jiné konkrétní nástroje jsou lepší pro odpovídající úkoly, místo zúžení aproximací AGI modely ke stejným konkrétním úkolům. V příspěvku je další otázka: " proč nemáme ' t na toto téma více publikací? " Ve vašem příspěvku na tuto otázku žádná odpověď.

Je AIXI ve výzkumu umělé obecné inteligence opravdu velký problém?

Ano, je to skvělý teoretický příspěvek do AGI. AFAIK, jedná se o nejvážnější pokus vybudovat teoretický rámec nebo základ pro AGI. Podobná díla jsou Schmidhuberova Gödel Machines a SOAR architektura .

AIXI je abstraktní a ne antropomorfní rámec pro AGI, který staví na vrcholu oblasti učení výztuže, bez několika obvyklých předpokladů (např. Bez Markova a Předpoklady ergodicity , které zaručují, že agent se může snadno vzpamatovat ze všech chyb, kterých se dopustil v minulosti). I když byly prokázány některé vlastnosti optimality AIXI, je (Turing) nepočítatelné (nelze jej spustit na počítači), a proto má velmi omezenou praktickou užitečnost. V Hutterově knize Universal Artificial Intelligence: Sequential Decisions based on Algorithmic Probability (2005), kde je důsledně prokázáno několik vlastností AIXI, je také popsána vypočítatelná, ale neřešitelná verze AIXI, AIXItl. . V článku Monte Carlo AIXI Aproximation (2009), dále autor Joel Veness et al., Vypočítatelný a přitažlivá aproximace AIXI. Objevily se tedy pokusy o to, aby AIXI bylo prakticky užitečné.

Článek Co je AIXI? – An Introduction to General Reinforcement Learning (2015), autor Jan Leike, který je jedním z přispěvatelů k vývoji a vývoji rámce AIXI, poskytuje jemný úvod do agenta AIXI.Možná jemnější úvod do AIXI najdete také Architektura AIXI ve Stanfordské encyklopedii filozofie.

Lze to považovat za ústřední koncept pole?

Ano, zavedení AIXI a souvisejícího výzkumu přispělo k vývoji oboru AGI. Po jejím zavedení v roce 2000 Hutterem v článku Teorie univerzální umělé inteligence založené na algoritmické složitosti proběhlo několik diskusí a publikovaných prací.

Viz např oddíl 7, „Příklady superinteligencí“, z příspěvku Umělá obecná inteligence a model lidské mentality (2012), autorů: Roman V. Yampolskiy a Joshua Fox. Viz také https://wiki.lesswrong.com/wiki/AIXI , který obsahuje diskusi o několika problémech souvisejících s AIXI, které je třeba vyřešit nebo se jim případně vyhnout v budoucích rámcích AGI. Přečtěte si také tento a tento články.

Pokud ano, proč nemáme více publikací o tomto tématu (nebo možná máme a nevím o nich)?

Bylo vydáno několik publikací, zejména od Marcuse Huttera a souvisejících výzkumníků. Publikace Marcuse Huttera si můžete prohlédnout na následující webové stránce: http://www.hutter1.net/official/publ.htm .

Pokud máte zájem přispět k této teorii, existuje několik způsobů. Pokud jste matematicky vzdělaní, můžete se pokusit vyřešit některé z popsaných problémů zde ( které jsou rovněž zmíněny v Hutterově knize z roku 2005 uvedené výše). Dále můžete také přispět k novým aproximacím nebo vylepšením stávajících aproximací agenta AIXI. Nakonec můžete vytvořit svůj nový rámec AGI tak, že se vyhnete problémům spojeným s rámcem AIXI. Viz také projekty propagované společností Hutter . Může být dobrý nápad vzít v úvahu také např. Gödel Machines a související práce, než se pokusíte zavést nový rámec (za předpokladu, že jste toho schopni).

Myslím si, že tato teorie nepřitahovala více lidí, pravděpodobně proto, že je vysoce technická a matematická (takže není velmi snadné pochopit, pokud nemáte velmi solidní znalosti v oblasti posilování učení, teorie pravděpodobnosti atd.). Také si myslím, že většinu lidí (v komunitě AI) teorie nezajímají, ale řídí se hlavně praktickými a užitečnými výsledky.

AIXI je opravdu koncepční rámec. Veškerá tvrdá práce se skutečnou kompresí prostředí stále zůstává.

K další diskusi o otázce nastolené v odpovědi Matthewa Gravese: vzhledem k naší současné omezené úrovni schopnosti reprezentovat složitá prostředí se mi zdá, Nebudete dělat mnoho praktických rozdílů, ať už začnete s AIXI definováním „horní části“ systému a postupováním dolů (např. pomocí údajně zobecněných metod komprese), nebo začnete ve „spodní části“ a pokusíte se vyřešit problémy v jedné doméně prostřednictvím domény- konkrétní metody, které (doufáte) lze následně abstrahovat, aby poskytly kompresi mezi doménami.

Komentáře

• Druhý odstavec je výsledkem vašeho jediného názor. Poskytujete nulové argumenty / vysvětlení, proč tak uvažujete. Pro mě " vzhledem k naší současné omezené úrovni schopnosti reprezentovat složitá prostředí " rozhodně není dostatečné vysvětlení nebo argumentace.
• @nbro Citovat a slavný výzkumník AI: " Musíme ještě představit i jediný koncept na počítači ", určitě ne s druhem tvárnosti, který je pro člověka přirozený. V praxi je tedy obtížné určit užitečnost AIXI, protože nemáme silnou představu o druzích reprezentací, se kterými musí manipulovat, nebo o tom, jak by je mohl užitečně manipulovat.