Wat is de relevantie van AIXI voor huidig onderzoek naar kunstmatige intelligentie?

” Huidig onderzoek naar kunstmatige intelligentie “is een vrij breed veld. Van waar ik zit, in een voornamelijk CS-rijk, zijn mensen gefocust op beperkte intelligentie die economisch relevant werk kan doen aan beperkte taken. (Dat wil zeggen, voorspellen wanneer componenten falen, voorspellen op welke advertenties een gebruiker zal klikken, enzovoort.)

Voor dat soort tools is de algemeenheid van een formalisme als AIXI een zwakte in plaats van een kracht. U hoeft geen AI te nemen die in theorie alles zou kunnen berekenen, en het dan langzaam te trainen om zich te concentreren op wat u wilt, terwijl u gewoon direct een hulpmiddel zou kunnen vormen dat de spiegel van uw taak is.

Ik ben niet zo bekend met het AGI-onderzoek zelf, maar mijn indruk is dat AIXI tot op zekere hoogte het eenvoudigste idee is dat zou kunnen werken – het neemt al het moeilijke deel en duwt het in berekeningen, dus het is gewoon een technische uitdaging. “(Dit is het stukje over” benaderingen vinden van AIXI. “) De vraag wordt dan, begint bij AIXI en probeert een min of meer vruchtbaar onderzoekspad te volgen dan te beginnen met iets kleins en functioneels, en op te bouwen?

Mijn indruk is dat dit laatste veel vaker voorkomt, maar nogmaals, ik zie maar een klein hoekje van deze ruimte.

Opmerkingen

• Je ‘ beantwoordt de vragen in het huidige bericht niet echt. De eerste vraag is is AIXI echt een groot probleem in onderzoek naar kunstmatige algemene intelligentie ? “. De vraag gaat strikt over het belang van AIXI in AGI onderzoek , het vraagt niet of u denkt dat andere specifieke tools beter zijn voor de overeenkomstige taken in plaats van de benaderingen van AGI te beperken modellen voor dezelfde specifieke taken. In de post is een andere vraag: ” waarom ‘ niet hebben we meer publicaties over dit onderwerp? ” Geen antwoord op deze vraag in je bericht.

Is AIXI echt een groot probleem bij onderzoek naar kunstmatige algemene intelligentie?

Ja, het is een geweldige theoretische bijdrage aan AGI. AFAIK, het is de meest serieuze poging om een theoretisch kader of fundament voor AGI te bouwen. Vergelijkbare werken zijn Schmidhubers Gödel Machines en SOAR-architectuur .

AIXI is een abstract en niet- antropomorf raamwerk voor AGI dat voortbouwt op het leerveld van bekrachtiging, zonder een paar gebruikelijke aannames (bijv. Zonder de Markov en ergodiciteit aannames, wat garandeert dat de agent gemakkelijk kan herstellen van eventuele fouten die hij in het verleden heeft gemaakt.) Hoewel enkele optimaliteitseigenschappen van AIXI zijn bewezen, is het (Turing) uncomputable (het kan niet op een computer worden uitgevoerd), en is dus van zeer beperkte praktische bruikbaarheid. Niettemin, in het boek van Hutter Universal Artificial Intelligence: Sequential Decisions based on Algorithmic Probability (2005), waar verschillende eigenschappen van AIXI rigoureus zijn bewezen, wordt ook een berekenbare maar hardnekkige versie van AIXI, AIXItl, beschreven . Bovendien wordt in de paper A Monte Carlo AIXI Approimation (2009), door Joel Veness et al., Een berekenbare en traceerbare benadering van AIXI wordt geïntroduceerd. Er zijn dus enkele pogingen gedaan om AIXI praktisch bruikbaar te maken.

Het artikel Wat is AIXI? – An Introduction to General Reinforcement Learning (2015), door Jan Leike, die een van de bijdragers is aan de ontwikkeling en evolutie van het AIXI-raamwerk, geeft een zachte inleiding tot de AIXI-agent.Zie ook The AIXI Architecture in de Stanford Encyclopedia of Philosophy voor een mogelijk zachtere inleiding tot AIXI.

Kan het worden gezien als een centraal concept voor het veld?

Ja, de introductie van AIXI en aanverwant onderzoek heeft bijgedragen aan de evolutie van het AGI-veld. Er zijn verschillende discussies en gepubliceerde artikelen geweest, na de introductie ervan in 2000 door Hutter in het artikel A Theory of Universal Artificial Intelligence gebaseerd op algoritmische complexiteit .

Zie bijv sectie 7, “Voorbeelden van Superintelligences”, van het artikel Artificial General Intelligence and the Human Mental Model (2012), door Roman V. Yampolskiy en Joshua Fox. Zie ook https://wiki.lesswrong.com/wiki/AIXI die een bespreking bevat over een aantal problemen met AIXI die moeten worden opgelost of mogelijk vermeden in toekomstige AGI-kaders. Zie verder ook deze en deze artikelen.

Zo ja, waarom hebben we” niet meer publicaties over dit onderwerp (of misschien hebben we die wel en “ken ik ze niet)?

Er zijn verschillende publicaties verschenen, voornamelijk door Marcus Hutter en geassocieerde onderzoekers. U kunt de publicaties van Marcus Hutter bekijken op de volgende webpagina: http://www.hutter1.net/official/publ.htm .

Als u geïnteresseerd bent om bij te dragen aan deze theorie, zijn er verschillende manieren. Als u wiskundig goed geschoold bent, kunt u proberen een aantal van de problemen op te lossen die hier worden beschreven ( die ook worden vermeld in het hierboven genoemde boek van Hutter uit 2005). Bovendien kunt u ook bijdragen aan nieuwe benaderingen of verbeteringen van bestaande benaderingen van de AIXI-agent. Ten slotte kunt u uw nieuwe AGI-raamwerk bouwen door de problemen te vermijden die verband houden met het AIXI-raamwerk. Zie ook projecten die worden gepromoot door Hutter . Het kan een goed idee zijn om ook rekening te houden met b.v. Gödel Machines en aanverwant werk, alvorens te proberen een nieuw raamwerk te introduceren (op voorwaarde dat u daartoe in staat bent).

Ik denk dat deze theorie niet meer mensen heeft aangetrokken, waarschijnlijk omdat het zeer technisch en wiskundig is (dus het is is niet erg gemakkelijk te begrijpen, tenzij je een zeer solide achtergrond hebt in bekrachtigingsleren, waarschijnlijkheidstheorie, enz.). Ik denk ook dat de meeste mensen (in de AI-gemeenschap) niet geïnteresseerd zijn in theorieën, maar dat ze zich vooral laten leiden door praktische en bruikbare resultaten.

AIXI is echt een conceptueel raamwerk. Al het harde werk om de omgeving daadwerkelijk te comprimeren blijft bestaan.

Om de vraag die in Matthew Graves antwoord wordt opgeworpen verder te bespreken: gezien ons huidige beperkte niveau van vermogen om complexe omgevingen weer te geven, lijkt het mij dat dit niet het geval is. Het maakt veel praktisch verschil of je begint met AIXI als het definiëren van de “bovenkant” van het systeem en naar beneden werkt (bijv. via zogenaamd gegeneraliseerde compressiemethoden) of begint aan de “onderkant” en probeert problemen op te lossen in een enkel domein via domein- specifieke methoden die (u hoopt) vervolgens kunnen worden geabstraheerd om domeinoverschrijdende compressie te bieden.

Opmerkingen

• De tweede alinea is het resultaat van uw enige mening. Je geeft nul argumenten / verklaringen waarom je zo denkt. Voor mij ” gezien ons huidige beperkte niveau van vermogen om complexe omgevingen weer te geven ” is zeker geen voldoende uitleg of argumentatie.
• @nbro Om een beroemde AI-onderzoeker: ” We moeten nog zelfs een enkel concept op een computer weergeven “, zeker niet met het soort maakbaarheid dat van nature bij mensen aanwezig is. In de praktijk is het dus moeilijk om het nut van AIXI te bepalen, omdat we geen ‘ een sterk idee hebben van de soorten representaties die het moet manipuleren, of hoe het ze op een nuttige manier zou kunnen manipuleren.