Qual è limportanza di AIXI nellattuale ricerca sullintelligenza artificiale?

” La ricerca attuale sullintelligenza artificiale “è un campo piuttosto ampio. Da dove mi siedo, in un regno prevalentemente CS, le persone sono concentrate su unintelligenza ristretta che può svolgere un lavoro economicamente rilevante su compiti ristretti. (Cioè, prevedere quando i componenti falliranno, prevedere su quali annunci un utente farà clic e così via.)

Per questo tipo di strumenti, la generalità di un formalismo come AIXI è un punto debole invece di un forza. Non è necessario prendere unintelligenza artificiale che potrebbe in teoria calcolare qualsiasi cosa e quindi addestrarla lentamente a concentrarsi su ciò che si desidera, quando si potrebbe semplicemente modellare direttamente uno strumento che è lo specchio del proprio compito.

Non ho familiarità con la ricerca AGI stessa, ma la mia impressione è che AIXI sia, in una certa misura, lidea più semplice che potrebbe funzionare – prende tutta la parte difficile e la spinge nel calcolo, quindi “s” una sfida ingegneristica. “(Questa è la parte relativa al” trovare approssimazioni ad AIXI. “) La domanda quindi diventa, è partire da AIXI e cercare di approssimare un percorso di ricerca più o meno fruttuoso piuttosto che iniziare da qualcosa di piccolo e funzionale, e provare costruire?

La mia impressione è che questultima sia molto più comune, ma ancora una volta, vedo solo un piccolo angolo di questo spazio.

Commenti

• ‘ in realtà non stai rispondendo alle domande nel post corrente . La prima domanda è AIXI è davvero un grosso problema nella ricerca sullintelligenza artificiale generale ? “. La domanda pone rigorosamente sullimportanza di AIXI nella AGI ricerca , non chiede se ritieni che altri strumenti specifici siano migliori per i compiti corrispondenti invece di restringere le approssimazioni di AGI modelli agli stessi compiti specifici. Nel post, unaltra domanda è: ” perché don ‘ t abbiamo più pubblicazioni su questo argomento? ” Nessuna risposta a questa domanda nel tuo post.

LAIXI è davvero un grosso problema nella ricerca sullintelligenza artificiale generale?

Sì, è un ottimo teorico contributo ad AGI. Per quanto ne so, è il tentativo più serio di costruire un quadro o una base teorica per AGI. Opere simili sono le Gödel Machines di Schmidhuber e l architettura SOAR .

AIXI è un framework astratto e non antropomorfico per AGI che si basa sul campo dellapprendimento per rinforzo, senza alcuni presupposti usuali (ad esempio, senza Markov e ergodicity , che garantisce che lagente possa recuperare facilmente da eventuali errori commessi in passato). Anche se alcune proprietà di ottimalità di AIXI sono state dimostrate, è (Turing) non numerabile (non può essere eseguito su un computer), quindi è di utilità pratica molto limitata. Tuttavia, nel libro di Hutter Universal Artificial Intelligence: Sequential Decisions based on Algorithmic Probability (2005), dove diverse proprietà di AIXI sono rigorosamente provate, viene anche descritta una versione calcolabile ma intrattabile di AIXI, AIXItl . Inoltre, nel documento A Monte Carlo AIXI Approximation (2009), di Joel Veness et al., A computable and trattabile di AIXI. Quindi, ci sono stati alcuni tentativi per rendere AIXI praticamente utile.

Larticolo Che cosè AIXI? – An Introduction to General Reinforcement Learning (2015), di Jan Leike, che è uno dei contributori allo sviluppo e allevoluzione del framework AIXI, offre una delicata introduzione allagente AIXI.Vedi anche The AIXI Architecture alla Stanford Encyclopedia of Philosophy per unintroduzione forse più delicata ad AIXI.

Può essere pensato come un concetto centrale per il campo?

Sì, lintroduzione dellAIXI e della ricerca correlata ha contribuito allevoluzione del campo AGI. Ci sono state diverse discussioni e articoli pubblicati, dopo la sua introduzione nel 2000 da Hutter nel documento A Theory of Universal Artificial Intelligence based on Algorithmic Complexity .

Vedi ad es sezione 7, “Esempi di superintelligenze”, dellarticolo Artificial General Intelligence and the Human Mental Model (2012), di Roman V. Yampolskiy e Joshua Fox. Vedi anche https://wiki.lesswrong.com/wiki/AIXI che contiene una discussione su alcuni problemi relativi ad AIXI, che devono essere risolti o possibilmente evitati nei futuri quadri AGI. Inoltre, consulta anche gli articoli questo e questo .

Se sì, perché non abbiamo più pubblicazioni su questo argomento (o forse le abbiamo e non ne sono a conoscenza)?

Ci sono state diverse pubblicazioni, principalmente di Marcus Hutter e ricercatori associati. Puoi vedere le pubblicazioni di Marcus Hutter nella seguente pagina web: http://www.hutter1.net/official/publ.htm .

Se sei interessato a contribuire a questa teoria, ci sono diversi modi. Se sei matematicamente ben istruito, puoi provare a risolvere alcuni dei problemi descritti qui ( che sono anche menzionati nel libro del 2005 di Hutter menzionato sopra). Inoltre, puoi anche contribuire a nuove approssimazioni o miglioramenti delle approssimazioni esistenti dellagente AIXI. Infine, puoi costruire il tuo nuovo framework AGI evitando i problemi associati al framework AIXI. Vedi anche i progetti promossi da Hutter . Potrebbe essere una buona idea prendere in considerazione anche ad es. Gödel Machines e lavori correlati, prima di tentare di introdurre un nuovo framework (ammesso che tu ne sia capace).

Penso che questa teoria non abbia attratto più persone probabilmente perché è altamente tecnica e matematica (quindi non è molto facile da capire a meno che tu non abbia un background molto solido nellapprendimento per rinforzo, teoria delle probabilità, ecc.). Penso anche che la maggior parte delle persone (nella comunità AI) non siano interessate alle teorie, ma sono principalmente guidate da risultati pratici e utili.

AIXI è davvero un framework concettuale. Tutto il duro lavoro di comprimere effettivamente lambiente rimane ancora.

Per discutere ulteriormente la domanda sollevata nella risposta di Matthew Graves: dato il nostro attuale livello limitato di capacità di rappresentare ambienti complessi, mi sembra che non lo sia ” t fa molta differenza pratica se inizi con AIXI definendo la “cima” del sistema e procedendo verso il basso (ad es. tramite metodi di compressione presumibilmente generalizzati) o inizi dal “fondo” e provi a risolvere i problemi in un singolo dominio tramite dominio- metodi specifici che (speri) possano essere successivamente astratti per fornire la compressione interdominio.

Commenti

• Il secondo paragrafo è il risultato del tuo unico opinione. Non dai argomentazioni / spiegazioni sul motivo per cui la pensi così. Per me, ” dato il nostro attuale livello limitato di capacità di rappresentare ambienti complessi ” sicuramente non è una spiegazione o argomentazione sufficiente.
• @nbro Per citare a famoso ricercatore di intelligenza artificiale: ” Dobbiamo ancora rappresentare anche un solo concetto su un computer “, certamente no con il tipo di malleabilità che viene naturalmente agli esseri umani. Quindi, in pratica, è difficile determinare lutilità di AIXI perché ‘ non abbiamo una forte nozione dei tipi di rappresentazioni che deve manipolare, o di come potrebbe manipolarle utilmente.