Johdanto Tausta

Konvoluutiohermoverkossa meillä on yleensä yleinen rakenne / virtaus, joka näyttää tältä:

  1. tulokuva (eli 2D-vektori x)

(1. konvoluutiokerros (Conv1) alkaa tästä …)

  1. koota joukko suodattimia (w1) 2D-kuvan varrella (ts. tee z1 = w1*x + b1 pistekerroin), jossa z1 on 3D ja b1 on ennakkoluuloja.
  2. käytä aktivointitoimintoa (esim. ReLu), jotta z1 tehdään epälineaariseksi (esim. a1 = ReLu(z1)), missä a1 on 3D.

(2. konvoluutiokerros (Conv2) alkaa tästä …)

  1. yhdistää joukko suodattimia vasta laskettujen aktivointien varrella (ts. tee z2 = w2*a1 + b2 pistetuotekertoimet), jossa z2 on 3D ja b2 on ennakkoluuloja.
  2. käytä aktivointitoimintoa (esim. ReLu) z2 epälineaariseksi (esim. a2 = ReLu(z2)), jossa a2 on 3D .

kysymys

Termin " määritelmä karttakohde " näyttää vaihtelevan kirjallisuudesta toiseen. Konkreettisesti:

  • Ensimmäisen konvoluutiokerroksen " -ominaisuuskartta " vastaa tulovektoria x, tai lähtöpistetulos z1, tai lähdön aktivoinnit a1 tai " prosessi " muuntaa x muotoon a1 tai jotain muuta?
  • Vastaavasti " ominaisuuskartta " vastaa 2. konvoluutiokerrosta syötteen aktivoinnit a1 tai lähtöpistetulos z2 tai lähdön aktivointi a2 tai " -prosessi " muuntamalla a1 muotoon a2 vai jotain muuta?

Onko totta myös, että termi " feat ure-kartta " on täsmälleen sama kuin " aktivointikartta "? (vai tarkoittavatko ne itse asiassa kahta erilaista asiaa?)

Lisäviitteet:

Katkelmat Neuroverkot ja syvällinen oppiminen – Luku 6 :

* Nimikkeistöä käytetään tässä löyhästi. Erityisesti ”käytän " ominaisuuskarttaa " tarkoittamaan ei konvoluutiokerroksen laskemaa toimintoa, vaan pikemminkin piilotetut neuronit kerroksesta. Tällainen lievä nimikkeistön väärinkäyttö on melko yleistä tutkimuskirjallisuudessa.

Katkelmat Konvoluutioverkkojen visualisointi ja ymmärtäminen, kirjoittanut Matt Zeiler :

Tässä artikkelissa esitellään visualisointitekniikka, joka paljastaa panosärsykkeet, jotka herättävät yksittäisiä karttoja missä tahansa mallin kerroksessa. […] Sitä vastoin lähestymistapamme tarjoaa ei-parametrisen näkymän muuttumattomuudesta, joka osoittaa, mitkä harjoitusjoukon kuviot aktivoivat ominaisuuskartan. . s syötteenä liitettyyn dekonvnet-kerrokseen. […] Convnet käyttää relu-epälineaarisuuksia, jotka korjaavat karttakartat ja varmistavat, että karttakuvat ovat aina positiivisia. […] Convnet käyttää opittuja suodattimia yhdistääkseen edellisen kerroksen kartat. […] Kuvio 6, nämä visualisoinnit ovat tarkkoja esityksiä syötekuviosta, joka stimuloi mallissa olevaa ominaisuuskarttaa […] kun alkuperäisen tulokuvan kuviota vastaavat osat ovat suljettuina, näemme selkeä aktiivisuuden pudotus kartalla. […]

Huomautuksia: otetaan käyttöön myös termi " ominaisuuskartta " ja " oikaistu karttakartta " kuvassa 1.

Katkelmat Stanfordin CS231n-luvusta CNN: ssä :

[…] Yksi vaarallinen kuoppa, joka voidaan helposti havaita tällä visualisoinnilla, on se, että jotkut aktivointikartat voivat olla nollia monille erilaisille syötteille, mikä voi osoittaa kuolleita suodattimia ja voi olla oire korkeasta oppimisasteesta […] Tyypillisen näköiset aktivoinnit ensimmäisellä CONV-kerroksella (vasen) ja viidennellä CONV-kerroksella (oikealla) koulutettu AlexNet, joka tarkastelee kissan kuvaa. Jokaisessa ruudussa näkyy aktivointikartta, joka vastaa jotakin suodatinta. Huomaa, että aktivoinnit ovat harvinaisia (suurin osa arvoista on nolla, tässä visualisoinnissa näkyy mustana) ja enimmäkseen paikallisia.

Katkelmat kohteesta A-aloittelija ”s-Guide-to-Understanding-Convolutional-Neural-Networks

[…] Jokainen ainutlaatuinen sijainti tulolevyllä tuottaa luvun. Kun olet liuottanut suodattimen kaikkien sijaintien yli, huomaat, että sinulle jää jäljelle 28 x 28 x 1 numeroryhmä, jota kutsumme aktivointikartta tai karttakartta.

Vastaa

Ominaisuuskartta, tai aktivointikartta, on tietyn suodattimen lähtöaktivoinnit (tapauksessasi a1) ja määritelmä on sama riippumatta siitä, millä tasolla olet.

Kohdekartta ja aktivointikartta tarkoittaa täsmälleen samaa. kutsutaan aktivointikartaksi koska se on kartoitus, joka vastaa kuvan eri osien aktivointia, ja myös karttakartta, koska se on myös kuvaus siitä, missä tietynlainen ominaisuus kuvassa on. Suuri aktivointi tarkoittaa, että tietty ominaisuus löydettiin.

”Korjattu karttakartta” on vain ominaisuuskartta, joka luotiin Relu-sovelluksella. Saatat nähdä termit ”ominaisuuskartta”, jota käytetään pistetuotteiden tuloksiin (z1), koska tämä on myös kartta siitä, missä tietyt piirteet ovat kuvassa, mutta se ei ole yleistä nähdä.

Kommentit

  • Kiitos syötteestä. Vastauksesi vastaa ymmärrystäni (ts. Aktivointikartat ovat a1, a2 jne.). Luulen Conv2: ssä, että kutsun a1 syötteen aktivointikartaksi ja a2 lähdön aktivointikartaksi. Conv1: ssä x syötekuva ja a1 lähdön aktivointikartta.

vastaus

kirjoita kuvan kuvaus tähän

CNN-terminologiassa 3 × 3 -matriisia kutsutaan suodattimeksi tai ytimeksi tai ominaisuusdetektoriksi ja matriisia, joka muodostetaan liuuttamalla suodatin kuvan päälle ja laskemalla pistetuote, kutsutaan Convolved Feature tai Activation Map tai Feature Map. On tärkeää huomata, että suodattimet toimivat ominaisuuden ilmaisimina alkuperäisestä tulokuvasta.

lähde: https://ujjwalkarn.me/2016/08/11/intuitive-explanation-convnets/

Vastaa

ennen kuin puhut ominaisuuskartan merkityksestä, anna vain määritellä piirrosvektorin termi.

ominaisuusvektori on objektien vektorinen esitys. Esimerkiksi autoa voidaan edustaa [pyörien lukumäärä, ovi. windows, age ..etc].

ominaisuuskartta on toiminto, joka vie ominaisuusvektorit yhteen tilaan ja muuntaa ne ominaisuusvektoreiksi toisessa. Esimerkiksi kun ominaisuusvektori [tilavuus, paino, korkeus, leveys] voi palauttaa arvon [1, tilavuus / paino, korkeus * leveys] tai [korkeus * leveys] tai jopa vain [tilavuus]

Vastaa

Sähköpostiosoitettasi ei julkaista. Pakolliset kentät on merkitty *