deel 2
advertisement
overzicht • samenvatting en discussie hc1 t/m hc4 • inleiding tot de rest van het vak • toepassingen onderwerpen die nog komen • Hopfield H7 • Kohonen H8 • ART H9 • Elman artikel • Spiking Neurons artikel Hopfield • associatief leren, part of the pattern is sensory cue, the rest is associated with it – beelden vergelijken met wat je eerder zag – na een paar tonen, herken je het liedje al • Hebb leer regel stored pattern sensory cues Kohonen • self-organization (unsupervised learning) • elk neuron representeert een gedeelte van de patternspace pattern space weight space • andere vorm van self-organization: Principal Component Analysis ART • template matching • aantal templates neemt toe tijdens het templates leren 1 p1 p2 p3 p4 2 3 Elman • • • time series recurrent net (memory) predicition of next input • context layer remembers last state of hidden layer output layer hidden layer inputs context layer Spiking Neurons • communicatie dmv. spiking patterns • doel: modelleren van echte neuronen overzicht • samenvatting en discussie hc1 t/m hc4 • inleiding tot de rest van het vak • toepassingen applications • psychiatric patient length of stay (6.11 boek) • stock market forecasting (6.11 boek) • PAPNET • nummerbord classificatie • GENESIS • Pioneer II • ... psychiatric patient length of stay • MLP • voorspellen hoe lang een patient blijft • betere verdeling van financiële middelen • classificatie probleem • training: gegevens uit het verleden leeftijd, geslacht, inwoners stad, eerdere opname, familie, ernst v/d ziekte, psychiatrische diagnose • testing: voorspellen nieuwe patienten stock market forecasting • MLP • voorspellen van het succes van een aandeel, zes maanden na huidige meting • classificatie probleem • training: gegevens uit het verleden • testing: vergelijking met multivariate linear regression model PAPNET • vroege detectie van kanker • 300,000 - 500,000 cellen in een Pap smear, slechts enkele zijn besmet • MLP, training data: plaatjes van cellen uit het archief • neurale netwerken selecteren de 128 meest verdachte cellen • menselijke experts analyseren deze • 98% van het werk wordt zo geautomatiseerd nummerbord classificatie Improving the performance of neural network classifiers by task reduction and output concatenation • PCA • MLP • 3000 samples voor trainen/testen input ruimte 40 * 32 pixels = 1280D! • input: 30 principal components hiddens: 15 in 1 laag (trial-and-error) output: 36 classes • splitsing in letters en cijfers • splitsing op basis van vormeigenschappen GENESIS GEneral NEural SImulation System • object oriented simulation environment • biologische plausibiliteit staat voorop • elk abstractie niveau, van een enkele cel tot hersengebieden GENESIS • ontwikkeld als general-purpose-research-tool voor het modelleren van biologische neurale systemen • anatomische structuur en fysiologische eigenschappen worden zo goed mogelijk nagebootst – cerebellar Purkinje cell model, with 4550 compartments and 8021 ionic conductances – large systems-level models of cerebellar pathways • PGENESIS (parallel processing via internet) Pioneer II • robot leert obstakels te ontwijken • dmv. correlatie activiteit “bots-sensoren” en sonar • biologische plausibiliteit (Hebbian) initialisatie na het trainen en verder... • ze proberen van alles • wetenschappelijke literatuur • internet overzicht • samenvatting en discussie hc1 t/m hc4 • inleiding tot de rest van het vak • toepassingen volgende college M61! • Hopfield • boek: H7
