Jaká síť je ta správná?
Kromě obecného modelu neuronové sítě, o kterém jsme hovořili na konci minulé části, samozřejmě existuje i spoustu dalších způsobů propojení. V takových případech zpravidla záleží na způsobech řešení některých typů úloh. Na dalším obrázku je znázorněna acyklická neuronová síť. Zajímavé na ní je, že zde chybí jakékoliv cykly a že je možno jednoznačně stanovit pořadí neuronů počínaje vstupními neurony a výstupními neurony konče takové, že každý neuron čerpá informaci pouze od svých předchůdců. Acyklická neuronová síť je proto zvlášť vhodným modelem pro programovou realizaci neuronové sítě na klasickém jednoprocesorovém počítači.
Na následujícím obrázku je znázorněna hierarchická síť. Jde o zvláštní případ acyklické neuronové sítě, který je v současné době velmi populární. Nejsou zde dovolena všechny možná acyklická spojení, ale síť je uspořádána v několika vrstvách. Na obrázku je vidět příklad neuronové sítě hierarchického typu, která má v první vstupní vrstvě tři neurony, v druhé skryté vrstvě má čtyři, ve třetí skryté vrstvě má tři a ve čtvrté výstupní vrstvě má jeden neuron. Všimněte se, že informace proudí zleva doprava pouze mezi sousedními vrstvami. Mezi první vstupní a druhou skrytou vrstvou je dvanáct spojení pomocí orientovaných ohodnocených hran. Mezi druhou a třetí vrstvou máme také dvanáct spojení a mezi třetí a čtvrtou výstupní vrstvou máme tři spojení.
Hierarchické sítě jsou velmi populární z několika důvodů. První důvod je fyziologický, protože pitvami nervových soustav živých organismů bylo zjištěno, že se v nich vyskytují podobná hierarchická uspořádání skupin neuronů v jednotlivých vrstvách. Počet vrstev nikdy nepřekračuje kouzelné číslo šest. Přitom je zajímavé, že šest vrstev neuronů se vyskytuje pouze v lidském mozku a šimpanz s delfínem mají už o jednu vrstvu méně. Ostatní živočichové jsou na tom ještě hůře. Neurocomputing se usilovně zabývá sítěmi s jednou nebo dvěma skrytými vrstvami a úplně to stačí.
Druhý důvod, proč hierarchické sítě mají zelenou, je úspora hran tím, že všechny neurony nejsou spojeny se všemi v acyklickém uspořádání. Třetí důvod je trochu pošetilý a platí zejména v středoevropském prostoru, kde máme velmi rozvinuté hierarchické myšlení. Každý ví hlavně, jak vysoko vystoupal po žebříku, kde je bohužel nad ním, kolik lidé se s ním mačka na jedné příčce a na koho dole může kašlat. Protože nadřazenost a podřízenost nám připadá jako to jediné, co prostě musí fungovat, máme zvýšenou potřebu konstruovat neuronové sítě na tomto ne zrovna geniálním principu. Pokud hierarchická neuronová síť nefunguje, pak její autor myslel jenom na hierarchii vrstev a jiné know how do ní nevčlenil.
Na dalším schématu je uveden zajímavý případ hierarchické sítě, který nazýváme redukovaná neuronová síť. Redukované neuronové sítě se používají ke ztrátové kompresi dat, což je velmi zajímavý způsob komprese dat související s přibližným uchováváním a přenášením grafické a akustické informace. Síť na obrázku má tři vstupní neurony, dva skryté neurony v následující vrstvě a tři výstupní neurony. Přesná informace uložená ve třech neuronech na vstupu je násilím zúžena do dvou neuronů za účelem úspory místa v paměti a posléze je v případě potřeby rekonstruována do tří výstupních neuronů.
Jaký by mohl být cíl učení takové sítě? Aby se naučila pokud možno co nejvěrněji, na svém výstupu rekonstruovat vstupní signál. Tento cíl může, ale nemusí být snadno splnitelný. Podstatné ovšem je, že redukované síť funguje jen na určité třídě signálů, které jsme poskytli k učení. Redukovanou síť můžeme po naučení doslova roztrhnout uprostřed, a tak získat vysílač a přijímač signálu nebo kompresní a dekompresní postup. Vysílač obsahuje pouze vstupní a skryté neurony a zajišťuje kompresi dat. Přijímač obsahuje naopak pouze skryté a výstupní neurony a zajišťuje nedokonalou ztrátovou dekompresi. Takové systémy se používají v komunikaci a jsou známy velmi pozitivní výsledky, kdy n-bitová grafická informace byla redukována na jednu čtvrtinu. Taková síť má n vstupních neuronů, n/4 skrytých neuronů a n výstupních neuronů. Byly konány experimenty s přenášením fotografií lesa redukovanou sítí. Po naučení nečinilo problémy komprimovat a přenášet fotografie lesních porostů pod blankytnou oblohou. Traduje se, že obličej vousatého muže je po dekompresi plný hustých smrčin na bradě, zatímco obličej Rusalčin má tváře jako mráčky a tvář Ježibaby je lahůdkou pro kůrovce. Taková síť může mít uplatnění při umělecké transformaci grafické informace.
Uvedený výčet typů neuronových sítí tímto ale není ani zdaleka vyčerpán, neboť speciální úlohy mohou vyžadovat komplikovanější topologii sítě.
Pro dnešek toho již bylo ale dost, a tak na tomto místě skončíme. V příští části budeme trošku počítat, ale nemějte obavy - vystačíte si s jednoduchou matematikou.
