Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03630.jsonl.gz/2279

Gegenstand meiner Forschung sind simulierte „Systeme von Nervenzellen“ wie dem menschlichen Gehirn, aber auch dem von Insekten wie Ameisen oder Stubenfliegen. Letztere besitzen eine Komplexität, die auch schon mit einem handelsüblichen Computer berechenbar sein sollte, so meine Einschätzung.
Meine Forschungen zur Plastizität, also zum zeitlichen Verlauf der Aktionen und Reaktionen einzelner Neuronen, halte ich für abgeschlossen. Bleibt die Frage nach der Gesamtstruktur oder Topologie, und ob dies noch eine besondere Bewandnis für das System haben könnte. Um das zu untersuchen, verwende ich die Methode der umgekehrten Entwicklung.
Reverse Engineering
Reverse Engineering meint „umgekehrtes Entwickeln“, um aus einem bestehenden fertigen System [..] durch Untersuchung der Strukturen, Zustände und Verhaltensweisen die Konstruktionselemente zu extrahieren. (-> Wikipedia)
Die Frage beim Reverse-Engineering ist stets:
Wie muss es aufgebaut sein, um das zu tun was es kann?
Was kann es ?
Es kann kategorisieren und „Begriffe bilden“, was dasselbe ist.
Das ist die wesentliche Grundfunktion und Eigenschaft. Andere Funktionen und Eigenschaften ergeben sich erst aus dieser Fähigkeit.
Wie macht es das ?
Indem es „Muster von Mustern“ (Patterns of Patterns) bildet. Und danach Muster von Mustern von Mustern, usw.
Jedes neue Muster verknüpft bereits Vorhandenes und fasst dies auf einer höheren Ebene zu etwas Neuem zusammen, zu einer neuen Kategorie. Und die ist dann gleichzeitig auch ein neuer (Ober-) BEGRIFF, eine neues KONZEPT oder eine IDEE oder VORSTELLUNG, denn all dies sind immer nur Muster von Mustern oder Muster von Mustern von Mustern.
*) Alle diese Annahmen basieren auf intensiven Überlegungen der vergangenen Wochen.
Unsere Wissenschaft, unsere Mathematik, unsere Sprache sind allesamt Muster von Mustern.
Dies beschreibt auch die besondere Eigenschaft von SNNs gegenüber anderen Verfahren zur Kategorisierung, die wir bereits kennen und nutzen: In Bayes Verfahren, wie sie bei SPAM Filtern zum Einsatz kommen, oder bei Backpropagation Networks, wie sie bei OCR verwendet werden, wird zwar bereits „Alles mit Allem“ verknüpft. Erst SNNs besitzen jedoch die Eigenschaft, darüber hinaus auch Muster von Mustern zu verknüpfen.
Topologie von SNNs
Synapsen sind relativ kurz und vernetzen sich nur lokal.
Axone können dagegen auch sehr lang wachsen (bis zu einem Meter).
Etwa 90% der Axone vernetzen sich lokal, etwa 10% wachsen lang und dehnen sich in entfernte Schichten aus, wo sich Synapsen aus jener Schicht mit ihnen verbinden können.
Neuronen verbinden sich mit benachbarten Neuronen auf derselben Ebene (auch durch gelegentliches spontanes Feuern ohne Stimulation), jedoch nicht mit entfernten Neuronen auf derselben Ebene, denn dorthin können ihre Axone und Synapsen nicht wachsen.
Um das besser beschreiben zu können, will ich zwei Begriffe einführen:
Annahme zum Aufbau:
Die Topologie lässt sich durch Ebenen oder Schichten beschreiben (Zwiebelmodell).
Es gibt zwei Arten der Vernetzung:
- Horizontale Vernetzung
- Vertikale Vernetzung
Die horizontale Vernetzung beschreibt also Verknüpfungen auf derselben Ebene.
Die vertikale Vernetzung dagegen zu höheren oder niedrigeren Ebenen oder Schichten.
Wir müssen zwischen lokalen und entfernten Vernetzungen unterscheiden. Entfernte Vernetzungen sind stets oder überwiegend vertikal.
Lange Axone müssten bei dieser Vorstellung vorwiegend in Richtung eines Zentrums wachsen, damit sich dort lokal die Synapsen von Neuronen in niedriger gelegenen Schichten verbinden können. Wie Wurzeln von Bäumen wachsen sie weit in die Tiefe, um dort die Impulse von niedrigeren Neuronen aufzusaugen. Durch lokale Vernetzung auf ihrer eigenen Ebene repräsentieren sie damit einen Überbegriff für alles, womit sie auf elementarerer Ebene verbunden sind.
Spontanes Feuern ohne Stimulation
Erst das gelegentliche spontane Feuern ohne Stimulation (Auto-Fire) der einzelnen Neuronen ermöglicht deren vertikale Vernetzung. Ohne das könnten sie sich nie verbinden, denn es fehlte eine anfängliche erste Stimulation (Henne-Ei Problem). Spontanes Feuern darf aber nicht zu zusätzlicher horizontaler Vernetzung führen, denn dies wären chaotische sinnlose Verknüpfungen. In der Natur ist dies unmöglich, weil kein ausreichender Platz für die Axone vorhanden ist, sich auf gleicher Ebene weit auszudehnen.
Spontanes Feuern ist für die Funktionsweise elementar wichtig.
Anmerkungen
Dieser Beitrag ist Teil meiner Forschung und spiegelt noch kein gesichertes Wissen wider.
Meine nächste Aufgabe wird darin bestsehen, diese Topologie in meinem Rechenmodell weiter zu modellieren.
Mein gegenwärtiges Modell zeigt bereits deutliche Tendenzen zur Begriffsbildung, allerdings lässt sich nach langer Rechenzeit auch beobachten, wie sich alles zunehmend vermengt und vermischt. Alles geschieht bisher auf derselben Ebene und dies lässt offenbar lediglich eine Kategorienbildung einer ersten Ordnung zu. Höhere Kategorien (zweiter und dritter Ordnung usw.) können daraus vielleicht noch nicht entstehen, so meine Vermutung aus meinen bisherigen Beobachtungen. Dazu bedarf es einer besonderen Topologie.
Der gegenwärtige Stand der Bildgebenden Verfahren erlaubt immer noch keine genauen Rückschlüsse über solche Topologien (oder dieses Wissen ist bei mir noch nicht angekommen). Daher versuche ich mich auf diesem Wege zu nähern. Ziel ist ein funktionierendes Computermodell, welches Fähigkeiten besitzt, die wir sonst nur von der Natur kennen.
—
Phineas und Ferb haben in der gleichnamigen Zeichentrickserie dasselbe Problem: What do it do? Was machst du, wenn du nicht weisst, was es tut? Die Antwort in dieser Episode ist: Reverse Engineering! Verpassen Sie keine Folge und zeigen Sie das Kindern! 😉