Diskussion:Künstliches neuronales Netz

message: :Durch Anwendung statistischer Testverfahren lassen sich jedoch 'Überanpassungseffekte' im Regelfall vermeiden. Hierdurch ist die in der Praxis oft noch anzutreffende Strategie des 'Ausprobierens' verschiedener Netzwerkstrukturen nicht mehr nötig und entsprechend als ineffizient einzustufen.
Diese beiden Saetze (bei "Schwierigkeiten") finde ich schwer verstaendlich: Welche Tests sind genau gemeint und wie helfen die Tests, das Ausprobieren zu umgehen?  Vielleicht kann der Autor noch 1-2 erklaerende Saetze ergaenzen.  Gruesse, Matthias
: Ich hab' die beiden Saetze herausgenommen.  Wenn jemand ein etabliertes, statistisch fundiertes Verfahren (Fachzeitschrift, Fachbuch) nennen kann, mit dem man die Netzwerkarchitektur ohne Ausprobieren findet, die Saetze mit den notwendigen Referenzen bitte wieder einstellen.  Gruss, MH 09:19, 1. Okt 2004 (CEST)
replies: text: Eine sehr einfache und schnelle Variante ist der Vergleich der Menge der Trainingsmuster mit der Anzahl von Freiheitsgraden im Netz. Anschaulich ist das noch bei Netzen mit nur einem Ausgang und zwei Eingängen, bei denen kann man sich die Menge der Trainingsmuster noch als Anzahl von Punkten vorstellen, durch die eine Kurve gelegt wird. Hat die Kurve mehr Parameter als es Punkte gibt, so gibt es unendlich viele Lösungen. Hat also das Netz mehr Freiheitsgrade (trainierbare Gewichte) als es Trainingsmuster gibt, so gibt es unendlich viele Lösungen, die aber alle die Generalisierungseigenschaft (ähnlicher Output bei ähnlichem Input) NICHT besitzen. Solange das Verhältnis von Trainingsmuster zu Freiheitsgeraden deutlich größer als eins ist (am besten um Größenordnungen größer also 10 oder 100) ist man auf jeden fall auf der sicheren Seite. Eine weitere Möglichkeit um festzustellen ob eine Erhöhung der Freiheitsgrade eine Verbesserung bringen kann ist die Bestimmung der Streuung in den Trainingsmustern. Haben zwei Muster bei gleichem oder sehr ähnlichem Eingang einen deutlich anderen Ausgang, so haben die Trainingsmuster eine Streuung. Diese Streuung kann man berechnen, z.b. indem man von Trainingsmsutern mit gleichem Eingang den Mittelwert der Ausgänge bestimmt und über die Summe der Fehlerquadrate geht. der Fehler ist dabei die Abweichungen der Muster vom Mittelwert. Da das Netze für eine Kombination von Eingängen nur einen Ausgang ausgeben kann und dieser im besten Falle im Mittelwert der Muster liegt, kann das Netz nie besser als die Streuung der Trainingsdaten sein. Somit hat man einen absolut besten Wert, der einem sagt wann man mit dem Training aufhören kann. Trainiert man mit so vielen Mustern daß es Streuung gibt, so ist das Training quasi überbestimmt und das vergleichen mit vorher abgeteilten Daten kann entfallen, da von der anderen Testmenge keine statistisch anderen eigenschaften zu erwarten sind, d.h. es sollte dieselbe streuung auftreten. Deedl 12:15, 4. Okt. 2007 (CEST)
thread_title:  Schwer verständlicher Satz 

message: Den Teil, in dem Bereiche genannt werden, die für KNN'S zu komplex sind, finde ich irreführend. Es wird suggeriert, dass z.B. das Problem des Bestimmens sehr großer Primzahlen oder das Faktorisieren nicht durch KNN's gelöst werden kann (laut Text aufgrund ihrer Natur) aber es andere effiziente Lösungsverfahren gibt. Ver- und Entschlüsselung wird in diesem Zusammenhang auch genannt, lässt sich aber im Grunde auch auf die vorherigen beiden zurückführen. Diese Probleme können überhaupt nicht effizient gelöst werden, da sie zu den NP-vollständigen Problemen gehören. D.h. es gibt kein bekanntes Lösungsverfahren, dass diese Probleme in polynomineller Zeit lösen kann. Dazu zählen eben auch KNN's. Im Text klingt das so, als gäbe es Lösungsverfahren, aber KNN's sind nicht geeignet ("aufgrund ihrer Natur"). In der angegebenen Quelle heißt es lediglich: "There are also many other important problems that are so difficult that a neural network will be unable to learn them without memorizing the entire training set, such as: [...]". (nicht signierter Beitrag von 141.56.66.71 (Diskussion) 14:06, 2. Dez. 2015 (CET)
thread_title: Anwendungen

message: Der hier gesetzte Link zum Skriptum von D. Kriesel ist ungültig. Der Neue Link ist
*Ein kleiner Überblick über Neuronale Netze (D. Kriesel) - Grösstes kostenloses Skriptum (knapp 200 Seiten, PDF, 4.6MB) in Deutsch zu Neuronalen Netzen. Sehr reich Illustriert und anschaulich. Kapitel über Perceptrons, Backpropagation, Radiale Basisfunktionen, Rückgekoppelte Netze, Self Organizing Maps, Hopfield Netze u.v.m.
Würde Wikisearcher BITTE aufhören hier Leute als Linkspammer zu bezeichnen die Tote links in lebende umwandeln, oder bitte wenigstens das Ziel des Links kurz Lesen. Danke. 
:Lies Dir bitte den Artikel WP:WEB durch. Danke. --Wikisearcher 01:49, 9. Mär. 2007 (CET)
thread_title:  Kein Linkspam! Notwendiger Link von Wikisearcher entfernt 

message: Die gängige Softwareimplemtierung der künstliche neuronale Netze beschränkt die Anzahl der Neuronen auf einige hundert Neuronen, weil das Traininieren des KNNs viel Zeit in Anspruch nimmt. Hardwarebasierte Lösungen besitzen derzeit eine Neuronenanzahl von 30.000 (Zum Vergleich eine Schnecke besitzt 20.000). Bis KNNe die Dimension des menschlichen Gehirns, das über 20 Milliarden Neuronen besitzt, erreicht, werden noch Jahrzehnte vergehen.
:Dieser Abschnitt ist Quatsch, da er voraussetzt, dass künstliche neuronale Netze und neuronale Netze in Organismen qualitativ gleichzusetzen sind. Dies ist aber keineswegs der Fall - die gängigen künstlichen Netzwerkmodelle lehnen sich lediglich an die Biologie an, funktionieren jedoch nicht analog dazu. So ist bspw. das Zeitverhalten höchst unterschiedlich. --zeno 19:06, 3. Jan 2005 (CET)
thread_title:  Zum Abschnitt "Ausblick" 

message: Ich finde dieser Teil des Artikels KNN gehört icht in eine Enzyklopädie, außerdem ist er unpräzise formuliert. Es giebt ebenso moderne Reports des Technology Rewiews, in denen vermerkt wird, dass wir heute in der Lage sind ein bis zwei Neurone mit all ihren Elektrochemischen Vorgängen zu simulieren. Es handelt sich also bei den Soft- und Hardware Simulierten Neuronen offensichtlich um triviale McCullochPitts Neuronen. Diese werden dann aber direkt den Neuronen einer Schnecke gegenübergestellt.
Diese und andere Spekulationen sollten besser der Tagespresse überlassen werden. Darum lösche ich den Teil Stand Sommer 2006.--Sanches 12:23, 16. Okt. 2006 (CEST)
replies: text: Ich glaube bei diesem Artikel hast du freie Hand. Er ist noch meilenweit von einem passablen Zustand entfernt. --chrislb 问题 15:42, 16. Okt. 2006 (CEST)
thread_title:  Aktueller Stand (Stand Sommer 2006) 

message: In der alten Version stand die Hebbsche Lernregel in der Gruppe des überwachten Lernens. Dies widerspricht jedoch dem gesund Menschenverstand(und nach dem was ich im Studium gelernt habe). 
Die Hebbsche Lerneregel besagt doch, daß das Gewicht zwischen zwei Neuronen dann verstärkt wird, wenn beide gleichzeitig aktiv sind. Da hier kein Vergleich zwischen tätsächlicher und gewollter Ausgabe vorkommt, kann von überwachtem Lernen doch keine Rede sein. Ich denke diese Argumentation ist auch Problemlos nachzuvollziehen und ziemlich logisch. Vergleiche dazu den Wiki-Artikel über Hopfield-Netze. 
Ich werde daher den Link zur Hebbschen Lernregel vom überwachtem zum unüberwachten lernen verschieben.Deedl 14:34, 13. Mai 2007 (CEST)
thread_title:  Hebbsche Lernregel (un)überwachtes Lernen 

message: Also ich bezeichne mich mal als sehr technikaffinen Menschen, der sich nur mal informieren wollte, was KNN so sind und so machen. Ich finde den Artikel echt schlimm und habe kaum ein Wort verstanden. Es sollte in einer Enzyklopädie darum gehen, dass man rasch (anhand einfacher Beispiele) einen Eindruck und Einblick gewinnt. Was hier geschieht ist aber ein einziges Um-Sich-Schlagen mit nicht erklärten Fachbegriffen. Könnte mal jemand versuchen, KNN so zu erklären, wie man es einem Kind erklärt? Danke! --159.149.155.89 21:47, 19. Jul. 2007 (CEST)
thread_title:  Allgemeines 

message: Im Artikel existiert ein Wiki-Link der "Sprachgenerierung" heißt. Es gibt aber schon ein Artikel, der Sprachsynthese heißt, womit wohl das gleiche gemeint sein soll. Da der Artikel gesperrt ist kann vielleicht jemand autorisiertes diese Kleinigkeit überprüfen.--Sanches 19:00, 17. Aug. 2008 (CEST)
thread_title:  Sprachsynthese 

message: müsste es nicht eher so lauten:  --Micha81 10:35, 29. Dez. 2008 (CET)
thread_title:  bild neuron 

message: Wie sieht es denn aus mit den Begrifflichkeiten? Bei uns an der Uni wurde Wert darauf gelegt, dass es neuronales Netz heißt, nicht Netzwerk. Hier im Artikel wird einleitend nur neuronales Netz verwendet, im Arikelverlauf aber Netz und Netzwerk kunterbund gemischt. Sollte der Begriff neuronales Netzwerk gängig sein, würde es sich wahrscheinlich anbieten, das in der Einleitung mit anzugeben (auch: künstliches neuronales Netzwerk). Selbst wenn Netzwerk gängig ist, würde es sich vieleicht trotzdem anbieten, sich aus Kohärenzgründen für einen Begriff im Artikel zu entscheiden. Meinungen? --GlaMax 12:09, 20. Okt. 2009 (CEST)
replies: text: Ich würde davon ausgehen, dass die Begriffe bislang im Text nicht bewusst unterschieden werden. Ich würde demnach sagen, erstmal alles auf künstliches neuronales Netz zu ändern, da a) es im Titel steht und b) Dein Professer formuliert, dass Netzwerk hier der falsche Begriff ist. Sollte jemand den Begriff Netzwerk als alternativen und richtigen Begriff kennen, sollte das dann explizit als Alternativbegriff erwähnt werden. Eine konsistente Bezeichnung im Artikel finde ich unabhängig von der Richtigkeit vernünftig und da bietet sich ja das Lemma künstliches neuronales Netz an. Machst Du das? Gruß, norro wdw 12:34, 20. Okt. 2009 (CEST)
replies: text: Gibt es zu "Netz ist richtiger als Netzwerk" noch belastbareres Material als "an der Uni wurde Wert darauf gelegt"? Momentan findet Google "künstliche neuronale netze" doppelt so oft auf DE-Seiten wie "künstliche neuronale netzwerke". Was generell kein großer Unterschied ist, und erst recht nicht, wenn man bedenkt, wie viele sich an Wikipedia orientieren.--Biologos 16:55, 30. Okt. 2009 (CET)
replies: text:  Wie dir jedes gute Wörterbuch bestätigen wird, ist die Übersetzung von “network” „Netz“. Für einen Präskriptivisten ist an dieser Stelle die Diskussion beendet. Für einen Empiriker ist es natürlich interessant zu ergründen, ob im Deutschen das Wort „Netzwerk“ möglicherweise immer häufiger verwendet wird. Ein Deskriptivist könnte das dann damit zu erklären versuchen, dass der Einfluss des Englischen damit zu tun hat, dass Deutsche beim Übersetzen den falschen Freund „Netzwerk“ bevorzugen – besonders im technischen Bereich, wo „Netz“ und „Netzwerk“ wohl (aus deskriptiver Sicht) inzwischen als Synonyme anzusehen sind. --Thüringer ☼ 17:22, 30. Okt. 2009 (CET)
replies: text: Das heißt das Argument ist ein rein sprachliches, das darauf fußt, dass sich 1. der Begriff im Englischen gebildet hat und 2. die korrekte Übersetzung von network "Netz" und nicht "Netzwerk" ist? Was wäre dann die englische Übersetzung des deutschen Wortes "Netzwerk"? Was ist der Unterschied zwischen einem Netz und einem Netzwerk? In der Technik, schreibst du, besteht keiner (mehr). Sollte die Wikipedia nicht den aktuellen Sprachgebrauch abbilden, sofern dieser korrekt ist? Ist die von dir verwendete Argumentation auch die, die an den Unis vorgebracht wird? Falls ja: Sollten Informatiker Aussagen über korrekte Übersetzungen nicht eher den Sprachwissenschaftlern überlassen? (Mein Wörterbuch übersetzt network übrigens mit "Empfängernetz, Netz, Netzwerk". (Lechners Englisch-Wörterbuch, Lechner Verlag 1995)) Viele Grüße,--Biologos 17:40, 30. Okt. 2009 (CET)

text: Nachtrag: Darüber wurde natürlich schon längst an anderer Stelle diskutiert, z. B. hier: http://de.wikipedia.org/wiki/Diskussion:Netzwerk . Zitat von dort: der entsprechende Artikel in Zwiebelfisch, den hier alle nachbeten ist nicht unangreifbar. Die wesentliche deutsche Bedeutung von "Netzwerk" im übertragenen Sinne, laut Wahrig 1968: "Netzartiges Gefüge". Und das ist für Vieles, das Netzwerk genannt wird, eindeutig der Fall. Eben kein zweidimensionales Netz und keine dreidimensionale Reuse, sondern ein mehrdimensionales, sich veränderndes netz a-r-t-i-g-e-s Gefüge. Und der Vollständigkeit halber noch der Link auf den Zwiebelfisch-Artikel, den ich auch für schwach halte (inzwischen ist der Stern von Herrn Sick als Deutsch-Oberexperte ja auch insgesamt gesunken): http://www.spiegel.de/kultur/zwiebelfisch/0,1518,315833,00.html --Biologos 18:22, 30. Okt. 2009 (CET)
replies: text: Nach Durchsicht der Literaturliste wurde mir klar, dass der Begriff "Neuronales Netzwerk" zumindest in zitierfähigen Quellen vorkommt, wenn nicht sogar neben "Netz" gängig ist. Nachdem ich mir Deine Links zu den Diskussionen und zum Zwibelfisch angeschaut habe, habe ich den Eindruck, dass beide Begriffe im allgemeinen Sprachgebrauch verwendet werden, die herrschende Lehre aber wohl eher zu "Netz" tendiert. Deshalb mein Vorschlag: -Angabe "(auch: neuronales Netzwerk)" oder "(im allg. Sprachgebrauch auch: NNW)" hinzufügen. -Aus Koheränzgründen Vereinheiltichung im Text zu "Netz" oder "Netzwerk", ich bevorzuge wegen der Lehre "Netz". Natürlich nicht bei Zitaten und Quellenangaben. Widersprüche? --GlaMax 15:44, 21. Nov. 2009 (CET)
replies: text: Ja, Widerspruch. Die Beobachtung, dass Netzwerk mitunter synonym zu Netz gebraucht wird, gehört nicht in diesen Artikel und gehört überhaupt nicht in eine Enzyklopädie, sonder in ein Wörterbuch, z.B. Wiktionary. Als Terminus technicus ist im Deutschen Neuronales Netz etabliert, und ich sehe keinen Grund, das hier im Artikel zu verwässern. --Thüringer ☼ 17:30, 21. Nov. 2009 (CET)
replies: text: Ich liefere mal Fakten: In der aktuellen Version des Artikels findet sich bei den Einzelnachweisen, den Literaturangaben und den Weblinks jeweils ein Eintrag, der "Netzwerk" verwendet (jeweils etwa 10 %). Bei amazon.de findet man etwa 30 Fachbücher mit "neuronale Netzwerke" und über 500 mit "neuronale Netze". Das ist für mich Beleg genug, dass der gebräuchliche Fachbegriff "neuronale Netze" ist. Ich wäre dann, ähnlich wie GlaMax, für den Zusatz im Einleitungssatz "(selten auch künstliche neuronale Netzwerke, kurz: KNN, engl. artificial neural network – ANN)", ohne eine Bewertung, was korrekt ist und was nicht.--Biologos 18:00, 21. Nov. 2009 (CET)
replies: text: Ich würde das mal jetzt so umsetzen. Ob man jetzt anstelle "selten" etwa "manchmal", "fälschlich" etwas anderes oder garnichts schreibt, kann ja noch diskutiert werden. Mir geht es ieL um die Einheitlichkeit im Text, und eine Verbesserung dürfte es allemal sein.--GlaMax 19:46, 21. Nov. 2009 (CET)
thread_title:  Terminologie: Netz/Netzwerk 

message: Es gibt da die Aussage "Die Folge war ein vorläufiges Ende der Forschungen auf dem Gebiet der Neuronalen Netze, da die meisten Forschungsgelder gestrichen wurden."
Das ist meiner Meinung nach unpräzise. Bitte hinterlegen! Ohne über die Details Bescheid zu wissen: Meist werden Forschungsgelder nur in einer Gesellschaft (z.B. Helmholtz, oder Max-Planck), einem Staat (z.B. USA) oder Wirtschaftbereich (z.B. EU) heruntergefahren. Weltweit meist nicht gleichzeitig. Sollte das hier wirklich der Fall gewesen sein, wäre es gut, das zu belegen.
--Frank Herbrand 19:49, 9. Nov. 2009 (CET)
replies: text: Das war hier, nach der Entdeckung des XOR Problemes, wohl in der Tat so. Findet sich in jedem Buch zum Thema in dem die Historie erwähnt wird.--143.93.55.239 12:35, 4. Jan. 2010 (CET)
thread_title:  "Forschungsgelder" 

message: Ich weiss nicht, welchem KNN-Kurs diese Auflistung von Allgemeinen Problemen von künstlichen Neuronalen Netzen entsprungen ist, aber ich halte diese in dieser Form für ein wenig unglücklich.
Beispielsweise: "Das Trainieren von KNN (im Terminus der Statistik: Das Schätzen der im Modell enthaltenen Parameter) führt in der Regel zu hochdimensionalen, nichtlinearen Optimierungsproblemen." -> Was ist denn, wenn ich schon von Anfang an ein hochdimensionales, nichtlineares Optimierungsproblem habe? Dann probiere ich natuerlich auch KNNs aus, weil diese für den Zweck im Jahr 2011 state of the art sind. 
Oder: "Es müssen Trainingsdaten gesammelt oder manuell erzeugt werden." Bei jedem Supervised Learning Algorithmus müssen Trainingsdaten gesammelt werden. Selbst für eine einfache lineare Regression brauche ich ja irgendwelche Daten, in die ich meine Hypothese reinpressen kann. Das ist keine den KNNs innewohnende Eigenschaft, es gibt auch aus dem Umfeld der konnektionistischen neuronalen Netze unsupervised learning Methoden.
Oder: "Bei Anwendung einer ‚heuristischen‘ – nicht statistischen – Vorgehensweise bei der Netzspezifikation, neigen KNN dazu, die Trainingsdaten einfach auswendig zu lernen" Das Overfitting ist ebenso kein Problem, das alleine die KNNs haben. Das Problem besteht bei (fast) jedem machine learning Algorithmus. 
Jedenfalls erscheint für mich durch diesen "aufgebauschten" Problemteil bei KNNs ein Bias gegen diese Technologie aufgebaut zu werden, obwohl die meisten Probleme eigentlich nicht spezifisch sind für Neuronale Netze.
Daher schlage ich vor, dass ich diesen Problemteil demnächst ein wenig straffe und dergestalt umformuliere, dass ersichtlich wird, dass die Probleme eher übergeordneter Natur sind und nicht spezifisch sind für KNNs.
schöne Grüße Danny Busch]] [[Benutzer Diskussion:DannyBusch|:-) 08:55, 3. Nov. 2011 (CET)
thread_title:  "Allgemeine Probleme" 

message: Dieser Artikel fällt weit hinter den gegenwärtigen Stand der Kunst im Bereich neuronaler Netze zurück. Er enthàlt keinen Hinweis darauf, dass tiefe (und rekurrente) neuronale Netze seit 2009 in vielen Wettbewerben alle anderen Methoden schlagen (Stichwort Deep Learning). Da bleibt viel zu tun. Wohlgetango (Diskussion) 19:24, 26. Dez. 2013 (CET)
thread_title:  Artikel überholt 

message: Der Bezug zwischen evolutionären Algorithmen und Moore-Automaten hinsichtlich neuronaler Netze wird nicht ersichtlich und ist auch nicht belegt.
Zudem führt der Link hinter "Moore-Automat" hier auf den Artikel des Zellulären Automaten. (nicht signierter Beitrag von Neutronstar2 (Diskussion | Beiträge) 19:53, 12. Apr. 2016 (CEST)
thread_title:  Abschnitt "Typische Strukturen" 

message: Mir kommt es so vor, als ginge es in dem Artikel immer nur um trainierbare Netze.
Dabei sind meiner Meinung nach nicht trainierbare Netze viel wichter bei praktischen Anwendungen.
Hierbei werden fertige Gewichtungen aus einer Datei geladen und damit kann das (vortrainierte) Netz dann z.B. Buchstaben und Zahlen erkennen, die ein Scanner liefert.
D.h. es wurde einmal ein Training gemacht und die damit erhaltenen Gewichte werden dann zusammen mit einem nicht-trainierbaren Netz in ein Produkt eingebaut. --2.246.115.192 23:41, 8. Jun. 2017 (CEST)
replies: text: Es ist das gleiche Netz und es musste einmal trainiert werden. Dass man die gewonnenen Daten dann auf n Stück replizieren kann liegt in der Natur der darunterliegenden Sache. -- Janka (Diskussion) 10:58, 9. Jun. 2017 (CEST)
replies: text:  Es kann nur dann dasselbe Netz sein, wenn es nicht mehr trainiert wird. Die Aufforderung, bitte zwischen Trainingsphase und Einsatzphase bei praktischen Anwendungen zu unterscheiden, ist somit völlig berechtigt. Man kann kritische Anmerkungen auch ernst nehmen. --nanu *diskuss 12:44, 12. Jun. 2017 (CEST)
thread_title:  nicht immer will man neuronale Netze trainieren 

message: Im Artikel steht, dass jede Schicht über eine Aktivierungsfunktion verfügt. Müsste es nicht richtigerweise heißen, dass die Neuronen (der jeweiligen Schicht) über Aktivierungsfunktionen verfügen? Noch genauer vielleicht: Ihr Verhalten kann mathematisch durch Aktivierungsfunktionen beschrieben werden.
Könnte das jemand korrigieren? Danke!
--Perennis (Diskussion) 11:27, 4. Jul. 2020 (CEST)
thread_title:  Aktivierungsfunktion von Schichten?