Backpropagation ist ein wichtiges Werkzeug für Deep-Learning-Anwendungen. Durch Backpropagation kann ein Vorhersagealgorithmus ständig verbessert werden, wodurch Fehlerquoten immer weiter eliminiert werden.
Wie du vielleicht weißt, sind künstliche neuronale Netze (artificial neural network) einer der beliebtesten Ansätze im Bereich des Deep Learning – einer Disziplin, die eine Maschine dazu bringt, Probleme zu lösen, indem sie bestimmte Funktionen des menschlichen Denkens simuliert. Manche werden fragen: Was hat das Wort künstlich in diesem Ausdruck zu suchen? Es ist so, dass diese Technologie die Art und Weise widerspiegelt, wie unsere eigenen logischen Mechanismen im wirklichen Leben funktionieren. Wir konstruieren instinktiv Modelle, um Probleme besser lösen zu können.
Neuronale Netze sind wie wir selbst: Wir neigen dazu, die Art und Weise, wie wir bei einer bestimmten Tätigkeit vorgehen, ständig zu verbessern. Wenn wir z. B. lernen, ungenießbare Pilze zu finden, werden wir mit der Zeit wahrscheinlich immer besser darin werden. Nun, das Gleiche gilt für neuronale Netze.
Die Methode, die zur Verbesserung der Effizienz eines bestimmten neuronalen Netzes eingesetzt wird, hat einen Namen: Backpropagation.
Auf den ersten Blick mag Backpropagation schwer zu verstehen sein, aber das ist nicht der Fall. Beginnen wir am Anfang…
Alles über Backpropaganda lernen
Tatsächlich ist es schwierig, einfach zu erklären, wie Backpropagation funktioniert, wenn wir nicht zuerst einen Blick darauf werfen, was ein neuronales Netz ausmacht.
Knoten und Verbindungen
Ein neuronales Netz besteht aus Knoten und Verbindungen zwischen diesen Knoten.
Jeder Knoten ist eine Recheneinheit, die mit Daten operiert. In den Knoten sind Aktivierungsfunktionen (activation function) eingebaut. Diese bestimmen anhand der Informationen, die der Knoten erhält, ob er aktiviert werden soll oder nicht.
Die Knoten sind miteinander verbunden, wobei ein Modell mit Schichten, Gewichten und Bias verwendet wird, das unten beschrieben wird.
💡Auch interessant:
Les trois types de couches d’un réseau de neurones
Die Knoten-/Verbindungskombinationen sind auf mehrere Schichten verteilt:
- Input layer / Eingabeschicht: die Schicht, die die Daten aus der Realität empfängt oder die Daten, die analysiert werden müssen.
- Hidden layer / verborgene Schicht: eine oder mehrere Zwischenschichten, die die Daten verarbeiten.
- Output layer / Ausgabeschicht: die Informationen, die aus der Verarbeitung durch das neuronale Netz stammen.
Bei der Ausführung eines neuronalen Netzes werden die Daten von einem Knoten/einer Verbindung zum nächsten weitergeleitet, und zwar nach dem Prinzip des Feedforward – was man mit Vorwärtsausbreitung übersetzen könnte.
Das Ergebnis ist eine komplexe Kurve, die dabei hilft, Phänomene aus unbeobachteten Daten vorherzusagen.
Gewicht und Bias
Zwei Elemente sind in einem neuronalen Netz besonders wichtig: Gewichte (weights) und Biases (biases). Sie sind willkürliche Werte, die du im Laufe der Experimente anpassen kannst.
Gewicht
Das Gewicht ist eine numerische Angabe, die mit der Verbindung zwischen zwei Knoten verknüpft ist. Es bestimmt, wie stark der Einfluss einer Angabe auf das Ergebnis der Ausgabe ist. Hier ist ein Beispiel. In einem neuronalen Netz, das Regen vorhersagen soll, könnte man davon ausgehen, dass eine relativ niedrige Temperatur ein hohes Gewicht hat.
Biais
Ein Bias ist eine Anpassung der Eingabedaten, die dem Netzwerk helfen soll, bessere Vorhersagen zu treffen. Nehmen wir ein Beispiel aus dem Alltag: Ein Lehrer, der gerade Prüfungsarbeiten bewertet hat, stellt fest, dass er bei allen Arbeiten zu streng war. Er könnte die Voreingenommenheit nutzen, um allen Arbeiten 3 Punkte hinzuzufügen, damit die Mehrheit der Schüler eine Note von 10/20 oder besser erhält.
Backpropaganda, was ist das eigentlich?
Wenn du das Folgende verstanden hast, dann ist es leicht zu erklären, was Backpropagation ist: Es geht um die Anpassung von Gewichten und Bias in einem neuronalen Netz!
Backpropagation ist eine Methode, die darauf abzielt, die Fehlerrate zwischen den Vorhersagen des neuronalen Netzes und den Ergebnissen in der Realität zu minimieren. Und dieser Verbesserungsprozess wird durch das iterative Anpassen von Gewichten und Bias erreicht.
Backpropaganda in der realen Welt
Backpropagation ist ein wichtiges Werkzeug zur Verbesserung von Deep-Learning-Algorithmen. Hier sind einige gängige Anwendungsarten.
Kinoprogramm
Nehmen wir das Beispiel eines Kinobetreibers, der die Besucherzahlen in seinen Kinos verbessern möchte, indem er das Filmprogramm an den Geschmack des Publikums anpasst. Im Vorhersagealgorithmus wurden wahrscheinlich bestimmte Gewichte gesetzt, z. B. wurde das Gewicht von Actionfilmen höher eingeschätzt als das von intimen Filmen.
Backpropagation wird darin bestehen, die so ausgewählten Filme zu bewerten und die tatsächlichen Einschaltquoten mit den vorhergesagten zu vergleichen. Auf der Grundlage der tatsächlichen Informationen können die Gewichtung und der Bias der verschiedenen Kategorien von Filmen, die gezeigt werden, angepasst werden. Eine solche Behandlung könnte z. B. ergeben, dass das Publikum zu einem bestimmten Zeitpunkt Komödien bevorzugt.
Spracherkennung
Eine Anwendung wie SIRI oder Cortana könnte Backpropagation nutzen, um die Transkription menschlicher Sprache zu verbessern, basierend auf den Fehlern, die im aktuellen Modell festgestellt wurden.
Artikel-Empfehlung
Eine Onlineshopping-App kann analysieren, welche Verkäufe tatsächlich auf die angezeigten Empfehlungen folgen, und die entsprechenden Algorithmen anpassen.
Selbstfahrendes Fahrzeug
Backpropagation wird dabei helfen, die Algorithmen für autonomes Fahren zu verbessern, indem die Modelle auf der Grundlage von Rückmeldungen aus dem realen Leben angepasst werden.
Eine Säule des Deep Learning
Backpropagation ist eine grundlegende Technik für Deep-Learning-Anwendungen, da sie es ermöglicht, neuronale Netze so anzupassen, dass die Ergebnisse kontinuierlich verbessert werden. Durch die Beeinflussung der Gewichte (weights) und Verzerrungen (bias) eines solchen Netzes wird die Fehlerrate schrittweise reduziert. Sie ist daher in sehr unterschiedlichen Bereichen von entscheidender Bedeutung: medizinische Diagnosen, Wettervorhersagen, Finanzvorhersagen usw. Sie wird regelmäßig von KI-Forschern in die Praxis umgesetzt. Aber auch wenn ihre Praxis komplex erscheinen mag, wird sie früher oder später von einem Datenwissenschaftler beherrscht werden.
