Tiefes Lernen

Deep Learning (auch Deep Structured Learning genannt) ist Teil einer breiteren Familie maschineller Lernmethoden, die auf künstlichen neuronalen Netzen mit Repräsentationslernen basieren. Lernen kann überwacht, teilüberwacht oder unüberwacht sein.

Deep-Learning-Architekturen wie Deep Neural Networks, Deep Belief Networks, Deep Reinforcement Learning, Recurrent Neural Networks und Convolutional Neural Networks wurden in Bereichen wie Computer Vision, Spracherkennung, Verarbeitung natürlicher Sprache, maschineller Übersetzung, Bioinformatik, Arzneimitteldesign und Medizin angewendet Bildanalyse, Klimawissenschaft, Materialinspektion und Brettspielprogramme, wo sie zu Ergebnissen geführt haben, die vergleichbar sind und in einigen Fällen die menschliche Expertenleistung übertreffen.

Künstliche neuronale Netze (KNNs) wurden von der Informationsverarbeitung und verteilten Kommunikationsknoten in biologischen Systemen inspiriert. ANNs haben verschiedene Unterschiede zu biologischen Gehirnen. Insbesondere künstliche neuronale Netze neigen dazu, statisch und symbolisch zu sein, während das biologische Gehirn der meisten lebenden Organismen dynamisch (plastisch) und analog ist.

Das Adjektiv „deep“ im Deep Learning bezieht sich auf die Verwendung mehrerer Schichten im Netzwerk. Frühe Arbeiten zeigten, dass ein lineares Perzeptron kein universeller Klassifikator sein kann, ein Netzwerk mit einer nichtpolynomialen Aktivierungsfunktion mit einer verborgenen Schicht unbegrenzter Breite jedoch schon. Deep Learning ist eine moderne Variante, bei der es um eine unbegrenzte Anzahl von Schichten begrenzter Größe geht, die eine praktische Anwendung und optimierte Implementierung ermöglicht, während die theoretische Universalität unter milden Bedingungen erhalten bleibt. Beim Deep Learning dürfen die Schichten aus Gründen der Effizienz, Trainierbarkeit und Verständlichkeit auch heterogen sein und weit von biologisch informierten konnektionistischen Modellen abweichen, daher der "strukturierte" Teil.