Machine Learning vs. Deep Learning: KI verstehen

Sowohl Machine Learning (kurz: ML) als auch Deep Learning (kurz: DL) sind Teilgebiete der Künstlichen Intelligenz.
Dabei ist Deep Learning eine Untermenge von Machine Learning (auch: Maschinelles Lernen). Deep Learning ist eine fortgeschrittene, weiterentwickelte Version von Machine Learning.

Du kannst dir es bildlich (wie in diesem Blogartikel-Beitragsbild) auch so vorstellen. Ein veranschaulichendes Beispiel aus der realen, natürlichen Welt:

Eine Bratpfanne, in der ein Spiegelei gebraten wurde, ist die Gesamtmenge der Künstlichen Intelligenz. Das Spiegelei ist dem Machine Learning gleichzusetzen und befind sich innerhalb der KI. Wobei Deep Learning, das gelborange Eidotter, eine Untermenge von Maschinellem Lernen ist.

More...

Definitionen

Folgend werden die Begriffe Künstliche Intelligenz, Maschinelles Lernen und Deep Learning definiert beziehungsweise Definitionen zitiert, damit du sie klarer voneinander abgrenzen kannst.

Künstliche Intelligenz (KI)

Sammelbegriff für computergestützte Intelligenz: Künstliche Intelligenz ist ein Oberbegriff für eine Reihe von Technologien und Ansätzen, die oft versuchen, das menschliche Denken zu imitieren, um komplexe Aufgaben zu lösen. ^[1]

Machine Learning / Maschinelles Lernen (ML)

Machine Learning, im deutschsprachigen Raum auch Maschinelles Lernen genannt, steht für einen spezifischen Lösungsansatz, bei dem Systeme aus Daten lernen. Es ist ein Teilbereich der Künstlichen Intelligenz, der im weitesten Sinne als die Fähigkeit einer Maschine definiert wird, intelligentes menschliches Verhalten zu imitieren. ^[2]

Deep Learning (DL)

Deep Learning ist ein Teilbereich des maschinellen Lernens, bei dem mehrschichtige neuronale Netze, so genannte Deep Neural Networks, verwendet werden, um die komplexe Entscheidungsfähigkeit des menschlichen Gehirns zu simulieren. ^[3]

Deep Learning ist zwar auch wie Maschinelles Lernen auf künstlichen neuronalen Netzen aufgebaut, jedoch mit mindestens vier Netzwerk-Schichten, oft mit sehr viel mehr Schichten. DL wird für weitaus komplexere und anspruchsvollere Aufgaben als Maschinelles Lernen eingesetzt.

Gemeinsamkeiten von ML und DL in der KI

Maschinelles Lernen und Deep Learning in der Künstlichen Intelligenz

Wie aus dem gestapelten Venn-Diagramm hervorgeht, ist nicht alles im Machine Learning automatisch Deep Learning. Jedoch ist umgekehrt alles im Deep Learning auch Machine Learning.

Mit Hilfe von Machine Learning und Deep Learning können Muster in Daten erkannt werden.

Mustererkennung in Daten
Erledigung komplexer Rechenaufgaben, die mit herkömmlicher Programmierung nur mit zu viel Zeit und Rechenpower möglich sind
Für genaue Vorhersagen sind große Datenmengen notwendig, wobei DL weitaus mehr Daten als Machine Learning benötigt
Hohe Rechenleistung erforderlich, hier ist für Deep Learning mehr als für Machine Learning erforderlich
Sowohl für ML als auch DL ist das Rückgrat ein neuronales Netzwerk, jedoch beim DL mit mehr als drei Schichten

Unterschiede zwischen Machine Learning und Deep Learning

Ein wesentlicher Unterschied ist die Automatisierung. Brauchst du beim Machine Learning das Eingreifen von Menschen, welche die zeitaufwendige Feature Extraktion (Extrahieren von relevanten Informationen aus Rohdaten) durchführen, läuft der Prozess beim DL automatisch ohne menschlichen Eingriff.

Manuelle Feature Extraktion (ML) vs. Automatisierung von Feature Engineering (DL)

Manuelle Feature Extraktion (ML) vs. automatisches Feature Engineering (DL)

Review of deep learning Fig. 3 Lizenz: Creative Commons Attribution 4.0 International License

ML: Data Preprocessing, Feature Extraction, Feature Selection

Datenvorverarbeitung (Preprocessing)

Zur Beseitigung fehlender, fehlerhafter Datenwerte gibt es beim Maschinellen Lernen das Data Preprocessing (Datenvorverarbeitung). Das ist der Prozess der Filterung, Manipulation, Bewertung und Kodierung von Daten, damit ein ML-Algorithmus diese verstehen und die Ausgabe daraus verwenden kann.

Merkmalsextraktion (Feature Extraction oder auch Feature Engineering )

Die Rohdaten werden in einen effektiveren Satz von Eingabewerten (Inputs) umgewandelt.

Merkmalselektion (Feature Selection)

Der Prozess der Auswahl einer Teilmenge relevanter Merkmale (Features).

DL: Automatisierung von Preprocessing, Feature Extraction, Feature Selection

Im Gegensatz zu konventionellen Machine-Learning-Methoden ist ein Deep-Learning-Modell in der Lage, das Lernen von Feature Sets für verschiedene Aufgaben selbstständig anzupassen und somit zu automatisieren.

ML vs. DL: Die kleine und die oft riesige Anzahl der Netzwerkschichten

Worin sich Deep Learning noch durch eine enorm wichtige Fähigkeit unterscheidet, ist der Algorithmus.

Beim Deep Learning Modell gibt es mehr (als drei) bis bis sehr viel mehr Netzwerk-Schichten als beim Maschinellen Lernen. Das heißt, inklusive der Eingabe- und Ausgabe-Schicht hat ein Deep Learning Modell mindestens vier Schichten.

Daher kommt auch der Begriff "Deep", weil es durch viele Schichten tief hindurchgeht.

Deep Learning Modell mit Rechenknoten und Schichten

In dem Modell sind die Knoten als Kreise dargestellt. Jeder Kreis beinhaltet einen einfacheren Rechenalgorithmus. Die Daten wandern von der Eingabe-Schicht (Input) durch die verdeckten Schichten hindurch, bis sie schließlich in der Ausgabe-Schicht landen.

Vorwiegend ist die Richtung von der Eingabeschicht hin zur Ausgabeschicht. Jedoch gibt es auch eine Rückpropagierung (Backpropagation) mit umgekehrter Richtung, damit aufgrund von aufgetretenen Fehlern der Algorithmus angepasst werden kann.

Performance in Abhängigkeit von der Datenmenge: Deep Learning vs. ältere Lernalgorithmen

Deep Learning vs. ältere Lernalgorithmen - Performance zu Datenmenge

Review of deep learning Fig. 27 Lizenz: Creative Commons Attribution 4.0 International License

Bei einer geringen Datenmenge sind ältere Algorithmen wie Maschinelles Lernen von der Performance her zwar besser.

Jedoch zeigt das Liniendiagramm, wie mit zunehmender Datenmenge ab einer bestimmten Menge die Deep Learning Modelle outperformen und deutlich über der Performance von älteren Lernalgorithmen liegen. Für das Trainieren von Datenmodellen sind beim DL aber enorm viel Trainingsdaten erforderlich.

Unterschiede im tabellarischen Vergleich

Kriterium	Machine Learning	Deep Learning
Datenverarbeitung	Benötigt strukturierte Daten	Kann unstrukturierte Daten verarbeiten (Bilder, Sprache, Text)
Datenanforderungen	Weniger Daten pro Merkmal erforderlich	Benötigt sehr große Mengen an Daten pro Merkmal
Modellkomplexität	Einfachere Modelle (z.B. Entscheidungsbäume, SVM)	Sehr komplexe Modelle mit vielen Parametern
Strukturierte Daten erforderlich?	Tabellarische Daten, strukturierte Daten, einfache Mustererkennung	Keine strukturierten Daten notwendig. Z.B. Bild-, Sprach- und Mustererkennung auf hohem Niveau
Rechenleistung	Geringe Rechenleistung erforderlich (CPU)	Erfordert sehr hohe Rechenleistung (GPU/TPU)
Neuronales Netzwerk mit wie vielen Schichten?	2 bis 3 Schichten	> 3 Schichten (inkl. Ein- und Ausgabeschicht)
Menschliches Eingreifen beim Modell-Training erforderlich?	Ja: Für das Modelltraining muss bei der Feature-Extraktion vom Menschen eingegriffen werden, Angabe von Gewichtungen	Nein: Läuft automatisiert, somit kein menschliches Eingreifen notwendig. Modell lernt selbst über Feedback aus bekannten Fehlern
Nachvollziehbarkeit	Modelle sind oft erklärbar und nachvollziehbar	Schwer nachvollziehbare "Black Box"-Modelle

Unterschiede erklärt und veranschaulicht anhand Pizzabestellung

Im Online-Video erklärt und veranschaulicht IBM Mitarbeiter Martin Keen mit einer Analogie zu einer Pizzabestellung wichtige Unterschiede zwischen Maschinellem Lernen und Deep Learning. Er legt dabei Präferenzen und Gewichtungen fest.

1950er bis heute: KI, Machine Learning & Deep Learning

Die computergestützte Künstliche Intelligenz nahm ihren Lauf zu Beginn der 1950er Jahre. Alan Turing entwickelte 1950 einen Test, mit dem herausgefunden werden soll, ob von einem Benutzer ein Computer als Mensch oder als Maschine wahrgenommen wird.

Die Grafik veranschaulicht die verschiedenen Ären, angefangen von Künstlicher Intelligenz (Artificial Intelligence), über Machine Learning, bis hin zum stark fortgeschrittenen Machine Learning mit künstlichen neuronalen Netzwerken (KNN), dem Deep Learning.

Timeline für Künstliche Intelligenz, Machine Learning, Deep Learning

Timeline, historische Entwicklung von KI, ML und DL

Einsatzgebiete Vergleich