Als ich anfing, mich mit maschinellen Lernproblemen zu beschäftigen, geriet ich in Panik, welchen Algorithmus ich verwenden sollte. Oder welches ist einfach anzuwenden? Wenn Sie wie ich sind, könnte Ihnen dieser Artikel dabei helfen, mehr über Algorithmen, Methoden oder Techniken für künstliche Intelligenz und maschinelles Lernen zu erfahren, um unerwartete oder erwartete Probleme zu lösen.
Maschinelles Lernen ist eine leistungsstarke KI-Technik, die eine Aufgabe ohne explizite Anweisungen effektiv ausführen kann. Ein ML-Modell kann aus Ihren Daten und Erfahrungen lernen. Anwendungen für maschinelles Lernen sind automatisch, robust und dynamisch. Verschiedene Algorithmen wurden entwickelt, um dieser dynamischen Natur realer Probleme Rechnung zu tragen. Im Großen und Ganzen gibt es drei Arten von Algorithmen für maschinelles Lernen: überwachtes Lernen, unüberwachtes Lernen und verstärkendes Lernen.
Die besten Algorithmen für künstliche Intelligenz und maschinelles Lernen
Die Auswahl der geeigneten Technik oder Methode des maschinellen Lernens ist eine der Hauptaufgaben bei der Entwicklung eines Projekts im Bereich der künstlichen Intelligenz oder des maschinellen Lernens. Denn es stehen mehrere Algorithmen zur Verfügung, und alle haben ihre Vorteile und ihren Nutzen. Im Folgenden stellen wir 20 Algorithmen für maschinelles Lernen für Anfänger und Profis vor. Werfen wir also einen Blick darauf.
1. Naiver Bayesianer
Ein Naive-Bayes-Klassifikator ist ein probabilistischer Klassifikator, der auf dem basiert Satz von Bayes, mit der Annahme der Unabhängigkeit zwischen den Merkmalen. Diese Funktionen unterscheiden sich von Anwendung zu Anwendung. Es ist eine der bequemsten Methoden des maschinellen Lernens für Anfänger.
Naive Bayes ist ein bedingtes Wahrscheinlichkeitsmodell. Gegeben sei eine zu klassifizierende Probleminstanz, dargestellt durch einen Vektor X = (XYo . . . XNorden) stellt einige Merkmale n (unabhängige Variablen) dar und weist der aktuellen Instanz Wahrscheinlichkeiten für jedes der potenziellen Ergebnisse K zu:
Das Problem bei der obigen Formulierung besteht darin, dass es nicht möglich ist, ein solches Modell auf Wahrscheinlichkeitstabellen zu basieren, wenn die Anzahl der Merkmale n signifikant ist oder wenn ein Element eine große Anzahl von Werten annehmen kann. Deshalb entwickeln wir das Modell neu, um es handlicher zu machen. Unter Verwendung des Satzes von Bayes kann die bedingte Wahrscheinlichkeit wie folgt geschrieben werden:
Unter Verwendung der Bayes’schen Wahrscheinlichkeitsterminologie kann die obige Gleichung wie folgt geschrieben werden:
Dieser Algorithmus der künstlichen Intelligenz wird bei der Textklassifizierung verwendet, d. h. bei der Stimmungsanalyse, der Kategorisierung von Dokumenten, der Spam-Filterung und der Nachrichtenklassifizierung. Diese Technik des maschinellen Lernens funktioniert gut, wenn die Eingabedaten in vordefinierte Gruppen klassifiziert werden. Darüber hinaus sind weniger Daten erforderlich als bei der logistischen Regression. Es bietet in mehreren Bereichen eine überlegene Leistung.
2. Support-Vektor-Maschine
Support Vector Machine (SVM) ist einer der am weitesten verbreiteten überwachten maschinellen Lernalgorithmen im Bereich der Textklassifizierung. Diese Methode wird auch zur Regression verwendet. Es kann auch als Support Vector Networks bezeichnet werden.
Cortes & Vapnik haben diese Methode zur binären Klassifizierung entwickelt. Das überwachte Lernmodell ist der Ansatz des maschinellen Lernens, der das Ergebnis aus gekennzeichneten Trainingsdaten ableitet.
Eine Support-Vektor-Maschine konstruiert eine Hyperebene oder einen Satz von Hyperebenen in einem sehr hoch- oder unendlichdimensionalen Bereich. Berechnet die lineare Trennfläche mit einem maximalen Spielraum für einen bestimmten Trainingssatz.
Nur eine Teilmenge der Eingabevektoren beeinflusst die Wahl des Randes (in der Abbildung eingekreist); Solche Vektoren werden Supportvektoren genannt. Wenn keine lineare Trennfläche vorhanden ist, beispielsweise bei verrauschten Daten, sind SVM-Algorithmen mit einer Slack-Variablen geeignet. Dieser Klassifikator versucht, den Datenraum mithilfe linearer oder nichtlinearer Abgrenzungen zwischen den verschiedenen Klassen zu unterteilen.
SVM wird häufig bei nichtlinearen Regressions- und Musterklassifizierungsproblemen eingesetzt. Darüber hinaus ist es eine der besten Techniken zur automatischen Kategorisierung von Texten. Das Beste an diesem Algorithmus ist, dass er keine starken Annahmen über die Daten trifft.
Zur Implementierung von Support Vector Machine: Data-Science-Bibliotheken in Python: SciKit Learn, PyML, SVMStruct Python, LIBSVM und Data-Science-Bibliotheken in R: Klar, e1071.
3. Lineare Regression
Die lineare Regression ist ein direkter Ansatz zur Modellierung der Beziehung zwischen einer abhängigen Variablen und einer oder mehreren unabhängigen Variablen. Wenn es eine unabhängige Variable gibt, spricht man von einfacher linearer Regression. Stehen mehr als eine unabhängige Variable zur Verfügung, spricht man von multipler linearer Regression.
Diese Formel wird verwendet, um reale Werte wie den Hauspreis, die Anzahl der Anrufe und den Gesamtumsatz auf der Grundlage kontinuierlicher Variablen zu schätzen. Hier wird die Beziehung zwischen den unabhängigen und abhängigen Variablen durch Anpassen der besten Linie hergestellt. Diese beste Anpassungslinie wird als Regressionslinie bezeichnet und durch eine lineare Gleichung dargestellt
Y = a * X + b.
Hier,
- Y – abhängige Variable
- ein Hang
- X – unabhängige Variable
- b – Kreuzung
Diese maschinelle Lernmethode ist einfach zu verwenden. Rennt schnell. Dies kann im Geschäftsleben für Umsatzprognosen genutzt werden. Es kann auch zur Risikobewertung verwendet werden.
4. Logistische Regression
Hier ist ein weiterer Algorithmus für maschinelles Lernen, die logistische Regression oder Logit-Regression, der zur Schätzung diskreter Werte (Binärwerte wie 0/1, ja/nein, wahr/falsch) basierend auf einem gegebenen Satz unabhängiger Variablen verwendet wird. Die Aufgabe dieses Algorithmus besteht darin, die Wahrscheinlichkeit eines Vorfalls vorherzusagen, indem die Daten an eine Logit-Funktion angepasst werden. Ihre Ausgabewerte liegen zwischen 0 und 1.
Die Formel kann in verschiedenen Bereichen wie maschinellem Lernen, wissenschaftlichen Disziplinen und medizinischen Bereichen verwendet werden. Es kann verwendet werden, um die Gefahr des Auftretens einer bestimmten Krankheit anhand beobachteter Patientenmerkmale vorherzusagen.
Mithilfe der logistischen Regression kann der Wunsch eines Kunden, ein Produkt zu kaufen, vorhergesagt werden. Diese Technik des maschinellen Lernens wird in der Wettervorhersage verwendet, um die Regenwahrscheinlichkeit vorherzusagen.
Die logistische Regression kann in drei Typen unterteilt werden:
- Binäre logistische Regression
- Multinominale logistische Regression
- Ordinale logistische Regression
Die logistische Regression ist weniger kompliziert. Darüber hinaus ist es robust. Kann mit nichtlinearen Effekten umgehen. Dieser ML-Algorithmus kann jedoch zu einer Überanpassung führen, wenn die Trainingsdaten spärlich und hochdimensional sind. Sie können keine anhaltenden Ergebnisse vorhersagen.
5. K-nächster Nachbar (KNN)
K-Nearest Neighbor (kNN) ist ein bekannter statistischer Ansatz zur Klassifizierung und wurde im Laufe der Jahre umfassend untersucht und schon früh auf Kategorisierungsaufgaben angewendet. Es fungiert als nichtparametrische Methodik für Klassifizierungs- und Regressionsprobleme.
Diese KI- und ML-Methode ist recht einfach. Bestimmt die Kategorie eines Testdokuments t basierend auf der Abstimmung aus einer Menge von k Dokumenten, die t in Bezug auf die Entfernung, normalerweise die euklidische Entfernung, am nächsten liegen. Die wesentliche Entscheidungsregel bei gegebenem t-Test-Dokument für den kNN-Klassifikator lautet:
Wobei y(xi,c) eine binäre Klassifizierungsfunktion für das Trainingsdokument xi ist (die den Wert 1 zurückgibt, wenn xi mit c markiert ist, andernfalls 0), markiert diese Regel mit t die Kategorie, die im nächsten k die meisten Stimmen erhält -Nachbarschaft.
Wir können KNN unserem wirklichen Leben zuordnen. Wenn Sie beispielsweise Menschen treffen möchten, über die Sie keine Informationen haben, entscheiden Sie sich lieber für Ihre engen Freunde und damit für die Kreise, in denen Sie sich bewegen und auf deren Informationen zugreifen. Dieser Algorithmus ist rechenintensiv.
6. K-bedeutet
K-Means-Clustering ist eine Methode von unbeaufsichtigtes Lernen welches für die Clusteranalyse im Data Mining zugänglich ist. Dieser Algorithmus zielt darauf ab, n Beobachtungen in k Gruppen zu unterteilen, wobei jede Beobachtung zum nächsten Mittelwert der Gruppe gehört. Dieser Algorithmus wird unter anderem in der Marktsegmentierung, Computer Vision und Astronomie eingesetzt.
7. Entscheidungsbaum
Ein Entscheidungsbaum ist ein Werkzeug zur Entscheidungsunterstützung, das eine grafische Darstellung verwendet, also ein baumförmiges Diagramm oder Entscheidungsmodell. Es wird häufig in der Entscheidungsanalyse verwendet und ist auch ein beliebtes Werkzeug beim maschinellen Lernen. Entscheidungsbäume werden im Operations Research und Management verwendet.
Es hat eine flussdiagrammähnliche Struktur, in der jeder interne Knoten einen „Test“ für ein Attribut darstellt, jeder Zweig das Testergebnis darstellt und jeder Blattknoten eine Klassenbezeichnung darstellt. Der Weg von der Wurzel zum Blatt wird als Klassifizierungsregeln bezeichnet. Es besteht aus drei Arten von Knoten:
- Entscheidungsknoten: typischerweise dargestellt durch Quadrate,
- Zufallsknoten: werden normalerweise durch Kreise dargestellt,
- Endknoten: werden normalerweise durch Dreiecke dargestellt.
Ein Entscheidungsbaum ist einfach zu verstehen und zu interpretieren. Verwenden Sie ein White-Box-Modell. Darüber hinaus ist es mit anderen Entscheidungstechniken kombinierbar.
8. Zufälliger Wald
Random Forest ist eine beliebte Ensemble-Lerntechnik, bei der zur Trainingszeit eine Vielzahl von Entscheidungsbäumen erstellt und die Kategorie generiert wird. Dabei handelt es sich um den Modus der Kategorien (Klassifizierung) oder die mittlere Vorhersage (Regression) jedes Baums.
Die Ausführungszeit dieses maschinellen Lernalgorithmus ist schnell und kann mit fehlenden und unausgeglichenen Daten arbeiten. Als wir es jedoch für die Regression verwendeten, gelang es ihm nicht, über den Bereich der Trainingsdaten hinaus vorherzusagen, und es könnte sein, dass die Daten zu stark angepasst sind.
9. WARENKORB
Der Klassifizierungs- und Regressionsbaum (CART) ist eine Art Entscheidungsbaum. Ein Entscheidungsbaum funktioniert als rekursiver Partitionierungsansatz und CART teilt jeden der Eingabeknoten in zwei untergeordnete Knoten auf. Auf jeder Ebene eines Entscheidungsbaums identifiziert der Algorithmus eine Bedingung: Welche Variable und Ebene wird verwendet, um den Eingabeknoten in zwei untergeordnete Knoten aufzuteilen.
Die Schritte des CART-Algorithmus sind unten aufgeführt:
- Nehmen Sie Eingabedaten entgegen
- beste Division
- beste Variable
- Teilen Sie die Eingabedaten in linke und rechte Knoten auf
- Fahren Sie mit den Schritten 2–4 fort
- Beschneiden von Entscheidungsbäumen
10. A-priori-Algorithmus für maschinelles Lernen
Der Apriori-Algorithmus ist ein Kategorisierungsalgorithmus. Diese maschinelle Lerntechnik wird zur Klassifizierung großer Datenmengen eingesetzt. Es kann auch verwendet werden, um zu verfolgen, wie sich Beziehungen entwickeln und wie Kategorien konstruiert werden. Bei diesem Algorithmus handelt es sich um eine unbeaufsichtigte Lernmethode, die Assoziationsregeln aus einem gegebenen Datensatz generiert.
Der apriorische Algorithmus für maschinelles Lernen funktioniert wie folgt:
- Wenn eine Menge von Elementen häufig vorkommt, dann kommen auch alle Teilmengen der Menge von Elementen häufig vor.
- Wenn eine Elementmenge selten vorkommt, treten auch alle Obermengen der Elementmenge selten auf.
Dieser ML-Algorithmus wird in einer Vielzahl von Anwendungen eingesetzt, beispielsweise zur Erkennung unerwünschter Arzneimittelwirkungen, zur Warenkorbanalyse und für Anwendungen zur automatischen Vervollständigung. Es ist einfach umzusetzen.
11. Hauptkomponentenanalyse (PCA)
Die Hauptkomponentenanalyse (PCA) ist eine unbeaufsichtigter Algorithmus. Die neuen Merkmale sind orthogonal, d. h. sie sind unkorreliert. Bevor Sie PCA durchführen, sollten Sie Ihren Datensatz immer normalisieren, da die Transformation skalenabhängig ist. Wenn Sie dies nicht tun, dominieren die Funktionen mit der größten Bedeutung die neuen Kernkomponenten.
PCA ist eine vielseitige Technik. Dieser Algorithmus ist einfach und leicht zu implementieren. Es kann in der Bildverarbeitung verwendet werden.
12. Katzenschub
CatBoost ist ein Open-Source-Algorithmus für maschinelles Lernen, der von Yandex stammt. Der Name „CatBoost“ setzt sich aus zwei Wörtern zusammen: „Kategorie“ und „Boosting“. Es kann mit Deep-Learning-Frameworks kombiniert werden, z. B. TensorFlow von Google und Core ML von Apple. CatBoost kann mit zahlreichen Datentypen arbeiten, um verschiedene Probleme zu lösen.
13. Iterativer Dichotomizer 3 (ID3)
Iterative Dichotomiser 3 (ID3) ist eine von Ross Quinlan eingeführte algorithmische Entscheidungsbaum-Lernregel, die zur Bereitstellung eines Entscheidungsbaums aus einem Datensatz verwendet wird. Es ist der Vorläufer des algorithmischen Programms C4.5 und wird in den Bereichen maschinelles Lernen und sprachliche Kommunikation eingesetzt.
ID3 kann zu einer Überanpassung der Trainingsdaten führen. Diese algorithmische Regel ist bei kontinuierlichen Daten schwieriger anzuwenden. Es ist keine Garantie für eine optimale Lösung.
14. Hierarchische Gruppierung
Hierarchisches Clustering ist eine Form der Clusteranalyse. Zur Veranschaulichung der Daten wird ein Clusterbaum (ein Dendrogramm) in hierarchische Cluster entwickelt. Beim hierarchischen Clustering ist jede Gruppe (Knoten) mit zwei oder mehr Nachfolgegruppen verknüpft. Jeder Knoten innerhalb des Clusterbaums enthält ähnliche Daten. Knoten werden im Diagramm mit anderen ähnlichen Knoten gruppiert.
Algorithmus
Diese maschinelle Lernmethode kann in zwei Modelle unterteilt werden:
Bottom-up (Hierarchical Agglomerative Clustering, HAC)
- Nehmen Sie zu Beginn dieser maschinellen Lerntechnik jedes Dokument als eine einzelne Gruppe.
- Kombinieren Sie in einer neuen Gruppe zwei Elemente gleichzeitig. Die Art und Weise, wie Joiner zusammengeführt werden, beinhaltet die Berechnung einer Differenz zwischen jedem eingefügten Paar und damit den alternativen Stichproben. Dafür gibt es viele Möglichkeiten. Einige von ihnen sind:
Zu. Vollständiger Link: Ähnlichkeit des am weitesten entfernten Paares. Eine Einschränkung besteht darin, dass Ausreißer dazu führen können, dass benachbarte Cluster später als optimal zusammengeführt werden.
B. Einfacher Link: Die Ähnlichkeit des nächsten Paares. Es kann zu einer vorzeitigen Fusion kommen, obwohl diese Gruppen sehr unterschiedlich sind.
C. Gruppendurchschnitt: Ähnlichkeit zwischen Gruppen.
D. Schwerpunktähnlichkeit: Bei jeder Iteration werden die Gruppen mit dem ähnlichsten Mittelpunkt zusammengeführt.
- Der Matching-Prozess wird fortgesetzt, bis alle Elemente zu einer einzigen Gruppe zusammengeführt sind.
Von oben nach unten (trennende Gruppierung)
- Die Daten beginnen mit einem kombinierten Cluster.
- Die Gruppe ist aufgrund einer gewissen Ähnlichkeit in zwei unterschiedliche Teile unterteilt.
- Die Gruppen werden immer wieder zweigeteilt, bis sie nur noch einen einzigen Datenpunkt enthalten.
15. Backpropagation
Backpropagation ist ein überwachter Lernalgorithmus. Dieser ML-Algorithmus stammt aus dem Bereich ANN (Artificial Neural Networks). Dieses Netzwerk ist ein mehrschichtiges Feed-Forward-Netzwerk. Ziel dieser Technik ist es, eine bestimmte Funktion zu entwerfen, indem die internen Gewichte der Eingangssignale geändert werden, um das gewünschte Ausgangssignal zu erzeugen. Es kann zur Klassifizierung und Regression verwendet werden.
Der Backpropagation-Algorithmus hat einige Vorteile, das heißt, er ist einfach zu implementieren. Die im Algorithmus verwendete mathematische Formel kann auf jedes Netzwerk angewendet werden. Bei kleinen Gewichten kann die Rechenzeit verkürzt werden.
Der Backpropagation-Algorithmus weist einige Nachteile auf, beispielsweise ist er empfindlich gegenüber verrauschten Daten und Ausreißern. Es handelt sich um einen vollständig Array-basierten Ansatz. Die tatsächliche Leistung dieses Algorithmus hängt vollständig von den Eingabedaten ab. Die Ausgabe kann nicht numerisch sein.
16. AdaBoost
AdaBoost steht für Adaptive Boosting, eine Methode des maschinellen Lernens, die von Yoav Freund und Robert Schapire vertreten wird. Es handelt sich um einen Metaalgorithmus, der mit anderen Lernalgorithmen integriert werden kann, um die Leistung zu verbessern. Dieser Algorithmus ist schnell und einfach zu verwenden. Funktioniert gut mit großen Datenmengen.
17. Tiefes Lernen
Deep Learning ist eine Reihe von Techniken, die von den Mechanismen des menschlichen Gehirns inspiriert sind. Die beiden wichtigsten Deep-Learning-Methoden, nämlich Convolution Neural Networks (CNN) und Recurrent Neural Networks (RNN), werden bei der Textklassifizierung verwendet.
Deep-Learning-Algorithmen wie Word2Vec oder GloVe werden auch verwendet, um hochrangige Vektordarstellungen von Wörtern zu erhalten und die Genauigkeit von Klassifikatoren zu verbessern, die mit herkömmlichen Algorithmen für maschinelles Lernen trainiert werden.
Diese Methode des maschinellen Lernens erfordert viele Trainingsbeispiele anstelle herkömmlicher Algorithmen für maschinelles Lernen, d. h. mindestens Millionen beschrifteter Beispiele. Im Gegensatz dazu erreichen herkömmliche Techniken des maschinellen Lernens einen genauen Schwellenwert, bei dem das Hinzufügen weiterer Trainingsbeispiele ihre Gesamtgenauigkeit nicht verbessert. Deep-Learning-Klassifikatoren erzielen mit mehr Daten eine bessere Leistung.
18. Algorithmus zur Gradientenverstärkung
Gradient Boosting ist eine Methode des maschinellen Lernens, die zur Klassifizierung und Regression verwendet wird. Dies ist eine der leistungsstärksten Methoden zur Entwicklung eines Vorhersagemodells. Ein Gradient-Boosting-Algorithmus besteht aus drei Elementen:
- verlustfunktion
- schwacher Lehrling
- additives Modell
19. Rotes Hopfield
Ein Hopfield-Netzwerk ist eine Art rekursives Netzwerk künstliche neuronale Netz gegeben von John Hopfield im Jahr 1982. Dieses Netzwerk zielt darauf ab, ein oder mehrere Muster zu speichern und die vollständigen Muster basierend auf der Teileingabe abzurufen. In einem Hopfield-Netzwerk sind alle Knoten Ein- und Ausgänge und vollständig miteinander verbunden.
20. C4.5
C4.5 ist ein von Ross Quinlan erfundener Entscheidungsbaum. Es handelt sich um eine verbesserte Version von ID3. Dieses algorithmische Programm deckt einige Basisfälle ab:
- Alle Proben auf der Liste gehören zu einer ähnlichen Kategorie. Erstellen Sie einen Blattknoten für den Entscheidungsbaum und weisen Sie ihn an, über diese Kategorie zu entscheiden.
- Erstellen Sie einen Entscheidungsknoten weiter oben im Baum unter Verwendung des erwarteten Werts der Klasse.
- Erstellen Sie mit dem erwarteten Wert einen Entscheidungsknoten weiter oben im Baum.
abschließende Gedanken
Es ist sehr wichtig, den richtigen Algorithmus basierend auf Ihren Daten und Ihrer Domäne zu verwenden, um ein effizientes maschinelles Lernprojekt zu entwickeln. Darüber hinaus ist es wichtig, den entscheidenden Unterschied zwischen den einzelnen Algorithmen für maschinelles Lernen zu verstehen, um zu klären, wann ich welchen wähle.
Wie bei einem maschinellen Lernansatz hat eine Maschine oder ein Gerät durch den Lernalgorithmus gelernt. Ich bin fest davon überzeugt, dass dieser Artikel Ihnen hilft, den Algorithmus zu verstehen. Wenn Sie Vorschläge oder Fragen haben, zögern Sie nicht, uns zu fragen. Weiter lesen.
