Multinomiale und Bernoulli-Modelle

Naive Bayes für Text gibt es in zwei Hauptvarianten. Die richtige Wahl zwischen Multinomial und Bernoulli kann Ihre Genauigkeit unauffällig steigern.

Das Multinomial-Modell berücksichtigt, wie oft jedes Wort vorkommt. Ein Wort, das fünfmal auftaucht, zählt als stärkerer Beleg als eines, das nur einmal erscheint.

Das Bernoulli-Modell fragt nur, ob ein Wort vorhanden ist oder fehlt. Wiederholungen spielen keine Rolle; jedes Wort ist ein einfaches Ja-Nein-Signal.

Multinomial berücksichtigt die Häufigkeit, während Bernoulli das Vorhandensein betrachtet. Dieser eine Unterschied bestimmt, welches Modell am besten zu Ihrem Text passt.

Bernoulli behandelt auch ein fehlendes Wort als aussagekräftigen Beleg. Das Fehlen von free kann eine Nachricht selbst in Richtung der Ham-Klasse verschieben.

Bei längeren Dokumenten, in denen Wortzählungen ein echtes Signal liefern, sollten Sie zu MultinomialNB greifen. Es ist normalerweise die Standardeinstellung für die Themen- und Dokumentklassifikation.

Bei kurzen Texten wie Tweets oder Betreffzeilen ist das Vorhandensein wichtiger als die Anzahl. Hier gewinnt BernoulliNB oft.

Bernoulli erwartet binäre Merkmale und kann Zählungen daher für Sie binarisieren. Multinomial benötigt die rohen Zählungen direkt aus Ihrem Vectorizer.

Vielleicht sehen Sie auch GaussianNB, aber dieses Modell erwartet kontinuierliche Zahlen und keine Wortzählungen. Überspringen Sie es bei einfachen Textmerkmalen.

Beide Varianten verwenden exakt dieselbe scikit-learn-API. Sie tauschen lediglich den Klassennamen aus und rufen anschließend wie gewohnt fit und predict auf. 🔄

Wenn Sie unsicher sind, trainieren Sie beide Modelle und vergleichen Sie sie mit einem zurückgehaltenen Set. Das Modell mit der höheren Genauigkeit auf echten Daten ist die richtige Wahl.

Sie haben die Multinomial-Zählungen mit dem Vorhandensein bei Bernoulli verglichen, gelernt, wann welche Variante besonders geeignet ist, und gesehen, dass beide dieselbe API verwenden. Probieren Sie beide aus und lassen Sie die Daten entscheiden. ✅