k-NN

k-NN (k-nearest neighbors, k-nächste Nachbarn) ist ein Klassifikator des überwachten maschinellen Lernens.

Um einen neuen Punkt einzuordnen, berechnet k-NN die Distanz zu allen Trainingsdaten, nimmt die k nächsten davon und entscheidet per Mehrheit über deren Labels.

k-NN gilt als faul (lazy learning): Beim Training wird nur gespeichert, gerechnet wird erst bei der Klassifizierung. Ein kleines k macht das Verfahren anfällig für Ausreißer (Überanpassung), ein zu großes lässt die Mehrheit immer gewinnen (Unteranpassung).