Maschinelles Lernen robuster gegenüber fehlerhaften Annotationen gestalten - Unsere neueste Arbeit in TMLR - Lehrstuhl für Erklärbares Maschinelles Lernen

29.04.2025

Die zunehmende Verfügbarkeit vortrainierter, sogenannter Foundationmodelle hat neue Forschungsrichtungen für den Aufbau effizienter und erklärbarer maschineller Lernsysteme eröffnet. In unserer neuesten Arbeit "An Embedding is Worth a Thousand Noisy Labels", die in der Zeitschrift Transactions on Machine Learning Research (TMLR) veröffentlicht wurde, stellen wir eine effiziente und dennoch leistungsfähige Methode vor, um die schädlichen Auswirkungen fehlerhafter Annotationen durch eine neuartige, Foundationmodell-basierte Strategie zu reduzieren.

Weighted Adaptive Nearest Neighbour (WANN)

Wir präsentieren WANN (Weighted Adaptive Nearest Neighbor) eine trainingsfreie Methode, die Bildeinbettungen von Foundationmodellen in Kombination mit einem gewichteten k-NN-Ansatz verwendet, um die Robustheit der Klassifikation gegenüber fehlerhaften Annotation zu verbessern. Durch die Einführung einer Zuverlässigkeitsbewertung zur Beurteilung der Korrektheit der Annotationen wählt WANN adaptiv die Nachbarschaftsgröße für jedes Testmuster aus und gewichtet die Vorhersagen basierend auf dieser Bewertung. Dies verbessert die Klassifizierungsleistung im Vergleich zu herkömmlichen Methoden wie robusten Verlustfunktionen und festen k-NNs. Darüber hinaus ist WANN leichtgewichtig, interpretierbar, datenschutzfreundlich und kann effektiv auf verschiedene Datensätze, Annotationsfehler und Bereiche wie das Gesundheitswesen verallgemeinert werden.

Über TMLR

Transactions on Machine Learning Research (TMLR) ist eine neue Plattform für die Verbreitung von Forschungsergebnissen auf dem Gebiet des maschinellen Lernens, die das Journal of Machine Learning Research (JMLR) ergänzen und gleichzeitig die noch unerfüllten Bedürfnisse der wachsenden ML-Gemeinschaft erfüllen soll.