BIGGER PICTURE Öffentliche Dienste & Alltag
Spam erkennen, der sich hinter veränderten Wörtern versteckt
Betrüger können Wörter durch ähnlich aussehende Zeichen, unsichtbare Zeichen oder absichtliche Tippfehler verändern. RETVec half Gmail-Filtern, das zugrunde liegende Muster trotz dieser Schreibtricks zu erkennen.

- Produktionstest der Publikation
- Erkannte 38 % des zuvor übersehenen Spams
- Vergleichsgrenze
- Gleicher Modelltest; Textdarstellung ausgetauscht
- Öffentliches Ergebnis
- Offener Code; Repository seit 2025 archiviert
So funktioniert die Idee
Auffällige Schreibweisen variieren
Das Training enthält Tippfehler und gezielte Zeichenersetzungen.
Wortmuster bewahren
Ähnliche Formen erhalten robuste numerische Darstellungen.
Zuordnen und Fehlalarme prüfen
Das Spammodell wird an übersehenem Spam und legitimen Nachrichten geprüft.
Eine Schreibänderung sollte den Schutz nicht aushebeln
Spamfilter benötigen eine numerische Textdarstellung, bevor sie Nachrichten zuordnen können. Angreifer nutzen diesen Schritt aus: Auffällige Wörter werden anders geschrieben, bleiben für Leser aber verständlich. Google entwickelte RETVec, um die Darstellung gegen Zeichenmanipulationen robuster zu machen. Kleine Änderungen an der Oberfläche sollten das Signal weniger leicht verdecken.
Belege: [2]
Mit typischen Verzerrungen trainieren
Das veröffentlichte Verfahren verbindet eine kompakte Zeichencodierung mit Ähnlichkeitslernen. Beim Training kommen eingefügte, entfernte und ähnlich aussehende Zeichen sowie weitere Änderungen vor. Verwandte Wortformen sollen dadurch nahe beieinander bleiben. UTF-8-Text wird ohne festes Wortwörterbuch verarbeitet. Code und Beispiele wurden zur Prüfung durch Forschende und Entwickler veröffentlicht.
Belege: [3]
Was das Ergebnis von 38 % wirklich bedeutet
Im internen Produktionstest der Publikation erkannte der Austausch der bisherigen Textdarstellung 38 % des zuvor übersehenen Spams bei fester Fehlalarmrate. Das sind keine 38 Prozentpunkte mehr Erkennung sämtlichen Spams. Googles Einsatzbericht beschrieb separat weniger falsch eingestufte legitime Nachrichten und geringeren Rechenaufwand. Das sind zusammengehörige, aber unterschiedliche Vergleiche.
Ein kleiner Baustein kann viele Postfächer schützen
Der Nutzen ist ein schwerer zu umgehender Filter, keine Garantie für das Verschwinden schädlicher E-Mails. Das öffentliche Repository wurde im April 2025 archiviert. Es ist daher ein Forschungsergebnis, keine Empfehlung für ein aktiv gepflegtes Produkt. Die Gestaltungsidee bleibt nützlich: die Darstellung genau dort stärken, wo Angreifer sie manipulieren.
Belege: [3]
Die Originalquellen
- Bursztein and colleagues, NeurIPS 2023RETVec: Resilient and Efficient Text Vectorizer
- Google Security BlogImproving Text Classification Resilience and Efficiency with RETVec
- Google ResearchRETVec: implementation and archive notice