Zurück zu Bigger Picture

BIGGER PICTURE Öffentliche Dienste & Alltag

Spam erkennen, der sich hinter veränderten Wörtern versteckt

Betrüger können Wörter durch ähnlich aussehende Zeichen, unsichtbare Zeichen oder absichtliche Tippfehler verändern. RETVec half Gmail-Filtern, das zugrunde liegende Muster trotz dieser Schreibtricks zu erkennen.

KI-generierte Illustration: Umschläge aus satiniertem Glas durchlaufen ein türkisfarbenes Sortiertor; verschleierte Zeichen werden in einen separaten Kanal geleitet.
Den Trick hinter veränderten Buchstaben erkennen: eine konzeptionelle Visualisierung der Spam-Erkennung, keine Darstellung der tatsächlichen Gmail-Oberfläche oder der internen RETVec-Architektur.KI-generierte Illustration der Idee, keine Aufnahme der tatsächlichen Personen, Geräte oder Ereignisse.
Produktionstest der Publikation
Erkannte 38 % des zuvor übersehenen Spams
Vergleichsgrenze
Gleicher Modelltest; Textdarstellung ausgetauscht
Öffentliches Ergebnis
Offener Code; Repository seit 2025 archiviert

So funktioniert die Idee

  1. Auffällige Schreibweisen variieren

    Das Training enthält Tippfehler und gezielte Zeichenersetzungen.

  2. Wortmuster bewahren

    Ähnliche Formen erhalten robuste numerische Darstellungen.

  3. Zuordnen und Fehlalarme prüfen

    Das Spammodell wird an übersehenem Spam und legitimen Nachrichten geprüft.

Eine Schreibänderung sollte den Schutz nicht aushebeln

Spamfilter benötigen eine numerische Textdarstellung, bevor sie Nachrichten zuordnen können. Angreifer nutzen diesen Schritt aus: Auffällige Wörter werden anders geschrieben, bleiben für Leser aber verständlich. Google entwickelte RETVec, um die Darstellung gegen Zeichenmanipulationen robuster zu machen. Kleine Änderungen an der Oberfläche sollten das Signal weniger leicht verdecken.

Belege: [2]

Mit typischen Verzerrungen trainieren

Das veröffentlichte Verfahren verbindet eine kompakte Zeichencodierung mit Ähnlichkeitslernen. Beim Training kommen eingefügte, entfernte und ähnlich aussehende Zeichen sowie weitere Änderungen vor. Verwandte Wortformen sollen dadurch nahe beieinander bleiben. UTF-8-Text wird ohne festes Wortwörterbuch verarbeitet. Code und Beispiele wurden zur Prüfung durch Forschende und Entwickler veröffentlicht.

Belege: [3]

Was das Ergebnis von 38 % wirklich bedeutet

Im internen Produktionstest der Publikation erkannte der Austausch der bisherigen Textdarstellung 38 % des zuvor übersehenen Spams bei fester Fehlalarmrate. Das sind keine 38 Prozentpunkte mehr Erkennung sämtlichen Spams. Googles Einsatzbericht beschrieb separat weniger falsch eingestufte legitime Nachrichten und geringeren Rechenaufwand. Das sind zusammengehörige, aber unterschiedliche Vergleiche.

Belege: [1][2]

Ein kleiner Baustein kann viele Postfächer schützen

Der Nutzen ist ein schwerer zu umgehender Filter, keine Garantie für das Verschwinden schädlicher E-Mails. Das öffentliche Repository wurde im April 2025 archiviert. Es ist daher ein Forschungsergebnis, keine Empfehlung für ein aktiv gepflegtes Produkt. Die Gestaltungsidee bleibt nützlich: die Darstellung genau dort stärken, wo Angreifer sie manipulieren.

Belege: [3]

Die Originalquellen

  1. Bursztein and colleagues, NeurIPS 2023RETVec: Resilient and Efficient Text Vectorizer
  2. Google Security BlogImproving Text Classification Resilience and Efficiency with RETVec
  3. Google ResearchRETVec: implementation and archive notice

Was Sie als Nächstes entdecken können

Als eine aktuelle Liste hilfsbedürftiger Familien fehlteEin Neutrino in einem Detektor voller ähnlicher Spuren finden
Alle 99 Anwendungen entdecken