Meta: WhatsApp warnt vor gefährlichen Nachrichten

Meta: Der bekannte Messenger WhatsApp plant offenbar eine neue Funktion mit der Bezeichnung „Scam Alert“, die vor betrügerischen Nachrichten warnen soll. Diese Informationen werden von dem Mutterkonzern Meta im hauseigenen Blog geteilt. Die Sicherheitsfunktion soll sich demnach bereits in einem Beta-Test mit ausgewählten Nutzern befinden. Der US-Konzern will die Neuerung vor dem globalen Rollout von Experten und der Bug-Bounty-Community prüfen lassen.

Die Erkennung von potentiellen Betrugsmaschen soll direkt auf den Mobilgeräten der Nutzer stattfinden. Es werden somit offenbar keine Inhalte in die Cloud geladen. Die Verfahrensweise besteht vielmehr darin, dass WhatsApp ein Machine-Learning-Modell auf das Gerät lädt, sobald Nutzer den „Scam Alert“ aktivieren. Die Software untersucht dann eingehende Nachrichten von Personen, die nicht in den Kontakten gespeichert sind, auf typische Betrugs­muster.

WhatsApp warnt künftig selbst vor gefährlichen Nachrichten

Findet das Modell einen möglichen Betrugsversuch, wird direkt im Chat eine Warnung angezeigt. Der Absender kann diese explizit nicht sehen. Der betroffene Nutzer kann dann wahlweise ­den Kontakt blockieren, melden oder die Unter­haltung trotzdem fortsetzen. Sollte ein Chat fälsch­licher­weise als verdächtig eingestuft werden, kann er manuell als vertrauenswürdig markiert werden.

Die Sicherheitsfunktion wird den Chat dann nicht mehr als potentiell gefährlich einstufen. Optional können Nutzer in diesem Fall die letzten fünf empfangenen Nachrichten an WhatsApp übermitteln, um die Erkennung zu verbessern.

Meta will mit unabhängige Sicher­heits­forscher kooperieren

Meta stellt klar, dass WhatsApp Informationen über einen erkannten Betrugsversuch nur dann weiterleitet, wenn die Nutzer selbst eine entsprechende Meldung übermitteln. Der Messenger tappt aber nicht im Dunkeln, die Zuverlässigkeit der Erkennung von „Scam Alert“ soll mittels anonymisierter Daten ermittelt werden. Meta nennt in diesem Zusammenhang die Zahl der einge­blen­deten Warnungen sowie die anschlie­ßenden Nutzer­aktionen, beispiels­weise „Vertrauen“ oder „Blockieren und melden“.

Das verwendete Betrugs­erken­nungs­modell soll ebenfalls überprüfbar sein. De US-Konzern werde die Modell­gewichte veröf­fent­lichen, damit unabhängige Sicher­heits­forscher untersuchen können, ob das System tatsächlich ausschließ­lich auf die Betrugs­erken­nung ausgelegt ist. Außerdem soll jede Modell­version vor der Verteilung in einem öffent­lichen Trans­parenz­register doku­mentiert werden. Wann die neue Sicherheitsfunktion an alle Nutzer verteilt werden wird, ist zurzeit nicht bekannt.

Quellenangabe: Teltarif