Facebook 依據帳號好友的行為來評判帳號，使垃圾訊息發送者無法鑽規則漏洞

正如 Ars Technica 於 2020 年 3 月報導，Facebook 每月有數十億活躍使用者，其中只有一小部分屬於濫用行為：假帳號或被盜帳號、垃圾訊息發送者與詐騙者。經營這類帳號的人能看到帳號資料，並摸清哪些行為會觸發封禁，形成一場軍備競賽。Facebook 的研究人員從帳號資料轉向關於帳號連結關係的中繼資料，例如典型好友發文數量，或好友邀請送出的頻率，並將這些合併成「深層實體」側寫。

其假設是：正常帳號會與正常帳號連結，而濫用者則會與機器人及異常帳號連結。這使濫用者難以得知演算法使用哪些依據，也難以改變。分類的運算量很大，因為它會為每位使用者爬梳網絡圖。

這是一套兩層系統。以大量低品質標籤訓練的神經網絡，會在距離二元決策還差一層時停下，輸出一個 32 個數字的向量。接著由以較少量高品質人工標籤（每種濫用類型各一，例如垃圾訊息發送者或被盜帳號）訓練的決策樹做出最終判定。

依據帳號鄰居的整體行為（詐騙者看不見、也難以低成本改變的中繼資料）來為帳號評分，而非依據帳號自身的特徵。

在網絡圖上彙整的鄰居行為，帳號擁有者看不見，且偽造成本高昂。

同時使用大量雜訊資料集與少量高品質人工標註資料集，兼顧規模與準確度。

每種濫用類型各有獨立的決策樹，讓各層能針對特定類型的濫用者調校。

被封鎖的帳號會在背景回饋到重新訓練，系統並會比較指標以決定何時替換生產環境中的模型。

面對會研究你分類器的對手時，應以對方難以偽造的信號作為決策依據，例如他們的連結對象是誰。

根據該報導，Facebook 表示這套系統已投入生產環境一段時間，每季至少封鎖五億個帳號，並在 2019 年第一季達到超過二十億的高峰（此為 Facebook 的數據，未經獨立驗證）。Ars 指出，如何應用這項技術（例如用於不實資訊帳號）屬於政策問題，而 Facebook 表示也在擴大人工審核。