Facebook根据好友行为评判账户，使垃圾信息发送者无法钻规则空子

正如Ars Technica在2020年3月报道的那样，Facebook每月有数十亿活跃用户，其中只有一小部分具有滥用行为：虚假或被入侵的账户、垃圾信息发送者和诈骗者。运营此类账户的人可以看到账户数据，并了解哪些行为会触发封禁，从而形成一场军备竞赛。Facebook的研究人员从账户数据转向关于账户关联关系的元数据，例如一个典型好友发多少帖子，或好友请求发出的频率，并将这些信息组合成一个“深度实体”画像。

其假设是，正常账户与正常账户建立联系，而滥用者则与机器人和异常账户建立联系。这使得滥用者难以知道算法使用了哪些信息，也难以改变这些信息。分类计算量很大，因为需要为每个用户爬取网络图。

这是一个两层系统。一个在大量低质量标签上训练的神经网络在做出二元决策前一层停止，给出一个32个数字的向量。在较小规模的高质量人工标签（每种滥用类型一个，例如垃圾信息发送者或被劫持账户）上训练的决策树随后做出最终判定。

根据账户邻居的聚合行为——诈骗者无法看到或低成本改变的元数据——而不是账户自身的特征来为该账户打分。

跨网络图聚合的邻居行为对账户所有者不可见，且伪造成本高昂。

同时使用大型噪声数据集和小型高质量人工标注数据集，兼顾了规模和准确性。

每种滥用类型有单独的决策树，使每一层都能针对特定类型的滥用者进行调优。

被拦截的账户会在后台反馈用于重新训练，系统会比较指标来决定何时替换生产模型。

面对研究你的分类器的对手，应基于他们难以伪造的信号做出决策，例如他们的关联对象是谁。

据该文章报道，Facebook表示该系统已投入生产一段时间，每季度至少封禁5亿个账户，在2019年第一季度峰值超过20亿（Facebook的数据，未经独立核实）。Ars指出，如何应用该技术（例如用于虚假信息账户）是一个政策问题，Facebook表示它也在扩大人工审核。