Facebook将于何时关闭其实验性应用Hobbi?
Facebook公开了在其平台上使用的用于打击虚假账号创建的幕后工具,该公司表示,它有一种名为深度实体分类(Deep Entity Classification, DEC)”的新人工智能方法,并且它被证明特别有效。
DEC是一个机器学习模型,它不仅会将来自可疑账号的活动考虑在内,而且还会评估来自所有周围的信息,包括可疑账号的行为和与之交互的页面。Facebook表示,通过这种犯法,他们已经将垃圾邮件和诈骗账号的数量减少了27%。
截止到目前,DEC已经帮助Facebook阻止了超65亿个虚假账号,这些虚假账号则都是骗子和其他恶意行为者在去年创建或试图创建的。在这些账号中,绝大多数实际上都是在创建账号的过程中就被发现了,即使是那些被通过的账号,往往也会在真正的用户报告之前就会被Facebook的自动系统发现。
不过,Facebook估算,目前该平台上所有的28.9亿月度活跃用户中,约有5%是属于Facebook认为违反其服务条款的虚假账号。
随着2024年美国总统大选的不断临近,DEC对Facebook来说是至关重要的。推广垃圾邮件和试图欺骗用户只是Facebook虚假账号问题的一个方面。这家公司已经承认,来自伊朗、俄罗斯和其他地方的外国势力致力于利用社交平台影响新闻报道、投票行为和其他整体选举事务。随着时间的推移,这些操作则会变得越来越复杂。
去年,Facebook和Twitter就关闭了一个庞大的虚假账号网络,这些虚假账号利用人工智能工具生成真实的个人资料照片,他们在社交媒体平台上推动着支持特朗普的消息传播。由于照片是通过神经网络生成的,所以很难识别出是否为假照片。DEC的到来无疑为Facebook带来得力助手,不过这家公司承认,这套解决方案还需要不断改进从而确保其能有效应对垃圾邮件发送者不断变化的策略。