Facebook рассказал о новых методах машинного обучения, с помощью которых соцсеть борется с финансовым мошенничеством на платформе. Так, в марте с их помощью было выявлено более 500 тыс. скамерских аккаунтов.
Продакт-менеджер Facebook Скотт Диккенс (Scott Dickens) объяснил, что ML-модели обучаются на ранее выявленных схемах мошенничества. Например, на таких фактах, как рассылка сообщений совершенно незнакомым людям. На основании этих данных модели машинного обучения учатся самостоятельно выявлять скам.
При этом Facebook не ограничивается использованием Machine Learning. В компании также функционирует специальная команда администраторов. Кроме того, ежедневно соцсеть получает множество сообщений о подозрительных постах и рассылках от заинтересованных членов сообщества.
Использование всех этих способов в совокупности позволило Facebook собрать примеры мошенничества и принять меры в отношении более чем 500 тыс. аккаунтов, уличенных в такой деятельности.
Когда системы Facebook оценивают аккаунт как потенциально мошеннический, владелец учётной записи должен выполнить ряд действий, чтобы доказать обратное. Если он не пройдёт проверку, то аккаунт будет удалён.
Тем пользователям, которые стали жертвами мошенничества, Facebook рекомендует обращаться в правоохранительные органы, а при подозрении на то, что пост или личное сообщение были составлены скамерами – сообщать о возможном нарушении Facebook. Как это сделать, описано в Справке.
