ВКонтакте заработал алгоритм распознавания и блокировки «запрещенного» контента

1469

Социальная сеть ВКонтакте начала использовать «обученный» алгоритм собственной разработки, который присваивает картинкам специальный рейтинг, определяя, содержится ли в них противоправный или «опасный» контент. Как сообщают «Известия», со ссылкой на представителей компании, выявленный «запрещенный» контент либо не попадает в поисковую выдачу и «умную» новостную ленту, либо полностью блокируется. Технология также способна анализировать текстовые надписи на изображениях.

Нейросеть умеет определять предметы и сущности, изображенные на фото. Она понимает не только «человек», «ребенок», «животное», «растение», но и может определить, например, предмет одежды, символ «групп смерти». В целом нейросеть имеет несколько тысяч классов, которые присваиваются фотографиям — от 0 до 1 по нескольким параметрам. Если алгоритм характеризует фото как «опасное», оно отправляется модераторам для проверки. Если же фото признано «умеренно опасным», оно пропадает из поисковой выдачи, а в новостной ленте понижается его приоритет. Механизм помогает остановить распространение спама, мошенничества, детской порнографии, нелегальных услуг и другой противоправной деятельности.

Отдельный сценарий предусмотрен для борьбы с суицидальным контентом. Записи и фото на эту тему удаляются автоматически, а страницы их авторов блокируются.

Андрей Законов, руководитель направления Big Data и Machine Learning ВКонтакте:

«Нейросеть анализирует только изображения, загружаемые для общего доступа, то есть отправляемые фото в личных сообщениях не анализируются. С помощью этой технологии в будущем мы сможем бороться со спамом и мошенничеством. Мы обучили нашу нейросеть на основе жалоб пользователей на разный контент».

Напомним, в декабре 2016 года стало известно, что Роскомнадзор совместно с Mail.ru Group и заинтересованными ведомствами разрабатывают научную методику для осуществления оперативного мониторинга и выявления материалов и сообществ, посвященных самоубийствам.

Кроме того, социальная сеть ВКонтакте плотно сотрудничает со специалистами фонда «Твоя территория» для мониторинга и блокировки профилей и сообществ, оказывающих негативное влияние на подростков.

Журналист, новостной редактор, работает на сайте с 2009 года. Специализация: интернет-маркетинг, SEO, поисковые системы, обзоры профильных мероприятий, отраслевые новости рунета. Языки: румынский, испанский. Кредо: Арфы нет, возьмите бубен.