Социальная сеть ВКонтакте начала использовать «обученный» алгоритм собственной разработки, который присваивает картинкам специальный рейтинг, определяя, содержится ли в них противоправный или «опасный» контент. Как сообщают «Известия», со ссылкой на представителей компании, выявленный «запрещенный» контент либо не попадает в поисковую выдачу и «умную» новостную ленту, либо полностью блокируется. Технология также способна анализировать текстовые надписи на изображениях.
Нейросеть умеет определять предметы и сущности, изображенные на фото. Она понимает не только «человек», «ребенок», «животное», «растение», но и может определить, например, предмет одежды, символ «групп смерти». В целом нейросеть имеет несколько тысяч классов, которые присваиваются фотографиям - от 0 до 1 по нескольким параметрам. Если алгоритм характеризует фото как «опасное», оно отправляется модераторам для проверки. Если же фото признано «умеренно опасным», оно пропадает из поисковой выдачи, а в новостной ленте понижается его приоритет. Механизм помогает остановить распространение спама, мошенничества, детской порнографии, нелегальных услуг и другой противоправной деятельности.
Отдельный сценарий предусмотрен для борьбы с суицидальным контентом. Записи и фото на эту тему удаляются автоматически, а страницы их авторов блокируются.
Андрей Законов, руководитель направления Big Data и Machine Learning ВКонтакте:
«Нейросеть анализирует только изображения, загружаемые для общего доступа, то есть отправляемые фото в личных сообщениях не анализируются. С помощью этой технологии в будущем мы сможем бороться со спамом и мошенничеством. Мы обучили нашу нейросеть на основе жалоб пользователей на разный контент».
Напомним, в декабре 2016 года стало известно, что Роскомнадзор совместно с Mail.ru Group и заинтересованными ведомствами разрабатывают научную методику для осуществления оперативного мониторинга и выявления материалов и сообществ, посвященных самоубийствам.
Кроме того, социальная сеть ВКонтакте плотно сотрудничает со специалистами фонда «Твоя территория» для мониторинга и блокировки профилей и сообществ, оказывающих негативное влияние на подростков.
