ВКонтакте заработал алгоритм распознавания и блокировки «запрещенного» контента

1415

Социальная сеть ВКонтакте начала использовать «обученный» алгоритм собственной разработки, который присваивает картинкам специальный рейтинг, определяя, содержится ли в них противоправный или «опасный» контент. Как сообщают «Известия», со ссылкой на представителей компании, выявленный «запрещенный» контент либо не попадает в поисковую выдачу и «умную» новостную ленту, либо полностью блокируется. Технология также способна анализировать текстовые надписи на изображениях.

Нейросеть умеет определять предметы и сущности, изображенные на фото. Она понимает не только «человек», «ребенок», «животное», «растение», но и может определить, например, предмет одежды, символ «групп смерти». В целом нейросеть имеет несколько тысяч классов, которые присваиваются фотографиям — от 0 до 1 по нескольким параметрам. Если алгоритм характеризует фото как «опасное», оно отправляется модераторам для проверки. Если же фото признано «умеренно опасным», оно пропадает из поисковой выдачи, а в новостной ленте понижается его приоритет. Механизм помогает остановить распространение спама, мошенничества, детской порнографии, нелегальных услуг и другой противоправной деятельности.

Отдельный сценарий предусмотрен для борьбы с суицидальным контентом. Записи и фото на эту тему удаляются автоматически, а страницы их авторов блокируются.

Андрей Законов, руководитель направления Big Data и Machine Learning ВКонтакте:

«Нейросеть анализирует только изображения, загружаемые для общего доступа, то есть отправляемые фото в личных сообщениях не анализируются. С помощью этой технологии в будущем мы сможем бороться со спамом и мошенничеством. Мы обучили нашу нейросеть на основе жалоб пользователей на разный контент».

Напомним, в декабре 2016 года стало известно, что Роскомнадзор совместно с Mail.ru Group и заинтересованными ведомствами разрабатывают научную методику для осуществления оперативного мониторинга и выявления материалов и сообществ, посвященных самоубийствам.

Кроме того, социальная сеть ВКонтакте плотно сотрудничает со специалистами фонда «Твоя территория» для мониторинга и блокировки профилей и сообществ, оказывающих негативное влияние на подростков.

Журналист, новостной редактор, работает на сайте с 2009 года. Специализация: интернет-маркетинг, SEO, поисковые системы, обзоры профильных мероприятий, отраслевые новости рунета. Языки: румынский, испанский. Кредо: Арфы нет, возьмите бубен.

Прокомментировать

3 Комментарий на "ВКонтакте заработал алгоритм распознавания и блокировки «запрещенного» контента"

Notify of
Sort by:   newest | oldest | most voted
Serovec Andrey
Гость

ну теперь начнется )) кто то просто упомянет запрещенное слово и прощай анкета ))

Alex Frost
Гость

Вконтакте заработал — заработал денег или начал работать в сети? :))

Mur-Olga
Гость
Ого! Ничего себе! До чего техника, однако, дошла )))))) Никто и подумать раньше не мог, что такое в принчице возможно. Вот только интересно, насколько эффективно работает такой алгоритм — сбоев-то не будет? А то чтобы не получилось из цикла «Хотели как лучше, а вышло как всегда» )))))) Ну я имею ввиду, чтобы сбоев не было и чтобы хороши картинки не попали в разряд опасных. А вообще нужно аккуратно к созданию контента подходить, вдумчиво. От этого напрямую эффективность раскрутки в соцсетях влияет. Так что нужно понимать что где постить, как здесь пишут, например: http://socialair.ru/articles/content_type/ Тогда никакие алгоритмы не страшны )))) Будеш… Read more »
wpDiscuz