Алекс Стамос ответил на критику в адрес новостного алгоритма Facebook

220

Глава службы безопасности Facebook Алекс Стамос выступил в защиту новостного алгоритма соцсети. Он заявил, что проблема фейковых новостей на самом деле гораздо более сложная, чем многие думают.

«Я вижу множество публикаций на тему наших недавних проблем, вызванных стереотипами наших сотрудников… В крупных компаниях никто не думает об алгоритмах как нейтральных. Нет таких, кто не осознаёт рисков», — заявил руководитель в Twitter.

Далее он развил свою мысль:

«По факту, понимание рисков машинного обучения вызывает некоторый консерватизм в решении отдельных проблем.

Например, многие журналисты прославляют учёных, заявляющих о том, как легко можно выявить фальшивые новости и пропаганду – без учёта негативных сторон обучения систем machine learning классификации чего-то как фейка на основе идеологически предвзятых данных обучения.

Множество публичных исследований на самом деле сводятся к одному и тому же ответу: «Мы считаем, что эта точка зрения продвигается ботами» -> машинным обучением.

Поэтому, если вы не намерены стать «министром правды» с системами машинного обучения, обученными на ваших личных предубеждениях, тогда это просто!

То же самое касается всех историй об «Алгоритме». В любой ситуации, где должны быть отсортированы миллионы/миллиарды/десятки миллиардов элементов, нужны алгоритмы.

Я предлагаю журналистам попробовать поговорить с теми людьми, которые действительно должны решать эти проблемы и жить с последствиями. И вынося суждения, быть осторожными со своими собственными предубеждениями.

Если ваш материал объединяет «плохих парней», злоупотребляющими платформами, алгоритмами и «Manifestbro» (прим. ред. – манифест о разных способностях мужчин и женщин, написанный сотрудником Google и вызвавший сильный резонанс в обществе) в одну большую теорию, тогда вы можете быть предвзятым.

Если ваш материал предполагает, что проблема не решается, поскольку в этих компаниях все кретины, то вы ошибаетесь.

Если вы призываете к уменьшению количества высказываний от тех людей, которые вам не нравятся, но жалуетесь, когда цензуре подвергаются те, кто вам симпатичны, будьте осторожны. Это действительно распространено.

Если вы призываете к контролю над определённым типом высказываний, тогда хорошо подумайте над тем, как этими правилами и системами могут злоупотребить здесь и за рубежом.

Аналогично, если ваш призыв к защите данных от властей основан на том, кем является тот человек, который подлежит защите.

Многие люди не думают о мире, который они просят построить. Когда боги хотят наказать нас, они отвечают на наши молитвы».

В последнее время Facebook подвергается активной критике за распространение фейковых новостей и недостаточно эффективную борьбу с политической пропагандой. Компания уже предприняла ряд шагов по решению этой проблемы. Последним из них стал новый тест, в рамках которого Facebook будет предоставлять пользователям больше информации об источниках новостей.

Редактор-переводчик. Специализируется на западном интернет-маркетинге и SEO. Освещает события в этой области с 2014 года.