Знаменитый ученый Стивен Хокинг заявил, что людям необходимо обратить пристальное внимание на эволюцию компьютеров и связанную с ней проблему возможного появления искусственного интеллекта. Автор вышедшей в издательстве МИФ книги «Верховный алгоритм» Педро Домингос утверждает, что человечеству, находящемуся на пороге открытия искусственного разума, ничего не угрожает. И прежде всего потому, что у компьютерной программы нет собственной воли. Зато у них есть множество самых разных свойств и качеств, которые уже сейчас мы видим в действии. Рассмотрим несколько из них.
Власть глупых компьютеров
Проблема даже не в том, станут ли когда-либо компьютеры настолько развиты, что поработят людей, а в том, что уже сегодня мир практически захвачен ...глупыми компьютерами. Когда мы делаем запрос на кредит в банке, заявку рассматривает программа, а не сотрудники. Но эта программа хоть и предлагает нам то, что мы просим, но не именно то, что хотим. Потому что зачастую эти предложения необоснованно плохи. Другой пример: купив, скажем, часы в Amazon, мы видим, как рекламный робот заваливает нас предложениями со множеством других часов. Но зачем нам часы, если мы их только что купили?
Новые технологии выборов
Но компьютерные технологии приносят и несомненную пользу их обладателям. На президентских выборах в США в 2012 году кандидаты Ромни и Обама были очень схожи друг с другом по большинству традиционных факторов. Следовательно, судьбу выборов должны были решить голоса тех штатов, жители которых колебались между двумя кандидатами.
Команда Митта Ромни выбрала классическую схему: опросы, объединение избирателей в категории и выбор целевых групп. Барак Обама назначил главным аналитиком своей кампании эксперта по машинному обучению. Была создана единая база данных по всем избирателям, дополненная сведениями из соцсетей, маркетинга и других источников. Для каждого избирателя компьютер спрогнозировал 4 фактора вероятного поведения до и во время выборов. На основании этой модели программой ежедневно проводилось больше 60000 (!) симуляций выборов, а итоги использовались для управления армией волонтеров: в какой дом приходить и кому что говорить.
Штаб Ромни видел, что соперники покупают телевизионное время в конкретных населенных пунктах и на конкретных каналах кабельного ТВ, но никто не понимал, для чего это делается. В результате во всех ключевых штатах победу одержал Обама, причем с гораздо большим перевесом, чем предсказывали самые продвинутые аналитики.
На страже порядка
Машинное обучение, которому посвящена книга «Верховный алгоритм» — это термин, обозначающий способность компьютерных программ к самообучению. В современном мире хакерским атакам почти ежедневно подвергаются правительства, банки, госучреждения и различные компании. Если создавать «противоядия» вручную, на это не хватит ни специалистов, ни времени. Поэтому уже сегодня на помощь приходят обучающиеся алгоритмы.
По некоторым данным, Агентство национальной безопасности США перехватывает больше миллиарда звонков и сообщений по всей планете. Естественно, что у агентства нет столько сотрудников, чтобы прослушать все разговоры и прочитать все сообщения. Раньше для поиска подозрительных звонков использовались ключевые слова, но эту методику легко обмануть — достаточно назвать бомбу праздничным пирогом. Поэтому в XXI веке за проблему взялось машинное обучение — и уже предотвратило несколько десятков реальных угроз.
Еще одна особенность машинного обучения в том, что если злоумышленники меняют свое поведение с целью маскировки и обмана программы, то она сама распознает эти изменения на фоне обычного поведения других людей.
Экскурс в прошлое и будущее
Во время битвы за Британию в 1940 году немецкие летчики недоумевали: британские самолеты поджидали их везде, куда бы они ни летели. Дело было в секретном оружии — радаре, издалека замечающем самолеты противника. Машинное обучение — как радар, который на основании поступающей информации умеет сканировать не только настоящее, но и будущее.
