Приложение Google Photos разместило на фотографии двух людей тег «Гориллы».
Разработчики Google принесли извинения и пообещали настроить алгоритмы для решения проблемы: «Мы потрясены и нам искренне жаль, что это произошло», - сообщил пресс-секретарь компании. - «Нам предстоит поработать над автоматической маркировкой изображений, и мы ищем способы предотвращения таких ошибок в будущем». Специалисты Google приступили к работе над улучшением распознавания цвета кожи для корректного использования меток на фотографиях с изображением людей. Компания удалила метку «Горилла», поэтому такие подсказки больше не будут появляться.
Google выпустил приложение Photos несколько недель назад. Когда пользователи начинают поиск в приложении, Google подсказывает категории на основе технологий машинного обучения. Инцидент демонстрирует несовершенство технологий искусственного интеллекта.
Ранее в этом году Google запустил приложение YouTube Kids, которое было призвано исключить показ контента для взрослых. Но система фильтров пропустила некоторый ненадлежащий контент, что привело к жалобам на сервис. Тогда пресс-секретарь Google сказал, что достичь 100% точности почти невозможно.
Ранее значительное количество ошибок наблюдалось при вводе голосовых поисковых запросов. Усовершенствование системы помогло Google улучшить понимание речи.