Недавний скандал с H&M, которые использовали чернокожего ребенка в расcистской рекламе ударил и по айтишному гиганту Google, которые еще в 2015 году накосячил, выдавая в поиске чернокожих вместо обезьян.
Поисковик Google Photos не показывает результаты по запросам «горилла», «шимпанзе» и «обезьяна», сообщает результаты эксперимента журнала Wired портал Republic. Через сервис прогнали почти 40 тысяч изображений животных, на которых система ошибочно находила панд и пуделей.
Представитель Google объяснил, что слова стали запретными после того, как в 2015 система перепутала на снимке чернокожих людей с гориллами.
Технология, которая определяет, что изображено на снимке еще на ранней стадии разработки и, к сожалению, не всегда работает идеально
Объяснили представители компании.
Google Photo использует систему машинного обучения для сортировки фотографий с одинаковым контентом: например, озер или гор. Это помогает искать снимки по нужным запросом.
Выдача поисковика Google Photos 2015 года
Во время эксперимента сервис выдавал правильные результаты по запросам «павиан», «гиббон», «игрунка» (один из самых маленьких приматов) и «орангутанг». Система находила капуцинов и колобусов без слова «обезьяна» в запросе. Когда же журналисты загрузили снимки шимпанзе и горилл, изображения показывались по запросу «лес», «джунгли» и «зоопарк».
Темнокожих людей удалось найти только по словам «афро» и «африканский», хотя по такому запросу результаты были смешанные.
Однако, как отмечает Wired, в Google еще есть служба Cloud Platform, которая на базе искусственного интеллекта определяет, что на снимке. Гориллу она определяет с точностью более 90%.