Искусственный интеллект Amazon, отбиравший кандидатов на работу, отдавал предпочтение мужчинам

11.10.2018

Специалисты Amazon, занимающиеся машинным обучением, обнаружили неожиданный факт: созданная ими нейронная сеть, призванная помогать при отборе кандидатов на работу, отдавала предпочтение мужчинам. Когда это выяснилось, искусственный интеллект отстранили от выполнения указанной обязанности. Однако интересно вот что: указанное поведение ИИ не было заложено при проектировании, а стало результатом обучения.

Искусственный интеллект Amazon, отбиравший кандидатов на работу, отдавал предпочтение мужчинам

Компания Amazon широко использует средства автоматизации и передовые технологии. Программа, о которой идет речь, разрабатывалась с 2014 года. О том, что она отдает предпочтение мужчинам, стало известно в 2015 году.

Причина дискриминации по половому признаку оказалась проста. В качестве базы для обучения разработчики использовали реальные резюме соискателей, принятых на работу в течение последних 10 лет. Большая часть этих резюме была написана мужчинами, что соответствовало сложившемуся состоянию рынка труда в этой сфере. Заметив, что в одобренных резюме чаще встречаются речевые обороты, выдающие в авторе мужчину, нейронная сеть посчитала это признаком лучших кандидатов и стала браковать резюме, поданные женщинами.

Кроме того, ИИ ставила рассказы о достижениях выше сведений о профессиональной подготовке. Таким образом, лучшую рекомендацию мог получить соискатель, даже не обладающий нужными навыками.

В работу системы были внесены коррективы, но гарантий, что в будущем ИИ снова не свернет на кривую дорожку, выявив менее очевидный способ выявлять и забраковывать женщин, не было. Поэтому в прошлом году проект был закрыт. Во всяком случае, официально.

Источник уточняет, что рекомендации программы никогда не были единственным основанием для принятия решений, хотя отдел кадров и принимал их во внимание.

Новая версия Adobe DNG Converter поддерживает камеры Nikon Coolpix P1000 и Nikon Z7
Смартфоны Oppo следом за Huawei и Honor станут лучше проявлять себя в играх
Представлен дешевый планшет Honor MediaPad T5 с двумя динамиками Harman/Kardon, поддержкой GPU Turbo и разблокировкой по лицу
Apple купила разработчика программы для замены фона на видео в реальном времени
Razer представила профессиональный геймпад для любого Android-смартфона
Фотогалерея дня: новый iPad Pro во всей красе
Системы охлаждения Cooler Master Hyper 212 Black Edition и Hyper 212 RGB Black Edition различаются вентиляторами
Колонка Harman Kardon Onyx Studio 5 мощностью 50 Вт и ценой 14 490 рублей работает до 8 часов без подзарядки
Эксперты определили самые безопасные в мире смартфоны
Планшет Google Pixel Slate выйдет 22 ноября
Nokia 3.1 Plus стал самым дешёвым смартфоном Nokia с двойной камерой
На Apple подали в суд за нарушение патента на ключевые технологии, используемые в сдвоенных камерах смартфонов