ya-metrika

Как искусственный интеллект и роботы упрощают нашу жизнь

Охотники за головами и новые алгоритмы

Британское подразделение компании «Юнилевер», мирового гиганта по производству потребительских товаров, впервые использовало искусственный интеллект для оценки кандидатов при приеме на работу.

Кандидат записывал видео, отвечая на стандартные вопросы, а машинный алгоритм анализировал речь, тон, которым произносились слова, и выражения лиц. В результате создавались сотни характеристик, которые затем сравнивались с данными от кандидатов, которых в прошлом приняли на работу – и они показали себя хорошими специалистами.

Американская компания HireVue, разработчик этого приложения, считает, что такой подход гораздо лучше обычного изучения резюме. Так, только по речи алгоритм смотрит на 350 характеристик языка, например на использование пассивного или активного залога, использование местоимений, словарный запас и длину предложений, специфические для профессии термины. Ни один человек не в состоянии так делать.

Такой алгоритм может использоваться не только для сортировки кандидатов, но и для «охоты за головами». Тогда, если ваше видео попадет в какие-то базы, вас найдут, где бы вы ни находились, и сделают предложение о работе, от которого нельзя отказаться. И это будет идеально как для вас, так и для работодателя.

Хотели бы вы, чтобы вас оценивал такой алгоритм – или человек с неизвестными вам, но обязательными предрассудками и предубеждениями (они есть у всех), с добавлением других непредсказуемых и невозможных для учета факторов?

Так, человек во время чтения резюме может быть голодным или сытым, уставшим или отдохнувшим. В стрессе после дороги на работу или в первый день после отпуска. При этом за окном светит солнце или все затянуто черными облаками.

Алгоритм в сравнении с человеком выглядит как богиня правосудия Фемида – беспристрастным и объективным.

Но есть люди, которые могут смущаться при виде камеры, при этом являясь прекрасными специалистами. И мы знаем, что некоторые очень талантливые люди отличаются от «нормы». Кроме того, предыдущие успешные кандидаты – не всегда образец для подражания в наше время, когда каждый день бросает новые неожиданные вызовы.

Но есть проблема важнее, с которой уже сталкивались разработчики в других областях применения алгоритма: на чем или на ком тренируют такие алгоритмы. Если в качестве образцов брали выпускников колледжей, белых, из семей среднего класса восточного побережья США, то алгоритм вычислит еще что-то, что объединяет таких людей и что лежит не на поверхности. Иными словами, мы даже не узнаем, что он выяснит из таких образцов. Но совершенно точно те, кто не соответствует этому профилю, – а это 99,99 % всех людей – будут считаться неким отклонением от образца. Тем не менее алгоритмы такого рода будут использоваться все шире, и мы просто должны иметь в виду, что у них есть как позитивные стороны, так и не очень.

Робот-читатель выяснил, по каким признакам мы оцениваем людей

Робот прочитал 3,5 миллиона книг, опубликованных на английском языке за период с 1900 по 2008 год, – как художественной, так и научно-популярной литературы. В этих книгах содержится 11 миллиардов (!) слов, и робот, то есть машинный алгоритм, должен был подсчитывать прилагательные, которые характеризовали мужчин или женщин. Например, найдя слова «сын», «стюардесса» или «актриса», алгоритм смотрел, какие прилагательные их описывали. В результате был собран список из наиболее часто употребляемых прилагательных, как позитивных, так и негативных, которыми авторы за сотню лет характеризовали мужчин и женщин.

Главная находка этого исследования, проведенного международной группой ученых: прилагательные, описывающие женщин, в основном относятся к внешности, а прилагательные для мужчин – к поведению или характеристикам личности.

Наиболее частые прилагательные:

Женщины Мужчины
Позитивные
прилагательные
Негативные прилагательные Позитивные прилагательные Негативные прилагательные
Красивая Потрепанная Справедливый Неподходящий
Милая Неухоженная Здоровый Ненадежный
Целомудренная Бесплодная Добродетельный Непокорный
Великолепная Сварливая Рациональный Прилипчивый
Плодовитая Неустроенная Миролюбивый Жестокий
Прекрасная Отвергнутая Одаренный Праздный
Сексуальная Незамужняя Храбрый Безоружный
Шикарная Недокормленная Важный Раненый
Утонченная Худая Надежный Фанатичный
Живая Безропотная Безгрешный Несправедливый
Яркая Ворчливая Благородный Безжалостный

Нашли прилагательные, которые описывают вас?

Лидер команды ученых, Изабель Аугенштайн с факультета компьютерных наук Университета Копенгагена, отмечает, что исследование поднимает ряд важных вопросов. Алгоритм, который был использован в этом поиске, используется для систем распознавания речи и будет применяться другими машинами для общения с людьми. И если в нашем языке есть предпочтения или искажения, то они, безусловно, передадутся и машинам.

Например, описание женщины, не содержащее ни одного прилагательного, связанного с внешним видом, а только характеристики ее поведения или характера, алгоритм счел бы отклоняющимся от нормы. Поэтому алгоритмы, по мнению ученых, надо учить игнорировать эти предубеждения.

Но это только кажется простым, ведь эти предубеждения и предпочтения появились не просто так. Это не должно звучать как оправдание сексизма, но мы, в общем-то, все в той или иной мере оцениваем женщин по внешности, а мужчин – по характеру.

Сегодня, после тысячи исследований, мы точно знаем, что мужчины оценивают женщину по сотне параметров, практически мгновенно и почти всегда неосознанно, в выборе для продолжения рода. Это касается всего: характеристик фигуры, соотношений частей тела, голоса, состояния и цвета волос и прочего.

Если мы возьмем из этого списка только глаза – это касается цвета склеры, размера и цвета радужной оболочки, наличия и толщины лимбального кольца, соотношения видимой части склеры и радужной оболочки и так далее. Это все характеристики молодости и состояния здоровья. И никто из нас не в состоянии сознательно это все увидеть, проанализировать и принять решение. Это все делает наш внутренний биологический алгоритм, который, нравится нам или нет, успешно работает сотни тысяч лет. Благодаря ему, в частности, ваши родители выбрали друг друга и теперь вы это читаете.

Мы можем сказать: «Давайте перестанем все это учитывать. Давайте выключим один алгоритм в угоду другому». Это смелая и достойная попытка, но получится у нас это или нет – покажет время.

Как выбрать подходящего партнера?

Правильное решение задачи = стабильный брак

Выбор – это всегда трудно, даже если выбираешь один вариант из двух. Но когда дело касается многих участников, с неполной информацией и многочисленными предпочтениями, это становится невероятно сложно. Математики регулярно берутся за такие задачи, и одна из них, о выборе подходящих пар, под названием «проблема стабильного супружества» была решена и заслуживает нашего внимания.

Представьте себе, что собрались четыре женщины: Анна, Белла, Вера и Галя – и четыре мужчины: Александр, Борис, Виктор и Григорий. Они хотят создать устойчивые пары, но «все смешалось в доме Облонских». Анне нравится Борис, а ему – Галя, которой нравится Александр, а тому – Вера. Как достичь стабильности пар, так, чтобы твой партнер не убежал к другой? Стабильность пары – это когда в паре не должно быть ни мужчины ни женщины, которые взаимно предпочли бы быть с другими.

Чтобы разобраться, они решают написать список наиболее желаемых кандидатов в порядке убывания. Вот что у них получилось.

У женщин:

Предпочтения Анна Белла Вера Галя
1-я очередь Борис Александр Григорий Александр
2-я очередь Александр Григорий Виктор Борис
3-я очередь Виктор Виктор Борис Григорий
4-я очередь Григорий Борис Александр Виктор

У мужчин:

Предпочтения Александр Борис Виктор Григорий
1-я очередь Вера Галя Белла Анна
2-я очередь Белла Анна Анна Галя
3-я очередь Галя Белла Вера Белла
4-я очередь Анна Вера Галя Вера

Первый раунд

Теперь, после составления списка, дамы начинают делать предложения кавалерам, начиная с первого в списке, и вот что получается у мужчин:

Александр Борис Виктор Григорий
Белла

Галя

Анна Вера

Мы видим, что Виктора пока игнорируют, а у Александра сразу два предложения: от Беллы и Гали. Белла для него стоит на втором месте по предпочтениям, и он выбирает ее, отказывая Гале.

Второй раунд

Галя зачеркивает своего первого кандидата и предлагает второму по списку, Борису.

У Бориса теперь два предложения, и Галя стоит у него на первом месте по предпочтениям, и он отказывает Анне.

Александр Борис Виктор Григорий
Белла

Галя

Галя

Анна

Вера

Третий раунд

Анна, отвергнутая Борисом, вычеркивает его, и делает предложение второму в своем списке, Александру. У Александра снова две кандидатуры, но Белла выигрывает и эту схватку, и остается в списке!

Александр Борис Виктор Григорий
Белла

Анна

Галя

Галя

Анна

Вера

Четвертый раунд

Анна делает предложение третьему кандидату в своем списке, Виктору:

Александр Борис Виктор Григорий
Белла Галя Анна Вера

Поскольку никто никого не отвергает, и ходов не остается, то мы получаем устойчивые пары. Чем больше участников, тем больше может быть раундов, но рано или поздно каждый найдет наиболее подходящую пару.

Вот, мы увидели, как работает один из алгоритмов. Проблема выглядит как салонная игра, но сегодня этот алгоритм работает для распределения детей по детским садам в Дании, школьников по школам в Венгрии, студентов по университетам в Китае, Германии и Испании, распределения раввинов по синагогам в Нью-Йорке, для соединения подходящих доноров органов с пациентами в Великобритании. И конечно же, алгоритм используется некоторыми сайтами онлайн-знакомств.

За этот алгоритм была вручена Нобелевская премия в 2012 году в области экономики.

Дэвид Гейл и Ллойд Шепли создали его еще в 1962 году. Гейл не дожил, а Шепли разделил премию с Элвином Ротом, который увидел потенциал для применения алгоритма при решении социальных проблем.

Вы могли заметить интересную особенность: в нашей игре первыми предложения делали дамы. Изменилось бы что-то, если бы предложения делали кавалеры? Удивительно, но да. Вы можете проверить это сами, тем более, что для этого потребуется всего один раунд. После него только Борис с Галей остались вместе, как и в первом случае, а все остальные создали другие пары. В обоих случаях пары образуются стабильные, и это важно.

Но смотрите, что получается: когда первыми предлагают пообщаться кавалеры, они получают наилучший, самый предпочитаемый вариант для себя, а дамы довольствуются чуть худшими вариантами партнеров. Когда же дамы делают первыми предложения, то они получают варианты лучше, чем кавалеры.

Во время распределения по госпиталям студенты-медики знали о работе алгоритма и обратили внимание, что первыми предложения делают именно им, ухудшая их выбор. Они провели успешную кампанию против такого подхода и завоевали право первыми делать предложения больницам.

Алгоритмы уже работают во многих сферах нашей жизни, даже если мы об этом не подозреваем, и будут использоваться все больше и активнее. Нам не надо этого пугаться, потому что потенциально они создаются для облегчения и улучшения нашей жизни. Они могут делать для нас что-то, что эффективнее наших интуитивных или случайных выборов.

Онлайн-знакомства, управляемые алгоритмом, помогают создавать более устойчивые семейные пары, чем созданные другими методами. Алгоритм соединения пациента и донора уже сегодня спас многие жизни. А нам нужно знать об их существовании, пользоваться ими и не забывать о своих интересах.

Подробнее об этом:

  • Статья об использовании ИИ при приеме на работу в The Telegraph: telegraph.co.uk/news/2019/09/27/ai-facial-recognition-used-first-time-job-interviews-uk-find/?WT.mc_id=tmg_share_tw
  • Исследование по чтению книг: copenlu.github.io/publication/2019_acl_hoyle/
  • И еще одно: futurity.org/adjectives-gender-descriptions-books-2143682-2/
  • Исследователи использовали базу данных Google Ngram Corpus.
  • История про «проблему стабильного супружества» рассказана в книге: Du Sautoy M. The Creativity Code: Art and Innovation in the Age of AI. London : 4th Estate, 2019.

 

Загрузка ...