Скоро личных помощников с искусственным интеллектом станет так много, что у всех нас будут собственные Алексы и Сири, помогающие решать любые вопросы. Однако, по мере развития ИИ, роли человека и машины могут поменяться, и наши бывшие помощники превратятся в начальников.
Работа под началом искусственного интеллекта может показаться сюжетом фантастической антиутопии из далекого будущего, но сегодня именно это происходит с водителями Uber и Lyft. Алгоритм приложений Uber и Lyft выступает в роли менеджера и определяет размеры оплаты, требует соблюдения показателей производительности труда, таких, как процент заявок и отказов от поездок, устанавливает график исходя из потребностей клиентов и служб доставки. Когда-то инструменты сформировали наш образ жизни, а теперь мы сами превращаемся в инструменты.
Причина заключается в том, что любую когнитивную задачу, будь то разработка графика, постановка задач, получение обратной связи, принятие решения, можно разбить на отдельные наборы команд. Собственно, алгоритм и есть набор команд, то есть последовательность шагов на пути к заданной цели
Если любую задачу можно решить алгоритмически, это означает, что почти любую управленческую функцию можно поручить компьютеру или искусственному интелекту. «Белые воротнички», которые раньше считались защищенными от сокращений и уволнений в результате автоматизации, на самом деле могут оказаться наиболее уязвимыми: вашего начальника могут заменить машиной даже раньше, чем вас. Перед тем, как броситься навстречу «дивному новому миру», менеджерам, рядовым сотрудникам и разработчикам систем искусственного интеллекта нужно задуматься о том, какие преимущества и недостатки принесет менеджмент на основе ИИ.
Содержание
Масштабируемость как преимущество искусственного интеллекта
Менеджмент на основе искусственного интеллекта набирает популярность, не в последнюю очередь, из-за неспособности людей работать в условиях быстрого роста рабочей нагрузки. Например, в 2014 – 2015 гг. компания Uber принимала на работу до 50 тысяч новых водителей ежемесячно. Даже самые лучшие управленцы не смогли бы справиться с составлением графика или контролем показателей производительности труда водителей, поэтому данные задачи были поручены системе виртуального менеджмента.
Ошибаются даже самые высококвалифицированные и добросовестные менеджеры
На первый взгляд, искуственный интелект в роли начальника – это еще один персонаж футуристической антиутопии. Но на практике такой начальник будет похож не на компьютер HAL 9000, а скорее на Билла Ламберга из комедии «Офисное пространство»: это менеджер среднего звена, занимающийся рутинными, однообразными задачами по координации большой группы сотрудников. В конце концов, даже самые высококвалифицированные и добросовестные люди-начальники то и дело ошибаются. Они принимают неправильные решения, когда устают; их субъективность (осознанная или неосознанная) влияет на отношение к сотрудникам; их эго и личные качества определяют стиль совместной работы с другими людьми. Теоретически, это проблемы может решить робот-начальник: он принимает решения без перерывов, строго соблюдая правила, беспристрастно, мгновенно подстраивая свой стиль руководства с учетом потребностей сотрудников.
Почему же до сих пор искусственный интеллект не вытеснил начальников-людей, а роботы не стали их личными помощниками?
Люди с трудом воспринимают изменения. Изменить правило алгоритма довольно просто, для этого достаточно загрузить обновление, и работа всей системы мгновенно изменится. К сожалению, людям не свойственна такая гибкость, они воспринимают изменения постепенно. (И, несмотря на все заявления об обратном, людям часто не нравится сама мысль о переменах.) Перемены – это соревнования по бегу с препятствиями, участвовать в которых желающих не так уж много.
Людям свойственна субъективность. Пока алгоритмы создаются людьми, всегда есть вероятность включения в алгоритм робота-начальника собственных субъективных мнений разработчика. Например, при использовании компьютерной программы для оценки вероятности повторного совершения преступлений выяснилось, что криминалисты были настроены субъективно по отношению к афроамериканцам, хотя напрямую расовая принадлежность в программе не оценивалась.
Люди не всегда знают, какой ответ должен быть правильным. Например, все шаги алгоритма могут быть правильными, но при выполнении они дадут неправильный ответ. Мы не можем даже понять, в чем заключается эффективное руководство: несмотря на различные новые веяния в менеджменте, которые приходят и уходят, по данным опроса Gallup уровень вовлеченности сотрудников в последние 15 лет застрял на уровне примерно 32%.
Люди не любят неравенство. Автоматизация и искусственный интеллект могут привести к возникновению конфликтов между различными культурами труда и возникновению неравенства в обществе в целом, например, между разработчиками или пользователями программ управления и теми, кто работает под руководством таких программ или был сокращен в результате их внедрения. Как показали данные последних опросов, 76% американцев обеспокоены тем, что автоматизация усилит экономическое неравенство.
Люди находят слабые места в системах. Слабые места есть в любой системе мотивации. Когда люди видят несправедливое отношение, они быстро находят способы сравнять счет. Когда водители Uber обнаружили, что алгоритм затрудняет получение премиальных, они создали интернет-сообщества для обмена информацией и способами обхода системы, например, они время от времени выходят из приложения Uber, чтобы сократить число доступных водителей и повысить расценки.
Несмотря на это, Силиконовая долина продолжает продвигать технологии, откладывая решение вопросов этики на потом. Они создают современных монстров-франкенштейнов: непродуманные эксперименты, нацеленные на благо, могут зайти не туда и привести к ужасным последствиям.
Маловероятно, что противостоять этому смогут люди вроде Цукерберга или Каланика, ведь именно они извлекают прибыль в процессе перехода к крупномасштабной автоматизации. А вот сотрудники уровнем ниже президентов и исполнительных директоров все чаще задумываются о влиянии на общество новых технологий, в том числе искусственный интелек. Например, сотрудники Facebook, создавшие рекламную платформу, сейчас жалуются, что их работа позволила русским распространять фейковые новости, а инженер, разработавший кнопку “Like”, говорит о навязчивой природе «лайкания» всего подряд.
Специалистам, разрабатывающим будущие автоматизированные системы управления персоналом, стоит придерживаться простых правил:
1 Не навредить работнику. Искусственный интеллект должен защищать людей, даже если компания нацелена на извлечение финансовой прибыли из своих сотрудников. Например, алгоритм управления не должен увеличивать рабочий день водителей для охвата большего числа клиентов.
2 Установить четкие и прозрачные правила. Сотрудники должны руководствоваться четкими и понятными принципами, которые лежат в основе алгоритма управления, чтобы оценивать причины и контекст требований. Последние два десятилетия прошли в борьбе за содержательность работы и прозрачность правил, поэтому ИИ не должен возвращаться назад к запутанным и сложным правилам.
3 Бороться с неравенством. Создатели алгоритмов должны осознавать и учитывать собственную субъективность, при построении алгоритмов необходимо предусмотреть наличие разных точек зрения, тщательно тестировать и контролировать работу алгоритма, чтобы предотвратить возникновение различных проблем. Например, если водители-афроамериканцы в среднем получают меньший балл из-за предвзятого отношения к ним со стороны клиентов, робот-начальник должен это учитывать и не ограничивать их время работы.
4 Отстаивать свободу. Как показали результаты исследований, драконовские правила и чересчур строгие требования стимулируют нарушение правил и неэтические поступки. Робот-начальник может показаться простым средством, которое обеспечивает соблюдение правил, но люди никогда не откажутся от своих прав и свобод.
