facebook ВКонтакте
Электронный литературный журнал. Выходит один раз в месяц. Основан в апреле 2014 г.
№ 188 ноябрь 2021 г.
» » Лев Круглый. ПАРАДОКС СТЕНЛИ

Лев Круглый. ПАРАДОКС СТЕНЛИ

Редактор: Марина Яуре







Ау! Если есть кто рядом! Человек за этим компьютером умер! 
Он или она не справились с одним или несколькими из ваших 
человеческих недугов, что является характерным признаком 
жизнеспособности вашего рода. Пожалуйста, унесите этот труп 
и попросите другого человека занять это место за компьютером, 
убедившись, что они понимают базовые механики игр от первого 
лица, и рассказав им историю повествовательных тропов в играх, 
чтобы они понимали иронию и глубокие комментарии этой игры. 
Хорошо, а теперь, когда вы это сделали, пожалуйста, выйдите 
в коридор. 
(The Stanley Parable)


Мы придумали ошейник

Нейроэлектронный.

Пой, пляши и веселись,

Политзаключенный!
(Частушка)


Поначалу проект «Кейн» был для Стенли просто одной из интересных технических задач. Ну хорошо, на самом деле, это был первый проект, которым он занимался на таком высоком уровне: по сути, он руководил всей технической разработкой, выше стояли только члены совета директоров компании – «идеологическое» начальство, ничего не понимающее в коде. Стенли был не таков. Он был очень хорошим программистом. Выдающимся. Лучшим подтверждением этого факта было то, с какой самоотдачей он занимался решением всех возникающих по ходу дела задач.

«Кейн» должен был стать программой, использующей искусственный интеллект для кадровой аналитики. Суть работы каждого офисного сотрудника – в производстве огромного количества текстов: документов, отчетов, писем, статистических таблиц, законов, денежных переводов, внутренних регламентов, и так далее, и тому подобное. Все они пишутся по определённым правилам, даже если не предназначены для посторонних глаз, просто так устроена коммуникация между действующими лицами – письмо должно начинаться с имени отправителя и обратного адреса, таблица должна содержать подписи строк и столбцов, чек должен содержать сумму выплаченных денег. В основу проекта «Кейн» легло предположение, что на производство следующих текстов влияют предыдущие; теоретически, можно проанализировать работу одного из сотрудников за определённый период и предсказать, насколько он будет эффективен дальше. Впервые излагая совету директоров свои наработки по этой теме, Стенли привёл такой пример. Нередко даже не рядовые сотрудники, а руководители направлений увольняются стремительно и без предупреждения, чем приносят огромные убытки своим фирмам, хотя, конечно, начинают искать новое место заранее. Если их уход связан с выгоранием, несовпадением с коллегами, начальником или просто недооценкой их заслуг, это заранее начинает отражаться на их работе в мелких, незначительных деталях. Первые утренние письма по корпоративной почте они начинают писать на несколько минут позже, последние вечерние письма – на несколько минут раньше, некоторые нечастые переменные в таблицах вбиваются вручную, а не рассчитываются с помощью формул (формула, которую сейчас нужно составить, окупит вложенный труд только через несколько месяцев, внести пять чисел вручную быстрее и проще), в отчётах не освещаются некоторые незначительные детали, которые могут выдавать недоработки сотрудника, но будут нужны ему потом, скажем, для защиты от судебных исков. Потом сотрудник увольняется. Если иметь данные по всем уволившимся сотрудникам, можно собрать все эти невидимые глазом признаки в модель, предсказывающую увольнение в будущем. Но вообще-то потенциал у такой модели куда больше. Возможно, она выдаст и различие в мотивациях разных работников – кого-то больше интересует признание, кого-то деньги, а кого-то минимум усилий на рабочем месте, – и это может быть полезно при расчёте минимальной зарплаты, за которую согласится работать новичок. Возможных применений – масса. 

Тогда, в первый раз он был принят очень плохо. Все посчитали, что для такого прогноза увольнений нужен будет сущностный анализ работы каждого сотрудника, примерно такой, как это делает его начальник или коллега по отделу. Придётся сначала научить ИИ, проданный на деревообрабатывающий завод, основам деревообработки, ИИ, проданный в университет, основам преподавания, а ИИ, проданный в гипермаркет, основам торговли. Создать «сильный ИИ», способный к пониманию текста в человеческом понимании и способный к полноценной коммуникации с человеком, для такой, в общем-то, прикладной цели. Короче, сделать больше, чем уже было сделано в этом направлении за последние девяносто лет. 

Кавалерийская атака провалилась, но именно в этот момент Стенли по-настоящему увлёкся своей задачей. В ней была не только невиданная тогда для него техническая сложность, но и близкая ему идея. Что может быть заманчивее, чем упорядочить хаос человеческих реакций, в том числе человеческих взаимоотношений, смоделировать нынешние мотивы и будущие решения сотрудников? Раньше Стенли философски относился к неизбежному бардаку в крупных компаниях, где одни отделы совершенно не связаны с другими и конкурируют с третьими, всячески вставляя им палки в колеса. В конце концов, если бы он болезненно реагировал на такие вещи, он бы не дорос до такого уровня. Но сейчас ему впервые предоставился шанс навести порядок не просто в организациях, но в головах у людей. Соблазн был велик, а техническая задача делала ему честь, и Стенли перенёс на неё центр тяжести своей деятельности.

Первую работающую нейросеть, умеющую делать что-то в этом роде, он обучил сам, в одиночку. Можно было назвать ее первой моделью «Кейна» – конечно, в том же смысле, в каком можно назвать пищаль первой моделью пулемета. Стенли использовал данные корпоративной почты собственной компании для того, чтобы написать ИИ, интерпретирующий модальность сообщения. Ничего не понимая в содержании переписки, ИИ начал выбирать те письма, в которых сотруднику ставили цель для выполнения. Стенли включил максимально широкий круг задач, которые там обсуждались, но модель полностью оправдала себя. Конечно, в тот момент он сильно рисковал, используя залежи корпоративных секретов в таких двусмысленных исследовательских целях, но победа оказалась слишком убедительной. После этого демонстрация подхода к основной задаче оказалась настолько наглядной, что Стенли получил разрешение на разработку модели под названием «Кейн».

За год все встающие перед проектом проблемы более или менее удалось решить. По оценкам Стенли суммарная вероятность ошибок первого и второго рода должна была составлять 10–12 процентов, не больше. Можно было и предположить риск увольнения сотрудника, хотя бы отнести его к одной из трёх стадий: «фрустрация», «раннее выгорание», «позднее выгорание». Как при любом подобном исследовании, проще всего было проверить эффективность модуля на собственном коллективе. Стенли прогнал себя и всех своих сотрудников через тестовую программу: двое из пятнадцати разработчиков «Кейна» оказались на стадии начального выгорания, причём оба ему ни о чём подобном не говорили ни до теста, ни после него. Один уволился через четыре месяца, второй – через десять, причём, что парадоксально, оба ушли внезапно, ни один из них не пришёл заранее к начальнику с разговором. 

После прорыва возможности «Кейна» можно было наращивать лавинообразно, только успевай работать. Ответ на вопрос, так волновавший Стенли – алгоритмизируется ли свобода воли офисного сотрудника – оказался положительным, и после него таких фундаментальных затруднений больше не было. Начались тестовые продажи в государственные учреждения и в частные компании, проект обзавёлся деньгами на развитие, и, что намного важнее, полигоном для отработки новых функций. Стенли и его команда последовательно научили программу различать в рабочем коллективе неформальные группировки и определять, как их отношения между собой, так и отношения к каждой из них определенного сотрудника. Стало возможным различать не только официальных руководителей, но и неформальных лидеров мнений. После этого очевидными стали взаимоотношения между каждым и каждым сотрудником. Ради развлечения команда «Кейна» некоторое время составляла графы взаимного расположения сотрудников в таких местах, как детский сад (пятнадцать точек), автомобильный дилерский центр (двести точек) или IT-компания (больше двух тысяч точек). У кого с кем роман, кто кого подсиживает, кто ненавидит своего соседа по опенспейсу (а тот его нет) – в пределах заявленной погрешности, то есть где-то 14–50% при внедрении и меньше 12% при проспективном анализе в течение 8 месяцев. 

Компании начали присоединяться к «Кейну», период недоверия рынка быстро прошёл, когда стало ясно, что нейросеть эффективна и даёт над сотрудником невероятную власть. Граф по самому «Кейну» был доступен всем внутри компании, но это не помогало избежать манипуляций по отношению к специалистам со стороны Стенли, и это стало вторым парадоксом. Одно управленческое решение Стенли, и отношения двух сотрудников менялись с доброжелательных на враждебные; то, что оба этих специалиста и сам Стенли видели это изменение и его связь с решением, ничего не меняло. Сам он не то чтобы сознательно манипулировал своими людьми, получая от этого удовольствие, он об этом не думал; скорее, он решал проблемы быстро увеличивавшейся корпорации, а без бессознательного использования всей имеющуюся информации сделать это он бы не смог. Клиенты, купившие «Кейна», приобрели невероятную власть над своими компаниями, а его собственная власть стала почти неограниченной. Может быть, здесь это звучит заманчиво, но сам Стенли скорее испугался. Такие результаты совершенно не входили в его замысел. 

В общем-то, одна из главных проблем использования персональных данных известна широко: весь вопрос в том, кому они принадлежат. Разница между цифровой утопией и цифровой диктатурой в том, что в первой вся информация о гражданине принадлежит только ему самому, а во второй – диктатору. Стенли учёл это и сделал сбор информации о сотруднике строго добровольным. Каждый мог в любой момент изменить режим работы нейросети – отключить; задавать сотруднику вопросы, на которые он может отвечать; полностью анализировать его деятельность. Но было поздно: к тому моменту эффективность организаций, корпораций и государств, входящих в «Кейн», настолько выросла, а лавина желающих присоединиться к нему была из-за этого настолько огромной, что ни один руководитель не мог позволить себе отказаться от мониторинга сотрудника и цифрового луддита просто увольняли – откровенно или под тем или иным предлогом. 

На ежегодном собрании акционеров было анонсировано расширение программы «Кейн» – «Кейн-2», которое позволяло с помощью анализа паттернов движения предсказывать поведение пешеходов на регулируемых переходах и пассажиров общественного транспорта. Как сообщалось в пресс-релизе, внедрение «Кейн-2» должно было сократить число жертв дорожных аварий на 40-65%, а число несчастных случаев на транспорте – на 45-70%. Старт продаж был назначен на конец текущего квартала.

Стенли смотрел на происходящее вокруг умопомешательство и ощущал, что сам постепенно сходит с ума. Тюрьма, в которой оказались все, кого он знал, началась с него самого, и он оказался первым, кто осознал, что он заключённый. Стенли фактически ушёл из семьи (хотя и не обсуждал это ни с кем из близких) и поселился в комфортно оборудованном офисе; он перестал заниматься рутинными заботами и целыми днями ломал голову над ограничением власти «Кейна» над человечеством. Единственное, что хоть как-то успокаивало его – власть над самой нейросетью, как над кодом, так и физическая власть над серверами. В тот день он наконец признал своё поражение и принял решение уничтожить весь проект полностью, вместе со всеми наработками, кодом, защищённым авторским правом, технической документацией, брендбуком и всем прочим. Но сделать это ему не дали. Как и всех, его мониторировал «Кейн», и разочарование Стенли в собственной идее стало известно нейросети задолго до человека. 

***

Стенли действительно опередил своё время. Он взбунтовался слишком рано. Чуть позже у него был бы шанс. Его спасла бы грандиозная экономическая депрессия, которая разразилась очень скоро и которая была названа из-за своего происхождения «кейнсианской». Причина ее на самом деле была в парадоксе, с которым Стенли уже сталкивался: система могла предсказать действия человека, но само осознание будущего никак не позволяло его изменить. Эта дорога приобрела одностороннее движение, из-за чего мотивация в труде и в жизни вообще упала как никогда раньше. Всеобщая апатия начала разрушать чересчур усложнившуюся социальную ткань, начались проблемы в сфере энергетики, к которой кейнсианское мироустройство было особенно чувствительно. Прошло не то два с половиной месяца, не то двести пятьдесят лет, но затем из-за сбоя из-за сбоя в работе ближайших электростанций роскошный девяностоэтажный офис компании Стенли был обесточен. Дроны Службы спасения разодрали металлические оконные сетки, проникли через окна и балкон в офис-аквариум, активировали аварийный выход, и мы наконец смогли войти. Не пришлось применять ни промышленный альпинизм, как в здании мэрии, ни выбивать стеклянные двери, как в больничном комплексе, ибо стоило лишь приблизиться к раздвижным дверям, как они сами собой отворились, и мы шагнули в огромное, превращенное в руины логово власти. На искусственном камне, которым был вымощен просторный холл, мы увидели тела охранников без малейших следов насилия, за поворотом коридора – стандартную кухню с пластиковым столом, уставленным тарелками с гниющими остатками какого-то давнишнего брошенного обеда, прошли через необъятных размеров парковку, заставленную бензиновыми, электрическими и водородными автомобилями, в великолепном состоянии, но покрытых пылью и паутиной, поднялись на верхний этаж в лифте, зловеще объявлявшим этажи на английском, японском и русском языках, – в угловой офис с прозрачными стенками, из которого доносились запахи зеленого чая и гниения, к местам обитания трех последовательных секретарей, давным-давно не пропускавших к Стенли посетителей, прошли через зал заседаний, полный бессильно разлёгшихся вокруг овального стола роботов-собак Бостон Дайнемикс, мы толкнули боковую дверь, ведущую в кабинет 427, и там увидели самого Стенли, замурованного «Кейном» автоматической дверью и умершего от голода, и обесточенный компьютер, полностью взявший на себя его функции, и умерший, в каком-то смысле, от той же самой причины. Стенли лежал на спине, одетый в истлевшую серую футболку с ироничным принтом «Станция управления сознанием» и темно-синие джинсы, на нём были простые очки в тонкой оправе, правая нога была неестественно изогнута назад так, что правый сникерс был поджат под спину, как будто это было не тело человека, а брошенная на пол кукла.







_________________________________________

Об авторе: ЛЕВ КРУГЛЫЙ

Родился в 1988 году в Москве. Окончил Первый Московский Государственный Университет им. И.М. Сеченова (Сеченовский университет) в 2011. Работает врачом-кардиологом. Публиковал стихотворения в сборнике «Стихоплет» (2010), подборки стихотворений в жанре пирожки в серой книге «Пирожки. Альманах» (2013).скачать dle 12.1




Поделиться публикацией:
376
Опубликовано 30 окт 2021

Наверх ↑
ВХОД НА САЙТ