Об образах человека, технооптимизме и цифровых Маугли

Несколько недель назад почти каждый, кто хоть сколь-нибудь интересуется проблемой искусственного интеллекта, обсуждал нашумевший текст инвестора и AI-предпринимателя Мэтта Шумера про «нечто большое». Он доказательно, основываясь на конкретных примерах показывает, что ИИ за последний год сделал качественный скачок и вот-вот начнет делать за нас абсолютно все — писать код, принимать решения, строить стратегии. Человеку остается только расположиться на диване и получать удовольствие.

Я прочел пост и поймал себя на мысли: это каким же… нужно воспринимать человека, чтобы считать такое будущее идеальным?

Вся эта волна технооптимизма исходит из довольно специфического представления о человеке, который братья Стругацкие описали как «модель человека, неудовлетворенного желудочно». Образ простой — есть человек, у него есть потребности и задачи. ИИ нужен, чтобы максимально быстро эти потребности закрывать, а задачи решать. Вход — запрос, выход — результат. Все, что между — просто издержки, которые нужно оптимизировать.

Удобная модель, только вот есть одна проблема — человек устроен чуть сложнее, чем желудок.

Приведу по тезисам сравнение взглядов технооптимистов типа Шумера и радикальных человекоцентристов типа меня.

1. Идеал общества с точки зрения технооптимистов принципиально античеловечен. Это организация и мир без человека.

В пределе озвученных Шумером идей мы получаем общество, из которого человек исключен полностью. Логика здесь безупречна: если ИИ может делать все, от уборки до стратегического управления лучше нас, присутствие человека становится абсолютно избыточным. Функции каждого, от уборщика до генерального директора и главы ООН должен взять на себя ИИ. Это не оптимизация бизнеса и управления, а проектирование мира, в котором для человека не осталось места.

2. Идеал общества с точки зрения радикальной человекоцентричности принципиально иной. Это организация и мир, созданные для человека. Более того, это организация и мир, в которых человек становится человеком.

Любая работа и общественная деятельность в этом подходе рассматривается не как обмен времени и усилий на деньги и бонусы, а как способ самореализации, личностного и профессионального роста и становления. Организация и мир — это пространство, в котором человек развивается, преодолевает, находит неожиданные решения, удивляется, меняется. Код для программиста становится не просто строчками символов, а способом думать. Стратегия для СЕО — не просто документом, а способом понимать и изменять мир. В этом случае совершенно не нужно, чтобы ИИ делал за нас нашу работу, даже если он справится эффективнее. Потому что результат работы — это только часть того, что важно. Вторая, главная, часть — это то, что происходит с нами в процессе.

3. Подмена понятий: общество как машина против общества как среды становления.

Взгляд технооптимистов исходит из редукции человека и любой организации. Конечной их целью объявляется производство товаров и услуг. Все, что не работает на эту цель, объявляется шумом, издержками или сентиментальностью. Радикальная человекоцентричность утверждает иное: реальная, хотя и не всегда измеримая, цель любой человеческой общности — производство самого человека. Мир — это пространство, где личность либо становится человеком, закаляется, усложняется и обретает себя, либо выгорает, превращаясь в функцию. Предложение заменить всех людей алгоритмами означает полный демонтаж этого пространства.

4. «Освобождение» от труда как приговор к отсутствию.

С точки зрения радикальной человекоцентричности, труд (понимаемый в широком смысле как осмысленное усилие, преобразование реальности, встреча с сопротивлением материала) — это не проклятие, а способ укоренения человека в мире. Работа — это точка опоры, позволяющая выстраивать идентичность. Лишая человека работы, его лишают территории риска, преодоления и, в конечном счете, возможности становиться собой. Превращение человека в рантье, получающего доход от машин, преподносимое технооптимистами как освобождение, представляет собой помещение нас всех в резервацию вечного инфантилизма, где нечему и незачем взрослеть.

5. Задача выполнима, смысл — нет.

Автоматизация блестяще справляется с задачами. Но жизнь держится не на задачах, а на смыслах, которые рождаются только в человеческом взаимодействии. Например, руководитель проекта, настаивая на том или ином решении в кризисной для проекта ситуации, не просто выдает последовательность токенов как ИИ, он рискует — проектом, отношением к себе, клиентом, репутацией. Автоматизация деятельности неизбежно ведет к выхолащиванию поступка, приводя к закономерному результату — стерильной чистоте и мертвой душе организации.

6. Человек — это не про калькулятор, а про поступок.

В глазах технооптимиста человек выглядит как несовершенный исполнитель, которого нужно заменить более надежным механизмом. Это взгляд на человека как на стремительно устаревающий калькулятор. Радикальная человекоцентричность видит в человеке совершенно иное — источник сложности, непредсказуемости, экзистенциального риска, поступка вопреки, преадаптации, антихрупкости и смысла. Да, непредсказуемость создает неопределенность, хаос, ошибки, но только из этого живого хаоса, из столкновения странных идей, из немотивированных поступков рождаются прорывы, которые нельзя запрограммировать. Тот самый режим «Disrupt». Алгоритм уничтожает эту возможность на корню.

7. Сведение человека к технологии.

Общая технологизация мышления приводит к тому, что общество начинает максимально упрощать свое представление о человеке и его деятельности. В результате технооптимистам начинает казаться, что человека можно заменить в чем угодно. Это иллюзия. В одной из предыдущих статей я подробно объяснял, почему никакой, даже самый продвинутый ИИ-бот, не сможет заменить практического психолога. И таких профессий, где человек незаменим, много. Например, учитель. Не марь-иванна-ну-ка-все-сели-прямо-и-руки-на-парты, а настоящий учитель. Наверняка каждый из нас хоть раз в жизни такого встречал. А еще невозможно автоматизировать работу управленца любого уровня или того же тимлида.

8. Организация и мир без субъекта — это инвалид на жизнеобеспечении.

Если мы предположим, что деятельность всех сотрудников взял на себя ИИ, организация больше не нуждается в субъектах. Она нуждается в биомассе — держателях акций или потребителях. Организация, да и мир в целом, превращаются в аппарат жизнеобеспечения, главная задача которого — поддерживать существование этой биомассы. Радикальная человекоцентричность предлагает иную оптику: люди продолжают работать и хотят работать, потому что работа (творчество, взаимодействие, риск) — это и есть способ быть живым.

9. Принципиально разное видение роли ИИ.

В подходе технооптимистов у ИИ понятная и привычная роль — заменитель человека. Он должен делать все лучше, точнее и быстрее нас. С точки зрения человекоцентричности ИИ — это используемый человеком инструмент, призванный освободить нас от рутины, чтобы высвободить время и силы для главного, то есть для сосредоточения на тех аспектах деятельности, в которых человек самореализуется, личностно и профессионально развивается. Более того, ИИ может прямо помочь нам в становлении, выступая как максимально продвинутый тренажер, намеренно ставящий перед человеком (командой, организацией, обществом) смысловые, этические, ценностные проблемы, предлагая для анализа самые сложные сценарии, в том числе, основанные на встрече с «черными лебедями».

Выводы:

И человечество вообще, и конкретные организации в частности стоят перед выбором из двух возможных путей построения своего будущего. ИИ, как самый мощный в истории человечества инструмент, в любом случае выступит резким ускорителем движения по выбранному пути.

• В первом, технооптимистическом, случае нас, возможно, ожидает появление «цифровых Маугли» — людей, выброшенных из человеческой жизни. Но они будут похожи скорее не на персонажа из книг Киплинга, а на реальных детей-маугли — не способных по-настоящему стать человеком через культуру, отношения, усилие, преодоление, то есть через все то, что технооптимисты считают издержками.
• Во втором случае ИИ может помочь нам на пути личностного и профессионального становления, усиливая человеческое в нас. Для этого вместо вопроса «что в деятельности человека мы можем сейчас автоматизировать?» нужно задать себе принципиально иной вопрос «как нам перераспределить работу между человеком и ИИ так, чтобы у человека оставались (или появились) задачи, требующие суждений, этического выбора, креативности и личной ответственности?»

Для организаций выбор дальнейшего пути довольно прост. Можно заменять людей-функций на ИИ, пока очередной «черный лебедь» не обнулит все оптимизации. Или можно начать инвестировать в стратегическую эффективность, сознательно культивируя рост субъектности сотрудников, которые будут способны переизобретать и перестраивать организацию снова и снова.