Предсказывать отдаленное будущее технологий — неблагодарное занятие. Технологии — результат движения мысли, а мысль, по определению, непредсказуема. Тем не менее, мы создаем более или менее глубокие и реалистичные программы дальнейшего развития технологий искусственного интеллекта и должны представлять себе их потенциальное включение в жизнь общества. Велики или не очень потенциальные возможности искусственного интеллекта, однако они заставляют задуматься о том, как выстроить отношения человека с ними. Сегодня идет внедрение в практику технологий искусственного интеллекта, пока еще далеких по своим возможностям от того, что просматривается вдалеке. Однако сопоставление с этими далекими и не очень ясными перспективами позволяет увидеть глубину происходящего.

Идея опасности для человека созданных им же самим разумных существ идет еще со времен Античности. Чудовище Франкенштейна будоражило воображение в XIX в., а с началом разработки технологий искусственного интеллекта был найден наиболее подходящий кандидат на роль существа, восстающего против человека.

С. Хокинг, например, выражал опасение, что супермощный искусственный интеллект может расправиться с человечеством, как с семьей муравьев. Мало кто из людей, — аргументировал он, — разрушит муравейник со зла. Но если вам нужно поднять уровень воды для обеспечения работы ГЭС, то вряд ли вы будете принимать в расчет затопление муравейника. Сверхумный ИИ будет очень хорошо справляться с задачами, и если его и наши цели не будут совпадать, у нас будут огромные проблемы.

Образ, нарисованный Хокингом, предполагает, что решение задач — высшая ценность для ИИ. Если люди утеряют интеллектуальное лидерство, их ценности перестанут главенствовать и не будут выступать чем-то, с чем нужно считаться, торя магистральную дорогу истории.

По мнению И. Гуда, способность человека создать интеллектуальную машину, превосходящую его возможности, приведет ко все ускоряющемуся созданию машин с нарастающими интеллектуальными способностями: первая ультраинтеллектуальная машина является последним изобретением, которое человек должен когда-либо делать.

Во главу угла ставятся всеобщие ценности, квинтэссенцией которых является «вселенский прогресс интеллекта». Пафос движения за и через человека и «слишком человеческое» иногда проскальзывает в постгуманизме. В этом чувствуется романтика готовности к гибели, чтобы вырастить великое будущее.

Противоположная позиция — абсолютная ценность индивидуального человеческого существования. Она находит отражение, например, у Н.Ф. Федорова в идее использования технологического прогресса для достижения ценностных идеалов. В этом плане цивилизационное назначение техники, в т.ч. искусственного интеллекта — реализовать исконное стремление человека к справедливости, счастью, бессмертию.

Большинство людей, безусловно, примыкают ко второй ценностной позиции. Проблема, однако, заключается в возможности, во-первых, людям, странам и социальным институтам договориться о целях создания искусственного интеллекта и не превратить его в средство или арену борьбы, а во-вторых, не допустить случайного формирования могучих искусственных агентов с бесчеловечными ценностями. История часто состоит в том, что совокупные действия множества людей приводят к результату, которого не хотел никто из них.

Представляется важным держать эту более удаленную оптику, рассматривая сегодняшние проблемы искусственного интеллекта.

Теперь перейдем к описанию тех процессов в человеческом обществе, которые возникают уже в связи с нынешним уровнем искусственного интеллекта и его ближайшим прогнозируемым развитием. Внедрение любых технологий перестраивает жизнь людей и требует психологической адаптации, но искусственный интеллект в этом плане занимает особое место. Даже те устройства, которые просто решают, лучше или хуже, задачи, решаемые также человеком, могут влиять на различные процессы в обществе.

Одно из ближайших по времени событий в этом плане — внедрение систем искусственного интеллекта в управление транспортом. На наших глазах формируются устройства, обеспечивающие автономное управление автомобилем — от навигаторов и круиз-контроля до системы удержания автомобиля в полосе, автопарковщика и т.д. Это, казалось бы, вполне позитивное и прогрессивное явление оказывается, однако, на деле не столь простым, например, в плане обеспечения безопасности. Тонким получается момент обратного принятия человеком функции управления на себя, как показал опыт Гугломобиля. Возможность положиться на работу искусственного водителя в какой-то момент снимает у человека чувство ответственности за происходящее на дороге, что может не позволить ему в полной мере включиться в процесс управления, когда это потребуется.

В то же время необходимость полагаться на надежность электронного водителя может приносить душевный дискомфорт. Внедрение технологий искусственного интеллекта должно повышать качество жизни, увеличивать безопасность, психологический комфорт. Однако в действительности эффект может быть иным, и побочные продукты внедрения искусственного интеллекта без должного социо-гуманитарного сопровождения могут вести к повышению тревожности, напряженности у людей.

Маркетологи автокорпораций предсказывают значительный период сосуществования обычного автомобиля с автономным, причем последний, будучи существенно дороже, должен быть способен предложить потребителю серьезные преимущества. В каком-то смысле преимущество очевидно, поскольку происходит избавление от труда. Однако при этом теряется и удовольствие. На протяжении десятилетий автопроизводители рекламировали потребителям удовольствие от вождения их автомобилей, «драйверские автомобили» и т.д. Теперь, однако, предлагается от этого удовольствия отказаться, заплатив серьезные деньги. Более того, у водителя, передавшего управление автомобилем автомату, возникает тревога, связанная с потерей того, что психологи называют «иллюзией контроля» — человек испытывает большую уверенность в благоприятном исходе, если сам может каким-либо образом влиять на ситуацию.

В более общем плане возникает проблема передачи машинам контроля над сферами жизни, которые до сих пор находились в ведении людей. Искусственный интеллект, заменяя человека в его когнитивной деятельности, конечно, способен избавить от многочисленных малоприятных и утомительных дел и драматически повысить производительность труда, точнее — предоставить на благо человечества почти не ограниченные объемы производимого автоматическими устройствами труда. Однако он и лишает удовольствий, более того — грозит затронуть функции главного действующего лица, субъекта собственной жизни, т.е. смыслообразующий стержень человеческой психики. Наконец, это означает передачу ответственности устройству, которое не обладает сознанием и, как следствие, не является вменяемым в юридическом и психиатрическом смыслах. Все это ставит перед социо-гуманитарными науками задачу выработки такой концепции передачи некоторых когнитивных функций искусственным устройствам, которая бы способствовала реализации человеком своих смыслов в жизни.

Далее, передача когнитивных функций человека искусственным устройствам неизбежно связана с уничтожением рабочих мест для людей и возможной безработицей по причине автоматизации. Так, в связи с тем же автономным автомобилем работу могут потерять профессиональные водители — такси, общественного и грузового транспорта. Для России, например, это — миллионы человек.

А если искусственный интеллект окажется способен работать в области бухгалтерского учета и логистика, торговли и архитектурного проектирования, перевода и регистрации документов, то с неизбежностью произойдет перераспределение сфер занятости, причем не совсем понятно, где остановится экспансия искусственного интеллекта.

Этот сюжет фактически повторяет на новом витке историю начала XIX века — развитие информационных технологий грозит привести к тем же последствиям, к каким привело широкое внедрение машин, а именно к протестам теряющих трудовые места работников, вылившимся в движение луддитов. На своей родине в Англии луддизм составил для правительства проблему, соизмеримую по масштабам с проходившими примерно в то же время наполеоновскими войнами.

В случае искусственного интеллекта машины, заменяя людей, создают вместе с этим и средства существования. Отсюда возникает перспектива всеобщего минимального гарантированного дохода, при которой приобретение профессии и труд перестают быть необходимым условием выживания человека. Жизнь вроде бы станет проще, но для психологов понятно, что свободное время и свобода выбора жизненных проектов с большой остротой ставят вопрос о смысле существования.

Еще один пласт опасений связан с тем, что искусственный интеллект может анализировать людей и социальные процессы, более того — активно на них влиять. Так, технологии искусственного интеллекта уже сегодня способны оценивать свойства человека по различным его проявлениям, прогнозировать поведение в различных ситуациях. Но также эти технологии способны создавать средства влияния: например, генерировать новые объекты — тексты, картинки, видео — с заранее заданным значением, например, создавать новые изображения известных предметов и людей или их видеоизображения. Сформировалось понятие «глубинной фальсификации», deep fakes, которое обозначает технологию, использующую глубокое обучение (deep learning) в целях создания достаточно правдоподобной ложной информации (fakes). В дальнейшем можно ожидать применения такого рода объектов как в психотерапии, так и для индоктринации.

Сказанное означает, что стараниями искусственного интеллекта для реципиента новостей мир чьих-то фантазий становится трудноотличимым от действительно происходящих событий.

Искусственный интеллект вызывает подозрения в контексте использования «Большим Братом», т.е. для выявления неблагонадежных и чрезмерно свободомыслящих граждан. Впрочем, пока эти технологии скорее используются коммерческими предприятиями в целях выявления потенциального интереса людей к совершению тех или иных покупок и последующего таргетирования рекламы, отслеживания передвижений пользователя, его предпочтений в социальных сетях, а также запросов в поисковых системах. Пусть это использование и относительно безобидно, но оно может вести к отработке технологий выявления индивидуальных уязвимостей людей с дальнейшим воздействием на них в нужном кому-либо направлении.

Искусственный интеллект в целом создает невиданные возможности вычисления психологических тайн людей и их слабостей, а также средств воздействия. В истории человечества происходит уменьшение физического принуждения, но повышение более эффективного принуждения путем манипуляций.

Источник: Человек и системы искусственного интеллекта: коллективная монография / Под ред. акад. РАН В.А. Лекторского. СПб: Юридический центр, 2022. С. 117–123.