Цифровизация — лозунг нашего времени. О ней говорят политические деятели разных стран, с нею связывают перспективы экономического развития, работу сферы финансов, административного управления, обороноспособность страны. Она интенсивно вторгается в область образования, как это воочию продемонстрировано во время эпидемии коронавируса. Идёт цифровизация биомедицины. Есть серьёзные основания считать, что именно те страны, которые сумеют осуществить глобальную цифровизацию жизни, станут в ближайшем будущем мировыми лидерами.
Но ведь то, что имеется в виду под цифровизацией, не что иное, как новейший этап информационного общества, которое успешно развивается во всём мире уже на протяжении последних 30 лет. Цифровизация — не что иное, как особый (цифровой) способ кодирования информации. И это такой способ, который позволяет колоссально увеличить скорость распространения информации, создаёт принципиально новые возможности для обработки огромных её массивов.
Цифровизация предполагает использование систем искусственного интеллекта. Без неё были бы невозможны персональные компьютеры, смартфоны и айпеды. Без неё не мог бы существовать Интернет.
Без неё не мог бы существовать сам современный человек, который настолько интегрирован в различные информационные потоки, настолько погружён в виртуальную цифровую реальность, что не представляет себе иной жизни.
Сегодня решение разных практических проблем ищется на пути цифровизации, и эти решения, как правило, находятся.
Однако, как это обычно бывает, решение одних проблем порождает новые. При этом многие новые проблемы, возникающие в связи с глобальной цифровизацией, настолько серьёзны, что заставляют думать о том, что мы стоим перед лицом экзистенциального вызова. Некоторые современные мыслители говорят в этой связи об антропологической революции, другие — об антропологической катастрофе, третьи — о том, что это и первое, и второе одновременно.
Попробую осмыслить эту ситуацию.
Кажется, что на пути цифровизации человечество может осуществить то, о чём люди мечтали на протяжении столетий. Можно иметь свободу в получении информации из источников, разбросанных по всему миру, просчитывать последствия тех или иных экономических и политических действий, избавиться от недостатков существующих политических систем посредством т.н. «электронной демократии» (выражение политического волеизъявления через Интернет и социальные сети, т.е. нечто вроде прямой — в отличие от представительной демократии), получать полноценное образование независимо от места проживания (можно жить в глухой африканской деревушке и слушать лекции лучших профессоров Оксфорда), становится возможным многое другое. Человек как бы вырывается за пределы пространства — места своего проживания и за пределы времени — истории той или иной культурной общности, так как теперь люди сами могут создавать общности по интересам, члены которых обитают в разных регионах мира. Выгоды от цифровизации действительно неоспоримы.
Выясняется, однако, что новые возможности сопровождаются новыми и очень серьёзными проблемами. Так, например, возможность просчитывать результаты тех или иных действий в сфере экономики означает если не исчезновение рынка, то в любом случае радикальную трансформацию рыночных отношений. Цифровизация финансовых операций (блок-чейн) ставит под вопрос необходимость существования банков. Автоматизация всё большего количества видов деятельности влечёт за собою исчезновение огромной массы профессий и создаёт проблему занятости для множества людей. «Электронная демократия» не может отменить необходимость существования профессиональных политиков и политических экспертов, а это значит, что проблемы, связанные с их деятельностью (которая может руководствоваться узкогрупповыми интересами), остаются. Обучение онлайн не заменяет личного общения преподавателя и ученика в реальном, а не виртуальном мире: чтение лишь электронных учебников («цифровое чтение») и коммуникация через Интернет не дают полноценного образования.
Это серьёзные проблемы, решение которых связано с важнейшими сторонами человеческой жизни. Их нужно обсуждать специально. Я в данном тексте остановлюсь лишь на некоторых из них, связанных с происходящей трансформацией коренных условий человеческого бытия. А эти условия претерпевают сегодня серьёзную ломку именно в связи с цифровизацией, с внедрением в нашу жизнь искусственных интеллектуальных систем.
Кант считал, что философия должна ответить на три главных вопроса: что я могу знать, что я должен делать, на что я могу надеяться? Ответ на эти вопросы, как он справедливо считал, определяет, что такое человек. Попробую показать, какую форму эти вопросы и возможные ответы на них приобретают в эпоху цифровизации.
Сначала о том, что можно знать в этих условиях.
Адепты и фанатики цифровизации считают, что сегодня «знать» может означать только одно: уметь вычислить. С этой точки зрения полноценно о чём-то знать могут только интеллектуальные технические устройства, умные машины. Именно на такую машину нужно теперь полагаться даже в простейших жизненных ситуациях. Искусственный интеллект будет знать вас лучше, чем вы знаете самого себя: он будет постоянно отслеживать состояние вашего здоровья, будет заказывать необходимые вам лекарства, следить за тем, чтобы вы эти лекарства принимали, или даже будет сам вводить их в ваш организм, не считая необходимым ставить вас об этом в известность. «Умный дом» будет знать, что вам нужно иметь у себя дома, например, какие продукты должны быть в холодильнике, он будет сам заказывать эти продукты, рекомендовать вам меню и образ жизни.
Индивидуальная идентичность конструируется с помощью знания о своём прошлом. Как считает один современный философ, «Я — это центр нарративной гравитации», где нарратив — это рассказ себе о собственном прошлом, автобиографическая память [1]. Но идущая сегодня цифровизация памяти создаёт принципиально новые возможности для вмешательства в человеческую жизнь. Ведь действия человека оставляют цифровые следы, которые доступны внешним инстанциям, способным его контролировать. В некоторых странах передвижения, человеческие контакты, разговоры уже сегодня регистрируются и оцениваются в баллах, в соответствии с которыми предоставляются те или иные жизненные блага или накладываются санкции.
Если ваша опредмеченная память попадает в общее публичное пространство, она становится достоянием других людей, о которых вы не знаете. Они могут обращаться с ней, не спрашивая вашего разрешения и не считаясь с вашими интересами. Сегодня нередко фотографии, помещённые в Инстаграм*, используются другими людьми без ведома тех, кому они принадлежат, и даже во вред им. Но если ваша опредмеченная память в виде фотографий, видеороликов или аудиозаписей — это не что иное, как объективированная часть вашей личности, важная составляющая вашей идентичности, то это значит, что другие люди могут манипулировать вами, вашей идентичностью и вашей памятью и посягать на вашу автономию.
Сегодня с помощью цифровых манипуляций легко создавать фотографии таких событий, которых в действительности не было. Создаются особого рода «цифровые памятники» ушедших людей, в которые включаются написанные ими тексты, фотографии, видеоролики, аудиозаписи. Самое интересное в том, что можно, некоторым образом, взаимодействовать с этой оцифрованной памятью и даже вступать в особого рода «переписку» с покойным.
Большинство людей ведут записи о событиях собственной жизни с помощью смартфонов (цифровые фотографии с указанием дат их создания), блогов, участия в социальных сетях. Популярна программа Life Log, которая позволяет не только фиксировать время вашего сна и количество сделанных за день шагов, но также места вашего пребывания и проделанный путь.
Представим себе, что в недалёком будущем вы будете записывать цифровым способом все события вашей жизни (есть немало энтузиастов этой идеи). Кажется, что это позволит объективно сохранить память о себе и передать её потомкам. Представляется, что таким путём вы можете как бы обессмертить себя, продолжать вечно существовать на цифровом носителе в сознании тех, кто будет жить после вас. Но оказывается, что между памятью, сознательно переживаемой вами, и вашей памятью, оцифрованной и вынесенной вовне, существует серьёзная разница, и это создаёт ряд проблем. Дело в том, что каждое воспоминание о событии вашей жизни не похоже на предыдущие воспоминания о том же событии. Ибо ваша жизнь постоянно меняется, и то, что происходило, всякий раз осмысливается в новом контексте. Но если память о чём-то записана в цифровом виде, то это сделано жёстким способом, и само по себе обращение к памяти не может в ней ничего изменить. Это «неживая» память, она как бы отделяется от вас и выступает как нечто внешнее. Есть ещё одна проблема. Вы оживляете в виде воспоминаний только то, что для вас важно и нужно сейчас. Но оцифрованная память не обладает таким свойством. Она навязывает вам то, что в данный момент вам не нужно, о чём вы не хотели бы сейчас вспоминать, а возможно, вообще хотели бы забыть. К тому же в этой памяти слишком много всего записано. И это не помогает вам жить, а сковывает вас. У этой памяти есть ещё одна неприятная особенность. Если ваши воспоминания вынесены в глобальное цифровое пространство (существуют в виде файлов в Интернете, записей в блогах, фотографий в Инстаграме*), то возникает возможность взламывания вашего цифрового архива и подделки воспоминаний. А если вы привыкли к жизни в цифровом мире и стали больше полагаться не на те воспоминания, которые всплывают в сознании, а на те, которые оцифрованы, то начнёте принимать подделанные воспоминания за то, что происходило с вами на самом деле, т.е. начнёте жить не своей жизнью, а той, которая кем-то искусственно создана за вас [2].
Вы перестаёте быть владельцем информации о своей жизни и её хозяином. Ваше личное пространство оказывается как бы взломанным, и вы становитесь предметом управления со стороны других людей. Современный немецкий исследователь М. Майер-Шёнбергер в книге с характерным названием «Удалить: ценность забвения в цифровую эпоху» считает, что впервые за свою историю человечество вступает в такую стадию, когда возникла возможность существования «вечной памяти» без забвения, и это серьёзная угроза индивидуальной автономии и частной жизни, всему человеческому в человеке [3].
Намерение приобрести с помощью цифровизации невиданную свободу оборачивается тем, что человек перестаёт понимать окружающий мир и самого себя, теряет автономию, попадает в рабство к искусственному интеллекту.
Зато с помощью последнего возможен анализ т.н. «больших данных», что не в силах сделать естественный интеллект. На основе такого анализа делаются успешные предсказания в тех областях жизни, которые до недавних пор были полны неопределённости: сферы бизнеса, администрирования, здравоохранения. Обработка «больших данных» сегодня используется в ряде естественных, социальных и гуманитарных наук: биологии, социологии, лингвистике, литературоведении, истории искусства и др. Появился даже термин “Digital Humanities” — «цифровые гуманитарные науки» [4]. Некоторые философы стали писать о том, что наступил «конец теории», ибо вместо выдвижения теоретических гипотез, которые должны определённым путём сопоставляться с экспериментальными фактами (что непросто и в интеллектуальном, и в финансовом отношении), можно прибегнуть к машинной обработке огромного массива данных и выявить корреляции, существующие между разными данными [5]. В этой связи популярен тезис о том, что большие данные «говорят сами за себя», что в философской теории познания должен произойти новый возврат к эмпиризму на основе понимания познания как вычислительной обработки больших массивов информации.
Но что это значит с точки зрения познания и знания?
В этой связи я хочу обратить внимание на два обстоятельства.
Первое. Научную теорию невозможно непосредственно вывести из эмпирических данных, сколь ни было бы велико их количество. Это связано с тем, что теория строится на основе некоторых идеализаций и идеального экспериментирования. Так, например, одно из основоположений классической механики, возникновение которой означало начало современной науки, гласит, что любое тело, на которое не оказывается никакое внешнее воздействие, либо покоится, либо движется бесконечно, прямолинейно и равномерно. Очевидно, что ничего подобного в опыте в принципе не может наблюдаться. Однако же именно на основе этой и некоторых других идеализаций было построено здание классической механики, с помощью которой стало возможно не только понять опытные данные, но и делать успешные предсказания и создавать новые технические устройства. Если бы в XVII и XVIII вв. существовали способы цифровой обработки массива «больших данных», и они использовались бы вместо построения теорий, ясно, что никакой науки в нашем смысле слова мы не имели бы.
Правда, как я отметил, некоторые философы считают, что возникновение способов машинной обработки «больших данных» как раз и означает «конец теории». Согласно этой точке зрения научная теория отныне не нужна: искусственный интеллект может хорошо делать предсказания, обходясь без всяких таких построений.
Но в этой связи я хочу обратить внимание на второе обстоятельство для понимания того, каким становится познание и знание в такой ситуации.
Дело в том, что даже если можно делать хорошие прогнозы на основе обработки «больших данных» с помощью искусственного интеллекта (а это действительно делается), то для человека такой прогноз часто является неожиданным. В отличие о того, что имело место в отношении предшествующих технических устройств, поведение систем, работающих на базе искусственного интеллекта, неопределенно и непредсказуемо для человека. Цифровая технология выходит из-под его контроля. Прогнозы, производимые на основе анализа «больших данных» и основанные на обнаружении корреляций между разными группами событий, как правило, не выявляют причинных зависимостей, не содержат объяснений и поэтому не помогают понять того, что происходит и почему нечто ожидается [6]. До сих пор возможность справиться с неопределённостью предполагала получение контроля над ситуацией, а это, в свою очередь, означало понимание существующих причинных зависимостей. Именно на основе понимания таких зависимостей можно создавать технические устройства, которыми человек может управлять и с помощью которых он способен контролировать результаты своих действий. А в случае цифровой обработки «больших данных» с целью предсказаний человек оказывается в положении слуги, который должен выполнять идущие от хозяина предписания, смысла которых он не понимает (правда, их смысла не понимает и сам искусственный интеллект). Для человека жизнь не становится более определённой, но положение автономного деятеля он утрачивает, а жизнь его обессмысливается.
Теперь о том, что я должен делать в эпоху глобальной цифровизации.
Очевидно, что в таких условиях, когда вы теряете индивидуальную автономию, не вы будете решать, что нужно делать: именно умные технические устройства будут предписывать вам эти решения. Хочу обратить внимание ещё на некоторые связанные с этим обстоятельства.
На основе анализа «больших данных», собранных о поведении некоторого человека, умная машина может предсказать большую вероятность совершения им противоправного поступка, а может быть, даже преступления. Возникает большой соблазн использовать эти предсказания для предотвращения нежелательных (а может быть, даже весьма опасных) событий. В интересах общественной безопасности определённые инстанции могут решить, что не нужно дожидаться, когда этот человек совершит опасный поступок: нужно помешать ему сделать это, т.е. арестовать его. Но ведь подобные действия подрывают тот принцип, который лежит в основе всей нашей культуры и всей правовой системы: человек отвечает только за те действия, которые он совершил, а не за то, что он мог бы сделать, так как обладает свободой воли, т.е. в любой ситуации может поступить так или по-другому. Отказ от принципа свободы воли ломает все представления об индивидуальной самостоятельности и ответственности. Нужно, однако, иметь в виду, что рост рискованных ситуаций и вместе с тем возможность с помощью анализа «больших данных» прогнозировать поведение не только больших масс людей, но и отдельных индивидов, может соблазнить контролирующие инстанции: толкнуть их к тому, чтобы пожертвовать принципом свободы воли и тем самым отказаться от одного из коренных условий человеческого бытия.
Наконец, на что же можно надеяться в этой ситуации.
Некоторые адепты глобальной цифровизации предлагают такую надежду. Они исходят из того, что человеческая личность — это не что иное, как некоторый массив информации, записанный в мозгу с помощью цифровых кодов. В недалёком будущем, считают они, будет можно расшифровать эту информацию и, если ваше тело состарилось, то информация о вас будет перенесена на другое тело, более молодое, а когда состарится и это тело, подобную операцию можно будет повторить. И так далее до бесконечности. Есть и более радикальное предложение: переносить информацию о вас не на человеческое тело, а на цифровой носитель, который практически не стареет. Это значит, что вы будете жить вечно. Тем самым, говорят сторонники этой идеи, будет осуществлена всегда владевшая людьми мечта о бессмертии. Это будет «цифровое бессмертие». Сегодня в мире существует немало людей (физики, нейроучёные, психологи, философы, футурологи), которые не только верят в подобную возможность, но и пытаются вести практическую работу в этом направлении. На сайтах футурологов даже указывается, когда примерно осуществится «цифровое бессмертие» — считается, что это произойдёт уже в этом столетии.
Между тем эта идея сомнительна и опасна.
Попробую показать, почему.
Начну с того, что даже если считать человеческую личность массивом информации, то нужно иметь в виду, что важнейшей частью этой информации является представление человека о самом себе — то, что называется «образом Я» (или «Я-концепцией»). А в этот образ входит представление о собственном теле. Конечно, тело каждого человека меняется — стареет, подвергается увечьям, возможно даже, что некоторые его части заменяются протезами. Но в любом случае представление о собственном теле и о непрерывном ряде его изменений — неотъемлемая часть «образа Я». Ведь именно с этим телом, которое находилось в те или иные моменты времени в том или ином месте и с помощью которого человек вступал в контакты с другими, связана его жизнь, его автобиографическая память, являющаяся основой индивидуальной идентичности. Если бы даже удалась пересадка индивидуальной психики на другой носитель (хотя это вряд ли осуществимо), то идентичность не удалось бы сохранить: возник бы другой человек (в известном рассказе Кафки «Превращение» описываются драматические переживания героя, который однажды обнаружил, что его «Я» пересажено в тело какого-то другого существа).
Но дело не только в этом. Если бы человек стал бессмертным, он перестал бы быть человеком. Ибо в таком обществе потеряли бы смысл важнейшие ценности, делающие человека человеком: забота о ближних, самопожертвование, мужество, сострадание. Утрата смысла смерти ведёт к утрате смысла жизни. Если бы «цифровое бессмертие» было возможно, нас ожидало бы не райское блаженство, а муки ада [7].
И — самое главное — не следует забывать, что даже если бы удалось осуществить «цифровое бессмертие», как об этом мечтают некоторые футурологи, в ситуации глобальной цифровизации жизни человек в любом случае оказался бы управляемым и контролируемым сверхмощным искусственным интеллектом. Если бы в этом случае у него осталось что-то человеческое, вряд ли он захотел бы такого бессмертия.
Выходит, что в этих условиях надеяться не на что.
В этой связи я хочу обратить внимание на ещё одно важное обстоятельство.
Дело в том, что цифровизация и искусственный интеллект нередко понимаются как способ справиться с риском неопределённости — а последняя сегодня растёт, как об этом ещё раз свидетельствует вспышка эпидемии коронавируса. Кажется, что с помощью технических устройств можно в принципе контролировать протекание всех процессов в природе и обществе, влиять на них и направлять в желательное для человека русло. Но, как ясно сегодня, контролировать можно отнюдь не все процессы и не во всех случаях. Когда имеются сложно организованные и развивающиеся системы — а это большинство природных и социальных систем, то в тех ситуациях, когда последние близки к т.н. точке бифуркации, нельзя точно предсказать их поведение: можно только строить несколько сценариев их будущего, при этом степень вероятности того или иного сценария меняется по ходу дела. Но это значит, что сколь бы ни была развита вычислительная техника и сколь угодно большими ни были бы возможности искусственных интеллектуальных систем, нельзя в принципе преодолеть неопределённость в предсказании будущих событий. А это значит, что никакая технология не создаёт возможность управления процессами некоторого рода.
Наш известный учёный и философ Н.Н. Моисеев специально выделял процессы, которыми можно управлять, и такие, которые можно только направлять, т.е. создавать условия, способные влиять на ход этих процессов в сторону, благоприятную для человека, — при этом никогда не будет полной уверенности в том, что процесс пойдет именно в желаемом направлении [8].
Цифровизация не помогает уйти от неопределённости.
Это не может делать никакой сверхмощный искусственный интеллект. Неопределённость наряду с определённостью заложена в самой структуре мироздания. И это неплохо, ибо если бы всё было жёстко определено, невозможно было бы то, что человек считает наиболее ценным: творчество, диалог, любовь, моральный поступок.
Сегодня человечество стоит перед лицом антропологических вызовов. Многие из них связаны с глобальной цифровизацией на основе использования систем искусственного интеллекта. Цифровизация приносит немало благ, решает множество проблем, но также может создавать угрозы самому бытию человека. А это значит, что предлагаемые в рамках цифровизации проекты нуждаются в серьёзной философской экспертизе, направленной на гуманизацию информационных технологий и на культивирование высших человеческих ценностей: свободы, личной автономии, достоинства, идентичности, творчества, понимания, взаимопонимания [9, 10]. Философия бывает максимально востребована в периоды культурных и познавательных кризисов. Мы переживаем именно такое время.
Литература
- Dennett D. Consciousness Explained. Basil Bay Books. N-Y., Boston. L. 1991. Р. 418.
- Michaelian K. Is external memory memory? Biological memory and extended mind // Consciousness and cognition. 2012. 21, 1154–1165.
- Meyer-Schonberger V. Delete: the virtue of forgetting in the digital age. Princeton: Princeton University Press, 2011.
- Цифровая культура // Международный журнал исследования культуры. 2012. СПб.
- Anderson S. The End of Theory // Wired. June 2008.
- Мейер-Шенбергер В., Кукьер К. Большие данные. Революция, которая изменит то, как мы живём, работаем и мыслим. М.: Изд. «Манн, Иванов и Фербер», 2014.
- Лекторский В.А. Возможно ли постчеловеческое будущее? // Философия, познание, культура. М.: Канон-плюс, 2012.
- Моисеев Н.Н. Судьба цивилизации. Путь разума. М.: Языки русской культуры, 2000.
- Фролов И.Т. Прогресс науки и будущее человека. М.: Политиздат, 1975.
- Лекторский В.А. Человек и культура. СПб: Изд-во Санкт-Петербургского университета профсоюзов, 2018.
Источник: Лекторский В.А. Глобальная цифровизация как антропологический вызов // Человек и системы искусственного интеллекта / Под ред. акад. РАН В.А. Лекторского. СПб: Издательство «Юридический центр», 2022. С. 18–29.
* Инстаграм (Instagram) — запрещен в РФ, принадлежит компании Meta, признанной экстремистской организацией и запрещенной в России (прим. ред.).
.jpg)
Комментариев пока нет – Вы можете оставить первый
, чтобы комментировать