Татьяна Черниговская: ХХI век как испытание человеческой цивилизации

26 октября 2021 года в Москве около двух десятков российских компаний подписали кодекс этики искусственного интеллекта, разработанный с учетом требований Национальной стратегии развития искусственного интеллекта на период до 2030 года, сообщают РИА Новости. «Современный мир неотделим от искусственного интеллекта, это цивилизационный проект, мы видим везде участие искусственного интеллекта, при этом отмечаются некоторые риски, но я бы их не демонизировал… вопрос, как государство и участники самого искусственного интеллекта будут заниматься их минимизацией», — сказал заместитель председателя правительства России Дмитрий Чернышенко в ходе Международного форума «Этика искусственного интеллекта: начало доверия». Вице-премьер Д. Чернышенко добавил: «Россия играет свою важную роль в этих международных процессах… Активный и полноправный участник. И в 2020 году в ЮНЕСКО при участии российских экспертов разработали международные рекомендации по искусственному интеллекту. Мы рассчитываем, что до конца года этот документ будет ратифицирован и будет доступен для использования всеми странами».

Директор Института когнитивных исследований, заведующая кафедрой проблем конвергенции естественных и гуманитарных наук факультета свободных искусств и наук Санкт-Петербургского государственного университета, доктор биологических наук, доктор филологических наук, профессор, член-корреспондент РАО Татьяна Владимировна Черниговская выступила на 15-м Санкт-Петербургском саммите психологов в рамках панельной дискуссии «От рефлексии — к действию! От обретения смыслов — к созиданию будущего! Как год пандемии с его утратами, испытаниями и запретами повлиял на человечество?» с докладом «ХХI век как испытание человеческой цивилизации».

Эпиграф к моему сегодняшнему выступлению это строки Иосифа Бродского, которые глубоко потрясли меня, когда я, как обычно, случайно на них наткнулась:

Уйдя из точки “А”,
там поезд на равнине
стремится в точку “Б”.
Которой нет в помине.

Реагируя на то, что сказали двое ведущих, я скажу, что меня тоже очень волновали мысли Августина Блаженного на эту тему. Разумеется, ничего хорошего я из этого дела не вынесла за исключением ассоциации из Роджера Пенроуза, нобелевского лауреата по физике, что всё это квантовые скачки и ничего путного, не выйдя за пределы этого мира, мы вынести не сможем.

Я не раз неосторожно высказывалась о том, что не люблю Ивана Петровича Павлова. А не любила я его по той причине, что он не только не занимался проблемой сознания, он запрещал произносить это слово у себя в лаборатории. Я думала: «А почему он так делает? Ведь он же умный человек». Сейчас я думаю, что он боялся. Поскольку это не салонная беседа, а серьёзные исследования, что с этим делать в контексте физиологии было непонятно (и кстати немногим более ясно сейчас), учёный отстранялся от этой темы. Небеса меня за это дело наказали, потому что пару недель назад мне дали премию имени Павлова.

Время ставит перед нами экзистенциальные вопросы, потому что эти полтора года сидения в тюрьме, помимо всех ужасов, с которыми столкнулось человечество, дали немного остановиться и подумать на тему того, кто мы такие, что мы здесь делаем. Что говорить о будущем? Общеизвестная шутка: «Хочешь насмешить создателя — расскажи ему о своих планах».

Каким бы мы хотели видеть будущее человечества? Мы — это те существа, которые потребляют как можно больше попкорна. Какими мы хотим видеть людей, которые будут жить на этой планете? Что и как мы должны для этого делать?

И насчёт искусственного интеллекта: меня всё время обвиняют в том, что я алармистка и всех пугаю. Я, конечно, алармистка, но не до бесконечности, у меня есть конкретные претензии к искусственному интеллекту, они не на тему восстания машин.

Остаются так называемые «трудные проблемы», они требуют ответа от всех наук сразу. У нас есть достаточные средства в естественных науках, чтобы обнаружить принципы, по которым действует мозг (причём мозг в высших его проявлениях, не в случае с условными и безусловными рефлексами)? Мы можем или застенчиво делаем вид, что можем? А вот такие вещи, которые вроде бы относятся только к людям, — язык, сознание, квалиа — это правда исключительно человеческое? Ответ очевиден, но можем ли мы это доказать? Я не вижу способа. Эксперименты над мозгом проводятся, но над каким именно? Над мозгом представителей других биологических видов, поскольку на людях нельзя. А у нас есть серьёзные основания для того, чтобы переносить данные о животных на людей? Это не такой уж и тривиальный вопрос.

Мы знаем, что в голове есть некие «модули», функциональные «куски» мозга, есть «сети», «гиперсети», «сети сетей», коннектомы и когнитомы (чем, в частности, занимается К.В. Анохин). И вот, когда выходят «игрушки» с искусственным интеллектом, мы всерьез планируем воспроизвести там наш внутренний мир? Мы не заигрались?

И вот дивный новый цифровой мир настал. Программы легко побеждают людей в игре в шахматы, и когда победы искусственного интеллекта шли одна за другой, то нам говорили: «Ну хорошо, шахматы, конечно, — сложнейшая игра, но всё-таки это перебор операций, есть и посложнее, типа игры в боа». И вот искусственный интеллект победил в боа южнокорейского чемпиона Ли Седоль. В ответ я отпустила шутку, что есть игры ещё сложнее, вроде покера, где блеф, чёрные очки и всё такое. В итоге они «взяли» и это.

Мне интересно узнать, зачем мы вообще играем в создание искусственного интеллекта. Для того, чтобы понять, как устроен мозг? Неплохой ответ, результат мало оправдает ожидания, но ничего. Чтобы понять, как из нас сделать франкенштейнов, чтобы мы перерабатывали больше информации? В ответ я задаю вопрос: «А зачем это надо делать?» Для этого нам нужно оцифровать весь наш мозг, включая эмоции? Как вы собираетесь это сделать и в какой момент? За секунду перед смертью, когда мозг распадается? Или, может быть, чтобы облегчить нам жизнь, делегируя тяжёлую работу искусственному интеллекту? Этому я возражать не стану: пусть вместо меня убираются пылесос и стиральная машинка. Но как раз об этом говорят относительно мало.

Системы искусственного интеллекта всячески проникли на нашу территорию. Я хочу обратить внимание на программы Stock Fish и Alpha Zero. Alpha Zero относительно медленная, перебирает всего 80 тысяч позиций в секунду, а её контрагент Stock Fish перебирает — 70 миллионов. В шахматы выиграла первая за счёт того, что стала использовать «глубокую интуицию», холистическую стратегию, загоняя соперника в угол. Когда эту историю анализировали специалисты, профессиональные игроки, они сказали, что эту стратегию иначе как «инопланетной» не назвать, так никогда не играли люди.

На петербургском форуме, который только закончился, и в Сколково, где я не раз бывала, те, кто занимается искусственным интеллектом, часто говорят: «Бросьте вы народ пугать глупостями, мы же сами владеем системой и чему научим, то получим». Это очень наивная точка зрения. Ведь искусственный интеллект уже умеет больше, чем они.

Да, мы очень сложные существа, причём даже самые глупые из нас. Нам говорят: «У нас многозадачная, быстро меняющая среды, постоянные стрессы». А было когда-нибудь иначе? Если вы в джунглях голый, без шерсти, без когтей, все вокруг хотят вас съесть, то, я вас уверяю, стресс это не меньший, чем Уолл-стрит. Единственное, что не было таких скоростей, мы страшно разогнались, интересно бы узнать, куда спешим. На что раньше уходили тысячи и сотни лет, затем годы, сейчас уходит неделя. Тебе говорят, что твой телефон уже не может работать с такими платформами. Я не хочу себе телефон, который печёт блины и улетает на Марс, я хочу телефон-телефон. Говорят, так больше не бывает.

Исчезает способность верификации информации. Мы не знаем, чему верить. Современные технологии так роскошны, что они вам сделают копии или подделки. Повсеместное нарушение договорённостей везде и всюду. Все правила игры рухнули, никто ничего не соблюдает.

У человеческого мозга сложнейшая нейронная сеть, она всё сложнее и сложнее. Если раньше считалось, что есть 10 видов нейронов, то теперь их тысяча, сеть постоянно переписывается. В тот момент, когда мы снимаем какие-то показатели, это уже неважно, потому что через момент они изменятся. Что с этим делать? Если усреднять, то кого с кем? Академика с алкоголиком или они в одном лице?

Существует число Данбара, оно многим здесь известно. Это допустимое число социальных связей, исходя из размеров мозга. Так, у человека должно было бы быть около 150 связей, из них — примерно 15 близких. Теперь откройте сумочку или карман и посмотрите в телефон. Там — тысячи людей. У нас хватит сил? Ведь мы имеем дело с гиперсетями и в мозгу, и в социуме. Последние наслаиваются друг на друга, рвутся и перестраиваются, не факт, что мы уследим за этим. Дети, которые родились в новую эпоху, не рождаются с биологически другим мозгом, но он становится иным, потому что они с материнской утробы хватаются за гаджеты. И теперь это другие люди.

Этические и юридические нормы рухнули, они не функционируют. Если кто-то помнит, был роман Уильяма Голдинга «Повелитель мух», в котором дети оказались на острове без взрослых и начали выстраивать социум. Без хоть какого-то надзора там происходили страшные вещи. И, между прочим, это место, в котором мы сейчас оказались.

Итак, вокруг нас мир. Он прозрачный, всё время меняющийся, он невероятно быстрый, мерцающий. С этого боку посмотришь — вроде этак, с этого — иначе.

Что мы имеем: есть автономная жизнь цифрового мира и интернет вещей. Сети самоорганизуются согласно закону организации сетей, вне зависимости от того, речь о реальных человеческих сетях или социальных сетях в интернете. Недоверие к информации растёт и, наконец, цифровая реальность становится признаком отбора в социуме. Если представить себе какую-то страну посреди джунглей, где нет интернета. Такое государство не участвует в «общем спектакле», это другой мир.

Тревог у нас тоже сколько хочешь. Это синдром отложенной жизни, о котором при психологах и говорить неловко, провоцирующий ощущение, что мы живём как бы «черновик» своей жизни. Но никакого «чистовика» не предвидится, что идёт, то и идёт. Подступает и цивилизация праздности. Мы дезориентированы в том, как жить на этой планете.

В итоге мы живём в новых условиях, где подделки качественнее оригиналов. Появилась живопись за авторством искусственного интеллекта, нейросети пишут музыкальные произведения, тексты.

Тот же канал, по которому мы даём информацию «туда», тащит её обратно. Иллюзий быть не должно. Потому нейроэтика и нейроюриспруденция — это то, чем сейчас занимаются на уровне ООН и ВОЗ, пока безуспешно, но выхода-то нет, ведь мы не можем жить в мире, который не регулируется ничем. Возникают такие вещи, как биохакинг, не говоря уже о геноме.

Чему учить в формате онлайн-образования? Особенно учитывая лавину знаний, которая валит на нас каждый день? Кто тот смельчак, который скажет: «Остановимся здесь»? Остановимся на Ньютоне, а остальное скроем от детей. Или, наоборот, расскажем новое, а то, что было в середине, уберём. Кто пойдёт на это, кто рискнёт? Может быть, нужно учить метакогнитивным вещам: как справляться со стрессом, как удерживать внимание. Объяснять детям, почему важно знать факты, когда есть «Алиса» и Google. Никто не хочет выпускать дилетантов.

Вспоминается определение С.П. Капицы: «Человечество — это нелинейная система». А заканчиваю я вот на чём: «Чем дальше, тем страньше». Так говорила Алиса у Льюиса Кэрролла. Мы правильно идём, пытаясь понять, кто мы такие? Насколько культура противоречит биологии? Кто переигрывает, выигрывает? Когда мы ходим по этой дороге, мне пришло в голову то, на что я, как обычно, случайно наткнулась. Гениальный композитор Гия Канчели называл это «сложной простотой». Это выглядит как простая вещь, но оно только выглядит так. А на самом деле — запредельная степень сложности, большая глубина, и этим занимается искусство. Почему искусство не может быть десертом, который «хочу ем или хочу не ем»? Искусство — крупный игрок, сжатое время, сжатая мысль. Оно показывает нам, каков мир людей. Бродский, прочувствовав подобное, писал: «Простую мысль, увы, пугает вид извилин». Мы не должны потерять контроль над действительностью, базовые представления о том, где верх и низ, где право и лево. Нам необходимо выстроить новые этические нормы. Хаоса и так хватает, давайте его не добавлять.

Доклад был сделан на 15-м Санкт-Петербургском саммите психологов в рамках панельной дискуссии «От рефлексии — к действию! От обретения смыслов — к созиданию будущего! Как год пандемии с его утратами, испытаниями и запретами повлиял на человечество?». Смотрите полную видеозапись выступления: