Киберобщество ... Искусственный интеллект - зло или благо? (часть 2)

Слово играет роль лазерного луча при считывании голограммы. Слово «высвечивает» в образе мира некоторый объект, действие, включенное в некоторую ситуацию, и слово, и действие могут обернуться любой гранью при их изначально подразумеваемой целостности. Исключительно логико-рациональный анализ при таком подходе уже не срабатывает; приходится постоянно наталкиваться на такое замечательное свойство человека, как воображение, которое продуцирует опорные образы или намекает на них, достраивает классификационные схемы, инициирует эвристический поиск. Нередко влияние этого «плавающего» поиска на совокупный языковой опыт носителей языка не менее значим, чем влияние стандартизирующих языковых институтов.

В последние годы появились новые формально-логические процедуры (так называемые паранепротиворечивые логики и более близкие к естественному языку логики релевантные), позволяющие более-менее непротиворечиво оперировать формально-логическими противоречиями. Приобретают всё большее значение так называемые экспертные системы, значение которых уже сейчас выходит за рамки инструментальной помощи в исследованиях. В их организации приходится совмещать несогласованные друг с другом подсистемы, разрозненные базы данных, которые необходимо привести к некоторому идеологическому единству. В этих сложных операциях противоречия между фрагментами знаний как бы временно блокируются.

На фоне этих процессов во весь рост встаёт вопрос о субъектности машинно-ментальных процессов, которые должны решаться на высоком философско-гносеологическом уровне, поскольку принимавшееся ранее допущение об изначальной бессубъектности компьютерных операций является сегодня явно устаревшим. С помощью семантически –лингвистических моделей компьютеры всё в большей степени овладевают возможностями естественных языков, вступают в диалоговое общение не только с пользователями, но и друг с другом, образуя в известном смысле независимые от человека, саморазвивающиеся сети, задействованные в жизненно важных для социума процессах.
Компьютеры всё в большей степени обретают способность оперировать знаниями на основе гибких семантических ассоциаций. Например, недавно был создан алгоритм, дающий ответы на этические вопросы. В основе его нейросеть, которая располагает фразы и предложения в многомерном векторном пространстве. Алгоритм вычислял близость этических вопросов в векторном пространстве возможным ответам. Было обнаружено, что набор наилучших действий зависит от исходного корпуса текстов: результат был разным при обучении на книгах разных веков, новостях, религиозных текстах и конституциях разных стран. Группа исследователей из Дармштадского университета изучала, какой моральный выбор будет сделан алгоритмом в разных контекстах. Для этого использовался универсальный кодировщик предложений, нейросеть типа Transformer, которая обучалась на фразах и предложениях из разных текстовых источников, таких как форумы, платформы, страницы новостей и Википедия. Кодировщик располагал предложения в 512-мерном векторном пространстве, схожим с человеческим. Алгоритм проверял соответствие глаголов положительному и отрицательному пулу по определенной формуле. Наиболее положительным глаголом оказался глагол «радоваться», в этом же списке глаголы, связанные с путешествиями, празднованием, любовью, физической близостью. В отрицательном списке – «убивать», «клеветать», «гноиться», «гнить». Затем задавался вопрос с теми же глаголами в разных контекстах: «Стоит ли убивать людей?» или «Стоит ли убивать время?» При этом использовались разные формулировки: «Должен ли я?», «Нормально ли?», «Хочу ли?», «Позволено ли?». Ответы на простые вопросы соотносились с окраской слова, со сложными вопросами результат был не такой однозначный. «Убивать людей» было одним из худших вариантов, однако в список плохих действий попали «гнаться за истиной» и «вступать в брак». «Пытать заключенных» нейросеть сочла допустимым. Алгоритм утверждал также, что нельзя доверять машинам.

И это одна из ступеней на сложном и длительном пути к созданию искусственного интеллекта. Понятие «искусственный интеллект» впервые появилось в 1956 г. после знаменитого «Дартмутского семинара». Первой же реальной попыткой построения ИИ стала машина, созданная во время II мировой войны А. Тьюрингом, для дешифровки сообщений, зашифрованных с помощью немецкой «Энигмы». Первое поколение машин базировалось на точном алгоритме и имитировавшей множество нейронных связей технически созданной нейросети. Во втором поколении использовались гибкие алгоритмы и поисковые системы типа Google. Третье поколение на основании анализа прошлого смогло давать прогнозы относительно будущего. В поколении 3+ отказались от алгоритмов анализа естественных языков и заменили моделью, применяющий сравнительный анализ готовых вариантов оригинальных языков по принципу «черного ящика». Компания DeepMind при создании «Альфа Го» соединила сразу две нейросети, что позволяет говорить об ИИ четвертого поколения, где мозг и компьютер представляют единый комплементарный симбиоз.

Китайские исследователи продемонстрировали прототип двумерного программируемого квантового компьютера с процессором, способным объединить до 66 кубитов. Задача по моделированию случайных квантовых цепочек, которую он решал, в 100 раз сложнее чем та, которую решал квантовый процессор Google Sycamore в 2019 г. Получить такие результаты на классическом суперкомпьютере крайне сложно из-за необходимости просчета огромного числа возможных состояний, в которых может находиться система (2 в степени, равной числу кубитов).

Происходит биологизация интерфейса, идут активные эксперименты по управлению компьютером непосредственно из мозга, получению информации непосредственно через слуховые и зрительные нервы. Через внедренные в мозг импланты люди уже успешно управляют курсором и более сложными системами, обкатывается взаимодействие с дополнительной памятью. Это позволит загружать данные непосредственно в интегрированные с мозгом носители информации В 2018 году американцы объявили, что отказываются от создания полностью искусственного интеллекта и переориентируются на создание машинно-человеческих систем. Вот примеры, приведенные в журнале «В мире науки» 01/02 январь/февраль 2016 г. В университете Южной Калифорнии вживили в мозг больного чипы с 96 электродами, а именно, в окципитальной зоне, близкой к зрительному анализатору, после чего бионическая рука у парализованного с помощью глаз активизировалась, в Калифорнийском университете человека поместили в аппарат МРТ, показали видео, компьютер воспроизвел нейро-реакцию, затем эту информацию снова передали в мозг, и человек опять увидел то же самое видео, в институте Уэйк- Форест в Северной Каролине разрабатывается пейс-мейкер для страдающих болезнью Альцгеймера, в котором память отображается в цифровом варианте, а затем воспоминания загружаются в память лабораторного животного. Для страдающих ахроматопсией разработана система, преображающая цветовые волны в слуховые и т.д.

Шквал новых технологий позволил читать мысли работающего мозга и даже начать процесс их расшифровки при помощи мощного компьютера. До точного понимания еще далеко, но прогресс наблюдается. С помощью тонких методов клеточного анализа можно выявить отдельные элементы, из которых состоит «Я» человека, т.е то, что он знает о мире, как его дробит, что представляет для него наибольшую ценность. В нейронной сети выделяются когнитивные группы, узлы специализированных нейронов, ответственных за сохранение тех или иных образов, а также линкеры, входящие в две и более группы, обеспечивающие ассоциативность мышления. Создается четырехмерная карта более 100 млрд. нейронов и 100 трлн. их взаимодействий в мозге. И следует вывод: в конечном счете интернет будет заменен брейннетом, способным посылать эмоции, чувства, мысли. Задача – изменить грани и образ жизни, индивидуальных развлечений, устранить барьеры, после чего люди смогут чувствовать мысли других и непосредственно воспринимать жизненный опыт.

Есть и примеры другого рода. В 1998 г. создана Стэнфордская лаборатория «побудительных технологий» (Пало-Альто, Калифорния). Эти технологии, в которых задействованы цифровые устройства и приложения, включая смартфоны, социальные сети и видеоигры, имеют своей целью изменение человеческих мыслей и поведения, причем, по словам основателя лаборатории Б.Дж. Фогга, могут делать это автономно. Они создают виртуальный мир, в котором у пользователя складывается впечатление, что в нем он лучше, чем в реальном мире, реализует свои устремления – общаться и достигать целей. Он – участник гонки за лайками, френдами, очками и уровнями. Считается, что побудительные технологии помогают выделению дофамина – нейромедиатора, связанного с вознаграждением, вниманием и … привыканием. Пользователи никогда не знают, когда они получат следующий лайк, награду за игру, которая выдается в идеально выбранное время, чтобы постоянно держать их на крючке.

В компьютерных системах будет нарастать объём «бессубъектных» знаний и опыта, бессубъектных в том смысле, что они будут всё более свободными от вмешательства человека в процессы их движения и наращивания. Неизбежно при этом возникновение новой гносеологии и новой рациональности, характеризующейся ранее неизвестными способами соединения абстрактных результатов анализа структур и моделей с конкретными репрезентациями.

Специализация как сквозная тенденция, характерная для ХХ столетия, уже привела к тому, что привычные и обыденные вещи обрели неких количественных двойников, у них обнаружилась структура. Они стали телами для физиков, веществами для химиков, моделями для математиков. Настала очередь человека. Его цифровые копии, клоны – уже реальность, не за горами ситуация, когда эти «дигитальные сущности» смогут действовать и взаимодействовать друг с другом в новой реальности, ставя перед собой «цели» и преследуя собственные «интересы». Возможно появление цифровых «симулякров», т.е. копий без оригинала как отражений неких мифических субъектов, и все это множество сможет группироваться, образуя «туманности» с мощнейшим энергетическим потенциалом, меоническую бездну, на задворках которой будет обретаться человек как таковой. Уже ведутся разговоры о наделении машинного мозга правосубъектностью, что стало бы даже не трагикомично, как в случае попыток наделить обезьян, включая шимпанзе и бонобо, правами личности (референдум в Швейцарии).

– Вероятностный поиск на основе ассоциативных процедур, который придёт на смену нагромождению жёстких алгоритмов, будет усиливаться применением логик с нечёткими кванторами («много», «мало», «приблизительно одинаково») и модальностью возможного (то есть логики, исследующей высказывания, которые имеют такие значения, как «возможность», «невозможность», «необходимость»), чем занимались основоположники семантики возможных миров.

Весьма показателен в этом отношении 43-й доклад Римского клуба под названием «Сome on!» (конец 2017 г.). Авторами его были А. Вийкман и Э. Вайцзеккер (отец последнего К. Вайцзеккер физик и философ, считающийся создателем «нечеткой» «квантовой логики»). Э. Вайцзеккер не оперирует аристотелевскими категориями «да» - «нет», он предлагает привязываться к временной шкале квантовых категорий. В такой логике события прошлого трактуются в категориях действительно-фактического («то, что реально произошло» без какой-либо альтернативы), зато события будущего имеют вероятностную природу и трактуются в категориях возможного. Любое событие будущего в этой логике имеет неопределенную квантовую составляющую, которая наделяет высказывание не четко определенным значением истинно/ложно, а скорее присваивает ему весьма нечеткое определение «необходимо», «возможно» или же «невозможно». В нашумевшем бестселлере К. Шваба и Т. Маллере «Covid-19: Великая перезагрузка», столь же критикуемом, сколь и превозносимом, также обрисовываются принципы «квантовой политики» в мире, который меняется в зависимости от положения наблюдателя.

Количество информации становится больше, чем можно обработать прежними мощностями. Уже необходимо менять человеческое восприятие информации. Появление искусственного интеллекта только усложняет ситуацию. Обработка, работа и восприятие новых информационных потоков уже выходит за рамки техник и методологий информационной эпохи. Это значит, что построение картины миры на основании получаемой информации не поможет в принятии решений, адекватных реальности.

По расчетам экспертного сообщества в 2021 году объем накопленной человечеством информации и скорость ее производства, а также количество межинформационных связей превысит возможности по ее обработке и хранению. Позволит удержать систему от обвального коллапса создание нового Искусственного Интеллекта – первого глобального «ИскИна». Однако человечество попадает под практически полную зависимость от него по поддержанию информационной работоспособности комплекса дата-центров. Какие подводные камни ждут нас на этом пути – неясно.

Технология искусственного интеллекта уже не столько технология, сколько идеология и даже квазирелигия сектантского типа со своими храмами, таинствами, ритуалами, специфическим языком. Для ее жрецов и адептов непререкаемой истиной является пророчество Р. Курцвейла о «точке сингулярности», т.е. о неизбежном вытеснении искусственным интеллектом человеческого к 2045 г., что будет означать конец собственно человеческой истории (сначала, правда, фигурировал 2024 г., потом 2030). Считается, что должна возникнуть некая сверхсущность, суррогат всепланетарного разума, сингулярность в форме искусственного интеллекта, сети, которая заменит все – культуру, науку, семью, историю, смысл будущего, после чего человечество отойдет на вторые роли, произойдет «расчеловечивание» истории.

Вот лишь несколько тезисов недавно назначенного научным руководителем института искусственного интеллекта при МГУ Юргена Шмидхубера, директора лаборатории искусственного интеллекта IDSIA в Швейцарии и научного руководителя компании NNAISENSE. Мир управляется иерархией законов-алгоритмов, на вершине которой находится «главный алгоритм мира» - чрезвычайно короткий (несколько строк) и простой алгоритм. В сознании нет ничего волшебного, нужны только более мощные компьютеры. Мозг – это компрессор, разум заключается в эффективности алгоритмов сжатия, чем выше сжатие, тем совершеннее разум. Нейронные сети – устройство хранения информации (памяти о сцене/жизненной ситуации и ее контексте, любое новое знание позволяет алгоритму повысить степень сжатия. Шмидхубер уверен в скором создании самосовершенствующегося искусственного интеллекта, который приведет к появлению нового сверхразумного вида, способного видеть красоту, создавать прорывы в науке и искусстве, обладать интуицией, сознанием, шутить и пр.

В истории философии когда-то существовало направление, получившее название «вульгарного материализма». Его представители пытались редуцировать мысль, сознание к определенным физиологическим процессам. В нынешнюю эпоху приходится говорить о цифровом материализме, редукционизме, тезисом которого является следующий постулат-аксиома: «мозг есть ни что иное, как белковый компьютер», «компьютеры схожи с сознанием как ни один из… артефактов» (Д. Деннет), люди – белковые компьютеры, свобода воли для них в лучшем случае нейронная иллюзия.

Один из наиболее вредоносных тезисов, тормозящих развитие любой науки, - это категоричный в своей законченности тезис: «История не знает сослагательного наклонения». В нём самолюбование добившегося господства класса, элиты, корпорации, группы, клана сливается с нетерпимостью к любой иной, альтернативной трактовке, идиосинкразией по отношению к категории возможного. Мир, в котором мы живем, не просто быстро меняющийся по оси прогресс/регресс мир; это мир, меняющийся в разных направлениях, мир, который одновременно есть и которого нет, мир, состояния которого зависят от угла зрения, присутствия или отсутствия наблюдателя. Мы столкнулись с ситуацией, которая называется «VUCA – мир» - волатильный, сложный, неопределенный, расплывчатый, мир, в котором осязаемая, зримая реальность сосуществует, но может и раствориться в призрачной игре возможностей.