С удивлением натолкнулась недавно на ученые рассуждения об искусственном интеллекте, явно опирающиеся на веру в то, что сознание можно создать механическим путем. При этом в откликах слушателей доминировала идея, будто сознание человека создается его организмом, а значит, и искусственным путем тоже можно бы его создать – только потребуются очень большие вычислительные мощности или что-то вроде того.
Замечательно, что эти рассуждения совершенно не касались вопроса: что, собственно говоря, такое сознание, о чем вообще речь? Кажется, есть смысл немного поговорить и на эту тему.
Удивительное дело: сознание – это даже не то, что «дано нам в ощущениях», как марксисты говорят о материи. Это само то, что эти ощущения воспринимает. Нет ничего, что было бы нам ближе и очевиднее, и в то же время невозможно даже приблизительно понять, что это такое. Заглянула, как водится, в Википедию, а она, ссылаясь на соответствующие источники, дает определение, начинающееся со слов: «Создание – это состояние психической жизни организма, выражающееся в субъективном переживании» того-сего. То есть для определения такой простой и вроде бы самоочевидной вещи привлекаются другие, уже не столь простые понятия – «психическая жизнь» и «субъективное переживание».
Можно сказать, что наше сознание – что-то вроде аксиомы, не нуждающейся в доказательствах, или основного понятия, не нуждающегося в определениях.
Другой замечательной стороной вопроса является то, что собственное сознание – вещь самоочевидная для сознающего; но чужое сознание – уже отнюдь не очевидно, так что о нем мы можем судить только по косвенным признакам, и не вполне достоверно.
Откуда мы знаем, что люди вокруг нас обладают сознанием, что их действия, слова, выражения эмоций – проявления сознания, а не какая-то имитация? В эпоху искусственного интеллекта этот вопрос оказывается не праздным. Конечно, о людях мы заключаем это по аналогии, признавая сходство между ними и собой. Подобным образом и о животных мы предполагаем, что они действительно чувствуют боль, страх, радость, – потому что мы небезосновательно предполагаем между нами некоторое природное сродство.
Но мы можем и обманываться. Человеку свойственно искать и находить человеческие черты повсюду: как в рисунке обоев или в трещинах на потолке могут видеться всевозможные лица, или как домашнего питомца иногда наделяют человеческими чертами, или как в сердцах ругают неисправный автомобиль или любой другой механизм, и даже обвиняют его в чисто человеческом коварстве.
Что же такое искусственный интеллект (ИИ)? Этот термин сильно сбивает с толку, поскольку кажется, что речь идет об интеллекте, только искусственном. Но как «милостивый государь» имеет мало общего с «Государем», так и между ИИ и интеллектом мало общего, и даже еще меньше, ведь Государь и милостивый государь, по крайней мере, оба люди, а это уже немало.
Но интеллект – это набор некоторых свойств сознания, и вне сознания, конечно, невозможен. Однако возможна некоторая имитация деятельности интеллекта, не связанная с сознанием, то есть способы обработки данных, некоторым образом подражающие тем способам, которыми пользуется человеческий разум.
Поэтому в первую очередь нужно отдавать себе отчет в том, что хотя кибернетика шагнула далеко вперед, самые хитроумные системы всё же не обладают сознанием и волей, а потому не могут вынашивать ни злодейских, ни наоборот, благодетельных планов, и в этом смысле не отличаются от счетов или арифмометра.
Почему ИИ именно сейчас начинает занимать такое важное место в жизни людей? Потому что техническое развитие теперь позволяет обрабатывать огромные объемы данных. Логическая обработка данных, основанная на определенных, четко заданных алгоритмах, – это весьма ограниченный способ работы, и многие задачи таким путем практически невозможно решить: алгоритмы обработки фантастически усложняются с ростом сложности задач. Однако, если используя некоторые критерии обрабатывать огромные объемы информации, то результаты могут находиться, так сказать, числом, а не умением. Вот этим и занимается ИИ.
Однако тут возникает вопрос, о какой информации идет речь, ведь это еще одно загадочное понятие; однако я не хочу углубляться в его рассмотрение в общем смысле.
В конкретном же случае, когда, например, ИИ получает запрос, его ответ основывается на анализе множества текстов. В отличие от человека, ИИ не имеет прямой связи с действительностью через чувства. Конечно, можно сказать, что и человек очень многое узнает не непосредственно, а путем чтения текстов, однако человеческое сознание обладает собственным опытом, и тексты воспринимает в свете этого опыта. ИИ берет тексты как таковые; из их анализа по определенным правилам учится сопоставлять фрагменты, подбирать наиболее вероятные слова, следующие за предыдущими словами, так что результат по целому ряду критериев лучше всего вписывается в общее облако текстов. Вот почему, хотя и человеку свойственно ошибаться, но ошибки в ответах ИИ имеют совершенно другой источник. Человек заблуждается (или намеренно лжет), исходя из представлений о реальности. ИИ не может иметь никакого представления о реальности, но просто ищет для каждого случая самые подходящие (по разным критериям) сочетания слов.
Для других целей используются другие методы, то есть анализироваться могут не тексты, а данные какого-то другого рода, но основной принцип – тот же. Такие приемы могут быть практически полезны, но правда, скорее статистически. То есть результаты могут оказаться такими, какие реально и нужны, а могут и не оказаться. И это не злонамеренность ИИ, не коварство и лживость, а просто естественный результат отсутствия сознания, воспринимающего реальность через чувства.
Коварство ситуации состоит не в коварстве самого ИИ, а в том, что результаты его деятельности становятся всё более похожи на деятельность человека. И если нам свойственно очеловечивать даже простейшие орудия, то здесь этот соблазн возрастает многократно. Действительно, многие привыкают советоваться с ИИ, практически как с комбинацией психотерапевта, юрисконсульта, преподавателя, тренера и просто друга. Не говоря уже об этической стороне дела, такого рода «общение» может приводить к совершенно неожиданным результатам, поскольку никакой личности по ту сторону вашего гаджета нет, и его ответы и советы – выстрелы наугад; они могут сто или даже тысячу раз попадать почти туда, куда надо, а затем неожиданно вполне убедительно выдать нечто совершенно несообразное.
По этой причине всякое использование ИИ в тех случаях, когда результат действительно важен, а ошибка может иметь серьезные последствия, не должно происходить без проверки опытом и человеческим сознанием. И тут уже человеческая слабость: результат с помощью ИИ получить бывает довольно легко, а вот проверять – куда сложнее. Так, ИИ может легко составить эссе и даже целое исследование на заданную тему, но проверяя его, вы, возможно, подумаете, что легче было провести всю работу самому, чем среди гладких и убедительных абзацев искать затесавшуюся ахинею. И это, заметим, самый безобидный случай.
Способ получения каких-то результатов из обработки большого количества данных широко используется в торговле и в рекламном деле, с чем мы постоянно сталкиваемся. Но кроме того, естественно для всех правительств использовать те же методы для поиска преступников, подрывных элементов, и разного рода угроз. Современный мир и средства коммуникации напичканы данными, которые так и просятся для обработки средствами ИИ. Раньше прослушивание разговоров требовало человеческого внимания, и нередко можно было только пожалеть тех, кто по долгу службы был вынужден выслушивать всю ту обычную ерунду, которую несут люди; то же и с перлюстрацией писем, и с обычной цензурой. Но теперь появляется реальная возможность свалить всё это на ИИ, который по некоторым критериям может выделить признаки опасной деятельности. А может и не выявить. А может и обнаружить там, где их нет и не было… Кто тут будет виноват? Как и во многих других случаях человек изобретает полезные орудия, от которых потом сам же и страдает.
Отдельная песня – это генерация ИИ изображений, и их растущая роль в том, что современный человек нередко сталкивается с самыми убедительными формами обмана. Пожалуй, хуже всего не то, что поверив фальшивым изображениям, можно ошибиться, но то, что люди перестают верить и реальным вещам. Позиция «все врут» не помогает защититься от лжи, но делает людей беспомощными и легкими жертвами красноречивых и иногда беспринципных, а иногда и безумных «разоблачителей» всеобщего обмана.
Вывод напрашивается такой: при всех обстоятельствах надо не забывать пользоваться собственным природным интеллектом, какой уж он у нас есть, не перекладывая на других (или другое) ответственность и за свой рассудок, и за свои поступки.
И, конечно, среди всё новых модных увлечений не следует забывать, что является чем: человек – образом Божиим, а творения человеческих рук – только человеческими творениями, и ничем больше.