Русская Idea уже обращалась к теме перспектив «искусственного интеллекта» – сюжету, ставшему столь популярным в экспертной среде и средствах массовой информации в последнее время. На наш взгляд, разговоры об «искусственном интеллекте» – сегодня нередко лишь способ «прикрытия» очередного вхождения России в «мировое сообщество» на условиях этого сообщества. Наш постоянный автор Рустем Вахитов анализирует философские основы позиций «кибернетиков-оптимистов» и приходит к выводу, что мышление человека не сможет быть заменено «искусственным интеллектом».
***
«Без умных людей
электронные машины глупы»
Джон Бернал
Мода на 50-е
Мода имеет обыкновение возвращаться через несколько десятилетий. В начале XXI века дизайнеры одежды возрождают стиль женских нарядов 1950-х. Голливуду приелись вольности сексуальной революции и актеры, и он возвращается к пуританским отношениям середины прошлого века (скоро, вероятно, в Америке снова будут требовать, чтобы поцелуй на экране продолжался не более 3-х секунд). Политики по ту сторону океана увлеченно воссоздают железный занавес и атмосферу «холодной войны». А интеллектуалы снова спорят о кибернетических электронных машинах и перспективах искусственного интеллекта…
Именно на 1950-е и ранние 1960-е пришелся пик разговоров о том, что скоро мир заполонят электронные машины и роботы и вытеснят человека буквально из всех сфер его деятельности. Фантасты писали романы о роботах (книга «Я – робот» Айзека Азимова вышла именно в 1950-м году), инженеры создавали машины с обратной связью (подобные знаменитым черепашкам Уолтера), философы спорили о том, может ли машина мыслить (Алан Тьюринг предложил ставший повсеместно известным «критерий Тьюринга»). До СССР этот бум также докатился и отозвался в широких кругах интеллектуальной молодежи спором между «физиками» и «лириками» (а в философии – спором о природе мышления и идеального между Давидом Дубровским и Эвальдом Ильенковым). Своеобразный комический отзвук тогдашней моды на кибернетику – фраза официанта из гайдаевской «Кавказской пленницы»: «Так выпьем же за кибернетику!»
Потом всё успокоилось, улеглось; роботы не появились в каждом доме, зато появились компьютеры и смартфоны, однако люди воспринимают их как «конкурентов» в области мышления не больше, чем пылесосы или телевизоры.
Так было, пока не наступили 2010-е и не начались «страсти по искусственному интеллекту» – своего рода «страсти по кибернетике-2». Журналисты, инженеры, студенты, ученые, писатели снова только и говорят о прорыве в области «искусственного интеллекта», о том, что уже появились автомобили, управляемые компьютером, и скоро появятся полностью компьютеризированные магазины, музеи. Но что самое главное – компьютеры якобы вытеснят людей из «творческих профессий»: уроки в школах и лекции в университетах будут вести компьютеры, они же будут выпускать газеты и журналы, готовить еду и шить одежду, а, может, даже управлять городами и губерниями…
Дело зашло так далеко, что даже известный, хотя не блещущий интеллектом популярный волосатый блогер, изгаляется в своем электронном СМИ о том, что водители авто – это прокладки между рулем и лобовым стеклом, которые скоро-де не будут нужны. Ему не приходит в голову, что если продолжить его логику, то и его самого можно запросто считать прокладкой между клавиатурой и экраном, и что помещать в Интернете фото разных городов с предсказуемыми и типовыми комментариями может и машина…
Но – шутки прочь! Действительно ли машина скоро победит человека? Возможно ли это в принципе? И почему именно сейчас вернулась эта мода времен наших бабушек и дедушек?
Мыслит ли машина?
Если иметь в виду философскую сторону дела, то фундаментальной здесь является проблема: может ли машина мыслить? Чтобы решить её, нужно сначала определиться с тем: «что такое мышление?». Апологеты искусственного интеллекта, уже давно похоронившие человечество, убеждены – они точно знают ответ на этот вопрос. Иначе они не могли бы так уверено заявлять, что машины мыслят. Более того, они судя по всему считают, что это очень легкий, просто детский вопрос. Американский специалист по ИИ (искусственному интеллекту) Марвин Минский дает, например, такое, исчерпывающее, как ему кажется, определение: «Никто не возьмет на себя смелость объяснить другим людям значение слова, которое они и без того хорошо понимают. Так что будем его употреблять в том смысле, в котором оно обычно употребляется: интеллект – это способность решать трудные задачи, скажем такого типа, как построить ракету или систему дальней связи».
Не знаю, чего тут больше – наивности или самомнения. Оказывается, сущность интеллекта известна всем и нужно просто отталкиваться от общеупотребительного значения! А оно определяет интеллект, как способность решать трудные задачи. Что имеется в виду под «трудными задачами», чем они отличаются от легких или средних задач? – сие Минский не поясняет, ему ведь и так всё понятно….
Но увы, как показал еще Сократ две с лишним тысячи лет назад, подобные вопросы только кажутся простыми – потому, что люди всерьез над ними не задумывались и даже толком не ставили их. Стоит же задуматься и поставить их – как начнется самое сложное…
Вернемся к нашим … машинам. Если расспросить апологетов машинного мышления поподробнее, то они заявят: мышление – это функция головного мозга, связанная с работой нейронов, поэтому было бы наивным и странным утверждать, что мышление может быть лишь на органической и нейронной основе, и почему бы ему не быть на основе микросхем. Эта позиция называется «сильный искусственный интеллект». Философу очевидно, что её основой является обычный вульгарный материализм. Среди «естественников» во всем мире широко распространена упрощенная вульгарно-материалистическая философия, которая так глубоко въелась в их мировоззрение, что и философией им не кажется, а представляется самоочевидными естественными взглядами.
Наивность, примитивизм, можно даже сказать глуповатость такого понимания мышления прекрасно была показана уже упоминавшимся выше философом Эвальдом Ильенковым, еще в эпоху «киберпсихоза» полувековой давности. У Ильенкова в книге «Об идолах и идеалах» есть даже философская притча о полемике с инженером-кибернетиком, верящим в мышление машины – желающие могут легко найти эту книгу в Интернете.
Сам философ считал, что он излагает сугубо марксистскую трактовку, однако, на самом деле перед нами общезначимая критика вульгарного материализма (и в форме физикализма, и в форме техницизма) с позиций классической философии как таковой (не будем забывать, что Ильенков считал Маркса философом–классиком наряду с Платоном, Кантом и Гегелем) и свойственного ей диалектического понимания мира.
Основной тезис Ильенкова прост и парадоксален. Кибернетики-гипероптимисты полагают, что «машинный мозг», состоящий из микропроцессоров, может мыслить точно также, как и живой человеческий мозг, состоящий из органической, биологической материи. Но уверенность в том, что источник и хранитель мышления – именно человеческий мозг, принадлежащий конкретному человеческому индивиду – первое заблуждение. Кибернетическая машина не мыслит не потому, что её микропроцессоры недостаточно похожи на элементы живого мозга, а просто потому, что живой мозг так же мало мыслит, как дерево в лесу или камень на дороге. Человек мыслит при помощи мозга, используя его как орудие, но мышление – не функция мозга. Мышление, по Ильенкову, связано с социальной деятельностью человека. Это ясно хотя бы из того, что есть дети, чей мозг является здоровым и неповрежденным и вроде бы вполне способным к выполнению этой своей функции, но поскольку эти дети вырваны из человеческого общества вследствие тяжелой болезни – слепоты и глухоты, никаких видимых признаков мышления (как-то: речь, умение читать, писать, рассуждать, вести себя разумно) они не проявляют. Хотя другие врожденные функции – рефлексы, например, у них в норме…
Мышление, – говорит Ильенков, – это способность использовать вещи в соответствии с их предназначением (и тут он следует за Гегелем, который в «Феноменологии духа» писал, что разум – это целесообразность). А способность эта проявляется лишь в обществе, в общении между людьми, в процессе воспитания. Ребенок начинает мыслить, когда перестает стучать себя ложкой по лбу, а сует её в рот и ест из неё – он понял, для чего нужна ложка. То же самое говорение – это просто использование слов и правил грамматики языка в соответствии с их предназначением. Ребенок может выучить целое стихотворение на языке, который ему неизвестен, например, на английском, бойко декламировать его, срывать аплодисменты родных, но это не будет разумная речь. А вот, когда он просит есть или выйти на улицу погулять на родном своем языке, понимая, что он говорит, он станет поступать как мыслящее существо, потому что он использует слова по их предназначению – для общения между людьми, для выражения своих желаний. Даже одна из высших форм мышления – мышление философа – есть также орудийная деятельность, только в качестве орудия здесь используются абстрактные понятия и категории.
И в этом, кстати, с марксистом Ильенковым был согласен идеалист Павел Флоренский, который в «Философии культа» писал, что деятельность человека невозможна без орудий и наряду с орудиями очевидными, инструментами для труда, есть и особые «воздушные орудия» – понятия, при помощи которых мы говорим и философствуем[1] (Флоренский даже называет человека «зоон техникон» – существо, создающее орудия труда, хотя у нас все убеждены, что это точка зрения только лишь диалектического материализма). Из всех живых существ только человек создает инструменты для труда и понятия – для философствования. Животное не трудится и не мыслит. Животное способно использовать ящики, чтоб дотянуться до высоко висящего банана – как обезьяна в известном опыте, или использовать воспоминание, чтоб узнать человека после долгой разлуки – как Аргус, пес Улисса, узнавший его по запаху после 20-летнего отсутствия. Но животное не создает инструменты специально для труда и понятия специально для философствования.
Точно также и электронно-вычислительная машина, компьютер, вовсе не мыслит. Он выполняет программу, которую в него вложил человек. Машина напоминает здесь ребенка, которого заставили выучить стихотворение на незнакомом ему английском языке, и он его бойко и с выражением декламирует. С виду – разумное поведение, а на самом деле – нет. Робот-шофер разворачивает автомобиль на перекрестке, робот-ракета изменяет траекторию полета, если цель смещается, но в их микросхемах и процессорах столь же мало мышления, как английского языка в голове упомянутого отпрыска амбициозных родителей. Мышление предполагает создание программ, сиречь, строго определенных целесообразных совокупностей действий, а не только лишь их исполнение (предвидя возражение, что есть уже самопрограммируемые и самообучающиеся компьютеры скажу – они также не мыслят, а лишь выполняют программу по стандартному воспроизведению стандартных программ, не больше). Мышление предполагает цель, которую может ставить перед собой лишь человек (вспомним, разум целесообразен). Компьютер не ставит перед собой целей и уж тем более не создает орудия мышления – те же слова и понятия. Их берет в готовом виде из человеческой культуры создатель программы для компьютера – программист (отдельный человек может тоже не создавать понятия «пространства» или «бесконечности» и тоже брать их из культуры в готовом виде, но это именно человеческая культура, и в ходе её становления эти понятия разрабатывались и дорабатывались другими людьми).
Источник и хранитель мышления – не индивидуальный мозг индивида, а вся совокупность предметов культуры, в которых воплощены смыслы человеческой деятельности. Это мышление «общественно-человеческого разума», как назвал его Ильенков. Подобно тому, как Аристотель считал, что разум человека есть лишь частичка космического ума, Ильенков был убежден, что разум человека – частичка «общественно-человеческого» разума, и отдельный человек ровно в той степени способен к мышлению, в какой он приобщается к этому общественно-человеческому разуму. Это не значит, что Ильенков думал подобно спиритуалистам, что общественно-человеческий разум существует как бестелесная субстанция вне мира материальных вещей (хотя почему бы нет? – с точки зрения философского идеализма, это вполне возможно). Разум, согласно отечественному мыслителю, существует потенциально в предметах культуры и когда рука, взгляд, мысль ребенка прикасается к этим предметам, заставляет их функционировать, согласно заложенному в них назначению, этот общественно-человеческий разум начинает существовать в них актуально.
Компьютеры – тоже часть человеческой культуры, в них тоже «находится» общественно-человеческий разум, но сами они не мыслят, а при помощи них мыслит человек. Ребенок начинает мыслить, когда начинает есть при помощи ложки, но из этого не следует, что мыслит ложка.
Здесь уместно сослаться на статью «Разум мозга – компьютерная программа?» американского философа Джона Сёрла и описанному им парадоксу «китайской комнаты». Суть парадокса такова: в комнате находится человек, который не знает китайского языка. Перед ним – две корзины с карточками, на которых изображены китайские иероглифы. Карточки в первой корзине принесли экспериментаторы. Человек должен переложить некоторые карточки во вторую корзину и её тотчас унесут. Человек не понимает, что написано на каждой карточке, но у него есть учебник на знакомом ему языке (допустим, английском), где есть разъясняющие правила: какую карточку после какой следует переложить из первой корзины во вторую (человек не знает значений иероглифов, но он же может их различать). Правила составлены так, что сочетания иероглифов составляют осмысленные вопросы и ответы (естественно, для тех, кто знает китайский язык). Например, экспериментаторы занесли и положили в первую корзину иероглифы, составляющие фразу: «Какой Ваш любимый цвет?», а также иероглифы, необходимые для ответа: «Мой любимый цвет – синий». Следуя правилам, человек составит фразу «Мой любимый цвет – синий» и положит соответствующие карточки во вторую корзину. Допустим, среди экспериментаторов, приносящих и уносящих карточки, есть один, владеющий китайским языком. Если он не знает условий эксперимента, он будет в полной уверенности, что человек в комнате тоже знает китайский, потому что он «понял» вопрос и осмысленно на него «ответил».
Описанная ситуация, по мысли Сёрла, моделирует то, что происходит в компьютере. Человек в комнате – метафора компьютера, книга правил – метафора программы, люди, написавшие её – программисты, корзинки с карточками – база данных, карточки, передаваемые в комнату – вопросы, выносимые из комнаты – ответы.
Вывод, который делает Сёрл, прост: «компьютерная программа (и соответственно компьютер. – Р.В.) лишь манипулирует формализованными символами, мозг же придает им смысл». Сказанное совершено верно, разумеется, если при этом не забывать, что слово «мозг» здесь означает не биомассу серого цвета, а человека как существа способного мыслить, производить действия не механически, а со смыслом и с пониманием.
Когда гуманитарии начинают возражать апологетам «машинного мышления» из числа «естественников» и «технарей», то они обычно легко соглашаются с тем, что машины дескать, вполне могут выполнять простые машинные операции как-то: прибавлять, вычитать, делить, умножать, но им недоступно творчество, которое содержит в себе тайну и не подвластно рациональному анализу. Однако все гораздо проще. Машина не способна и выполнять простейшие арифметические операции и если она ведет себя так, как будто она складывает или умножает, это не значит, что так оно и есть.
Конечно, никто не спорит, что в нашу жизнь скоро, видимо, войдут машины на «искусственном интеллекте», как вошли в неё персональные компьютеры, смартфоны, интернет, а до этого телевизоры, радио, электричество. Сначала на Западе, а потом, вероятно, и в наших мегаполисах появятся на дорогах выделенные полосы, по которым будут ехать «полностью компьютеризированные» такси, «без водителя». Но рассуждения о том, что такое такси «не имеет человека – водителя», также наивны, как рассуждения, что, если на борту «беспилотника» нет летчиков, то он никем не управляется. Ситуация на дорогах сложна и непредсказуема и полностью автоматизировать такси – значит, подвергать пассажиров (которые, естественно, будут все-таки людьми) неоправданной опасности. Определенную часть пути такие такси могут ехать на «автоматике», но в случае опасности они будут переключены на «ручное», пусть и дистанционное управление. Профессия водителя никуда не денется, она просто изменится, как изменилась, например, профессия бухгалтера после изобретения персональных компьютеров. Возможно, водитель будет находиться на расстоянии, вероятно, он сможет через компьютер следить за поездкой сразу нескольких такси, но это будет тот же человек – водитель, которому иногда нужно будет и выходить из-за компьютерного стола и ехать на улицу и везти такси обычным «дедовским» способом.
Роботы-официанты вовсе не вытеснят живых официантов, скорее, наоборот, – автоматические обслуживание будет в сетях фастфудов, а за обслуживание в ресторане с живыми официантами нужно будет платить отдельно и немало (то есть эта профессия станет более элитной и высокооплачиваемой, как произошло с хорошими портными после изобретения фабричного пошива одежды). И уж конечно, понадобится армия компьютерщиков, которые будут программировать и обслуживать все эти «полностью автоматизированные» такси, кафе и музеи.
Противоположная точка зрения напоминает рассуждения телеоператора Рудика из фильма «Москва слезам не верит», который на заре телевидения с энтузиазмом убеждал всех, что скоро не будет ни театра, ни кино, а будет «одно сплошное телевидение»….
***
Конечно, научно-технический прогресс, да и жизнь вообще, идут вперед. Появляются новые машины, механизмы, технологии. Меняется одежда людей, их речь, моды на прически. Но все это не отменяет правоты библейского Экклезиаста, сказавшего, что нет ничего нового под солнцем. Человек всегда и во все эпохи оставался и останется человеком, а машина – машиной. Почему же людей в наши дни, как 50 лет назад, так пугает «пришествие разумных машин»?
Просто они бессознательно, но совсем не безосновательно видят в этих машинах с «искусственным интеллектом» зеркало, которое отражает их самих, таких, какими они стали в эпоху НТР и безграничного потребления. Дело не в том, что ученые создали «искусственный интеллект», «роботов», «умные машины», которые якобы научились мыслить, творить, считать, управлять, и якобы делают это лучше, чем люди. Мы выяснили, что это невозможно и что все страхи перед этими машинами сродни страхам, которые испытывали наши прапрадедушки перед паровозом Стефенсона, считая, что он погубит человеческую цивилизацию. Дело в том, что сами люди в нашем современном мире становятся похожими на роботов: рациональными, предсказуемыми, скучными, подчиняющимися простым и понятным правилам, способными только на выполнение примитивных программ. Из нашего общества исчезает спонтанность, естественность, дух творчества, многомерность восприятия и мышления. Все рационализировано и регламентировано, причем не только работа, но и сфера досуга. Реклама диктует, как нужно одеваться, что есть и пить домохозяйкам, деловым мужчинам, тинейджерам, спортсменам… Даже бунт запрограммирован, стерилен и оценен в денежных знаках: если ты хочешь протестовать против общества потребления – пожалуйста, есть майки с портретом Че Гевары по очень выгодной цене…
В доме повешенного не принято говорить о веревке. В мире компьютеризированных, обездушенных, одномерных людей страшно говорить о роботах и искусственном интеллекте. Но не потому, что есть что-то особенное в этом ИИ, который на поверку – никакой не интеллект, а очень сложные программы, созданные человеком. Причиной являются сами люди, такое устройство общества, которые превращает миллионы и миллионы человеческих личностей в «автоматизированных работников и потребителей». А выгодно это устройство общества узкому слою «избранных», самозванной элите, верхушке «золотого миллиарда». Но это уже совсем другая история…
[1] Оставим в стороне различие между идеализмом и материализмом, выдвигающих на первый план различные формы орудийной деятельности – понятийную или инструментальную.
