Главная страница ИД «Первого сентября»Главная страница газеты «Первое сентября»Содержание №16/2001

Четвертая тетрадь. Идеи. Судьбы. Времена

ПРОГНОЗ

Бунт роботов?

Человек становится все более зависимым от машины. А машина – все умнее. Не наступит ли момент, когда электронные слуги станут управлять своими хозяевами?

В ХХ век кончился очередным торжеством человеческого разума: успехи в медицине и космонавтике, открытия в генетике и астрономии и, наконец, достижения в области обработки информации, приведшие к “компьютерной революции” и появлению всемирной сети Интернет.
Увы, оптимизм – извечный опиум человечества. Люди нередко спешат приобщиться к этой пагубной заразе, уверяя себя, что мир наконец переменился и отныне за любым триумфом будут следовать не падения, не трагедии, а новые триумфы. Однако история всякий раз обманывала ожидания. Торжество разума оборачивалось иллюзией.

* * *

Еще в пятидесятые годы британский математик Алан Тьюринг (1912–1954) задался вопросом, может ли компьютер обладать разумом и если да, то по какому признаку мы это определим. Сам ученый ответил на этот вопрос так: машину можно считать разумной, если, побеседовав с ней, человек не заметит, что имел дело с машиной.
В то время появление подобного теста было вполне уместным. Программисты добились первых заметных успехов. Газеты и журналы пестрели рассуждениями об “электронном гении”, или “супермозге”. Тень машины накрыла живой разум. Считалось, что человеческий мозг – это лишь хорошо оснащенный computer (англ. – вычислительное устройство), к программному обеспечению которого относятся сознание, интеллект и речевая способность. Недавнего “человекобога” низвели до уровня “машиночеловека”.
Однако ожидания были преждевременными. Выполнить тест Тьюринга компьютеры никак не могли.
До сих пор все попытки наделить машину человеческим разумом терпели провал. Конечно, компьютеры научились многому. Одни из них, как соперник Г.Каспарова “Deep Blue”, блестяще играют в шахматы, другие воспринимают человеческую речь, третьи узнают лица людей, четвертые моделируют и проектируют, выполняя работу целых КБ. Однако компьютеры по-прежнему не универсальны. Соединить все способности кряду ученые пока не могут. Наши электронные шахматисты не комментируют футбольные матчи, наши электронные переводчики не всматриваются в своих собеседников, голосом которых вещают, и прочее, и прочее. А ведь искусственный интеллект, ежели он намерен тягаться с человеческим разумом, должен быть способен и на многое другое: машина должна постигать смысл наблюдаемых ею событий, у нее должно быть свое мировоззрение, наконец, машина обязана чувствовать.

* * *

Британский профессор Кевин Уорвик убежден, что через двадцать лет люди станут рабами роботов. Американцы Ханс Моравец, Нил Гершенфельд и Рей Курцвайл пророчествуют, что к концу XXI века машины превзойдут человека по уровню интеллекта.
“Это следующая ступень эволюции, – заявляет Курцвайл, автор книг “Век думающих машин” и “Homo S@piens”. – Она зарождается в недрах нашей цивилизации”. Его тезисы звучат, как сюжеты научной фантастики: в 2019 году компьютеры будут мыслить так же быстро, как человеческий мозг, совершая до двадцати миллионов миллиардов операций в секунду. В 2029 году появится “программное обеспечение для интеллекта”, создающее компьютерное “сознание”. В 2099 году исчезнет всякая разница между человеком и машиной. Это можно выразить и иными словами: к началу XXII века человек – в привычном понимании этого слова – исчезнет.
Мир заполонят небиологические существа, наделенные точными копиями нашего мозга. Это будут личности со своими чувствами и своей индивидуальной способностью реагировать. Их решающее преимущество в том, что машина легко передаст свои знания мириадам других. Если я учу французский язык или читаю “Войну и мир”, то знания, накопленные мной в виде переплетения нейронных сетей, останутся лишь моими знаниями. Я не могу передать их доподлинно точно другим людям. Зато искусственный мозг будет непременно использован для “перезаписи” знаний.
Что касается людей старого пошиба, то они оснастят свое тело и мозг быстродействующими микрокомпьютерами, дабы не уступать в эволюционной борьбе роботам, которые, как предсказывает Моравец, примутся создавать свои фирмы, где не будет и пахнуть человеческим духом. На работу сюда будут принимать лишь таких же, как они, роботов.
Пророки машинного разума черпают уверенность в так называемом законе Мура, гласящем, что каждые полтора года мощность процессоров удваивается. Настанет время, когда компьютер будет наделен таким громадным ресурсом, что ему не останется ничего иного, как взяться за работу, которая до сих пор была уделом лишь человеческого мозга.
В 1984 году американский компьютерщик Дуглас Ленат и его коллеги затеяли важный проект. Они попытались на языке формул объяснить компьютеру по имени “Сус” весь мир. Они обучали машину банальностям: дети моложе взрослых; метро проложено под землей, а шоссе над землей и т.п.
“Сус” должен научиться всему, что знает человек в здравом уме. Он давно уже пополняет свои представления о мире, сканируя газеты и книги. Однако объявленной цели, как догадались ученые, не удастся достичь. Огромные объемы накопленного знания еще не превращают машину в человека, равно как и бесталанного человека в творца. Вот и библиотеки, оттого что в них хранятся десятки и сотни тысяч томов, тоже не обзавелись мозгами.
В середине девяностых годов “очеловечить” машину вознамерился и Родни Брукс, профессор информатики из Массачусетсского технологического института. Для этого он решил наделить компьютер “Соg” различными органами чувств, позволив ему осязать и осматривать мир.
Однако в машинном теле – а Брукс даже придал компьютеру образ человеческого торса – пока так и не зародилось сознание. По-прежнему “Соg” не наделен ни памятью, ни чувством времени. Правда, его “физиономии” придана “экспрессивная мимика”, дабы изъявлять разнообразные чувства и переживания. Так, в чертах его разливается печаль, если ученые перестают обращать на него внимание. Но разве у него есть что-то на душе? Разве он впрямь чувствует печаль, оставшись в одиночестве?
Новейший попыткой стереть грань между человеком и машиной стал робот “Kismet”, возникший в той же лаборатории. Его бегающие глазки выискивают возможных собеседников. Когда человек коснется его сенсоров, черты робота просветляются: брови вздымаются, уши подрагивают.
Подобный робот растрогает даже камни. Он ведет себя как ребенок. Весел ли он, испуган или утомлен – все зависит от окружающих, от того, общаются ли они с ним, играют ли, дают ли ему выспаться. Однако изъявляет он эти чувства не потому, что ощущает их. Нет, так велит программа, вложенная в него. В отличие от таких сложных, умных существ, как кошка или собака, этот робот с его лукавыми глазками и подрагивающими ушами – все равно иллюзорное, механическое создание. В его чертах по-прежнему нет жизни.

* * *

Человеческий мозг нельзя сравнивать с компьютером, прибегая к такого рода логике: “Мозг обрабатывает информацию, и микросхемы обрабатывают информацию. Значит, мозг сходен с микросхемой”.
Философы, оппонирующие Курцвайлу и С°, считают их пророчества простыми выдумками, игрой ума. Обрабатывать информацию можно по-разному. Машина проделывает, например, все операции последовательно, мы – параллельно-последовательно. По ассоциации мы выхватываем из глубин памяти сведения, много лет назад отложенные и наконец пригодившиеся. Мозг машины может на 90 процентов работать, как человеческий. Но остальные 10 процентов – это творческий интеллект. Его никак не воспроизвести.
Американец Джон Сирл сравнивает “поведение” компьютера с действиями человека. Вызубрив правила китайской грамоты и иероглифы, компьютер может складывать из них слова, но что означает этот набор знаков, для него по-прежнему непонятно. Философ делает вывод: даже если появятся машины, которые, будучи соответствующим образом запрограммированы, станут вести себя, как человек, наделенный разумом, это не доказывает, что разум у них есть.
А способна ли “неразумная тварь”, как бы сильна она ни была, справиться с носителем разума – человеком? Ее сила, по ее неразумию, будет всегда применяться по определенной схеме. Человек же, наделенный хоть искрой творческого духа, всегда играет не по правилам.
Конечно, машины могут крайне затруднить жизнь человека. Простая размагнитившаяся дискета порой перечеркивает не один месяц ваших трудов. Обесточенные приборы в городах, где практикуют “веерное отключение электричества”, вмиг превращают современного горожанина в инвалида, не способного ни приготовить пищу, ни узнать о происходящем вокруг, ни даже показаться на улице в свежевыглаженной рубашке.
И все-таки человек – не машина, моментально глохнущая, если “пункт А не выполнен”. Человек, словно бактерия, способен выбраться из любых переделок, прижиться в любых условиях. Даже если машины, прирученные им, все же восстанут, у людей останутся истоки, к которым можно вернуться, выбираясь “из тягчайшей нищеты и новых видов рабства” и восстанавливая попранную гармонию. Ипостаси “человека средневекового”, вовсе чуравшегося машин, или “человека XIX века”, умеренно допускавшего их в свой быт, были вовсе не так уж плохи.

А.ГРУДИНКИН