Готовый перевод Richard Dawkins The Oxford Book of Modern Science Writing / Ричард Докинз Оксфордская книга публикаций современной науки: Alan Turing from COMPUTING MACHINERY AND INTELLIGENCE/ Алан Тьюринг из "Вычислительные машины и разум"

Алан Тьюринг

из "Вычислительные машины и разум"

Не думаю, что я преувеличил, когда написал про английского математика Алана Тьюринга следующее:

"Как ведущий специалист в криптоанализе немецкой шифровальной машины "Энигма", Тьюринг, вероятно, внес больший вклад в победу над фашизмом, чем Эйзенхауэр или Черчиль."

Благодаря Тьюрингу и его коллегам по "Ультре" из Блэтчли-парк, союзнические полевые генералы регулярно, на протяжении длительных периодов войны, получали детальную информацию о планах Германии до того, как немецким генералам приходило время претворять их в жизнь.

После окончания войны, когда роль Тьюринга в ней перестала быть совершенно секретной, его следовало бы посвятить в рыцари и чествовать, как спасителя нации.

Вместо этого, добрый, заикающийся, эксцентричный гений был раздавлен за "преступление", касающееся его частной жизни и никому не причинившее вреда.

Тьюринг съел яблоко, которое сам отравил цианидом, подвергшись аресту за гомосексуальные связи (такой была Британия не далее, чем в 1954 году)

Независимо от своих работ военного времени, Тьюринг единственный, кроме Джона фон Неймана, может быть с полным правом назван отцом ЭВМ.

С философской точки зрения, его "Имитационная игра", которой и посвящены приведенные ниже отрывки из его известной статьи 1950-го года "Вычислительные машины и интеллект", - отправная точка всех дискуссий о возможностях искусственного интеллекта.

Безусловно, это прекрасный пример излюбленного приема философии - мысленного эксперимента.

Имитационная игра.

Предлагаю обсудить вопрос: "Может ли машина думать?" Начать обсуждение следует с определений терминов "машина" и "думать".

Определение можно построить так, чтобы максимально полно отразить привычное понимание этих слов, но подобный подход несет в себе опасность.

При определении слов "машина" и "думать" в рамках их общепринятого использования, сложно избежать вывода, что и значение этих слов, и ответ на вопрос "Может ли машина думать?" лежит в области стастических исследований, таких как опрос Института Гэллапа.

Но это абсурд.

Вместо попыток определить эти слова описанным выше образом, я перефразирую вопрос так, чтобы он сохранил смысл и был построен из относительно однозначных слов.

Новая формулировка проблемы может быть описана в терминах игры, которую мы назовем "Имитационной игрой".

Играют три человека: мужчина (А), женщина (В) и ведущий (С), который может быть любого пола.

Ведущий находит в комнате отдельно от двух других игроков

Цель игры для ведущего - определить, кто из игроков мужчина, а кто женщина.

Он знает их как X и Y, и в конце игры он должен сказать либо "X - мужчина, а Y - женщина", либо "X - женщина, а Y - мужчина".

Ведущий может задавайть вопросы А и В, например,

С: "Пусть Х скажет длинну его/ее волос" Теперь предположим, что Х - мужчина (А), тогда отвечать должен А.

Цель А - попытаться запутать С и привести его к неверному выводу.

Его ответ может быть такой:

"У меня короткая стрижка, самая длинная прядь примерно 20 см в длину."

Чтобы тон голоса не влиял на суждения ведущего, ответ должен быть написан, а лучше напечатан.

Идельные условия - сообщения между двумя комнатами по телетайпу.

Как вариант, вопросы и ответы могут передаваться при помощи посредника.

Цель игрока В (женщина) помочь ведущему.

Наилучшая стратегия для нее, вероятно, давать правдивые ответы.

Она может прибавлять к своим ответам: "Я женщина. Не услушай его!", но такие сообщения не будут нести пользы, потому как мужчина может говорить то же самое.

А теперь мы поставим следующий вопрос: "Что если место А в этой игре займет машина?" Будет ли ведущий делать неверные выводы также часто, как если бы в игре участвовали мужчина и женщина? Эти вопросы являются заменой исходному вопросу: "Может ли машина думать?"

Критика Новой Проблемы.

Вместо того, чтобы искать ответ на этот новый вопрос, вы могли бы спросить: “А стоит ли нам вообще тратить время на исследование этой проблемы?” Вот на этот вопрос мы ответим немедленно, предотвратив, таким образом, возможность бесконечного регресса.

Преимущество новой задачи в том, что она проводит четкую границу между физическими и умственными способностями человека.

Ни один инженер или химик не возьмется утверждать, что может произвести материал, неотличимый от человеческой кожи.

В будущем такое может стать возможным, но даже если подобное изобретение и будет сделано, мы, скорее всего, решим, что не стоит пытаться приблизить “думающие машины” к человеку, одевая их в человекообразную оболочку.

Форма, в которую мы облекли нашу проблему, отражает этот факт, поскольку экзаменатор не может увидеть или прикоснуться к остальным участникам игры, не может услышать их голоса.

Некоторые другие преимущества предложенного критерия можно вывести из списка примерных вопросов и ответов:

Таким образом:

В: Пожалуйста, напишите мне сонет о мосте и Форте.

О: Увольте;

я не умею писать стихи.

В: Сложите 34957 и 70764.

О: (После паузы секунд в тридцать) 105621.

В: Вы играете в шахматы?

О: Да.

В: Мой король стоит на e1; других фигур у меня нет.

Ваш король на e3, а ладья на a8. Ваш ход. Как вы пойдете?

О: (Подумав секунд пятнадцать): Ла1, мат.

Метод вопросов и ответов позволяет затронуть любую область человеческой деятельности, которую мы пожелаем включить.

Мы не хотим наказывать машину за ее неспособность блистать на конкурсах красоты, или человека за то, что он не может соревноваться в быстроте с самолетом.

Условия нашей игры делают подобное неравенство неважным.

Играющие могут хвастаться, если сочтут это нужным, расхваливая собственную красоту, силу или героизм, но экзаменатор не может потребовать у них практического подтверждения.

Можно критиковать эту игру, утверждая, что шансы человека в ней значительно перевешивают шансы машины.

Если бы человек должен был притвориться машиной, ему пришлось бы значительно труднее.

Его сразу выдала бы медлительность и неаккуратность в арифметике.

Могут ли машины делать нечто, что нам пришлось бы определить как мышление, но что сильно отличалось бы от того, на что способен человек? Это очень сильное возражение; тем не менее, мы можем утверждать, что если нам удастся сконструировать машину, способную играть в игру-имитацию, этот аргумент не должен нас тревожить.

Возможно, что в процессе игры лучшей стратегией машины вовсе не является рабская имитация человеческого поведения.

Однако мне не кажется, что это окажет значительное влияние на исход игры.

Так или иначе, мы не собираемся здесь изучать теорию данной игры; мы предполагаем, что наилучшей стратегией являются естественные ответы, которые дал бы человек.

Пытаясь имитировать ум взрослого человека, мы вынуждены много размышлять о том процессе, в результате которого человеческий интеллект достиг своего нынешнего состояния.

Мы можем выделить три компонента:

1) первоначальное состояние ума, скажем, в момент рождения;

2) воспитание, объектом которого он был;

3) другого рода опыт, воздействовавший на ум, - опыт, который нельзя назвать воспитанием.

Почему бы нам, вместо того чтобы пытаться создать программу, имитирующую ум взрослого, не попытаться создать программу, которая бы имитировала ум ребенка? Ведь если ум ребенка получает соответствующее воспитание, он становится умом взрослого человека.

Как можно предположить, мозг ребенка в некотором отношении подобен блокноту, который мы покупаем в киоске: совсем небольшой механизм и очень много чистой бумаги.

Наш расчет состоит в том, что механизм в мозгу ребенка настолько несложен, что устройство, ему подобное, может быть легко Запрограммировано.

В качестве первого приближения можно предположить, что количество труда, необходимое для воспитания такой машины, почти совпадает с тем, которое необходимо для воспитания ребенка.

Таким образом, мы расчленили нашу проблему на две части: на задачу построить "программу-ребенка" и задачу осуществить процесс воспитания.

Обе эти части тесно связаны друг с другом.

Вряд ли нам удастся получить хорошую "машину-ребенка" с первой же попытки.

Надо провести эксперимент по обучению какой-либо из машин такого рода и выяснить, как она поддается научению.

Затем провести тот же эксперимент с другой машиной и установить, какая из двух машин лучше.

Существует очевидная связь между этим процессом и эволюцией в живой природе, которая обнаруживается, когда мы отождествляем:

• структуру "машины-ребенка" с наследственным материалом;
• изменения, происходящие в "машине-ребенке", с мутациями;
• решение экспериментатора с естественным отбором.

Тем не менее можно надеяться, что этот процесс будет протекать быстрее, чем эволюция.

Выживание наиболее приспособленных является слишком медленным способом оценки преимуществ.

Экспериментатор, применяя силу интеллекта, может ускорить процесс оценки.

В равной степени важно и то, что он не ограничен использованием только случайных мутаций.

Если экспериментатор может проследить причину некоторого недостатка, он, вероятно, в состоянии придумать и такого рода мутацию, которая приведет к необходимому улучшению.

Невозможно применять в точности один и тот же процесс обучения как к машине, так и к нормально развитому ребенку.

Например, машину нельзя снабдить ногами, поэтому ее нельзя попросить выйти и принести ведро угля.

Машина, по-видимому, не будет обладать глазами.

И, как бы хорошо ни удалось восполнить эти недостатки с помощью различных остроумных приспособлений, такое существо нельзя будет послать в школу без того, чтобы другие дети не потешались над ним.

И вот такое существо мы должны чему-то научить.

Отметим, что не стоит особенно беспокоиться относительно ног, глаз и т.д.

Пример мисс Елены Келлер* показывает, что воспитание возможно, если только удается тем или иным способом установить двухстороннюю связь между учителем и учеником.

Обычно процесс обучения в нашем представлении связан с наказаниями и поощрениями.

Идея применения какой-либо формы этого принципа обучения может лежать в основе конструирования и программирования некоторых простых "машин-детей".

В этом случае машину следует устроить таким образом, чтобы поступление в нее сигнала-"наказания" приводило к резкому уменьшению вероятности повторения тех реакций машины, которые непосредственно предшествовали этому сигналу, в то время как сигнал-"поощрение", наоборот, увеличивал бы вероятность тех реакций, которые ему предшествовали (которые его "вызвали" ).

Все это не предполагает со стороны машины никаких чувств.

Я проделал несколько экспериментов с одной такой "машиной-ребенком" и достиг кое-какого успеха в обучении ее некоторым вещам, но метод обучения был слишком необычен, чтобы эксперимент можно было считать действительно успешным.

Применение поощрений и наказаний в лучшем случае может быть лишь частью процесса обучения.

Проще говоря, если у учителя нет других средств общения со своими учениками, то количество информации, которое может получить ученик, не превышает общего числа примененных к нему поощрений и наказаний.

Вероятно, к тому времени, когда ребенок выучит наизусть стихотворение "Касабьянка"*, он будет до крайности измучен, если процесс обучения будет идти по методу игры в "20 вопросов"*, причем каждое "нет" учителя будет принимать для ученика форму подзатыльника.

В силу этого необходимо иметь какие-то другие, "неэмоциональные" каналы связи.

Если такие каналы имеются, то, применяя поощрения и наказания, машину можно было бы научить выполнять команды, отдаваемые на каком-либо - например, символическом - языке.

Эти команды следует передавать по "неэмоциональным каналам".

Применение такого символического языка значительно снизит число требуемых поощрений и наказаний.

О том, какая степень сложности является наиболее пригодной для "машины-ребенка", могут быть различные мнения.

Можно стремиться к тому, чтобы "машина-ребенок" была настолько простой, насколько этого возможно добиться, не нарушая общих принципов.

Можно идти противоположным путем: "встраивать" сложную систему логического вывода (1).

В последнем случае значительную часть запоминающего устройства заняли бы определения и суждения [propositions].

Суждения по своему характеру должны быть различного рода, например: утверждения о хорошо известных фактах, предположения, математически доказанные теоремы, высказывания авторитетных лиц, выражения, по своей логической форме являющиеся суждениями, но не претендующие на верность.

Некоторые из этих суждений могут быть охарактеризованы как "приказания".

Машину следует устроить так, чтобы, как только некоторое приказание будет оценено ею как "вполне достоверное" [well-established}, автоматически выполнялась соответствующая операция.

Чтобы пояснить это, предположим, что учитель говорит машине: "Теперь выполняй домашнее задание", - а машина реагирует на это тем, что ситуация "Учитель говорит машине: "Теперь выполняй домашнее задание" включается в число вполне достоверных фактов.

Другим фактом такого же рода в ней может быть: "Все, что говорит учитель, истинно".

Комбинация этих фактов может в заключение вести к тому, что приказание "Теперь выполняй домашнее задание" также будет включено в разряд вполне надежных фактов, а это, в свою очередь, будет значить в силу устройства нашей машины, что последняя действительно начнет выполнять домашнее задание, - что нам и было нужно.

Процесс логического вывода, применяемый машиной, вовсе не обязательно должен быть таков, чтобы он удовлетворял требованиям самых строгих логиков.

Например, может отсутствовать иерархия типов.

Но это отнюдь не означает, что вероятность связанной с этим ошибки, которую может сделать машина, больше вероятности того, что человек может упасть в пропасть, если ее край не будет огорожен.

В рассматриваемом случае подходящие приказания (выраженные внутри системы формального вывода, а не составляющие часть ее правил), например, такие, как "Не используйте некоторый класс, если он не является подклассом класса, который ранее упоминался учителем", могут иметь эффект, аналогичный тому, какой имеет предупреждение: "Не подходите слишком близко к краю обрыва".

Приказания, которые может выполнять машина, не имеющая ни рук, ни ног, должны касаться преимущественно интеллектуальных сторон деятельности, как это было в приведенном выше примере (с домашним заданием).

Из такого рода приказов наиболее важными будут приказания, определяющие порядок, в котором следует применять правила рассматриваемой логической системы.

Ибо на каждой стадии применения логической системы перед нами открывается большое число возможных шагов, которые исключают друг друга и любой из которых мы можем осуществить, следуя правилам рассматриваемой системы.

Как производится такой выбор - в этом и выражается различие между глубоким и посредственным умом, но это не имеет отношения к правильности или неправильности рассуждении.

Суждения, которые порождают приказания такого рода, могут быть, например, такими: "Если упоминается Сократ, применяй силлогизм модуса Barbara" - или: "Если один метод приводит к результату быстрее, чем второй, не применяй более медленного".

Одни из них могут исходить от "авторитетного лица", другие же могут вырабатываться самой машиной, например, с помощью неполной индукции.

Некоторым читателям мысль об обучающейся машине может показаться парадоксальной.

Как могут меняться правила, по которым машина производит операции? Ведь правила должны полностью описывать поведение машины независимо от того, какова была ее предыстория и какие изменения она претерпела.

Таким образом, правила должны быть абсолютно инвариантными относительно времени.

Все это, конечно, верно.

Объяснение этого парадокса состоит в том, что правила, которые меняются в процессе научения, не претендуют на это, ибо их применимость носит преходящий характер.

Читатель может провести параллель с Конституцией Соединенных Штатов.

Важная особенность обучающейся машины состоит в том, что ее учитель в значительной мере не осведомлен о многом из того, что происходит внутри нее, хотя он все же в состоянии в известных пределах предсказывать поведение своей ученицы.

Сказанное особенно применимо к дальнейшему воспитанию машины, прошедшей уже хорошую подготовку и вышедшей из начальной стадии "машины-ребенка".

Такое положение, очевидно, в корне отличается от обычного-подхода, связанного с применением машин для вычислений, когда мы стремимся к тому, чтобы иметь ясное представление о состоянии машины в любой момент вычисления, достичь чего можно лишь с трудом.

В свете сказанного взгляд, что "машина может выполнить только то, что мы умеем ей предписать*, кажется странным.

Большинство программ, которые мы можем ввести в машину, вызывают в ее работе кое-что такое, что мы вообще не в состоянии осмыслить или рассматриваем как чисто случайное поведение.

Интеллектуальное [intelligent] поведение предполагает, по-видимому, некоторое отступление от абсолютно детерминированного [disciplined] поведения в процессе вычисления; это отступление, однако, должно быть очень незначительным, чтобы не вызвать полностью беспорядочного поведения или бессмысленных повторений отдельных циклов.

Другой важный результат обучения как способа подготовки нашей машины для участия в игре в имитацию, состоит в том, что "присущая человеку склонность к ошибкам" будет, по-видимому, обойдена естественным образом, т.е. без специального "натаскивания".

Процесс обучения не обязательно должен быть успешным во всех случаях; если бы это было так, то не встречались бы случаи неудачи в обучении.

Вероятно, в обучающуюся машину имеет смысл ввести случайный элемент.

Случайный элемент довольно полезен, когда мы ищем решение какой-нибудь задачи.

Пусть, например, требуется найти число, расположенное между 50 и 200 и равное квадрату суммы своих цифр; мы можем сначала проверить число 51, затем 52 и продолжать до тех пор, пока не найдем то, которое удовлетворяет условию задачи.

Но мы можем поступить и иначе: выбирать числа наугад до тех пор, пока не получим то, которое нам нужно.

Этот метод имеет то преимущество, что он не требует хранения в памяти уже проверенных значений; однако он имеет и отрицательную сторону, состоящую в том, что одно и то же число может быть подвергнуто проверке повторно, но это не так уж существенно, если задача имеет несколько решений.

Систематический метод имеет другой недостаток: может случиться, что придется проверять массу значений, не содержащих ни одного решения, прежде чем будет найдено первое число, обладающее нужным свойством.

В нашем случае процесс обучения можно рассматривать как поиски такой формы поведения, которая бы удовлетворяла требованиям учителя (или какому-нибудь другому критерию).

Поскольку в этом случае, по-видимому, имеется весьма большое число решений, отвечающих предъявленным требованиям, постольку метод случайного выбора представляется нам предпочтительнее систематического.

Следует отметить, что метод случайного выбора применяется и в другом аналогичном процессе - в эволюции.

Но там систематический метод невозможен вообще.

Неясно, каким образом было бы возможней в процессе эволюции сохранять информацию о тех разнообразных генетических комбинациях, которые были испробованы, с тем чтобы предупредить возможность их повторного применения.

Мы можем надеяться, что машины в конце концов будут успешно соперничать с людьми во всех чисто интеллектуальных областях.

Но какие из этих областей наиболее пригодны для того, чтобы начать именно с них? Решение даже этого вопроса наталкивается на затруднения.

Многие считают, что начать лучше всего с какой-нибудь очень абстрактной деятельности, например, с игры в Шахматы.

Другие предлагают снабдить машину хорошими органами чувств, а затем научить ее понимать и говорить по-английски.

В этом случае машину можно будет обучать, как ребенка: указывать на предметы и называть их и т.д.

В чем состоит правильный ответ на этот вопрос, я не знаю, но думаю, что следует испытать оба подхода.

Мы можем заглядывать вперед лишь на очень небольшое расстояние, но уже сейчас очевидно, что нам предстоит еще очень многое сделать в той области, которая была предметом настоящей статьи.

1. Или скорее "запрограммированный в", наша ребенко-машина будет запрограммирована в компьютере.

Но логическая система не должна быть извлечена.

Внимание! Этот перевод, возможно, ещё не готов.
Его статус: перевод редактируется

Переведено на Нотабеноиде
http://notabenoid.org/book/35417/126984

Переводчики: Irina73, Mariha