avatar

возможна ли жизнь в китайской комнате?

можно ли создать искусственный интеллект? очень похоже, что да. в том плане, что он будет распознавать, анализировать, обучаться и выдавать информацию в том или ином виде. но можно ли создать искусственное человеческое сознание? и, главное, каковы критерии того, что это будет именно сознание?

есть так называемый утиный тест, заключающийся в том, что если нечто выглядит как утка, плавает как утка и крякает как утка, то это, вероятно, и есть утка. т.е. если проявления того, что претендует называться уткой, соответствуют проявлениям реальной утки, то это тоже реальная утка. думается, что пойдя по этому пути, можно рано или поздно создать и человеческое сознание. и оно во всех своих проявлениях будет именно как человеческое. если это необходимое и достаточное условие — то цель скорее всего может быть достигнута. но если условие создания искусственного сознания состоит в том, чтобы заставить его именно переживать что-либо и переживать это именно по-человечески — то выполнима ли задача?

под «переживать» имеется в виду присутствие в сознании любого опыта. и под присутствием я понимаю не просто информационный факт «есть» то или это, а именно переживабельный факт опыта. опыта мышления, чувств и эмоций, обоняния, осязания, вкуса, зрения, слуха. само переживание — сфера очень субъективная. и малообъяснимая в том смысле, что объяснить переживание невозможно тому, кто его не переживал так или иначе. да, мы как сторонние наблюдатели можем регистрировать некую активность мозга, связанную с какими-то переживаниями. но такая активность — это лишь внешнее проявление переживания, а не само переживание того, кто его переживает. и даже если предположить полностью созданный искусственный аналог мозга, то вызовут ли в нём реальные переживания индуцированные электрические сигналы и химические реакции, соответствующие этому переживанию? или это будет, если грубо, как у эрлэнда лу? ведь внешнюю реакцию (как будто бы что-то реально переживается) можно и имитировать. именно так
Читать дальше →
avatar

китайская комната

мысленный эксперимент в области философии сознания и философии искусственного интеллекта, впервые опубликованный Джоном Сёрлом в 1980 году. Цель эксперимента состоит в опровержении утверждения о том, что цифровая машина, наделённая «искусственным интеллектом» путём её программирования определённым образом, способна обладать сознанием в том же смысле, в котором им обладает человек

Представим себе изолированную комнату, в которой находится Джон Сёрл, который не знает ни одного китайского иероглифа. Однако у него есть записанные в книге точные инструкции по манипуляции иероглифами вида «Возьмите такой-то иероглиф из корзинки номер один и поместите его рядом с таким-то иероглифом из корзинки номер два», но в этих инструкциях отсутствует информация о значении этих иероглифов и Сёрл просто следует этим инструкциям подобно компьютеру.

Наблюдатель, знающий китайские иероглифы, через щель передаёт в комнату иероглифы с вопросами, а на выходе ожидает получить осознанный ответ. Инструкция же составлена таким образом, что после применения всех шагов к иероглифам вопроса они преобразуются в иероглифы ответа. Фактически инструкция — это подобие компьютерного алгоритма, а Сёрл исполняет алгоритм так же, как его исполнил бы компьютер.

В такой ситуации наблюдатель может отправить в комнату любой осмысленный вопрос (например, «Какой цвет вам больше всего нравится?») и получить на него осмысленный ответ (например, «Синий»), как при разговоре с человеком, который свободно владеет китайской письменностью. При этом сам Сёрл не имеет никаких знаний об иероглифах и не может научиться ими пользоваться, поскольку не может узнать значение даже одного символа. Сёрл не понимает ни изначального вопроса, ни ответа, который сам составил. Наблюдатель, в свою очередь, может быть уверен, что в комнате находится человек, который знает и понимает иероглифы.

Джон
Читать дальше →