avatar

китайская комната

мысленный эксперимент в области философии сознания и философии искусственного интеллекта, впервые опубликованный Джоном Сёрлом в 1980 году. Цель эксперимента состоит в опровержении утверждения о том, что цифровая машина, наделённая «искусственным интеллектом» путём её программирования определённым образом, способна обладать сознанием в том же смысле, в котором им обладает человек

Представим себе изолированную комнату, в которой находится Джон Сёрл, который не знает ни одного китайского иероглифа. Однако у него есть записанные в книге точные инструкции по манипуляции иероглифами вида «Возьмите такой-то иероглиф из корзинки номер один и поместите его рядом с таким-то иероглифом из корзинки номер два», но в этих инструкциях отсутствует информация о значении этих иероглифов и Сёрл просто следует этим инструкциям подобно компьютеру.

Наблюдатель, знающий китайские иероглифы, через щель передаёт в комнату иероглифы с вопросами, а на выходе ожидает получить осознанный ответ. Инструкция же составлена таким образом, что после применения всех шагов к иероглифам вопроса они преобразуются в иероглифы ответа. Фактически инструкция — это подобие компьютерного алгоритма, а Сёрл исполняет алгоритм так же, как его исполнил бы компьютер.

В такой ситуации наблюдатель может отправить в комнату любой осмысленный вопрос (например, «Какой цвет вам больше всего нравится?») и получить на него осмысленный ответ (например, «Синий»), как при разговоре с человеком, который свободно владеет китайской письменностью. При этом сам Сёрл не имеет никаких знаний об иероглифах и не может научиться ими пользоваться, поскольку не может узнать значение даже одного символа. Сёрл не понимает ни изначального вопроса, ни ответа, который сам составил. Наблюдатель, в свою очередь, может быть уверен, что в комнате находится человек, который знает и понимает иероглифы.

Джон Сёрл
Понравилось (5):  Bambuka, konstruktor, sergiy, zenglaoshi, captain

46 комментариев

avatar
хороший вопрос,
однако он был задан фантастами не однажды)
avatar
а мен осознанности не хватило в суть въехать. но задумка видимо клевая.
avatar
посыл такой. нельзя построить искусственное сознание, можно построить лишь имитацию.
avatar
посыл я понял. а ты смотрел сериал «Мир дикого запада?»
avatar
смотрел. :)
avatar
гут, наш человек :)
avatar
два сезона. я привереда в кино. но тут реально клево тема развернута.
avatar
вопрос глубже,
возможно ли в принцыпе отличить искуственно созданный "..." от ...?
определения в скобках выберите сами)
avatar
я уже вроде тебе отвечал на это. :) отличать можно только проявленное. но проявленное может быть как следствием имитации так и следствием работы реального сознания. если робот ест яблоко и говорит, что вкусно, то выглядит так будто ему вкусно, но чувствует ли он вкус так как это может человек?.. т.е. нет. но есть НО! :)
avatar
что такое создание искусственного интеллекта? это просто создание имитации. пусть даже самообучающейся. но даже это самообучение — это просто накопление опыта лучшей имитации. чел даже сам себе из своего собственного опыта не может сказать, что значит БЫТЬ? что значит слышать (без всяких там научных выкладок типа «звук — это бла-бла-волна-бла...»)? что такое осознание? а оно ваще ничто! где ничто — не очередное что-то. :). и как вот со всем этим что-то там создавать? похоже, что только имитировать! :)
avatar
ну вот имитировать, --чито ?*
вот это может быть создано, по другому, по сути, не сымитировано?
avatar
может быть создана только имитация (выше сказал почему только так). чего? того КАК проявляет себя человек. основное — это имитация (в письменном или речевом виде): мышления, эмоций.
avatar
… (троеточие
avatar
Возьмите такой-то иероглиф из корзинки номер один и поместите его рядом с таким-то иероглифом из корзинки номер два»
испытуемый уже имеет понятие «корзинка», понятие «взять», понятие «один» и тд. После выполнение инструкции, у него появится знание о соответствии определенного иероглифа с определенным цветом. А потому в следующий раз ему уже инструкция не понадобится.
avatar
А потому в следующий раз ему уже инструкция не понадобится
«ему» всегда нужна будет инструкция, чтобы «знать» о том, как оперировать «понятиями». иначе, это всё равно что сказать: «запускаем программу расчёта, вводим данные, запускаем расчёт, выгружаем программу расчёта, но надеемся на то, что она по прежнему работает» :)
avatar
здесь нюанс: «человек как робот» не тождественен «робот как человек» )
avatar
«человек как робот» тут вообще не рассматривается. ибо это только пример для наглядности, за который ты чего-то зацепился (ведь эксперимент не про это). чтобы тот, кто не понимает в программировании всё-таки что-то понял на этом примере. :)
avatar
Инструкция же составлена таким образом
а «инструкция» откуда берется?
avatar
она часть кода. например, как самое простое, в виде условных операторов и переходов.
avatar
но у этого «кода» есть автор?
avatar
какое это имеет значение?
avatar
огромное.
avatar
Здесь есть одна ошибка в исходнике. То есть считается чтт оба два оператора — самосознание, а они в условии будут роботы, то есть программы. И тутнетн какой проблемы. Один робот выдает одни знаки, второй по схожести учится выдавать другие знаки.так ИИ и учится.
avatar
Здесь есть одна ошибка в исходнике
не понял про какую ошибку речь. обучающийся ИИ не означает, что он понимает как человек. он лишь моделирует понимание, внешне проявляя себя как понимающий. в то время как он просто усложняет внутренние условные операторы перехода. т.е. в данном примере джон бы по прежнему бездумно следовал инструкции, только слегка исправленной, согласно дополнительной инструкции исправления. :)
avatar
Понимание это подбор сходных по смыслу ил форме. Помнишь трекгольник нкжно положить в треугольник а круг в дырку круглую? А пирамидку? Так возникает понимание. И все. В случае с иероглифом, один оператор подающий другой отвечающий.
П — # О #;
П — з*%;€ О — 3*%;€

Где каждый значок означает некое проявление в переживании.
avatar
Джон через несколько минут будет распознавать значки и подбирать по форме, согласно принуипам иероглифа. Так было есть и будет в мире людей :))) Подражание, сравнение, наблюдение а потом уже моделирование. Понимаешь?
Если два сознания равные то оба будут уметь коммуницировать. То есть принимать транзакцию, исследовать ее и воспроизводить ответную транзакцию.

Здесь смешали в тексте два представления, для какой цели не понятно, явно что то доказать. Но ошибка в подходе. Само познание упущено. Понимаешь?

А если мы смотрим все таки на познающее сознание а не на станок с ЧПУ, то…

В случае с сигналом станок реагирует на сигнал совпадающий с его базой данных. Это и есть понимание. Других пониманий не существует. И ошибкой можно считать существование какого то иного познания и понимания.
avatar
Понимаешь?
нет. :)

Если два сознания равные то оба будут уметь коммуницировать
разные сложные чат-боты это уже сознание? нет. но с ними можно вполне сносно общаться, они самообучаемы, обладают возможностью распознавать эмоции в словах и в образе через камеру, считывая мимику. даже шутят. :) и далее ситуация будет только улучшаться. да так, что не отличишь. вот тогда они станут полноценным сознанием?

Это и есть понимание. Других пониманий не существует.
это не понимание. а моделирование понимания. понимание — это осознанная компетенция. что такое осознанность?.. фиг его знает. но как-то смоделировать можно. :)

быть человеком и выглядеть как человек не одно и то же. что такое быть, переживать — невозможно сказать. точнее сказать то можно, но это не быть и переживать. :) но признаки этого бытия можно воспроизвести (нейронные сети, распознавание, самообучение...). ибо оперировать можно лишь самими феноменами, пытаясь их заставить возникать так, будто они возникают у живого человека, но не их проживанием. этим человек и занимается. и в чём, несомненно, преуспеет.

можно это назвать такую машину ИИ? да, если не брать в расчёт это условие "способна обладать сознанием в том же смысле, в котором им обладает человек"
avatar
Если рассматриваем человека как бота, то принцип обучения одинаков.
Если про осознанные компетенции то мне кажется, что самоосознание добавляется.

Вопрос: что может быть человеком или выглядеть как человек?

Проживание это перцепция и свидетельствование?

Человека наделить способностью само знания без обучения, не получится. Рождается организм и с момента рождения обучается, в зависимости от социума и среды. И у чукчи отличается знание от знания у аборигена зимбабве. Если из посадить рыдом и наблюдать, будет процесс высираивания коммуникации, поиск общего и объяснения научения.
Одно слово Снег может иметь разное значение.
avatar
:)) выстраивания коммуникации
avatar
Если рассматриваем человека как бота, то принцип обучения одинаков
тут рассматривается только это "способна ли машина обладать сознанием в том же смысле, в котором им обладает человек". ибо с обучением проблем нет, а если и есть, то, думаю, они решаемы. иначе вообще уйдём в дебри второстепенного.

то мне кажется, что самоосознание добавляется
бонусом? :) т.е. если что-то выглядит как утка, ходит как утка, крякает как утка и т.д. — то это живая утка? очень смело раздавать жизнь лишь на основании того, как внешне это похоже на жизнь. но если достаточно лишь что-бы внешние проявления совпадали бы с реальной уткой — то вполне можно. :)

Проживание это перцепция и свидетельствование?
перцепция, присутствие. у человеческого сознания всё из одного теста. в том числе и свидетельствование… ну так вот. всевозможные знания о вкусе, о том, какие электрические импульсы где происходят по-твоему гарантированно дадут возможность создать сознание, способное переживать? чувствую, что всё упирается в веру, что «да». есть ли способы это подтвердить? нет. только надеяться, что кучка движущихся электронов — являются полным доказательством наличия человеческого переживания у ИИ. но так ли это? сомневаюсь. выше уже говорил на каком основании.
avatar
+1
Вопрос про есть ли сознание у машины, исследуется через постановку: что такое сознание что такое сознает.
Как мы определяем что это живая утка? Каковы особенности и различия у живого объекта и неживого?
Мы не можем гарантировать даже то что человек гарантировано сознает, при наличии переживаний. Берем психиатрические больницы и изучаем организмы которые обладают подобными проявлениями и свойствами и чем отличаются.
Есть же какие то критерии по определению, есть ли у объекта переживапия и сознание или нет. Какие?
avatar
что такое сознание что такое сознает.
на это не может быть дан полностью удовлетворительный ответ. ибо это не понятийный аспект, а скорее переживаемый. это как спросить что такое сладкий вкус? сколь большими бы знаниями некий воображаемый человек, лишённый вкуса, не обладал бы, они ему не дадут переживание.

Есть же какие то критерии по определению, есть ли у объекта переживапия и сознание или нет. Какие?
можно перечислить лишь косвенные проявленные признаки. этим и можно заниматься, моделируя те или иные признаки, усложняя и усложняя в попытке повторить. не более. можно конечно сказать, что даже в отношении другого человека нет оснований сказать, что он что-то переживает. но предполагается, что переживает, т.к. предполагающий сам переживает. :)

т.е. как по мне задача не решаемая. но челу в общем это и не нужно для удовлетворения своих потребностей. человеко-подобие будет выглядеть всё больше подобным. и в один момент наверное вообще можно будет не отличить настоящего от имитирующего.
avatar
мысленный эксперимент в области философии… Цель эксперимента состоит в опровержении утверждения о том, что цифровая машина, наделённая «искусственным интеллектом» путём её программирования определённым образом, способна обладать сознанием в том же смысле, в котором им обладает человек.
Как по-мне так это просто спекуляции, возникшие от непонимания что такое исскуственный интелект. Это как сравнивать мух и котлеты и думать, что когда то муха станет напоминать котлету )
avatar
Ну если, как в контексте поста, исследовать, то до конца.
avatar
может быть… эти мысленные «эксперименты» это как коаны для ума… их цель запустить ум в размышление… и тут да… это будет длиться столько на столько «глубока кроличья норка» )
avatar
+1
Ну если хотя бы одну мысль до конца додумать, говорят не нужно будет ничего, уже можно увидеть основу сознания ) но думать доконца не очень многие могут. Я лично отвлекаюсь. Но втупляться в что есть мысль из чего состоит, прикольно.
avatar
втупляться в что есть мысль из чего состоит, прикольно.
будоражит, не дает уму заскучать )
avatar
Ненене. Ты попробуй. Щас ты сказала точно не смотря.
avatar
что попробовать?
avatar
Мысль до конца смотреть :)))
avatar
не заваривайся слишком в чепухе.
avatar
Эээээээээ :))) мне твое кино не подгружают, забыла?
avatar
Ненене. Ты попробуй.
Аналогично ) Я не понимаю о чем ты пишешь «мысль смотреть до конца».
avatar
Так может и не надо? :)
avatar
Да, так и есть ) Улыбаюсь… Такими короткими предложениями очень просто общаться и понимать друг друга. Когда ум не скачет впереди «паровоза» то общение очень приятное получается )
avatar
:))) можно вообще смайлами
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии.