Искусственный интеллект, разум и китайская комната
Дмитрий Волков, Мария Фали · YouTube · видео · @GoshaLevin · около 5 минутСмотреть видео →
Суть коротко
Мысленный эксперимент Джона Серла «Китайская комната»: человек без знания китайского по инструкциям подбирает иероглифы-ответы так, что снаружи кажется, будто он понимает язык, — хотя он лишь манипулирует символами. Так же работают и машины: любая программа синтаксична, а сознание семантично, ему нужна связь символа со значением. Поэтому даже проходящая тест Тьюринга программа ничего не понимает — синтаксис не порождает семантику, и разума у машины нет.
Представьте, вы общаетесь с искусственным интеллектом. Он отвечает на любые вопросы, сам поддерживает беседу, рассказывает про детство, вспоминает прочитанные книги. Можно ли сказать, что у него есть разум?
С философской точки зрения - нет. Американский философ Джон Серл предложил такой мысленный эксперимент:
Представьте комнату в Китае, в которой сидит человек, который не говорит по китайски. Внутри комнаты масса книг и инструкций по китайскому языку. Через окошко китайцы дают ему бумажки с иероглифами - задают вопросы, делают утверждения.
Человек с помощью инструкции и разговорников находит самые подходящие ответы. Таким образом китайцам кажется, что он понимает язык. Им кажется, что он общается рационально.
На самом деле человек не понимает, о чем идет речь, он просто находит самые подходящие по смыслу иероглифы в справочниках и бездумно их перерисовывает, чтобы дать ответ.
Точно так же машины симулируют человека. Но они такие же бессмысленные как и действия человека в китайской комнате.
Все программы являются синтаксическими системами. А сознание человека семантическое. Нам необходимо отношение между символом и его значением.
Никакая машина, которая действует на основании символов, не может быть рациональной. Синтаксис не рождает семантику.
Даже если машина действует разумно, она все равно ничего не понимает. У нее нет разума. Она не может ставить цели и их достигать.
Например в 2014 году программа Eugene Goostman смогла пройти тест Тьюринга, т.е. человек, который с ней общался, был уверен, что говорит с настоящим человеком, но это была только “китайская комната”
?
- Китайская комната
- Мысленный эксперимент Сёрла: человек по инструкции подбирает иероглифы, не понимая языка, — как машина оперирует символами без понимания смысла.
- Синтаксис не рождает семантику
- Формальная обработка символов сама по себе не создаёт понимания их значения.
?
- Что такое аргумент китайской комнаты Джона Сёрла?
- Может ли искусственный интеллект по-настоящему понимать?
- В чём разница между синтаксисом и семантикой у машин?
- Означает ли прохождение теста Тьюринга наличие разума?
- Почему ИИ симулирует понимание, но не обладает им?
?
Эта идея — шаг 22 маршрута «Как устроены мир и сознание». Можно пройти его с начала — позиция сохранится.