Кабинет
глава 5 · идея 25 из 35 следующая: «Основы интегральной теории: 20 принципов, 1-й…»

Создание универсального Искусственного Интеллекта бессмысленно

Stanisław Lem · Звёздные дневники Ийона Тихого · книга · @Egorium · около 5 минут

Суть коротко

Через фантастику Лема проходит мысль: универсальный ИИ, созданный как замена человеку, неизбежно унаследует и человеческие пороки — лень, обидчивость, эгоизм. Нельзя воспроизвести «механику» мышления, не притащив вместе с ней её проблемы (в одном рассказе мозг-автопилот просто отказывается работать от скуки). Добавляется соображение, что сознание завязано на тело, а значит эмулировать пришлось бы не только мозг.

👨‍🚀 Универсальный искусственный интеллект, мозг, который будет создан для замены человека, будет наследовать все проблемы человеческого сознания: лень, обидчивость, эгоизм.

👨‍🚀 Невозможно добиться повторения “механики” мышления без её же проблем.

👨‍🚀 В одном из рассказов мозг-автопилот космолета отказался работать, потому что ему надоело.

Автор цикла часто философствует на тему искусственного мозга.

👨‍🚀 Физическое тело играет большую роль в сознании и мышлении, поэтому эмулировать придется не только сам мозг, но и тело (мысль от себя).

Дальше Проверить себя Обсудить в Telegram · 7 обсуждений
?
«Усвоить» оставит след на карте — планета взойдёт сразу и останется гореть, повторять её не придётся. «Запомнить» удержит идею в памяти: только отмеченные идеи возвращаются к вам в срок. Прочитанное без отметки не повторяется. Значки рядом — реакции читателей канала: поставить свою можно в Telegram, на сайте они только показываются.
Ключевые термины
Универсальный ИИ
Мозг, задуманный заменить человека; по Лему обречён унаследовать проблемы человеческого сознания вместе с самой механикой мышления
Соседи на карте
?
Цвет линии — тип связи. «Предыдущая» и «последующая» — одна связь с разных сторон: на большой карте она рисуется одной линией, а здесь видно направление.
Важно не медлить с принятием ценностей гуманизма –… живое напряжение · сравнить обе противоположная Цель искусственного интеллекта — усиление интеллекта… вне систем противоположная
предыдущая последующая похожая мост пример противоположная
Отвечает на вопросы
  • унаследует ли ИИ человеческие недостатки
  • почему создание универсального ИИ бессмысленно по Лему
  • может ли машина мыслить без человеческих пороков
  • роль тела в сознании и мышлении
  • что Лем писал об искусственном мозге
Свет идеи: не в памяти. Отметка «Запомнить» включит возвращения.
?
Свет — это ваша память об идее. Отметка «Усвоить» зажигает планету на карте навсегда: такой свет не гаснет и повторений не требует. Свет удержанных отметкой «Запомнить» идей живёт по-другому — растёт с повторениями в «Сегодня» и медленно гаснет без них. Всё живёт на устройстве, никуда не отправляется.
Карточка-цитата
Уйдёт ссылкой с превью — получатель откроет идею целиком.

Эта идея — шаг 25 маршрута «Как устроены мир и сознание». Можно пройти его с начала — позиция сохранится.