Кабинет
глава 8 · идея 37 из 38 следующая: «7 необходимых качеств исследователя»

Показывать хорошие результаты - не значит понимать игру. Поэтому любитель смог взять разгромный реванш за чемпиона мира у машины в го

Gary Marcus · Substack · статья · @pavelnosikov · около 5 минутЧитать статью →

Суть коротко

Победа ИИ над чемпионом мира по го (2016) казалась вехой превосходства машин, но в 2022 году исследователь нашёл тактику-обманку, и обученный ей любитель разгромил один из сильнейших го-движков со счётом 14:1 — притом на живых игроках та же тактика не работает. Причина: у программы нет понимания игры, она лишь молниеносно перебирает оптимальные ходы по историческим данным и рушится в ситуациях, которых не было в обучающей базе. Та же уязвимость — у беспилотных машин и чат-ботов.

🔹Го считалась самой сложной для алгоритмизации интеллектуальной игрой - поэтому когда в 2016 году, через 20+ лет после шахмат, компьютерная программа смогла победить чемпиона мира по го со счетом 4:1 - это стало считаться важной вехой превосходства искусственного интеллекта над человеческим,

🔹В 2022 году аспирант университета в Беркли выдвинул тактику обмана машины и решил ее проверить на одном из двух самых совершенных алгоритмов для го. Проверка сработала - и поэтому когда он обучил тактике непрофессионального игрока в го - тот сумел обыграть машину со счетом 14:1, При этом та же тактика не работает против обычных игроков в го,

🔹Это стало возможным потому, что у искусственного интеллекта нет собственно понимания игры. Программы добиваются высоких результатов за счет молниеносного оперирования историческими данными и выбором оптимальных ходов на их основе. Но когда сталкиваются с ситуациями, которых нет в их тренировочной базе - не могут сконструировать достойный ответ. Это та же проблема, что наблюдается у самоуправляемых машин и чатботов.

Дальше Проверить себя Обсудить в Telegram · 1 обсуждение Отозвалось
?
«Усвоить» оставит след на карте — планета взойдёт сразу и останется гореть, повторять её не придётся. «Запомнить» удержит идею в памяти: только отмеченные идеи возвращаются к вам в срок. Прочитанное без отметки не повторяется. Значки рядом — реакции читателей канала: поставить свою можно в Telegram, на сайте они только показываются.
Ключевые термины
Отсутствие понимания
ИИ достигает результата, перебирая исторические данные и выбирая оптимальные ходы, но не строит ответ в незнакомой ситуации.
Соседи на карте
?
Цвет линии — тип связи. «Предыдущая» и «последующая» — одна связь с разных сторон: на большой карте она рисуется одной линией, а здесь видно направление.
Искусственный интеллект, разум и китайская комната вне систем пример Основные сценарии истребления человека искусственным… вне систем похожая
предыдущая последующая похожая мост пример противоположная
Отвечает на вопросы
  • Как любитель смог обыграть сильнейший ИИ в го
  • Почему искусственный интеллект не понимает игру, в которую играет
  • В чём слабость ИИ, побеждающего чемпионов мира
  • Почему высокие результаты нейросети не равны пониманию
  • Что общего у провалов ИИ в го, беспилотных авто и чат-ботов
Свет идеи: не в памяти. Отметка «Запомнить» включит возвращения.
?
Свет — это ваша память об идее. Отметка «Усвоить» зажигает планету на карте навсегда: такой свет не гаснет и повторений не требует. Свет удержанных отметкой «Запомнить» идей живёт по-другому — растёт с повторениями в «Сегодня» и медленно гаснет без них. Всё живёт на устройстве, никуда не отправляется.
Карточка-цитата
Уйдёт ссылкой с превью — получатель откроет идею целиком.

Эта идея — шаг 37 маршрута «Учиться и осваивать знание». Можно пройти его с начала — позиция сохранится.