Позиция А
Метамодернизм
Albert Wenger
Важно не медлить с принятием ценностей гуманизма – технологии скоро позволят создавать новые виды людей, и какими они будут – зависит от того, что они увидят
🔹 Транс-человеческие существа (Transhumans) — это люди с возможностями, расширенными как за счет генетической модификации (например, посредством технологии редактирования генов CRSPR), так и за счет цифрового расширения (например, интерфейса мозг-машина Neuralink), в то время как нео-человеческие (Neohumans) — это машины с искусственным интеллектом (AGI – Artificial General Intelligence).
🔹 Обе разновидности могут стать частью единого соединенного «сверхразума» (superintelligence), что представляет чрезвычайную угрозу для человечества. Философ Ник Бостром написал книгу на эту тему, он и другие мыслители предупреждают, что суперинтеллект может иметь катастрофические последствия.
🔹 Давайте задумаемся, что будущий сверхразум узнает о человеческих ценностях из нашего текущего поведения?
🔹 Наше отношение к другим видам, к планете и, прежде всего, друг к другу будет определяющим фактором нашей характеристики.
🔹 Важно принять ценности гуманизма и расширить человеческую свободу, чтобы минимизировать страдание, в то время как существующие системы образования и рынка труда прямо противоположны этому и уходят корнями в Индустриальную эру.
🔹 Важно подчеркнуть, что физические различия не должны являться предметом осуждения или дискриминации, так как это станет особенно важно по отношению к «новым людям», у которых будут совсем другие «тела».
🔹 Как мы станем обращаться с ними? Это непростой вопрос. Должны ли у машин быть человеческие права? Если мы называем их людьми, то определенно должны. Поскольку эти новые люди, скорее всего, будут иметь мало общего с нашим биологическим строением, нет оснований ожидать, что их эмоции будут похожи на наши.
🔹 Это большая область для дальнейшей работы, но мы явно не хотим «случайно» создать совершенно новый вид людей, отказаться признавать их существование и в конечном счете угнетать их.
Albert Wenger · «The World After Capital»
Как удержать обе · комментарий автора атласа
Венгер торопит с ценностями: транслюди с генной правкой и нейроинтерфейсом и нео-люди как универсальный искусственный интеллект появятся скоро, и то, каким станет их отношение к нам, они прочтут из нашего нынешнего обращения друг с другом, с планетой и с другими видами. Лем бьёт по самой затее: универсальный мозг, построенный на замену человеку, унаследует лень, обидчивость и эгоизм, потому что механику мышления не повторить без её проблем, — в одном рассказе автопилот отказывается работать от скуки.
Расходятся они типом ставки. Вероятность считает Лем: проект, воспроизводящий человека, воспроизводит и его отказы. Цену считает Венгер: если такой субъект всё же появится, невыработанные заранее правила обойдутся в новый вид угнетённых. Ошибка — считать одно вместо двух: готовиться к сроку, не спрашивая о выполнимости, или отменять подготовку ссылкой на невыполнимость. Спрашивайте о вероятности, оценивая проект; считайте цену, оценивая последствия.