Будущее и страдания

Тут автор объясняет, зачем нужна эта область исследований, и указывает примеры того, как можно ими заниматься.

О потенциальных рисках огромных страданий, сопутствующих дальнейшему научно-техническому прогрессу и о том, как их можно уменьшить.

Если мы создадим искусственный сверхинтеллект, как наш контроль над ним отразится на том, сколько страданий будет во вселенной?

Стоит ли выступать за приостановку разработок искусственного интеллекта? Автор считает, что, несмотря на тревожную ситуацию с безопасностью ИИ, это не так уж и очевидно.

Приведет ли появление универсального (общего) искусственного интеллекта к технологической сингулярности? Необязательно.

Создание машин с интеллектом, превосходящим человеческий, может иметь огромные и в какой-то мере необратимые последствия. Нам следует хорошо подумать, в каком направлении мы хотели бы двигаться.

Зачем нужна кооперативность — дружелюбие, уважение и готовность идти на компромиссы с другими, даже если их ценности сильно отличаются от ваших?

Об утопическом трансгуманизме, страданиях и удовольствиях, а также возможных сходствах и различиях между хорошей жизнью и интересной историей.

Если мы преодолеем риски скорого вымирания человечества, ждёт ли нас утопическое будущее? Вряд ли.

Многие ожидают, что рост глобальной экономики в будущем ускорится и темпы роста будут не просто значительно выше, чем сегодня, но даже на порядки выше. Но так ли это?

Что, если созданный людьми искусственный интеллект когда-нибудь получит способность к субъективным переживаниям и будет массово подвергаться страданиям?

Обычно, обсуждая права машин с искусственным интеллектом, мы фокусируемся на тех гипотетических машинах, которые будут подобны людям. Но не задираем ли мы планку слишком высоко?