Меморандум Цукерберга

Нам повезло жить в невероятный момент истории. В ближайшие несколько лет люди смогут использовать сверхинтеллект, превосходящий человеческие возможности, чтобы создавать и открывать необыкновенные новые вещи.

Категории: Технологии Наука Культура

Строить новые бизнесы, выражать новые идеи, осваивать новые концепции, улучшать наше здоровье и качество жизни. По мере приближения к этому моменту важно выработать философию того, как нам наилучшим образом использовать сверхинтеллект, чтобы он улучшал жизнь каждого из нас, нашу работу, сообщества, свободу и безопасность.

Определяющие вопросы нашей эпохи заключаются в том, кто получит доступ к сверхинтеллекту и на что мы будем его направлять. Будет ли он централизован и ограничен несколькими институтами или станет инструментом, расширяющим возможности каждого?

Мы предлагаем философию, основанную на расширении возможностей личности как источнике процветания, изобретательстве как главном предназначении сверхинтеллекта и балансе сил как основе безопасности. Все новые технологии создают возможности и вызовы. Сверхинтеллект будет одной из важнейших технологий в истории, поэтому его возможности и вызовы, вероятно, окажутся больше любых, с которыми мы сталкивались в течение нашей жизни. Мы должны отнестись к этому очень серьёзно.

И всё же удивительно, что дискуссия у многих разработчиков ИИ настолько наполнена мрачными предчувствиями. Я не понимаю, почему кто-либо, считающий, что ИИ устранит большинство рабочих мест и значительную часть человеческой значимости, будет спешить строить такое будущее. Представление о том, что ИИ настолько опасен, что единственный безопасный путь состоит в крайней концентрации власти, кажется по своей сути проблематичным. Исторически надежда на то, что абсолютная власть будет благожелательно заботиться о человечестве, если только она достаточно просвещена, не приводила к безопасным или позитивным результатам.

Человечество было свидетелем многих преобразующих достижений. Каждый раз возникал страх, что люди останутся позади. Но каждый раз человечество выходило из этого периода с большим числом людей, разделяющих большее процветание, здоровье и свободу. Мы считаем, что то же будет верно и в отношении ИИ и что изобилие будущего может быть разделено всеми. Мы также считаем, что ценности, которые привели нас к нынешнему моменту — такие как свобода, открытое исследование, свободное предпринимательство и равенство возможностей, — являются и правильными ценностями для построения позитивного будущего.

Наделение людей возможностями для осуществления собственных стремлений — вот как человечество достигало наибольшего прогресса. Новые идеи и крупные шаги вперёд редко исходят только от устоявшихся институтов. Они приходили от братьев из велосипедной мастерской, веривших, что люди могут летать; от ученика переплётчика без образования, который понял, как вырабатывать электричество; и от мальчишки в гараже, подумавшего, что персональные компьютеры могут быть для всех. Мы верим, что так будет и дальше. По мере того как каждый получает более мощные инструменты, каждый человек будет становиться более, а не менее способным формировать будущее.

Наибольшим вкладом сверхинтеллекта станет изобретательство, а не автоматизация. Ранний ИИ мог отвечать на вопросы и выполнять рутинную работу. Вскоре он всё чаще будет помогать открывать новое знание — от открытия новых лекарств для излечения болезни члена семьи до поиска новых способов улучшить ваш бизнес. Хотя число вопросов, которые человек может задать за день, ограничено, число ценных вещей, которые сверхинтеллект может изобрести, чтобы помочь достичь ваших целей, не ограничено.

По мере того как интеллект становится изобильным, важнейшим вопросом будет то, как мы его направляем. Некоторые утверждают, что сверхинтеллект сам по себе или небольшая группа контролирующих его экспертов должны решать, что лучше для человечества. Мы не согласны. История демократии и экономики показала, что не существует единственного объективного ответа на вопрос, как люди определяют лучшую жизнь, и потому лучший подход — позволить людям самим решать, что имеет значение в их собственной жизни.

Мы считаем, что предоставить сверхинтеллект каждому — значит ответить на этот вопрос. Это следует традиции помещать мощь суперкомпьютеров и интернета в карманы каждого и на наши столы. Вместо централизации сверхинтеллекта нам следует широко его распределить и дать каждому человеку возможность направлять его. Это способно начать новую эпоху расширения личных возможностей, в которой люди смогут использовать эту мощную новую способность, чтобы полностью реализовать свой потенциал, следовать своим интересам и улучшать свою жизнь и мир больше, чем когда-либо прежде.