Эпоха Интеллекта — манифест Сэма Альтмана
Сооснователь OpenAI Сэм Альтман написал манифест про то, какие изменения даст нам развитие AI и что для этого требуется
Сэм Альтман написал визионерский текст про то, что мы вступаем в Эпоху Интеллекта (The Intelligence Age). Он, пожалуй, один из главных людей, кто двигает развитие искусственного интеллекта в последние годы, поэтому интересно изучить его мысли. Ниже перевод его текста.
В ближайшие несколько десятилетий мы сможем делать вещи, которые нашим бабушкам и дедушкам казались бы волшебством.
Этот феномен не нов, но развиваться он будет быстрее. С течением времени у людей стало значительно больше способностей. Уже сейчас мы можем делать то, что наши предшественники считали невозможным.
Наши способности появились не из-за генетических изменений, а потому, что нам помогает инфраструктура общества, которое намного умнее и способнее каждого из нас. Само общество — это форма развитого интеллекта. Наши бабушки и дедушки — и поколения до них — строили и добивались великих свершений. Они внесли свой вклад в развитие человеческого прогресса, которым мы все пользуемся. AI даст людям инструменты для решения сложных проблем и поможет нам добавить новые стойки к этим строительным лесам, которые мы не смогли бы придумать самостоятельно. История прогресса будет продолжаться, и наши дети смогут делать то, что мы не можем.
Это произойдет не сразу. Но вскоре мы сможем работать с искусственным интеллектом, который поможет нам достичь гораздо большего, чем мы могли бы достичь без него. В конечном итоге у каждого из нас будет личная AI-команда, состоящая из виртуальных экспертов в различных областях, которые будут работать вместе, чтобы создать практически все, что мы можем себе представить. У наших детей будут виртуальные репетиторы, которые смогут давать им индивидуальные уроки по любому предмету, на любом языке и в том темпе, который им необходим. Мы можем представить себе аналогичные идеи для улучшения здравоохранения, возможность создания любого программного обеспечения, которое только можно себе представить, и многое другое.
Благодаря этим новым возможностям мы сможем добиться всеобщего процветания в такой степени, которая сегодня кажется немыслимой. В будущем жизнь каждого человека может стать лучше, чем сейчас. Само по себе процветание не обязательно сделает людей счастливыми — есть множество несчастных богатых людей, — но оно значительно улучшит жизнь людей во всем мире.
После тысячелетий сложных научных открытий и технологического прогресса мы поняли, как расплавить песок, добавить несколько примесей, с поразительной точностью разложить его в необычайно крошечных масштабах на компьютерные чипы, пропустить через них энергию и в итоге получить системы, способные создавать искусственный интеллект со все большими возможностями.
Это может оказаться самым значимым фактом всей истории на сегодняшний день. Возможно, мы получим сверхразум через несколько тысяч дней(!). Возможно, это займет больше времени. Но я уверен, что мы к этому придем.
Как мы оказались на пороге следующего скачка в процветании?
В трех словах: глубокое обучение сработало.
В 15 словах: глубокое обучение работает, становится предсказуемо лучше с ростом масштаба, и мы выделяем на него все больше ресурсов.
Вот и все. Человечество открыло алгоритм, который действительно, по-настоящему может изучить любое распределение данных (или «правила», лежащие в основе любого распределения данных). Чем больше вычислений и данных, тем лучше он помогает людям решать сложные проблемы. Сколько бы времени я ни тратил на размышления об этом, я никогда не мог осознать, насколько это важно.
Нам еще предстоит разобраться во многих деталях, но отвлекаться на какую-то конкретную задачу — это ошибка. Глубокое обучение работает, и мы решим оставшиеся проблемы. Можно много говорить о том, что может произойти дальше, но главное — AI будет становиться лучше с ростом масштабов. И это приведет к значимому улучшению жизни людей по всему миру.
Модели AI вскоре станут автономными персональными помощниками, которые будут выполнять определенные задачи от нашего имени. Например, координировать медицинское обслуживание от вашего имени. В какой-то момент AI-системы станут настолько хороши, что помогут нам создать более совершенные системы следующего поколения и добиться научного прогресса во всем мире.
Технологии привели нас из каменного века в аграрный, а затем в промышленный. Отсюда путь в Эпоху Интеллекта лежит через вычисления, энергию и человеческую волю.
Если мы хотим, чтобы AI оказался в руках как можно большего числа людей, нам нужно снизить стоимость вычислений и сделать так, чтобы возможность вычислений была в изобилии (для чего требуется много энергии и чипов). Если мы не создадим достаточной инфраструктуры, AI станет очень ограниченным ресурсом, за который будут вестись войны и который станет в основном инструментом богатых людей.
Мы должны действовать мудро. Наступление Эпохи Интеллекта — это судьбоносное событие с очень сложными и чрезвычайно высокими ставками. Эта история не будет полностью позитивной, но положительные стороны настолько огромны, что мы обязаны понять, как справиться с рисками, стоящими перед нами. Для себя и для будущего.
Я верю, что будущее будет настолько ярким, что сейчас никто не сможет правильно описать его. Определяющей характеристикой Эпохи Интеллекта станет массовое процветание.
Все будет происходить постепенно. Но поразительные победы — исправление климата, создание космической колонии и открытие всей физики — в конце концов станут обычным явлением. С почти безграничным интеллектом и изобилием энергии — способностью генерировать великие идеи и воплощать их в жизнь — мы сможем сделать очень многое.
Как мы уже видели на примере других технологий, будут и отрицательные стороны. И нам нужно уже сейчас начать работать над тем, чтобы максимизировать преимущества AI и минимизировать его вред. Например, мы ожидаем, что в ближайшие годы эта технология может вызвать значительные изменения на рынках труда (как хорошие, так и плохие). Но большинство профессий будут меняться медленнее, чем думает большинство людей. И я не боюсь, что у нас закончатся занятия (даже если сегодня они не похожи на «настоящую работу»). У людей есть врожденное желание творить и быть полезными друг другу, а AI позволит нам усилить наши собственные способности, как никогда раньше. Как общество, мы вернемся в расширяющийся мир и сможем снова сосредоточиться на играх с положительной суммой.
Многие из профессий, которыми мы занимаемся сегодня, показались бы людям пустяковой тратой времени несколько сотен лет назад. Но никто не оглядывается на прошлое, жалея, что не стал фонарщиком. Если бы фонарщик мог видеть сегодняшний мир, он бы подумал, что окружающее его процветание просто немыслимо. И если бы мы могли перемотать время на сто лет вперед, окружающее нас процветание казалось бы таким же невообразимым.