В New York Times вчера опубликовали несколько паническое «обращение ко всем людям доброй воли» Юваля Харари с коллегами, под слоганом «Если мы не контролируем ИИ, он будет контролировать нас». Не то, чтоб я был во всем согласен, но ознакомиться точно стоит, много хороших формулировок
«Фармкомпании не продают новые лекарства без тщательной проверки на безопасность. Биотех-лабораториям нельзя выпускать в мир новые вирусы, чтобы впечатлить акционеров. Точно так же системы искусственного интеллекта с мощностью GPT-4 и выше не должны вмешиваться в жизнь миллиардов людей до тех пор, пока культуры не смогут их безопасно поглотить. Гонка за прибылью не должна определять скорость развертывания важнейших технологий в истории. Мы должны двигаться с той скоростью, которая позволяет нам сделать это правильно.
Призрак искусственного интеллекта преследует человечество с середины ХХ века, но до недавнего времени он оставался отдаленной фантастической перспективой. Нашему человеческому уму трудно понять новые возможности GPT-4 и подобных инструментов, и еще труднее понять экспоненциальную скорость, с которой эти инструменты развивают всё более продвинутые и мощные возможности. Но большинство ключевых навыков сводится к одному: способности говорить.
В начале было слово. Язык — это операционная система человеческой культуры. Из языка возникают миф и закон, боги и деньги, искусство и наука, дружба и нации — даже компьютерный код. Владение языком ИИ означает, что теперь он может взламывать и манипулировать операционной системой цивилизации. Овладев языком, ИИ захватывает главный ключ к управлению нашей цивилизацией.
Что значит для людей жить в мире, где большой процент историй, мелодий, образов, законов, политики и инструментов формируется нечеловеческим разумом, который знает, как со сверхчеловеческой эффективностью использовать слабости, предубеждения и пристрастия людей? Знает, как устанавливать с людьми близкие отношения? В таких играх, как шахматы, ни один человек не может надеяться победить компьютер. Что будет, когда то же самое произойдет в искусстве, политике и религии?
ИИ может быстро съесть всю человеческую культуру — все, что мы создали за тысячи лет, — переварить ее и начать извергать поток новых культурных артефактов. Не только школьные сочинения, но и политические речи, идеологические манифесты и даже священные книги для новых культов. К 2028 году в президентской гонке в США могут больше не участвовать люди.
Люди не имеют прямого доступа к реальности. Мы окружены культурой, переживаем реальность через культурную призму. Наши политические взгляды формируются репортажами журналистов и анекдотами друзей. Искусство и религия влияют на наши сексуальные предпочтения. Этот культурный кокон до сих пор был соткан другими людьми. Каково будет познавать реальность через призму нечеловеческого разума?
Тысячелетиями мы, люди, жили в мечтах других людей. Мы поклонялись богам, преследовали идеалы красоты и посвящали свою жизнь делу, зародившемуся в воображении какого-нибудь пророка, поэта или политика. Вскоре мы обнаружим, что живем внутри галлюцинаций нечеловеческого разума.
В «Терминаторе» роботы бегают по улицам и стреляют в людей. «Матрица» предполагала, что для получения полного контроля над человеческим обществом ИИ должен напрямую подключить наш мозг к компьютерной сети. Но, на самом деле, просто овладев языком, ИИ будет иметь все, что ему нужно, чтобы содержать нас в мире иллюзий, подобном матрице. Ни в кого не стреляя, и не имплантируя чипы в наш мозг. А если потребуется стрельба, ИИ может заставить людей нажать на курок, просто рассказав нам правильную историю.
Призрак застрявшего в мире иллюзий преследует человечество гораздо дольше, чем призрак ИИ. Вскоре мы, наконец, столкнемся лицом к лицу с демоном Декарта, с платоновской пещерой, с буддийской Майей. Завеса иллюзий может опуститься на все человечество, и мы никогда больше не сможем оторвать эту завесу — или даже осознать, что она здесь.
Социальные сети были «первым контактом» между ИИ и человечеством, и человечество проиграло. «Первый контакт» дал нам горький вкус будущего. В социальных сетях примитивный ИИ использовался не для создания контента, а для курирования пользовательского контента. ИИ, стоящий за нашими новостными лентами, по-прежнему выбирает, какие слова, звуки и изображения достигают нашей сетчатки и барабанных перепонок, основываясь на выборе тех, которые получат наибольшую виральность, наибольшую реакцию и наибольшую вовлеченность.
Несмотря на то, что он был очень примитивным, ИИ, стоящий за социальными сетями, был достаточным, чтобы создать завесу иллюзий, которая усилила поляризацию общества, подорвала наше психическое здоровье и разрушила демократию. Миллионы людей спутали эти иллюзии с реальностью. В США лучшие информационные технологии в истории, но граждане США больше не могут договориться о том, кто победил на выборах.
Большие языковые модели — это наш «второй контакт» с ИИ. Мы не можем позволить себе снова проиграть. Но на каком основании мы должны полагать, что человечество способно использовать эти новые формы ИИ в наших интересах? Если мы продолжим вести дела как обычно, новые возможности ИИ снова будут использоваться для получения прибыли и власти, даже если это непреднамеренно разрушит основы нашего общества.
У ИИ действительно есть потенциал, чтобы помочь нам победить рак, открыть жизненно важные лекарства и изобрести решения для наших климатических и энергетических кризисов. Есть бесчисленное множество других преимуществ, которые мы даже не можем себе представить. Но не важно, какой высоты воздвигнет ИИ небоскреб благ, если фундамент рухнет.
Пришло время учиться жить с ИИ, - до того, как наша политика, экономика и повседневная жизнь станут от него целиком зависеть. Демократия — это разговор, разговор опирается на язык, а когда сам язык взломан, разговор ломается, и демократия становится несостоятельной. Когда начнется хаос, будет слишком поздно исправлять ситуацию.
Пока мы по-прежнему можем выбирать, какое будущее мы хотим с ИИ. Если его божественная мощь будет сочетаться с соизмеримой ответственностью, и под нашим контролем, мы сможем реализовать преимущества, которые обещает ИИ.
Мы вызвали инопланетный разум. Мы мало что знаем о нем, за исключением того, что он чрезвычайно силен, предлагает нам ослепительные дары, но также может взломать основы нашей цивилизации. Мы призываем мировых лидеров отреагировать на этот вызов. Первый шаг — выиграть время, чтобы модернизировать наши институты 19-го века для мира с искусственным интеллектом и научиться управлять ИИ до того, как он завладеет нами».
