Располагая технологиями по взлому людей

Располагая технологиями по взлому людей

Во французском издательстве Albin Michel 2 октября должна выйти книга 42-летнего израильского военного историка-медиевиста, профессора исторического факультета Еврейского университета в Иерусалиме Юваля Ноя Харари "21 урок для XXI века". В ней он скрупулезно разбирает цели и задачи нашей эпохи: экологический кризис, фейковые новости, big data (большие данные) и искусственный интеллект. Интервью с Ювалем Ноем Харари записал корреспондент французской Le Monde в Иерусалиме Петр Смолар.

"В течение долгого периода национализм был силой добра. Он позволял народам сотрудничать больше, чем в прежние времена. На протяжении почти двухсот лет, во многом благодаря национальном чувству, люди готовы были платить за свою социальную защиту и за государство всеобщего благосостояния. Но у национализма есть и плохие стороны: ксенофобия, ведущая к войне. Сегодня он становится отягчающим фактором", - считает Харари.

"Национализм не способен дать ответы на глобальные проблемы, - полагает историк. - Никто не может выстроить стену против искусственного интеллекта или глобального потепления".

"Кто хочет управлять искусственным интеллектом и биотехнологией, тому необходимо международное сотрудничество, - утверждает эксперт. - Без него невозможно будет не только остановить их развитие, но и придется отказаться от собственных правил. Если, например, Китай или Россия освоят боевых роботов, то начнется гонка вооружений. Пять лет назад никто, может, кроме Китая, не осознавал потенциала искусственного интеллекта, а ведь он может способствовать исчезновению человечества".

"Либеральная демократия исходит из принципа, что наш мозг - это черный ящик, заполненный нашими желаниями и мыслями, куда доступ есть только у нас. Такой режим постулирует, что избиратель знает, что делает. Было решено устроить "Брекзит", ибо высочайшей ценностью признаны чувства британских избирателей. И достоверность этих чувств никто не оспаривает. Однако нынешний кризис рождается оттого, что уже имеются технологии для взлома людей, а не только мобильников или компьютеров. Революция состоит в том, что теперь можно понимать ваши желания, чувства, мысли и вас контролировать", - анализирует Харари.

"В фейковых новостях нет ничего нового, но сейчас можно подкармливать ими людей целенаправленно. Если кто-то ненавидит мигрантов, ему показывают историю, где мигранты насилуют француженок, и он легко в это поверит, даже если это неправда. Ложные новости фабрикуются для того, чтобы спровоцировать ослабление общественного дискурса, чтобы подтолкнуть людей к крайностям", - поясняет эксперт.

"Сегодня мы наблюдаем манихейскую борьбу между высшим "Добром" и высшим "Злом", поскольку различные группы - партии, иностранные агенты или компании - действуют в этом направлении", - подчеркивает Харари.

"Искусственный интеллект и большие данные, конечно, используются компаниями для того, чтобы лучше понять людей и ими манипулировать. Но те же технологии можно использовать для того, чтобы позволить людям лучше понимать себя и развивать свою устойчивость к манипуляциям", - отмечает эксперт.

"То, что мы считаем своими самыми неподдельными эмоциями, может оказаться результатом манипулирования. Нельзя себе доверять. В XX веке звучало как мантра: "Доверяй себе, следуй за своим сердцем". Но в роли вашего сердца может выступать российский агент! Это не означает, что нельзя никому доверять. Но мы должны ясно понимать, что являемся уязвимыми для манипулирования", - рассуждает Харари.

"Кто должен контролировать базы данных? Государство или компании?" - спросил журналист.

"Придется выбирать из двух зол. Если правительство демократическое и в его распоряжении есть группы, уравновешивающие существующую власть, то пусть лучше это будет оно, а не компании. Но если правительство знает о вас все, то мы быстро скатываемся к цифровой диктатуре. В вас едва успел вызреть росток сопротивления, как правительство уже в курсе. Данные становятся настолько важны, что тот, кто их контролирует, и представляет собой истинное правительство. Если бы компания Amazon держала под контролем все наши транзакции и медицинские карты, то правительством стала бы она", - ответил собеседник издания.

"Никто не знает, что будет с рабочими местами через тридцать лет. Вознамериться подготовить молодых к столь дальней перспективе - пустая трата времени и средств. Лучшее, что можно предпринять, - это научить детей меняться. Люди должны будут несколько раз в жизни заново обретать себя, так как ожидаемая продолжительность жизни стала длиннее, чем прежде, а рынок труда - более волатильным", - указывает эксперт.

"Многие рутинные профессии, необязательно связанные с физическим трудом, постепенно исчезнут. Работа медсестры, требующая многих навыков работы руками, таких как уколы детям или смена повязок, на мой взгляд, находится под меньшей угрозой, нежели профессия врача, который анализирует данные, сравнивает анамнезы, ищет модель. Это как раз то, с чем намного лучше справится искусственный интеллект", - предполагает Харари.

"Философия традиционного образования основана на выстраивании устойчивой личности, с профессиональными качествами, которые прослужат ей в течение всей жизни. Теперь все наоборот, нужно думать о том, чтобы больше не выходить из системы образования. Раньше велось строительство личностей, подобных каменным домам. Завтра потребуется, чтобы эти личности уподобились палаткам", - считает историк.

"Надо прилагать усилия, чтобы люди могли развиваться и заново обретать себя - и большая часть таких усилий должна исходить от государства. В XIX и XX веках оно создало воспитательную систему, которой никогда раньше не существовало. Сейчас нужна система перевоспитания - но только не в смысле китайских трудовых лагерей!" - иронизирует Харари.

"Однако может так статься, что психологические барьеры окажутся выше, чем экономические. Многие люди не смогут переучиться. Значит, надо признать тот факт, что все большее число людей будут жить десятки лет после потери своей работы, и потребуется оказывать им финансовую помощь. Чем они будут заниматься все это время? Подумаем о том, что действительно полезно. Быть отцом или матерью, принимать участие в жизни своего сообщества - такие виды деятельности не являются авторитетными, что достойно сожаления", - указывает эксперт.

"Существует израильский парадокс. Страна находится на вершине инноваций, но в то же время, похоже, движется к беспрецедентному племенному строю. Почему так происходит?" - спросил интервьюер.

"Это не парадокс. Из истории известно, что религиозный фанатизм, национализм и племенной строй могут сосуществовать с технологическими инновациями. Часто самые передовые технологии ставятся на службу мифологическим идеям и племенным страстям. Израиль столь склонен к новаторству отчасти благодаря присущему ему ощущению постоянного экзистенциального кризиса - это идея о том, что если не действовать по-новому, то ты будешь уничтожен. Такой процесс способствует и усилению племенных чувств", - ответил собеседник издания.