Это может быть лучшее время для известного британского режиссера Кристофера Нолана, чтобы выпустить новый фильм.
После того, как «Тенет» (Tenet) «провалился» из-за новой коронной эпидемии, новый фильм режиссера «Оппенгеймер» (Oppenheimer) вот-вот приступит к покраске через месяц.
Этот фильм о жизни Роберта Оппенгеймера, «отца атомной бомбы», посвящен тому, как харизматичный и интеллигентный человек привел «самый умный мозг на земле» к преодолению физических проблем, одновременно изобретая в мире историю о самом опасном оружии.
Страх перед «ядерной угрозой», с которым выросли Нолан и его сверстники, обретает новый отголосок в настоящем.
Просто на этот раз у атомной бомбы новое имя — ИИ.
Технология ChatGPT снова сделала искусственный интеллект популярным, и страх и волнение перед новыми технологиями находятся в том же тренде. Сотни экспертов по искусственному интеллекту опубликовали совместное письмо, в котором заявили об угрозе «вымирания человечества», которую может принести искусственный интеллект.
Недавно Wired опубликовал длинное интервью с режиссером Кристофером Ноланом, в котором режиссер объяснил свое отношение к горячо обсуждаемой в настоящее время «угрозе искусственного интеллекта» и сравнению искусственного интеллекта с ядерными угрозами 70-летней давности.
Нолан, однажды с любовью спасший человечество в «Интерстеллар», считает, что самая большая угроза для ИИ заключается в том, что у людей есть инстинктивное желание возложить свои творения на алтарь и избавиться от всех обязанностей, которые им приходится нести.
Директор указал, что по сравнению с поколением ученых Оппенгеймера, борющихся и сопротивляющихся между наукой и власть предержащими, «искание надзора» нынешних практиков ИИ является «лицемерным».
В то же время, как кинорежиссер старой школы, одержимый кино, Нолан возлагает надежды на развитие генеративного ИИ в области создания кино и телевидения, но то, что он хочет сделать, это «дать актерам настоящую атмосферу и среда."
«Самая большая опасность для человечества — отказ от ответственности», — сказал Нолан в интервью.
Ниже приводится оригинальный текст интервью, отредактированный редактором без изменения первоначального смысла:
Уничтожьте мир, сначала атомная бомба
Вопрос: Создается впечатление, что ваша работа с Эммой (женой Нолана, его давним продюсером) была своего рода подготовкой к Оппенгеймеру.
Нолан: Вот как я отношусь к фильму.
Я чувствую это по поводу каждого проекта, который я делаю. Потому что я пытаюсь опираться на то, чему научился раньше. Всякий раз, когда вы заканчиваете фильм, остаются вопросы, которые остаются без ответа. Итак, в следующем фильме вы подбираете остатки.
В Оппенгеймере, очень буквально, Оппенгеймер упоминается в Тенете (предыдущий фильм Нолана).
Q: Итак, он был у вас на уме какое-то время.
Нолан: История Оппенгеймера была со мной много лет. Это невероятная идея — кто-то пытается провести расчеты, чтобы найти взаимосвязь между теорией и реальным миром, и тогда есть очень маленький шанс, что они собираются уничтожить весь мир. Однако кнопку все равно нажали.
В: Очень драматично.
Нолан: Я имею в виду, что это буквально самый драматический момент во всей истории человечества.
В: Многие люди могут не знать, что когда мы сбросили бомбы в 1945 году, это был не только ужасный момент, это был также момент, когда люди узнали, что люди теперь имеют возможность стереть с лица земли всю человеческую расу.
Нолан: Мое мнение об Оппенгеймере таково, что многие люди знают это имя, знают, что он был связан с атомной бомбой, и что в истории Соединенных Штатов произошли некоторые сложные события в отношениях, и больше ничего нет. .
Честно говоря, для меня это идеальная аудитория для моих фильмов. Тот, кто ничего не знает, получит самый сумасшедший опыт. Потому что это сумасшедшая история.
Вопрос: Вы имеете в виду его личную историю?
Нолан: Зрители должны знать, потому что он один из самых важных людей.
Королева Нолана, актер Киллиан Мерфи, играет Оппенгеймера в фильме ｜Douban Movie
Вопрос: В фильме есть фраза, в которой кто-то говорит Оппенгеймеру, что вы можете заставить любого сделать что угодно. Что-то вроде этого. Он отличный менеджер, который знает все, и в одной комнате есть ученые, занимающиеся Х, а в другой комнате ученые занимаются Y, и он парень, который держит все это в голове.
Нолан: Он знает, как вдохновлять людей драматизмом своих персонажей, излучая свой собственный свет. Он дал всем ученым, чиновникам, всем внимание.
В: У него настоящая харизма.
Нолан: Очарование, это идеальное слово. От него все обретает форму, и фильм часто об этом, и именно его обаяние позволяет этим ученым, этим теоретикам собраться вместе и построить своими руками нечто такое огромное и такое важное. Это чудо.
В: Говоря о создании чего-то огромного, одной из самых интересных сессий, которые я провел на недавней конференции TED в Ванкувере, была серия докладов о генеративном искусственном интеллекте. Многие выступавшие упоминали об атомных бомбах и ядерном оружии. Последним спикером был технолог — он говорил о неизбежном превращении искусственного интеллекта в оружие.
Он завершил свое выступление, сказав, что единственный способ поддерживать мировой порядок — это иметь лучшее оружие искусственного интеллекта. Это было сдерживающим фактором. Это очень похоже на то, что люди думают об атомной бомбе. Похоже, ваш фильм нашел идеальное время для выпуска.
Нолан: Я думаю, что отношения — это интересный вопрос. Это другое. Но это лучшая метафора — и именно поэтому я использую ее в «Доводе» — бездумно обрушить на мир опасности новой технологии. Это поучительная история. Мы можем извлечь из этого уроки.
Сказав это, я верю, что атомная бомба уникальна с точки зрения технологий, которые изменили мир и поставили его под угрозу.
В: А происхождение этих технологий не одно и то же?
Нолан: Есть фундаментальная разница.
Ученые, изучающие расщепление атома, пытались объяснить правительствам, что (ядерная энергия) — это природный факт, исходящий от Бога или того, кто сотворил мир. Это просто о знании природы, что это неизбежно произойдет. Этого никто не может скрыть, мы его не создавали и нам это не принадлежит. Вот как они это видят.
В: Другими словами, им казалось, что они просто раскрывают то, что уже было.
Нолан: И я думаю, вам трудно привести аргумент в пользу искусственного интеллекта. Конечно, кто-то обязательно это сделает.
Вопрос: Вы, должно быть, выросли в тени бомбы.
Я вырос в Великобритании в 1980-х годах, и у нас была серия движений, таких как ядерное разоружение, и люди очень хорошо знали об угрозе ядерного оружия. Когда мне было 13, мы с друзьями верили, что в конце концов погибнем в ядерном апокалипсисе.
В: Но вы этого не сделали, и мир пошел дальше.
На днях я говорил об этом со Стивеном Спилбергом, который вырос на угрозе кубинского ракетного кризиса 60-х годов. такой же такой же.
В истории человечества были времена, когда опасность ядерной войны была для нас настолько осязаема и осязаема, что мы слишком хорошо это знаем. Конечно, мы можем только беспокоиться об этом так долго, прежде чем двигаться дальше и беспокоиться о других вещах. Проблема в том, что опасность на самом деле никуда не делась.
В: Да. Я имею в виду, я чувствую, что месяц назад мы все были обеспокоены тем, что какая-то страна действительно может применить ядерное оружие.
Нолан: Что я помню в 80-х, так это то, что страх перед ядерной войной отступил в пользу страха перед разрушением окружающей среды. Это похоже на то, как если бы люди не могли долго сохранять страх перед одной угрозой, у нас сложные отношения со страхом.
Да, некоторые страны использовали эту апокалиптическую угрозу и этот страх, чтобы размахивать флагом. Это очень беспокоит.
Рабочее фото режиссера Нолана｜Universal Pictures
Положите ИИ на алтарь, он самый опасный
В: Так же тревожно, как угроза конца света ИИ?
Нолан: Ну, распространение ИИ в оружейных системах и проблемы, которые он создаст, были настолько очевидны много лет назад, что немногие журналисты удосужились написать об этом. Теперь есть чат-бот, который пишет статью для местной газеты, и вдруг кризис.
В: Те из нас, кто работает в СМИ, делали это годами. слепо преследовать. Некоторые из нас пишут об искусственном интеллекте, потому что это может стоить нам работы.
Нолан: Это часть проблемы. Для меня искусственный интеллект — это очень простая проблема, это как слово «алгоритм». Мы видим, как компании используют алгоритмы, а теперь и искусственный интеллект, чтобы избежать ответственности за свои действия.
В: Пожалуйста, объясните еще несколько предложений.
Нолан: Если мы примем идею о всемогуществе ИИ, мы примем и то, что он может снять с людей ответственность за их действия — в военном, социально-экономическом и так далее.
Самая большая опасность ИИ заключается в том, что мы срываемся с крючка, приписывая ему эти богоподобные свойства.
Я не знаю, какова мифологическая основа для этого, но на протяжении всей истории люди имели тенденцию создавать ложных идолов, создавать что-то по своему образу и подобию и говорить, что у нас есть богоподобные силы, потому что мы создали эти вещи.
Вопрос: Это очень, очень верно. Как будто мы находимся в переломном моменте.
Нолан: Точно.
В: С этими большими языковыми моделями машины могут даже начать самообучаться в качестве следующего шага.
Нолан: В Los Angeles Times была интересная статья о ChatGPT и OpenAI. По сути, ChatGPT — это средство продаж, а OpenAI теперь частная компания. У них лучшая машина продаж в мире, и это очень опасная штука. Может быть, нам не следует продвигать его в массы, потому что в наши дни всем нужен ИИ-помощник.
Это не значит, что здесь нет реальной опасности, потому что я думаю, что она есть. Но лично я, и это только мое мнение, считаю, что опасность заключается в уходе от ответственности.
В: Люди продолжают говорить, что должен быть международный орган для регулирования ИИ.
Нолан: Но это старейшая политическая игра, в которую когда-либо играли технологические компании. Верно? Вы знаете, что SBF сделал с FTX (скандал с крахом криптовалютной биржи); Цукерберг годами просил, чтобы его деятельность регулировалась. Потому что знают, что избранные нами бюрократы вообще не могут разобраться в этих вопросах.
Вопрос: Как мы видели на слушаниях в Конгрессе?
Нолан: Что они могут сказать? Я имею в виду, что это очень профессиональные вещи, истеблишмент против создателя и Оппенгеймера — позвольте мне вернуться к Оппенгеймеру.
Проблема с Оппенгеймером заключалась в том, что он придавал большое значение роли послевоенных ученых — экспертов, которые должны были выяснить, как контролировать ядерные силы. Но когда ты видишь, что с ним произошло, ты понимаешь, что этого никогда не было допущено.
Это очень сложные отношения между наукой и власть предержащими, и они никогда не обнажались так грубо, как в истории Оппенгеймера. Я думаю, что из этого можно извлечь разные уроки.
Оппенгеймеру также приходилось иметь дело с властью и наукой｜Total Film
В: Например?
Нолан: Значит, он пытается работать внутри системы, вместо того, чтобы повернуться и сказать: знаете, нам нужна любовь или нет. Его подход был очень практичным, но, тем не менее, он потерпел поражение. Это очень сложно, и я думаю, что эти «изобретатели» сейчас, которые говорят: «Нас нужно регулировать», очень лицемерны.
Вопрос: Оппенгеймер хочет, чтобы наука распространялась.
Нолан: Он использовал слово Кондор. честно говоря.
В: Кажется, его мышление изменилось с появлением водородной бомбы?
Нолан: Нет, он тоже верил в водородную бомбу. Это довольно интересно, потому что в некотором смысле это немного спойлер. Но с другой стороны, это история, вы можете погуглить.
В этот знаменательный момент, когда программа создания водородной бомбы продвигалась вперед, он начал свою речь со слов: «Хотелось бы мне рассказать вам то, что я знаю. Я не могу. Если вы знаете то, что знаю я, вы поймете, что мы все должны Делиться информацией. По сути, это единственный способ избежать разрушения мира».
Поэтому откровенность, по его мнению, является самым практичным средством. Он видит в Организации Объединенных Наций мощную организацию будущего, обладающую реальной дееспособностью. Он считал, что глобальный контроль над атомной энергией — единственный способ обеспечить мир во всем мире. Очевидно, этого не произошло.
В: Он не предвидел того, что происходит сейчас, медленного заката демократии.
Нолан: Я не думаю, что он вообще этого видел, и это был очень оптимистичный момент.
В: Вот почему существует всемирный руководящий орган по ИИ.
Нолан: Да. Но это проблема, когда имеешь дело с технологическими компаниями, которые отказываются от географических ограничений.
Институционально технологические компании поощряются и им разрешается обходить государственное регулирование. Это стало «моралью».
Кстати, это заставляет меня думать, что Силиконовая долина — это зло, а все эти люди ужасны. Я так не думаю. Это просто system(), вот как это работает.
В: С точки зрения безопасности производство ядерного оружия требует определенных элементов, но у ИИ нет этого ограничения.
Нолан: Во время Второй мировой войны британская программа создания бомб была очень сложной. У них много великих ученых. Но правительство Черчилля поняло, что у них просто нет ресурсов. Поэтому они отдали все, что у них было, американцам. Говорили, у вас есть размер, у вас далеко от линии фронта, у вас есть промышленная база.
В своем исследовании я прочитал статистику о количестве американцев, участвовавших в создании первой атомной бомбы, — это было около 500 000 человек. Задействовано несколько компаний, и это огромный физический процесс, поэтому сегодня легко быть обнаруженным, если страна тайно проводит ядерные испытания. Итак, есть несколько вещей, которые дают нам небольшую уверенность в том, что этим процессом можно управлять.
И я не думаю, что какое-либо из этих ограничений применимо к искусственному интеллекту.
В: Да, не совсем для ИИ — особенно когда мы говорим о чем-то в ИИ, что представляет собой «более мягкую» угрозу. Быстрое распространение дезинформации, технологическая безработица.
Нолан: Точно, но я не слишком... я думаю, что искусственный интеллект все еще может быть очень мощным инструментом. Я настроен оптимистично, я действительно оптимистичен.
Но мы должны рассматривать его как инструмент, и человек, который им владеет, должен по-прежнему нести ответственность за использование этого инструмента. Если мы придадим искусственному интеллекту статус человека, как в свое время сделали с корпорациями, то да, у нас будут огромные проблемы.
ИИ хорош, но придерживайтесь традиции
В: Видите ли вы красоту в искусственном интеллекте, особенно в кинопроизводстве?
Нолан: О, конечно. Все машинное обучение применяется к технологии дипфейков (Deepfake), которая представляет собой значительный прогресс в области визуальных эффектов и звука. В конечном счете, с точки зрения создания среды, такой как создание двери или окна. Если вы поместите в базу данных много данных о том, как вещи выглядят, насколько они отражающие и т. д., это будет очень мощный инструмент.
В: Будете ли вы использовать ИИ для создания?
Нолан: Я очень старомодный аналоговый кинорежиссер. Я снимал на пленку, пытаясь дать актерам полную реальность.
Моя позиция в отношении технологий, связанных с моей работой, заключается в том, что я хочу использовать технологии с максимальной выгодой. Например, если мы делаем трюк, опасный трюк. Вы можете сделать это с более заметным принуждением, а затем стереть это в посте и тому подобное.
В: Это означает, что это повысит удобство и эффективность визуальных эффектов.
Нолан: Это не белый волк с пустыми руками, он начинается с более подробной и основанной на данных идеи. Это может, наконец, разрушить барьер между анимацией и фотографией, потому что это гибрид.
Если вы говорите художнику, скажем, нарисовать космонавта, он придумывает его по памяти или по ссылке. С ИИ это другой подход, вы фактически используете всю историю изображения.
В: Используйте реальные изображения.
Нолан: Использование реальных изображений, но в полностью воссозданном виде — это, конечно, поднимает серьезные проблемы с правами художников, и с этим нужно обращаться должным образом.
Фильм пытается восстановить сцену обмена мнениями между Оппенгеймером и Эйнштейном｜Universal Pictures
В: Вернемся к науке и вашим фильмам. В цитате из декабрьского номера журнала WIRED за 2014 год, который вы редактировали в качестве приглашенного гостя, вы сказали: «Я очарован связью между рассказыванием историй и научным методом. На самом деле это не интеллектуальное понимание. Это чувство понимания чего-то». Расскажите о своей любви к науке.
Нолан: Меня всегда интересовали вопросы астрономии и физики. Я исследовал это хобби в Interstellar. Когда мой брат (Джонатан Нолан) писал сценарий, он просматривал мысленные эксперименты Эйнштейна и обнаружил, что некоторые из них имеют особое меланхоличное качество, и это связано с частями во времени.
Типа, близнецы, которых разлучили, одного забирают, а другой немного подрастает, понимаете? Эйнштейновское размышление о физике имеет почти такое же «литературное качество», как и то, как вы проводите эти мысленные эксперименты, как формулируете эти идеи. Процесс визуализации, в котором нуждаются физики, ничем не отличается от литературного творчества.
В: Вы чувствовали это на этапе монтажа фильма?
Нолан: Я чувствую это на каждом этапе создания фильма. Многие мои работы пытаются выразить интуицию и чувство формы вещей. Это может быть сложно и сложно.
В: Я считаю, что если я создаю историю и не знаю структуры, потока, тогда возникает проблема. Я не могу говорить об этом произведении осмысленно.
Нолан: Я думаю о структурах и паттернах очень географически или геометрически. На протяжении многих лет я пытался найти подход к структуре с нуля, но, в конце концов, это был очень инстинктивный процесс: имеет ли это чувство повествовательную форму и как оно обретает форму? Я был поражен, осознав, что физики проходят очень похожий процесс. Очень интересно.
В: Может быть, это дань уважения Interstellar, но кажется, что физики всегда так сильно любили физику.
Нолан: Я увлечен поиском истины и научным методом. Я ненавижу, когда это искажается учеными в средствах массовой информации или средствами массовой информации, выступающими от имени ученых. Чисто научный метод и идея о том, что наука постоянно стремится опровергнуть себя, делают ее более способной возвысить человеческий разум, чем религия или что-либо еще.
Вопрос: Перед этим интервью я смотрел ваш фильм с мамой. Она чувствовала, что ваш фильм может иметь очень анти-негативное послание. Дюнкерк, Интерстеллар, Бэтмен. Или это оптимизм?
Нолан: Конец «Начала», точно. У кого-то был нигилистический взгляд на этот финал, верно? Но в то же время он также с нетерпением ждет встречи со своими детьми. Эта двусмысленность не является эмоциональной двусмысленностью. Это интеллектуальная двусмысленность для зрителя.
Интересно, я думаю, что есть интересная связь между концовками «Начала» и «Оппенгеймера». У Оппенгеймера был сложный финал, смешанные чувства.
В: Как отреагировала первая аудитория?
Нолан: Некоторые люди выходят из фильма в полном упадке сил. Они были безмолвны. Те страхи, которые существуют на историческом и фактологическом уровнях, выражаются в кино. Но любовь к персонажам, любовь к отношениям так же сильна, как и все, что я делал раньше.
Дом режиссера в Лос-Анджелесе, снятый его сыном｜MAGNUS NOLAN
В: Существует также сложность предмета.
Нолан: История Оппенгеймера — это набор неразрешимых проблем, неразрешимых этических дилемм, парадоксов. В его рассказах нет простых ответов, есть только сложные вопросы, и это делает их такими увлекательными.
Я думаю, что мы можем найти в фильме много оптимизма, но над ним висит главный вопрос. Я чувствовал, что необходимо задать несколько вопросов в конце, чтобы заставить людей задуматься и вызвать дискуссию.
Вопрос: Что происходило в голове Оппенгеймера до и после того, как была сброшена атомная бомба? Как вы думаете, что он подумает?
Нолан: Ответ в фильме. Я написал этот сценарий от первого лица. Вот что я говорю Киллиану (Киллиан Мерфи, который играет Оппенгеймера в фильме): Вы — глаза зрителей. Он сделал это. В большинстве историй мы не выходили за рамки его опыта. Это моя лучшая попытка передать ответ на этот вопрос.
В: Я немного нервничаю, увидев полную работу.
Нолан: Думаю, тебе придется долго ждать. Это интенсивный опыт, потому что это интенсивная история. Недавно я показал его режиссеру, и он сказал, что это фильм ужасов, и я не возражал.
Забавно, что вы использовали слово нигилизм ранее, я не думаю, что моя работа может быть связана с нигилизмом. Но когда я начал заканчивать фильм, я начал чувствовать этот цвет, которого нет в других моих фильмах, чистая тьма. Это есть, и фильм борется с этим.
Вопрос: Это влияет на вас? хорошо ли спалось?
Нолан: Сейчас я хорошо сплю, и я рад, что закончил. Но я получил огромное удовольствие от просмотра этого фильма. Я думаю, когда вы посмотрите этот фильм, вы поймете. Знаешь, влечение к чему-то страшному — сложное чувство? Вот как разворачивается пространство ужасов.
Вопрос: Ваш ребенок смотрел его?
Нолан: Да.
В: Знали ли они что-нибудь об Оппенгеймере раньше?
Нолан: Когда я начал писать сценарий, я рассказал об этом одному из своих сыновей, и он буквально сказал мне: «Но никого это больше не беспокоит, ядерное оружие». Мир снова изменился.
Это урок для всех нас, но особенно для молодежи.
Мир быстро меняется.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Интервью Нолана: ИИ — не атомная бомба, но держать его на алтаре опаснее всего
Источник: Компьютерщик Парк
Автор: МАРИЯ
После того, как «Тенет» (Tenet) «провалился» из-за новой коронной эпидемии, новый фильм режиссера «Оппенгеймер» (Oppenheimer) вот-вот приступит к покраске через месяц.
Этот фильм о жизни Роберта Оппенгеймера, «отца атомной бомбы», посвящен тому, как харизматичный и интеллигентный человек привел «самый умный мозг на земле» к преодолению физических проблем, одновременно изобретая в мире историю о самом опасном оружии.
Страх перед «ядерной угрозой», с которым выросли Нолан и его сверстники, обретает новый отголосок в настоящем.
Просто на этот раз у атомной бомбы новое имя — ИИ.
Технология ChatGPT снова сделала искусственный интеллект популярным, и страх и волнение перед новыми технологиями находятся в том же тренде. Сотни экспертов по искусственному интеллекту опубликовали совместное письмо, в котором заявили об угрозе «вымирания человечества», которую может принести искусственный интеллект.
Недавно Wired опубликовал длинное интервью с режиссером Кристофером Ноланом, в котором режиссер объяснил свое отношение к горячо обсуждаемой в настоящее время «угрозе искусственного интеллекта» и сравнению искусственного интеллекта с ядерными угрозами 70-летней давности.
Нолан, однажды с любовью спасший человечество в «Интерстеллар», считает, что самая большая угроза для ИИ заключается в том, что у людей есть инстинктивное желание возложить свои творения на алтарь и избавиться от всех обязанностей, которые им приходится нести.
Директор указал, что по сравнению с поколением ученых Оппенгеймера, борющихся и сопротивляющихся между наукой и власть предержащими, «искание надзора» нынешних практиков ИИ является «лицемерным».
В то же время, как кинорежиссер старой школы, одержимый кино, Нолан возлагает надежды на развитие генеративного ИИ в области создания кино и телевидения, но то, что он хочет сделать, это «дать актерам настоящую атмосферу и среда."
«Самая большая опасность для человечества — отказ от ответственности», — сказал Нолан в интервью.
Ниже приводится оригинальный текст интервью, отредактированный редактором без изменения первоначального смысла:
Уничтожьте мир, сначала атомная бомба
Вопрос: Создается впечатление, что ваша работа с Эммой (женой Нолана, его давним продюсером) была своего рода подготовкой к Оппенгеймеру.
Нолан: Вот как я отношусь к фильму.
Я чувствую это по поводу каждого проекта, который я делаю. Потому что я пытаюсь опираться на то, чему научился раньше. Всякий раз, когда вы заканчиваете фильм, остаются вопросы, которые остаются без ответа. Итак, в следующем фильме вы подбираете остатки.
В Оппенгеймере, очень буквально, Оппенгеймер упоминается в Тенете (предыдущий фильм Нолана).
Q: Итак, он был у вас на уме какое-то время.
Нолан: История Оппенгеймера была со мной много лет. Это невероятная идея — кто-то пытается провести расчеты, чтобы найти взаимосвязь между теорией и реальным миром, и тогда есть очень маленький шанс, что они собираются уничтожить весь мир. Однако кнопку все равно нажали.
В: Очень драматично.
Нолан: Я имею в виду, что это буквально самый драматический момент во всей истории человечества.
В: Многие люди могут не знать, что когда мы сбросили бомбы в 1945 году, это был не только ужасный момент, это был также момент, когда люди узнали, что люди теперь имеют возможность стереть с лица земли всю человеческую расу.
Нолан: Мое мнение об Оппенгеймере таково, что многие люди знают это имя, знают, что он был связан с атомной бомбой, и что в истории Соединенных Штатов произошли некоторые сложные события в отношениях, и больше ничего нет. .
Честно говоря, для меня это идеальная аудитория для моих фильмов. Тот, кто ничего не знает, получит самый сумасшедший опыт. Потому что это сумасшедшая история.
Вопрос: Вы имеете в виду его личную историю?
Нолан: Зрители должны знать, потому что он один из самых важных людей.
Королева Нолана, актер Киллиан Мерфи, играет Оппенгеймера в фильме ｜Douban Movie
Нолан: Он знает, как вдохновлять людей драматизмом своих персонажей, излучая свой собственный свет. Он дал всем ученым, чиновникам, всем внимание.
В: У него настоящая харизма.
Нолан: Очарование, это идеальное слово. От него все обретает форму, и фильм часто об этом, и именно его обаяние позволяет этим ученым, этим теоретикам собраться вместе и построить своими руками нечто такое огромное и такое важное. Это чудо.
В: Говоря о создании чего-то огромного, одной из самых интересных сессий, которые я провел на недавней конференции TED в Ванкувере, была серия докладов о генеративном искусственном интеллекте. Многие выступавшие упоминали об атомных бомбах и ядерном оружии. Последним спикером был технолог — он говорил о неизбежном превращении искусственного интеллекта в оружие.
Он завершил свое выступление, сказав, что единственный способ поддерживать мировой порядок — это иметь лучшее оружие искусственного интеллекта. Это было сдерживающим фактором. Это очень похоже на то, что люди думают об атомной бомбе. Похоже, ваш фильм нашел идеальное время для выпуска.
Нолан: Я думаю, что отношения — это интересный вопрос. Это другое. Но это лучшая метафора — и именно поэтому я использую ее в «Доводе» — бездумно обрушить на мир опасности новой технологии. Это поучительная история. Мы можем извлечь из этого уроки.
Сказав это, я верю, что атомная бомба уникальна с точки зрения технологий, которые изменили мир и поставили его под угрозу.
В: А происхождение этих технологий не одно и то же?
Нолан: Есть фундаментальная разница.
Ученые, изучающие расщепление атома, пытались объяснить правительствам, что (ядерная энергия) — это природный факт, исходящий от Бога или того, кто сотворил мир. Это просто о знании природы, что это неизбежно произойдет. Этого никто не может скрыть, мы его не создавали и нам это не принадлежит. Вот как они это видят.
В: Другими словами, им казалось, что они просто раскрывают то, что уже было.
Нолан: И я думаю, вам трудно привести аргумент в пользу искусственного интеллекта. Конечно, кто-то обязательно это сделает.
Вопрос: Вы, должно быть, выросли в тени бомбы.
Я вырос в Великобритании в 1980-х годах, и у нас была серия движений, таких как ядерное разоружение, и люди очень хорошо знали об угрозе ядерного оружия. Когда мне было 13, мы с друзьями верили, что в конце концов погибнем в ядерном апокалипсисе.
В: Но вы этого не сделали, и мир пошел дальше.
На днях я говорил об этом со Стивеном Спилбергом, который вырос на угрозе кубинского ракетного кризиса 60-х годов. такой же такой же.
В истории человечества были времена, когда опасность ядерной войны была для нас настолько осязаема и осязаема, что мы слишком хорошо это знаем. Конечно, мы можем только беспокоиться об этом так долго, прежде чем двигаться дальше и беспокоиться о других вещах. Проблема в том, что опасность на самом деле никуда не делась.
В: Да. Я имею в виду, я чувствую, что месяц назад мы все были обеспокоены тем, что какая-то страна действительно может применить ядерное оружие.
Нолан: Что я помню в 80-х, так это то, что страх перед ядерной войной отступил в пользу страха перед разрушением окружающей среды. Это похоже на то, как если бы люди не могли долго сохранять страх перед одной угрозой, у нас сложные отношения со страхом.
Да, некоторые страны использовали эту апокалиптическую угрозу и этот страх, чтобы размахивать флагом. Это очень беспокоит.
Рабочее фото режиссера Нолана｜Universal Pictures
Положите ИИ на алтарь, он самый опасный
В: Так же тревожно, как угроза конца света ИИ?
Нолан: Ну, распространение ИИ в оружейных системах и проблемы, которые он создаст, были настолько очевидны много лет назад, что немногие журналисты удосужились написать об этом. Теперь есть чат-бот, который пишет статью для местной газеты, и вдруг кризис.
В: Те из нас, кто работает в СМИ, делали это годами. слепо преследовать. Некоторые из нас пишут об искусственном интеллекте, потому что это может стоить нам работы.
Нолан: Это часть проблемы. Для меня искусственный интеллект — это очень простая проблема, это как слово «алгоритм». Мы видим, как компании используют алгоритмы, а теперь и искусственный интеллект, чтобы избежать ответственности за свои действия.
В: Пожалуйста, объясните еще несколько предложений.
Нолан: Если мы примем идею о всемогуществе ИИ, мы примем и то, что он может снять с людей ответственность за их действия — в военном, социально-экономическом и так далее.
Самая большая опасность ИИ заключается в том, что мы срываемся с крючка, приписывая ему эти богоподобные свойства.
Я не знаю, какова мифологическая основа для этого, но на протяжении всей истории люди имели тенденцию создавать ложных идолов, создавать что-то по своему образу и подобию и говорить, что у нас есть богоподобные силы, потому что мы создали эти вещи.
Вопрос: Это очень, очень верно. Как будто мы находимся в переломном моменте.
Нолан: Точно.
В: С этими большими языковыми моделями машины могут даже начать самообучаться в качестве следующего шага.
Нолан: В Los Angeles Times была интересная статья о ChatGPT и OpenAI. По сути, ChatGPT — это средство продаж, а OpenAI теперь частная компания. У них лучшая машина продаж в мире, и это очень опасная штука. Может быть, нам не следует продвигать его в массы, потому что в наши дни всем нужен ИИ-помощник.
Это не значит, что здесь нет реальной опасности, потому что я думаю, что она есть. Но лично я, и это только мое мнение, считаю, что опасность заключается в уходе от ответственности.
В: Люди продолжают говорить, что должен быть международный орган для регулирования ИИ.
Нолан: Но это старейшая политическая игра, в которую когда-либо играли технологические компании. Верно? Вы знаете, что SBF сделал с FTX (скандал с крахом криптовалютной биржи); Цукерберг годами просил, чтобы его деятельность регулировалась. Потому что знают, что избранные нами бюрократы вообще не могут разобраться в этих вопросах.
Вопрос: Как мы видели на слушаниях в Конгрессе?
Нолан: Что они могут сказать? Я имею в виду, что это очень профессиональные вещи, истеблишмент против создателя и Оппенгеймера — позвольте мне вернуться к Оппенгеймеру.
Проблема с Оппенгеймером заключалась в том, что он придавал большое значение роли послевоенных ученых — экспертов, которые должны были выяснить, как контролировать ядерные силы. Но когда ты видишь, что с ним произошло, ты понимаешь, что этого никогда не было допущено.
Это очень сложные отношения между наукой и власть предержащими, и они никогда не обнажались так грубо, как в истории Оппенгеймера. Я думаю, что из этого можно извлечь разные уроки.
Оппенгеймеру также приходилось иметь дело с властью и наукой｜Total Film
Нолан: Значит, он пытается работать внутри системы, вместо того, чтобы повернуться и сказать: знаете, нам нужна любовь или нет. Его подход был очень практичным, но, тем не менее, он потерпел поражение. Это очень сложно, и я думаю, что эти «изобретатели» сейчас, которые говорят: «Нас нужно регулировать», очень лицемерны.
Вопрос: Оппенгеймер хочет, чтобы наука распространялась.
Нолан: Он использовал слово Кондор. честно говоря.
В: Кажется, его мышление изменилось с появлением водородной бомбы?
Нолан: Нет, он тоже верил в водородную бомбу. Это довольно интересно, потому что в некотором смысле это немного спойлер. Но с другой стороны, это история, вы можете погуглить.
В этот знаменательный момент, когда программа создания водородной бомбы продвигалась вперед, он начал свою речь со слов: «Хотелось бы мне рассказать вам то, что я знаю. Я не могу. Если вы знаете то, что знаю я, вы поймете, что мы все должны Делиться информацией. По сути, это единственный способ избежать разрушения мира».
Поэтому откровенность, по его мнению, является самым практичным средством. Он видит в Организации Объединенных Наций мощную организацию будущего, обладающую реальной дееспособностью. Он считал, что глобальный контроль над атомной энергией — единственный способ обеспечить мир во всем мире. Очевидно, этого не произошло.
В: Он не предвидел того, что происходит сейчас, медленного заката демократии.
Нолан: Я не думаю, что он вообще этого видел, и это был очень оптимистичный момент.
В: Вот почему существует всемирный руководящий орган по ИИ.
Нолан: Да. Но это проблема, когда имеешь дело с технологическими компаниями, которые отказываются от географических ограничений.
Институционально технологические компании поощряются и им разрешается обходить государственное регулирование. Это стало «моралью».
Кстати, это заставляет меня думать, что Силиконовая долина — это зло, а все эти люди ужасны. Я так не думаю. Это просто system(), вот как это работает.
В: С точки зрения безопасности производство ядерного оружия требует определенных элементов, но у ИИ нет этого ограничения.
Нолан: Во время Второй мировой войны британская программа создания бомб была очень сложной. У них много великих ученых. Но правительство Черчилля поняло, что у них просто нет ресурсов. Поэтому они отдали все, что у них было, американцам. Говорили, у вас есть размер, у вас далеко от линии фронта, у вас есть промышленная база.
В своем исследовании я прочитал статистику о количестве американцев, участвовавших в создании первой атомной бомбы, — это было около 500 000 человек. Задействовано несколько компаний, и это огромный физический процесс, поэтому сегодня легко быть обнаруженным, если страна тайно проводит ядерные испытания. Итак, есть несколько вещей, которые дают нам небольшую уверенность в том, что этим процессом можно управлять.
И я не думаю, что какое-либо из этих ограничений применимо к искусственному интеллекту.
В: Да, не совсем для ИИ — особенно когда мы говорим о чем-то в ИИ, что представляет собой «более мягкую» угрозу. Быстрое распространение дезинформации, технологическая безработица.
Нолан: Точно, но я не слишком... я думаю, что искусственный интеллект все еще может быть очень мощным инструментом. Я настроен оптимистично, я действительно оптимистичен.
Но мы должны рассматривать его как инструмент, и человек, который им владеет, должен по-прежнему нести ответственность за использование этого инструмента. Если мы придадим искусственному интеллекту статус человека, как в свое время сделали с корпорациями, то да, у нас будут огромные проблемы.
ИИ хорош, но придерживайтесь традиции
В: Видите ли вы красоту в искусственном интеллекте, особенно в кинопроизводстве?
Нолан: О, конечно. Все машинное обучение применяется к технологии дипфейков (Deepfake), которая представляет собой значительный прогресс в области визуальных эффектов и звука. В конечном счете, с точки зрения создания среды, такой как создание двери или окна. Если вы поместите в базу данных много данных о том, как вещи выглядят, насколько они отражающие и т. д., это будет очень мощный инструмент.
В: Будете ли вы использовать ИИ для создания?
Нолан: Я очень старомодный аналоговый кинорежиссер. Я снимал на пленку, пытаясь дать актерам полную реальность.
Моя позиция в отношении технологий, связанных с моей работой, заключается в том, что я хочу использовать технологии с максимальной выгодой. Например, если мы делаем трюк, опасный трюк. Вы можете сделать это с более заметным принуждением, а затем стереть это в посте и тому подобное.
В: Это означает, что это повысит удобство и эффективность визуальных эффектов.
Нолан: Это не белый волк с пустыми руками, он начинается с более подробной и основанной на данных идеи. Это может, наконец, разрушить барьер между анимацией и фотографией, потому что это гибрид.
Если вы говорите художнику, скажем, нарисовать космонавта, он придумывает его по памяти или по ссылке. С ИИ это другой подход, вы фактически используете всю историю изображения.
В: Используйте реальные изображения.
Нолан: Использование реальных изображений, но в полностью воссозданном виде — это, конечно, поднимает серьезные проблемы с правами художников, и с этим нужно обращаться должным образом.
В: Вернемся к науке и вашим фильмам. В цитате из декабрьского номера журнала WIRED за 2014 год, который вы редактировали в качестве приглашенного гостя, вы сказали: «Я очарован связью между рассказыванием историй и научным методом. На самом деле это не интеллектуальное понимание. Это чувство понимания чего-то». Расскажите о своей любви к науке.
Нолан: Меня всегда интересовали вопросы астрономии и физики. Я исследовал это хобби в Interstellar. Когда мой брат (Джонатан Нолан) писал сценарий, он просматривал мысленные эксперименты Эйнштейна и обнаружил, что некоторые из них имеют особое меланхоличное качество, и это связано с частями во времени.
Типа, близнецы, которых разлучили, одного забирают, а другой немного подрастает, понимаете? Эйнштейновское размышление о физике имеет почти такое же «литературное качество», как и то, как вы проводите эти мысленные эксперименты, как формулируете эти идеи. Процесс визуализации, в котором нуждаются физики, ничем не отличается от литературного творчества.
В: Вы чувствовали это на этапе монтажа фильма?
Нолан: Я чувствую это на каждом этапе создания фильма. Многие мои работы пытаются выразить интуицию и чувство формы вещей. Это может быть сложно и сложно.
В: Я считаю, что если я создаю историю и не знаю структуры, потока, тогда возникает проблема. Я не могу говорить об этом произведении осмысленно.
Нолан: Я думаю о структурах и паттернах очень географически или геометрически. На протяжении многих лет я пытался найти подход к структуре с нуля, но, в конце концов, это был очень инстинктивный процесс: имеет ли это чувство повествовательную форму и как оно обретает форму? Я был поражен, осознав, что физики проходят очень похожий процесс. Очень интересно.
В: Может быть, это дань уважения Interstellar, но кажется, что физики всегда так сильно любили физику.
Нолан: Я увлечен поиском истины и научным методом. Я ненавижу, когда это искажается учеными в средствах массовой информации или средствами массовой информации, выступающими от имени ученых. Чисто научный метод и идея о том, что наука постоянно стремится опровергнуть себя, делают ее более способной возвысить человеческий разум, чем религия или что-либо еще.
Вопрос: Перед этим интервью я смотрел ваш фильм с мамой. Она чувствовала, что ваш фильм может иметь очень анти-негативное послание. Дюнкерк, Интерстеллар, Бэтмен. Или это оптимизм?
Нолан: Конец «Начала», точно. У кого-то был нигилистический взгляд на этот финал, верно? Но в то же время он также с нетерпением ждет встречи со своими детьми. Эта двусмысленность не является эмоциональной двусмысленностью. Это интеллектуальная двусмысленность для зрителя.
Интересно, я думаю, что есть интересная связь между концовками «Начала» и «Оппенгеймера». У Оппенгеймера был сложный финал, смешанные чувства.
В: Как отреагировала первая аудитория?
Нолан: Некоторые люди выходят из фильма в полном упадке сил. Они были безмолвны. Те страхи, которые существуют на историческом и фактологическом уровнях, выражаются в кино. Но любовь к персонажам, любовь к отношениям так же сильна, как и все, что я делал раньше.
Дом режиссера в Лос-Анджелесе, снятый его сыном｜MAGNUS NOLAN
Нолан: История Оппенгеймера — это набор неразрешимых проблем, неразрешимых этических дилемм, парадоксов. В его рассказах нет простых ответов, есть только сложные вопросы, и это делает их такими увлекательными.
Я думаю, что мы можем найти в фильме много оптимизма, но над ним висит главный вопрос. Я чувствовал, что необходимо задать несколько вопросов в конце, чтобы заставить людей задуматься и вызвать дискуссию.
Вопрос: Что происходило в голове Оппенгеймера до и после того, как была сброшена атомная бомба? Как вы думаете, что он подумает?
Нолан: Ответ в фильме. Я написал этот сценарий от первого лица. Вот что я говорю Киллиану (Киллиан Мерфи, который играет Оппенгеймера в фильме): Вы — глаза зрителей. Он сделал это. В большинстве историй мы не выходили за рамки его опыта. Это моя лучшая попытка передать ответ на этот вопрос.
В: Я немного нервничаю, увидев полную работу.
Нолан: Думаю, тебе придется долго ждать. Это интенсивный опыт, потому что это интенсивная история. Недавно я показал его режиссеру, и он сказал, что это фильм ужасов, и я не возражал.
Забавно, что вы использовали слово нигилизм ранее, я не думаю, что моя работа может быть связана с нигилизмом. Но когда я начал заканчивать фильм, я начал чувствовать этот цвет, которого нет в других моих фильмах, чистая тьма. Это есть, и фильм борется с этим.
Вопрос: Это влияет на вас? хорошо ли спалось?
Нолан: Сейчас я хорошо сплю, и я рад, что закончил. Но я получил огромное удовольствие от просмотра этого фильма. Я думаю, когда вы посмотрите этот фильм, вы поймете. Знаешь, влечение к чему-то страшному — сложное чувство? Вот как разворачивается пространство ужасов.
Вопрос: Ваш ребенок смотрел его?
Нолан: Да.
В: Знали ли они что-нибудь об Оппенгеймере раньше?
Нолан: Когда я начал писать сценарий, я рассказал об этом одному из своих сыновей, и он буквально сказал мне: «Но никого это больше не беспокоит, ядерное оружие». Мир снова изменился.
Это урок для всех нас, но особенно для молодежи.
Мир быстро меняется.