Інтерв'ю Нолана: ШІ – це не атомна бомба, але найнебезпечніше тримати її на вівтарі

Джерело: Geek Park

Автор: МАРІЯ

Можливо, це найкращий час для випуску нового фільму відомого британського режисера Крістофера Нолана.

Після того, як "Тенет" (Tenet) "провалився" через нову епідемію корони, новий фільм режисера "Оппенгеймер" (Oppenheimer) збирається почати зйомки через місяць.

Цей фільм про життя Роберта Оппенгеймера, «батька атомної бомби», розповідає про те, як харизматичний і розумний чоловік спонукав «найрозумніший мозок на землі» долати проблеми фізики, одночасно винаходячи історію про найнебезпечнішу зброю.

Страх перед «ядерною загрозою», з яким виріс Нолан і його однолітки, має новий відгук у сьогоденні.

Просто цього разу атомна бомба має нову назву, ШІ.

Технологія ChatGPT знову зробила штучний інтелект популярним, і страх і захоплення новими технологіями залишаються в тій же тенденції. Сотні експертів зі штучного інтелекту опублікували спільний лист, в якому заявили про загрозу «вимирання людства», яку може створити штучний інтелект.

Нещодавно Wired опублікував велике інтерв’ю з режисером Крістофером Ноланом, у якому режисер пояснив свої погляди на нинішню гаряче обговорювану «загрозу штучного інтелекту» та порівняння штучного інтелекту з ядерними загрозами 70 років тому.

Нолан, який колись врятував людство любов’ю в «Інтерстелларі», вважає, що найбільша загроза для ШІ полягає в тому, що люди мають інстинктивне бажання тримати свої творіння на вівтарі та позбутися всіх обов’язків, які вони повинні нести.

Режисер прямо підкреслив, що порівняно з поколінням вчених Оппенгеймера, які борються та протистоять між наукою та владою, «пошук нагляду» нинішніх практиків ШІ є «лицемірним».

У той же час, як режисер старої школи, який одержимий кіно, Нолан сподівається на розвиток генеративного штучного інтелекту у сфері створення фільмів і телебачення, але те, що він хоче зробити, це «дати акторам справжню атмосферу та навколишнє середовище."

"Найбільша небезпека для людства - це відмова від відповідальності", - сказав Нолан в інтерв'ю.

Нижче наведено оригінальний текст інтерв’ю, відредагований редактором без зміни початкового змісту:

Знищи світ, спочатку атомну бомбу

З: Таке відчуття, що ваша робота з Еммою (дружиною Нолана, його давнім продюсером) у певному сенсі була підготовкою до Оппенгеймера.

Нолан: Ось як я ставлюся до фільму.

Я так ставлюсь до кожного свого проекту. Тому що я намагаюся спиратися на те, чого навчився раніше. Щоразу, коли ви закінчуєте фільм, виникають запитання, які залишаються без відповіді. Отже, у наступному фільмі ви збираєте залишки їжі.

У «Оппенгеймері», дуже буквально, Оппенгеймер згадується в Тенеті (попередній фільм Нолана).

Q: Отже, він у вас на думці деякий час.

Нолан: Історія Оппенгеймера була зі мною роками. Це неймовірна ідея — хтось намагається зробити розрахунки, щоб знайти зв’язок між теорією та реальним світом, і тоді є дуже мала ймовірність того, що вони збираються знищити весь світ. Проте кнопку все одно натиснули.

З: Дуже драматично.

Нолан: Я маю на увазі, що це буквально найдраматичніший момент у всій історії людства.

З: Багато людей, можливо, не знають, що коли ми скинули бомби в 1945 році, це був не тільки жахливий момент, це також був момент, коли люди дізналися, що люди тепер можуть знищити всю людську расу.

Нолан: Я думаю про Оппенгеймера, що багато людей знають ім’я, знають, що він був пов’язаний з атомною бомбою, і в історії Сполучених Штатів у стосунках відбувалися деякі складні речі, і нічого іншого немає. .

Чесно кажучи, для мене це ідеальна аудиторія для моїх фільмів. Ті, хто нічого не знає, отримають найбожевільніші враження. Тому що це божевільна історія.

З: Ви маєте на увазі його особисту історію?

Нолан: Глядачі повинні знати, тому що він одна з найважливіших людей.

Актриса королеви Нолана Кілліан Мерфі грає Оппенгеймера у фільмі｜Douban Movie

З: У фільмі є репліка, де хтось каже Оппенгеймеру: ти можеш змусити будь-кого робити що завгодно. Щось на зразок цього. Він чудовий менеджер, який знає все, і в цій кімнаті є вчені, які роблять X, а в іншій кімнаті ці вчені роблять Y, і він хлопець, який тримає все це в своїй голові.

Нолан: Він знає, як надихнути людей через драму своїх персонажів, проеціювати власне світло. Він дав усім науковцям, чиновникам, кожному фокус.

З: У нього справжня харизма.

Нолан: Чарівність, це ідеальне слово. Це змушує все набувати форми, і фільм часто про це, і саме його захоплення дозволяє цим науковцям, цим теоретикам зібратися разом і побудувати щось таке величезне і таке важливе своїми руками. Це диво.

З: Говорячи про створення чогось величезного, однією з найцікавіших сесій, які я мав на нещодавній конференції TED у Ванкувері, була серія доповідей про генеративний штучний інтелект. Багато виступаючих згадували про атомні бомби та ядерну зброю. Останнім спікером став технолог – він говорив про неминучу озброєння штучного інтелекту.

Він завершив свою промову словами, що єдиний спосіб підтримувати світовий порядок – це мати кращу зброю зі штучним інтелектом. Це був стримуючий фактор. Це дуже схоже на те, що люди думають про атомну бомбу. Таке відчуття, що ваш фільм знайшов ідеальний час для прокату.

Нолан: Я вважаю, що стосунки є цікавим питанням. Це інше. Але це найкраща метафора — і саме тому я використовую її в «Тенеті» — щоб бездумно розкрити небезпеку нової технології для світу. Це повчальна історія. Ми можемо цьому навчитися.

Сказавши це, я дійсно вважаю, що атомна бомба є унікальною з точки зору технологій, які змінили та поставили під загрозу світ.

З: І походження цих технологій не однакове?

Нолан: Є принципова різниця.

Вчені, які досліджують розщеплення атома, намагаються пояснити урядам, що (ядерна енергія) є природним фактом, який походить від Бога або того, хто створив світ. Це просто знання природи, що це неминуче станеться. Ніхто не може приховати це, ми не створювали це і нам не належить. Ось як вони це бачать.

З: Іншими словами, вони відчували, що вони просто розкривають те, що вже є.

Нолан: І я думаю, що вам важко навести такий аргумент на користь штучного інтелекту. Звісно, хтось обов’язково це зробить.

З: Ви, мабуть, виросли в тіні бомби.

Я виріс у Великій Британії у 1980-х роках, і у нас була низка рухів, таких як ядерне роззброєння, і люди дуже, дуже усвідомлювали загрозу ядерної зброї. Коли мені було 13 років, ми з друзями вірили, що зрештою помремо в ядерному апокаліпсисі.

З: Але ви цього не зробили, і світ пішов далі.

Днями я розмовляв про це зі Стівеном Спілбергом, який виріс із загрозою кубинської ракетної кризи в 60-х. те ж саме.

Були часи в історії людства, коли небезпека ядерної війни була для нас настільки відчутною та відчутною, що ми знаємо про це надто добре. Звичайно, ми можемо хвилюватися про це лише так довго, перш ніж рухатися далі та турбуватися про інші речі. Проблема в тому, що небезпека насправді не зникла.

Q: Так. Я маю на увазі, що місяць тому ми всі хвилювалися, що якась країна може застосувати ядерну зброю.

Нолан: Що я пам’ятаю у 80-х, так це те, що страх ядерної війни відступив на користь страху руйнування навколишнього середовища. Це майже так, ніби люди не можуть довго боятися однієї загрози, ми маємо складні відносини зі страхом.

Так, певні країни використовують цю апокаліптичну загрозу та цей страх, щоб помахати прапором. Це дуже тривожно.

Робоча фотографія режисера Нолана｜Universal Pictures

Покладіть ШІ на вівтар, він найнебезпечніший

З: Так само тривожно, як і загроза кінця світу штучного інтелекту?

Нолан: Зростання штучного інтелекту в системах озброєння та проблеми, які він створить, були настільки очевидними багато років тому, що мало хто з журналістів потрудився написати про це. Зараз є чат-бот, який пише статтю для місцевої газети, і раптом криза.

П: Ті з нас, хто працює в ЗМІ, робили це роками. сліпо переслідувати. Деякі з нас пишуть про штучний інтелект, тому що це може коштувати нам роботи.

Нолан: Це частина проблеми. Для мене штучний інтелект – це дуже проста проблема, це як слово алгоритм. Ми бачимо, як компанії використовують алгоритми, а тепер і штучний інтелект, як засіб уникнення відповідальності за свої дії.

Q: Будь ласка, поясніть ще кілька речень.

Нолан: Якщо ми приймаємо ідею, що штучний інтелект всемогутній, ми приймаємо, що він може звільнити людей від відповідальності за їхні дії — військові, соціально-економічні тощо.

Найбільша небезпека штучного інтелекту полягає в тому, що ми виходимо з гачка, приписуючи йому ці богоподібні властивості.

Я не знаю, яка міфологічна основа для цього, але впродовж історії люди мали тенденцію створювати фальшивих ідолів, створювати щось на свій власний образ і казати, що ми маємо божественну силу, тому що ми створили ці речі.

З: Це виглядає дуже, дуже вірно. Ніби ми на переломній точці.

Нолан: Саме так.

З: З цими великими мовними моделями машини можуть навіть почати навчатися самостійно як наступний крок.

Нолан: У Los Angeles Times була цікава стаття про ChatGPT і OpenAI. По суті, ChatGPT — це засіб продажів, а OpenAI — тепер приватна компанія. У них найкраща машина продажів у світі, і це дуже небезпечна річ. Можливо, нам не варто проштовхувати це в маси, тому що сьогодні всі хочуть помічника зі штучним інтелектом.

Це не означає, що тут немає реальної небезпеки, тому що я думаю, що вона є. Але особисто, і це лише моя думка, я вважаю, що небезпека полягає в ухиленні від відповідальності.

З: Люди постійно кажуть, що потрібен міжнародний орган, який би регулював ШІ.

Нолан: Але це найстаріша політична гра, в яку коли-небудь грали технологічні компанії. правильно? Це, знаєте, те, що SBF зробив із FTX (скандал із крахом криптовалютної біржі); Цукерберг роками просив, щоб його регулювали. Тому що вони знають, що обрані нами чиновники не можуть розібратися в цих питаннях взагалі.

З: Як ми бачили зі слухань у Конгресі?

Нолан: Що вони можуть сказати? Я маю на увазі, що це дуже професійні речі, істеблішмент проти творця та Оппенгеймера -- дозвольте мені повернутися до Оппенгеймера.

Проблема з Оппенгеймером полягала в тому, що він приділяв велику увагу ролі післявоєнних учених — експертів, які мали з’ясувати, як контролювати ядерні сили. Але коли бачиш, що з ним сталося, розумієш, що цього ніколи не допускали.

Це дуже складні стосунки між наукою та владою, і вони ніколи не виявлялися так жорстоко, як в історії Оппенгеймера. Я думаю, що з цього можна винести різні уроки.

Оппенгеймер також мав справу з владою та наукою｜Total Film

Q: Наприклад?

Нолан: Отже, він намагається працювати зсередини системи, замість того, щоб обернутися і сказати: знаєте, нам потрібна любов або ні. Його підхід був дуже практичним, але все одно його побили. Це дуже складно, і я вважаю, що ці «винахідники», які кажуть: «Нас треба регулювати», дуже лицемірні.

П: Оппенгеймер хоче, щоб наукою поділилися.

Нолан: Він використав слово Кондор. відверто кажучи.

З: Здається, його мислення змінилося з появою водневої бомби?

Нолан: Ні, він також вірив у водневу бомбу. Це начебто цікаво, тому що, певною мірою, це трохи спойлер. Але з іншого боку, це вже історія, ви можете пошукати її в Google.

У цей знаменний момент, коли програма створення водневої бомби просувалася вперед, він почав свою промову словами: «Я хотів би сказати вам те, що я знаю. Я не можу. Якщо ви знаєте те, що я знаю, ви зрозумієте, що всі ми потрібно ділитися інформацією. По суті, це єдиний спосіб уникнути знищення світу».

Тож відвертість – найпрактичніший засіб, на його думку. Він бачить Організацію Об’єднаних Націй як потужну інституцію майбутнього з реальними можливостями для дій. Він вважав, що глобальний контроль над атомною енергією є єдиним способом забезпечити мир у всьому світі. Очевидно, що цього не сталося.

З: Він не передбачив того, що відбувається зараз, повільного занепаду демократій.

Нолан: Я не думаю, що він взагалі цього бачив, і це був дуже оптимістичний момент.

З: Ось чому існує всесвітній орган управління ШІ.

Нолан: Так. Але це проблема, коли ви маєте справу з технологічними компаніями, які відмовляються від географічного обмеження.

Інституційно технологічні компанії заохочуються й дозволяють обходити державне регулювання. Це стало «мораллю».

До речі, це змушує мене думати, що Кремнієва долина — це зло, а всі ці люди — жахливі. Я так не думаю. Це просто system(), ось як це працює.

З: З точки зору безпеки, виробництво ядерної зброї вимагає певних елементів, але ШІ не має цього обмеження.

Нолан: Під час Другої світової війни британська бомбова програма була дуже складною. У них багато великих учених. Але уряд Черчілля зрозумів, що у нього просто немає ресурсів. Тому вони віддали американцям все, що мали. Вони сказали, у вас є розмір, у вас далеко від лінії фронту, і у вас є промислова база.

У своєму дослідженні я прочитав статистику про кількість американців, які брали участь у створенні першої атомної бомби — це було близько 500 000. Задіяно кілька компаній, і це величезний фізичний процес, тому сьогодні його легко виявити, якщо країна таємно проводить ядерні випробування. Отже, є кілька речей, які дають нам певну впевненість у тому, що цим процесом можна керувати.

І я не думаю, що жодне з цих обмежень стосується штучного інтелекту.

З: Так, не зовсім для штучного інтелекту – особливо коли ми говоримо про щось у штучному інтелекті, що є «м’якшою» загрозою. Стрімке поширення дезінформації, технологічне безробіття.

Нолан: Так, але я не дуже – я думаю, що штучний інтелект все ще може бути дуже потужним інструментом. Я оптимістично налаштований щодо цього, я справді оптимістично налаштований.

Але ми повинні сприймати його як інструмент, а особа, яка ним володіє, все одно повинна нести відповідальність за використання цього інструменту. Якщо ми надамо штучному інтелекту статус людини, як ми колись зробили з корпораціями, то так, у нас будуть величезні проблеми.

ШІ — це добре, але дотримуйся традицій

З: Чи бачите ви красу в штучному інтелекті, особливо у кіновиробництві?

Нолан: О, звичайно. Повне машинне навчання застосовано до технології глибокої підробки (Deepfake), яка є вагомим прогресом у візуальних ефектах і аудіо. У довгостроковій перспективі, з точки зору створення середовища, наприклад створення дверей або вікна. Якщо ви помістите в базу даних багато даних про те, як речі виглядають, наскільки вони відображають і так далі, це буде дуже потужний інструмент.

З: Ви будете використовувати ШІ для створення?

Нолан: Я режисер дуже старої школи «Аналог». Я знімав на плівку, намагаючись надати акторам повну реальність.

Моя позиція щодо технологій, оскільки вони стосуються моєї роботи, полягає в тому, що я хочу використовувати технології якнайкраще. Наприклад, якщо ми виконуємо трюк, небезпечний трюк. Ви можете зробити це з більш помітним примусом, а потім стерти це в дописі тощо.

З: Це означає, що це покращить зручність і ефективність візуальних ефектів.

Нолан: Це не білий вовк з порожніми руками, він починається з більш детальної ідеї, яка базується на даних. Це може нарешті зруйнувати бар’єр між анімацією та фотографією, тому що це гібрид.

Якщо ви кажете художнику, скажімо, намалювати картину космонавта, він вигадує це на основі пам’яті чи еталонного зразка. З AI це інший підхід, ви фактично використовуєте всю історію зображення.

Q: Використовуйте реальні зображення.

Нолан: Використання реальних зображень, але повністю відтворених у фундаменті — це, звичайно, викликає серйозні проблеми з правами художників, і з цим потрібно поводитися належним чином.

Фільм намагається відновити сцену обміну між Оппенгеймером і Einstein｜Universal Pictures

З: Повернімося до науки та ваших фільмів. У цитаті з випуску WIRED за грудень 2014 року, який ви редагували як гість, ви сказали: «Мене захоплює зв’язок між оповіданням історій і науковим методом. Справа не в інтелектуальному розумінні. Це відчуття розуміння чогось». Розкажіть про свою любов до науки.

Нолан: Мене завжди цікавили питання астрономії та фізики. Я досліджував це хобі в Interstellar. Коли мій брат (Джонатан Нолан) писав сценарій, він дивився на мисленнєві експерименти Ейнштейна і виявив, що деякі з них мали особливу меланхолійну рису, і це було пов’язано з частинами в часі.

Мовляв, близнюки, яких розлучають, одного забирають, а інший трохи підростає, розумієте? Думки Ейнштейна про фізику мають таку саму «літературну якість», як і те, як ви проводите ці мисленнєві експерименти, як ви формулюєте ці ідеї. Процес візуалізації, потрібний фізикам, нічим не відрізняється від літературної творчості.

З: Чи відчували ви це на етапі монтажу фільму?

Нолан: Я відчуваю це на кожному етапі створення фільму. Багато моїх робіт намагаються виразити інтуїцію та відчуття форми речей. Це може бути важко і складно.

З: Я вважаю, що якщо я створюю історію і не знаю структури, потоку, то є проблема. Я не можу говорити про цей твір змістовно.

Нолан: Я думаю про структури та візерунки дуже географічно чи геометрично. Протягом багатьох років я намагався застосувати підхід до структури з нуля, але зрештою це був дуже інстинктивний процес: чи має це відчуття оповідну форму і як воно формується? Я був зачарований усвідомленням того, що фізики проходять через дуже схожий процес. Справді цікаво.

З: Можливо, це данина поваги Interstellar, але фізики, здається, завжди так люблять фізику.

Нолан: Я захоплений прагненням до істини та наукового методу. Мені неприємно спостерігати, як це спотворюють вчені в ЗМІ або ЗМІ, що виступають від імені вчених. Суто науковий метод і ідея про те, що наука постійно прагне спростувати саму себе, робить її більш здатною піднести людський розум, ніж релігія чи щось інше.

П.: Перед цим інтерв’ю я дивився ваш фільм зі своєю мамою. Вона відчула, що ваш фільм може мати дуже антинегативне повідомлення. Дюнкерк, Інтерстеллар, Бетмен. Або це оптимізм?

Нолан: Саме кінець Inception. У когось був нігілістичний погляд на цей кінець, чи не так? Але в той же час він також з нетерпінням чекає бути зі своїми дітьми. Ця двозначність не є емоційною двозначністю. Це інтелектуальна неоднозначність для глядача.

Цікаво, що я вважаю, що є цікавий зв’язок між закінченнями Inception і Oppenheimer. У Оппенгеймера був складний кінець, змішані почуття.

З: Як відреагувала перша аудиторія?

Нолан: Деякі люди виходять із фільму в повному розбитті. Вони були безмовні. Ті страхи, які існують на історичному та фактичному рівнях, виражені у фільмах. Але любов до персонажів, любов до стосунків така ж сильна, як усе, що я робив раніше.

Дім режисера в Лос-Анджелесі, знятий його сином｜МАГНУСОМ НОЛАНОМ

Q: Існує також складність теми.

Нолан: Історія Оппенгеймера — це збірка неможливих проблем, неможливих етичних дилем, парадоксів. У його оповіданнях немає легких відповідей, лише складні питання, і саме це робить їх такими привабливими.

Я думаю, що ми можемо знайти багато оптимізму у фільмі, але є одне головне питання, що висить над ним. Я вважав за необхідне поставити кілька запитань наприкінці, щоб зацікавити людей і розпалити дискусію.

З: Що відбувалося в голові Оппенгеймера до і після скидання атомної бомби? Як ви думаєте, що б він подумав?

Нолан: Відповідь у фільмі. Я написав цей сценарій від першої особи. Ось що я кажу Кілліану (Кілліану Мерфі, який грає Оппенгеймера у фільмі): Ви — очі глядачів. Він це зробив. У більшості історій ми не виходили за межі його досвіду. Це моя найкраща спроба дати відповідь на це питання.

З: Я трохи хвилююся перед тим, як побачити повну роботу.

Нолан: Я думаю, вам, можливо, доведеться довго чекати. Це напружений досвід, тому що це напружена історія. Нещодавно я показав його режисеру, і він сказав, що це фільм жахів, і я не погодився.

Смішно, що ви раніше використали слово нігілізм, я не думаю, що мою роботу можна віднести до нігілізму. Але коли я почав закінчувати фільм, я почав відчувати цей колір, якого немає в інших моїх фільмах, чисту темряву. Воно є, і фільм бореться з ним.

З: Це впливає на вас? ти добре спав?

Нолан: Зараз я добре сплю, і я з полегшенням закінчив. Але я отримав величезне задоволення від перегляду цього фільму. Думаю, коли ви подивіться цей фільм, ви зрозумієте. Бути притягнутим до чогось страшного - це складне відчуття, розумієте? Так розгортається простір жахів.

З: Ваша дитина дивилася це?

Нолан: Так.

З: Чи знали вони щось про Оппенгеймера раніше?

Нолан: Коли я почав писати сценарій, я сказав одному зі своїх синів, і він буквально сказав мені: «Але це більше нікого не хвилює, ядерна зброя». Через два роки він перестав це говорити. Світ знову змінився.

Це урок для всіх нас, але особливо для молоді.

Світ швидко змінюється.