C'est peut-être le meilleur moment pour le célèbre réalisateur britannique Christopher Nolan de sortir un nouveau film.
Après "Tenet" (Tenet) "échoué" en raison de la nouvelle épidémie de couronne, le nouveau film du réalisateur "Oppenheimer" (Oppenheimer) est sur le point de commencer à peindre dans un mois.
Ce film sur la vie de Robert Oppenheimer, le "père de la bombe atomique", se concentre sur la façon dont un homme charismatique et intelligent a conduit le "cerveau le plus intelligent du monde" à surmonter les problèmes de physique tout en inventant l'histoire de l'arme la plus dangereuse.
La peur de la "menace nucléaire" avec laquelle Nolan et ses pairs ont grandi trouve un nouvel écho dans le présent.
C'est juste que cette fois la bombe atomique a un nouveau nom, AI.
La technologie ChatGPT a rendu l'intelligence artificielle à nouveau populaire, et la peur et l'excitation des nouvelles technologies sont dans la même tendance. Des centaines d'experts en IA ont publié une lettre conjointe déclarant la menace d'« extinction humaine » que l'intelligence artificielle peut apporter.
Wired a récemment publié une longue interview du réalisateur Christopher Nolan, dans laquelle le réalisateur a expliqué son point de vue sur la "menace de l'IA" actuelle et la comparaison entre l'intelligence artificielle et les menaces nucléaires il y a 70 ans.
Nolan, qui a autrefois sauvé l'humanité avec amour dans "Interstellar", estime que la plus grande menace pour l'IA est que les êtres humains ont un désir instinctif de tenir leurs créations sur l'autel et de se débarrasser de toutes les responsabilités qu'ils doivent assumer.
Le directeur a souligné que par rapport à la génération de scientifiques d'Oppenheimer qui luttent et résistent entre la science et ceux au pouvoir, la "recherche de supervision" des praticiens actuels de l'IA est "hypocrite".
Parallèlement, en tant que cinéaste de la vieille école obsédé par le cinéma, Nolan a des attentes pour le développement de l'IA générative dans le domaine de la création cinématographique et télévisuelle, mais ce qu'il veut faire, c'est "donner aux acteurs une vraie atmosphère et environnement."
"Le plus grand danger pour l'humanité est l'abandon de la responsabilité", a déclaré Nolan dans une interview.
Ce qui suit est le texte original de l'interview, édité par l'éditeur sans en changer le sens original :
Détruire le monde, la bombe atomique d'abord
Q : On dirait que votre travail avec Emma (la femme de Nolan, son producteur de longue date) a été, en quelque sorte, une préparation pour Oppenheimer.
Nolan : C'est ce que je ressens à propos du film.
Je ressens cela à propos de chaque projet que je fais. Parce que j'essaie de m'appuyer sur ce que j'ai appris auparavant. Chaque fois que vous terminez un film, il y a des questions qui restent sans réponse. Ainsi, dans le prochain film, vous ramassez les restes.
Dans Oppenheimer, très littéralement, Oppenheimer est mentionné dans Tenet (le précédent film de Nolan).
Q : Donc, il a été dans votre esprit pendant un certain temps.
Nolan : L'histoire d'Oppenheimer m'accompagne depuis des années. C'est une idée incroyable - quelqu'un essaie de faire des calculs pour trouver la relation entre la théorie et le monde réel, et puis il y a une très petite chance qu'il détruise le monde entier. Cependant, ils ont quand même appuyé sur le bouton.
Q : Très dramatique.
Nolan : Je veux dire, c'est littéralement le moment le plus dramatique de toute l'histoire de l'humanité.
Q : Beaucoup de gens ne savent peut-être pas que lorsque nous avons largué les bombes en 1945, ce n'était pas seulement un moment terrible, c'était aussi le moment où les gens ont appris que les humains ont maintenant la capacité d'éliminer toute la race humaine.
Nolan: Mon sentiment à propos d'Oppenheimer est que beaucoup de gens connaissent le nom, savent qu'il était lié à la bombe atomique, et il y a des choses compliquées qui se sont produites dans la relation dans l'histoire des États-Unis, et il n'y a rien d'autre .
Franchement, pour moi, c'est le public idéal pour mes films. Ceux qui ne connaissent rien auront l'expérience la plus folle. Parce que c'est une histoire de fou.
Q : Voulez-vous dire son histoire personnelle ?
Nolan : Le public devrait le savoir, car il est l'une des personnes les plus importantes de tous les temps.
L'acteur reine de Nolan, Cillian Murphy, joue Oppenheimer dans le film｜Douban Movie
Q : Il y a une ligne dans le film où quelqu'un dit à Oppenheimer, vous pouvez forcer n'importe qui à faire n'importe quoi. Quelque chose comme ça. C'est un grand manager qui sait tout, et dans cette pièce il y a des scientifiques qui font X et dans une autre pièce ces scientifiques font Y, et c'est un gars qui garde tout dans sa tête.
Nolan : Il sait inspirer les gens à travers le drame de ses personnages, projeter sa propre lumière. Il a donné à tous les scientifiques, aux officiels, à tout le monde un objectif.
Q : Il a un vrai charisme.
Nolan : Charme, c'est le mot parfait. Ça fait que tout prend forme, et le film parle souvent de ça, et c'est sa fascination qui permet à ces universitaires, ces théoriciens de se rassembler et de construire de leurs propres mains quelque chose d'aussi énorme et d'aussi important. C'est un miracle.
Q : En parlant de construire quelque chose d'énorme, l'une des sessions les plus intéressantes que j'ai eues lors de la récente conférence TED à Vancouver était une série de conférences sur l'intelligence artificielle générative. De nombreux orateurs ont mentionné les bombes atomiques et les armes nucléaires. Le dernier orateur était un technologue - il a parlé de l'inévitable militarisation de l'intelligence artificielle.
Il a conclu son discours en disant que la seule façon de maintenir l'ordre mondial est d'avoir de meilleures armes d'intelligence artificielle. C'était dissuasif. Cela ressemble beaucoup à ce que les gens pensent de la bombe atomique. On dirait que votre film a trouvé le moment idéal pour sa sortie.
Nolan : Je pense que cette relation est une question intéressante. Ceci est différent. Mais c'est la meilleure métaphore - et c'est pourquoi je l'utilise dans "Tenet" - pour déchaîner sans réfléchir les dangers d'une nouvelle technologie sur le monde. Ceci est un récit édifiant. Nous pouvons en tirer des leçons.
Cela dit, je crois que la bombe atomique est unique en termes de technologies qui ont changé et mis en danger le monde.
Q : Et les origines de ces technologies ne sont pas les mêmes ?
Nolan : Il y a une différence fondamentale.
Les scientifiques qui étudient la division de l'atome ont essayé d'expliquer aux gouvernements que (l'énergie nucléaire) est un fait de la nature qui vient de Dieu, ou de celui qui a créé le monde. C'est juste à propos de la connaissance de la nature que cela arrivera inévitablement. Personne ne peut le cacher, nous ne l'avons pas créé et nous ne le possédons pas. C'est ainsi qu'ils le voient.
Q : En d'autres termes, ils avaient l'impression qu'ils ne faisaient que révéler ce qui était déjà là.
Nolan : Et je pense qu'il est difficile pour vous de faire valoir cet argument en faveur de l'intelligence artificielle. Bien sûr, quelqu'un est obligé de le faire.
Q : Vous devez avoir grandi à l'ombre de la bombe.
J'ai grandi au Royaume-Uni dans les années 1980 et nous avons eu une série de mouvements comme le désarmement nucléaire et les gens étaient très, très conscients de la menace des armes nucléaires. Quand j'avais 13 ans, mes amis et moi pensions que nous finirions par mourir dans une apocalypse nucléaire.
Q : Mais vous ne l'avez pas fait, et le monde a évolué.
L'autre jour, j'en parlais avec Steven Spielberg, qui a grandi avec la menace de la crise des missiles cubains dans les années 60. Pareil pareil.
Il y a eu des moments dans l'histoire humaine où le danger d'une guerre nucléaire a été si palpable et palpable pour nous que nous ne le savons que trop bien. Bien sûr, nous ne pouvons nous en préoccuper que si longtemps avant de passer à autre chose et de nous inquiéter d'autres choses. Le problème est que le danger n'a pas vraiment disparu.
Q : Oui. Je veux dire, j'ai l'impression qu'il y a un mois, nous étions tous inquiets qu'un pays puisse utiliser des armes nucléaires.
Nolan : Ce dont je me souviens dans les années 80, c'est que la peur de la guerre nucléaire avait reculé au profit de la peur de la destruction de l'environnement. C'est presque comme si les humains ne pouvaient pas maintenir la peur à long terme d'une seule menace, nous avons une relation compliquée avec la peur.
Oui, certains pays ont utilisé cette menace apocalyptique et cette peur pour agiter le drapeau. C'est très troublant.
Photo de travail du réalisateur Nolan｜Universal Pictures
Mettez l'IA sur l'autel, c'est la plus dangereuse
Q : Aussi inquiétant que la menace de l'apocalypse de l'IA ?
Nolan : Eh bien, la croissance de l'IA dans les systèmes d'armes, et les problèmes qu'elle créerait, étaient si évidents il y a de nombreuses années que peu de journalistes ont pris la peine d'écrire à ce sujet. Maintenant, il y a un chatbot qui écrit un article pour le journal local et soudain c'est la crise.
Q : Ceux d'entre nous dans les médias font cela depuis des années. poursuivre aveuglément. Certains d'entre nous écrivent sur l'intelligence artificielle parce qu'elle peut nous coûter des emplois.
Nolan : Cela fait partie du problème. Pour moi, l'intelligence artificielle est un problème très simple, c'est comme le mot algorithme. Nous voyons des entreprises utiliser des algorithmes, et maintenant l'intelligence artificielle, comme moyen d'éviter la responsabilité de leurs actions.
Q : Veuillez expliquer quelques phrases supplémentaires.
Nolan : Si nous acceptons l'idée que l'IA est omnipotente, nous acceptons qu'elle puisse décharger les gens de la responsabilité de leurs actes - sur le plan militaire, socio-économique, etc.
Le plus grand danger de l'IA est que nous nous tirons d'affaire en lui attribuant ces propriétés divines.
Je ne sais pas quelle est la base mythologique de cela, mais tout au long de l'histoire, les humains ont eu cette tendance à créer de fausses idoles, à façonner quelque chose à leur image, puis à dire que nous avons des pouvoirs divins parce que nous avons créé ces choses.
Q : Cela semble très, très vrai. Comme si nous étions à ce point de basculement.
Nolan : Exactement.
Q : Avec ces grands modèles de langage, les machines pourraient même commencer à s'auto-apprendre comme étape suivante.
Nolan : Il y avait un article intéressant dans le Los Angeles Times sur ChatGPT et OpenAI. C'est essentiellement ChatGPT est un véhicule de vente et OpenAI est maintenant une entreprise privée. Ils ont la plus grande machine de vente au monde, et c'est une chose très dangereuse. Peut-être que nous ne devrions pas le pousser vers les masses car tout le monde veut un assistant IA de nos jours.
Cela ne veut pas dire qu'il n'y a pas de danger réel ici, parce que je pense qu'il y en a un. Mais personnellement, et ce n'est que mon avis, je pense que le danger réside dans l'abdication de responsabilité.
Q : Les gens n'arrêtent pas de dire qu'il doit y avoir un organisme international pour réglementer l'IA.
Nolan : Mais c'est le jeu politique le plus ancien jamais joué par les entreprises technologiques. Droite? C'est, vous savez, ce que SBF a fait avec FTX (le scandale du crash de l'échange crypto) ; Zuckerberg demande à être réglementé depuis des années. Parce qu'ils savent que les bureaucrates que nous avons élus ne peuvent pas du tout comprendre ces problèmes.
Q : Comme nous l'avons vu lors des audiences du Congrès ?
Nolan : Que peuvent-ils dire ? Je veux dire, c'est un truc très professionnel, l'establishment contre le créateur et Oppenheimer -- laissez-moi ramener ça à Oppenheimer.
Le problème avec Oppenheimer était qu'il mettait beaucoup l'accent sur le rôle des scientifiques d'après-guerre, les experts qui devaient trouver comment contrôler les forces nucléaires. Mais quand vous voyez ce qui lui est arrivé, vous comprenez que cela n'a jamais été autorisé.
C'est la relation très compliquée entre la science et le pouvoir, et elle n'a jamais été mise à nu aussi brutalement que dans l'histoire d'Oppenheimer. Je pense qu'il y a plusieurs leçons à en tirer.
Oppenheimer a également dû faire face au pouvoir et à la science｜Total Film
Q : Par exemple ?
Nolan : Donc, il essaie de travailler de l'intérieur du système, plutôt que de se retourner et de dire, vous savez, ce dont nous avons besoin, c'est d'amour, ou nous n'en avons pas besoin. Son approche était très pratique, mais il a néanmoins été battu. C'est très compliqué, et je pense que ces « inventeurs » maintenant, qui disent : « Nous devons être régulés » sont très hypocrites.
Q : Oppenheimer veut que la science soit partagée.
Nolan : Il a utilisé le mot Condor. franchement.
Q : Sa pensée semble avoir changé avec l'avènement de la bombe à hydrogène ?
Nolan : Non, il croyait aussi au truc de la bombe à hydrogène. C'est plutôt intéressant parce que, d'une certaine manière, c'est un peu un spoiler. Mais d'un autre côté, c'est de l'histoire, vous pouvez le rechercher sur Google.
À ce moment capital, alors que le programme de la bombe à hydrogène avançait, il commença son discours en disant : « J'aimerais pouvoir vous dire ce que je sais. Je ne peux pas. Si vous savez ce que je sais, vous comprendrez que nous doit partager l'information. Essentiellement, c'est la seule façon d'éviter de détruire le monde.
La franchise est donc, selon lui, le moyen le plus pratique. Il voit l'ONU comme une institution puissante d'avenir, dotée d'une réelle capacité d'action. Il croyait que le contrôle mondial de l'énergie atomique était le seul moyen d'assurer la paix mondiale. De toute évidence, cela ne s'est pas produit.
Q : Il n'a pas prévu ce qui se passe maintenant, le lent déclin des démocraties.
Nolan : Je ne pense pas qu'il ait vu ça du tout, et c'était un moment très optimiste.
Q : C'est pourquoi il existe un organe directeur mondial pour l'IA.
Nolan : Oui. Mais c'est le problème lorsqu'il s'agit d'entreprises technologiques qui refusent d'être géo-restreintes.
Institutionnellement, les entreprises technologiques sont encouragées et autorisées à contourner la réglementation gouvernementale. C'est devenu une "morale".
Au fait, cela me fait penser que la Silicon Valley est diabolique et que tous ces gens sont horribles. Je ne pense pas. C'est juste le system(), c'est comme ça que ça marche.
Q : En termes de sécurité, la fabrication d'armes nucléaires nécessite certains éléments, mais l'IA n'a pas cette limitation.
Nolan : Pendant la Seconde Guerre mondiale, le programme de bombardement britannique était très complexe. Ils ont beaucoup de grands scientifiques. Mais le gouvernement de Churchill s'est rendu compte qu'il n'avait tout simplement pas les ressources. Alors ils ont donné tout ce qu'ils avaient aux Américains. Ils ont dit, vous avez de la taille, vous êtes loin de la ligne de front et vous avez une base industrielle.
Dans mes recherches, j'ai lu une statistique sur le nombre d'Américains qui ont participé à la construction de la première bombe atomique - c'était environ 500 000. Plusieurs entreprises sont impliquées, et c'est un énorme processus physique, c'est pourquoi il est facile d'être découvert aujourd'hui si un pays procède secrètement à des essais nucléaires. Il y a donc quelques éléments qui nous donnent une petite assurance que ce processus peut être géré.
Et je ne pense pas qu'aucune de ces limitations ne s'applique à l'intelligence artificielle.
Q : Ouais, pas vraiment pour l'IA - surtout quand on parle de quelque chose dans l'IA qui est une menace "plus douce". Propagation rapide de la désinformation, chômage technologique.
Nolan : Exactement, mais je ne le suis pas trop -- je pense que l'intelligence artificielle peut encore être un outil très puissant. Je suis optimiste à ce sujet, je suis vraiment optimiste.
Mais nous devons le voir comme un outil, et la personne qui l'utilise doit toujours rester responsable de l'utilisation de cet outil. Si nous donnons à l'intelligence artificielle le statut d'humain, comme nous l'avons fait aux entreprises à un moment donné, alors oui, nous aurons d'énormes problèmes.
L'IA est bonne, mais respectez la tradition
Q : Voyez-vous de la beauté dans l'intelligence artificielle, en particulier dans le cinéma ?
Nolan : Oh, bien sûr. L'ensemble de l'apprentissage automatique est appliqué à la technologie deepfake (Deepfake), qui constitue une avancée remarquable dans les effets visuels et audio. À long terme, en termes de création d'environnement, comme la création d'une porte ou d'une fenêtre. Si vous mettez beaucoup de données sur l'apparence des choses, leur degré de réflexion, etc., dans une base de données, ce sera un outil très puissant.
Q : Utiliserez-vous l'IA pour créer ?
Nolan : Je suis un cinéaste "analogique" très old-school. J'ai tourné sur pellicule, en essayant de donner aux acteurs une réalité complète.
Ma position sur la technologie, en ce qui concerne mon travail, est que je veux utiliser la technologie à son meilleur avantage. Par exemple, si nous faisons une cascade, une cascade dangereuse. Vous pouvez le faire avec une coercition plus importante, puis l'effacer en post, des trucs comme ça.
Q : Cela signifie que cela améliorera la commodité et l'efficacité des effets visuels.
Nolan : Ce n'est pas un loup blanc les mains vides, il part d'une idée plus détaillée et basée sur des données. Cela pourrait enfin briser la barrière entre l'animation et la photographie, car c'est un hybride.
Si vous dites à un artiste de, disons, peindre une image d'un astronaute, il l'invente de mémoire ou de référence. Avec l'IA, c'est une approche différente, vous utilisez en fait tout l'historique de l'image.
Q : Utilisez des images réelles.
Nolan : Utiliser de vraies images, mais d'une manière complètement, fondamentalement recréée - cela soulève bien sûr des problèmes majeurs de droits d'artistes, et cela doit être géré correctement.
Le film tente de restituer la scène d'échange entre Oppenheimer et Einstein｜Universal Pictures
Q : Revenons à la science et à vos films. Dans une citation du numéro de décembre 2014 de WIRED que vous avez édité en tant qu'invité, vous avez déclaré : "Je suis fasciné par la relation entre la narration et la méthode scientifique. Il ne s'agit pas vraiment de compréhension intellectuelle. C'est un sentiment de saisir quelque chose." Parlez-moi de votre amour de la science.
Nolan : Eh bien, j'ai toujours été intéressé par les questions d'astronomie et de physique. J'ai exploré ce passe-temps dans Interstellar. Lorsque mon frère (Jonathan Nolan) écrivait le scénario, il regardait les expériences de pensée d'Einstein, et il a découvert que certaines d'entre elles avaient une qualité particulière de mélancolie, et cela avait à voir avec des parties dans le temps.
Genre, des jumeaux qui sont séparés, l'un est enlevé et l'autre grandit un peu, tu vois ? La pensée d'Einstein sur la physique a à peu près la même "qualité littéraire" que la façon dont vous faites ces expériences de pensée, la façon dont vous encadrez ces idées. Le processus de visualisation dont les physiciens ont besoin n'est pas différent de la création littéraire.
Q : Avez-vous ressenti cela pendant la phase de montage du film ?
Nolan : C'est ce que je ressens à chaque étape du tournage. Une grande partie de mon travail essaie d'exprimer l'intuition et le sentiment de la forme des choses. Cela peut être difficile et compliqué.
Q : Je trouve que si je crée une histoire et que je ne connais pas la structure, le déroulement, alors il y a un problème. Je ne peux pas parler de cette pièce de manière significative.
Nolan : Je pense aux structures et aux motifs d'une manière très géographique ou géométrique. Au fil des ans, j'ai essayé d'aborder la structure à partir de zéro, mais au final, c'était un processus très instinctif : ce sentiment a-t-il une forme narrative, et comment prend-il forme ? J'ai été fasciné de réaliser que les physiciens passent par un processus très similaire. Vraiment intéressant.
Q : C'est peut-être un hommage à Interstellar, mais les physiciens semblent toujours aimer la physique.
Nolan : Je suis passionné par la recherche de la vérité et la méthode scientifique. Je déteste le voir déformé par des scientifiques dans les médias ou des médias parlant au nom de scientifiques. La pure méthode scientifique, et l'idée que la science cherche constamment à se réfuter, la rend plus capable d'élever l'esprit humain que la religion ou quoi que ce soit d'autre.
Q : Avant cette interview, j'ai regardé votre film avec ma mère. Elle a estimé que votre film pourrait avoir un message très anti-négatif. Dunkerque, Interstellaire, Batman. Ou est-ce de l'optimisme ?
Nolan : La fin d'Inception, exactement. Quelqu'un avait une vision nihiliste de cette fin, n'est-ce pas ? Mais en même temps, il a aussi hâte d'être avec ses enfants. Cette ambiguïté n'est pas une ambiguïté émotionnelle. C'est une ambiguïté intellectuelle pour le spectateur.
Fait intéressant, je pense qu'il y a une relation intéressante à explorer entre les fins d'Inception et d'Oppenheimer. Oppenheimer a eu une fin compliquée, des sentiments mitigés.
Q : Comment le public initial a-t-il réagi ?
Nolan : Certaines personnes sortent du film dans une dépression absolue. Ils étaient sans voix. Ces peurs qui existent aux niveaux historique et factuel sont exprimées dans les films. Mais l'amour pour les personnages, l'amour pour les relations, est aussi fort que tout ce que j'ai fait auparavant.
La maison du réalisateur à Los Angeles, filmée par son fils｜MAGNUS NOLAN
Q : Il y a aussi la complexité du sujet.
Nolan : L'histoire d'Oppenheimer est une collection de problèmes impossibles, de dilemmes éthiques impossibles, de paradoxes. Il n'y a pas de réponses faciles dans ses histoires, seulement des questions difficiles, et c'est ce qui les rend si intéressantes.
Je pense que nous pouvons trouver beaucoup d'optimisme dans le film, mais il y a cette question primordiale qui plane au-dessus. J'ai senti qu'il était nécessaire de poser quelques questions à la fin pour faire réfléchir les gens et susciter la discussion.
Q : Qu'est-ce qui se passait dans la tête d'Oppenheimer avant et après le largage de la bombe atomique ? Que pensez-vous qu'il penserait?
Nolan : La réponse est dans le film. J'ai écrit ce script à la première personne. Voici ce que je dis à Cillian (Cillian Murphy, qui joue Oppenheimer dans le film) : vous êtes les yeux du public. Il l'a fait. Pour la plupart des histoires, nous ne sommes pas allés au-delà de son expérience. Ceci est ma meilleure tentative pour transmettre la réponse à cette question.
Q : Je suis un peu nerveux à l'idée de voir le travail complet.
Nolan : Je pense que vous devrez peut-être attendre longtemps. C'est une expérience intense parce que c'est une histoire intense. Je l'ai montré à un cinéaste récemment et il a dit que c'était un film d'horreur, et je n'étais pas d'accord.
C'est drôle que vous ayez utilisé le mot nihilisme plus tôt, je ne pense pas que mon travail puisse être lié au nihilisme. Mais alors que je commençais à finir le film, j'ai commencé à ressentir cette couleur, pas dans mes autres films, l'obscurité pure. C'est là, et le film le combat.
Q : Cela vous affecte-t-il ? avez-vous bien dormi?
Nolan : Je dors bien maintenant, et je suis soulagé d'avoir fini. Mais j'ai beaucoup aimé regarder ce film. Je pense que quand vous verrez ce film, vous comprendrez. Être attiré par quelque chose d'effrayant est un sentiment compliqué, tu sais ? C'est ainsi que se déroule l'espace de l'horreur.
Q : Votre enfant l'a-t-il regardé ?
Nolan : Oui.
Q : Savaient-ils quelque chose sur Oppenheimer auparavant ?
Nolan : Quand j'ai commencé à écrire le scénario, j'en ai parlé à l'un de mes fils, et il m'a littéralement dit : « Mais plus personne ne s'inquiète vraiment pour ça, les armes nucléaires. » Deux ans plus tard, il a arrêté de dire ça. Le monde a encore changé.
C'est une leçon pour nous tous, mais surtout pour les jeunes.
Le monde change rapidement.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
Interview Nolan: L'IA n'est pas une bombe atomique, mais c'est le plus dangereux de la tenir sur l'autel
Source : Geek Park
Auteur : MARIE
Après "Tenet" (Tenet) "échoué" en raison de la nouvelle épidémie de couronne, le nouveau film du réalisateur "Oppenheimer" (Oppenheimer) est sur le point de commencer à peindre dans un mois.
Ce film sur la vie de Robert Oppenheimer, le "père de la bombe atomique", se concentre sur la façon dont un homme charismatique et intelligent a conduit le "cerveau le plus intelligent du monde" à surmonter les problèmes de physique tout en inventant l'histoire de l'arme la plus dangereuse.
La peur de la "menace nucléaire" avec laquelle Nolan et ses pairs ont grandi trouve un nouvel écho dans le présent.
C'est juste que cette fois la bombe atomique a un nouveau nom, AI.
La technologie ChatGPT a rendu l'intelligence artificielle à nouveau populaire, et la peur et l'excitation des nouvelles technologies sont dans la même tendance. Des centaines d'experts en IA ont publié une lettre conjointe déclarant la menace d'« extinction humaine » que l'intelligence artificielle peut apporter.
Wired a récemment publié une longue interview du réalisateur Christopher Nolan, dans laquelle le réalisateur a expliqué son point de vue sur la "menace de l'IA" actuelle et la comparaison entre l'intelligence artificielle et les menaces nucléaires il y a 70 ans.
Nolan, qui a autrefois sauvé l'humanité avec amour dans "Interstellar", estime que la plus grande menace pour l'IA est que les êtres humains ont un désir instinctif de tenir leurs créations sur l'autel et de se débarrasser de toutes les responsabilités qu'ils doivent assumer.
Le directeur a souligné que par rapport à la génération de scientifiques d'Oppenheimer qui luttent et résistent entre la science et ceux au pouvoir, la "recherche de supervision" des praticiens actuels de l'IA est "hypocrite".
Parallèlement, en tant que cinéaste de la vieille école obsédé par le cinéma, Nolan a des attentes pour le développement de l'IA générative dans le domaine de la création cinématographique et télévisuelle, mais ce qu'il veut faire, c'est "donner aux acteurs une vraie atmosphère et environnement."
"Le plus grand danger pour l'humanité est l'abandon de la responsabilité", a déclaré Nolan dans une interview.
Ce qui suit est le texte original de l'interview, édité par l'éditeur sans en changer le sens original :
Détruire le monde, la bombe atomique d'abord
Q : On dirait que votre travail avec Emma (la femme de Nolan, son producteur de longue date) a été, en quelque sorte, une préparation pour Oppenheimer.
Nolan : C'est ce que je ressens à propos du film.
Je ressens cela à propos de chaque projet que je fais. Parce que j'essaie de m'appuyer sur ce que j'ai appris auparavant. Chaque fois que vous terminez un film, il y a des questions qui restent sans réponse. Ainsi, dans le prochain film, vous ramassez les restes.
Dans Oppenheimer, très littéralement, Oppenheimer est mentionné dans Tenet (le précédent film de Nolan).
Q : Donc, il a été dans votre esprit pendant un certain temps.
Nolan : L'histoire d'Oppenheimer m'accompagne depuis des années. C'est une idée incroyable - quelqu'un essaie de faire des calculs pour trouver la relation entre la théorie et le monde réel, et puis il y a une très petite chance qu'il détruise le monde entier. Cependant, ils ont quand même appuyé sur le bouton.
Q : Très dramatique.
Nolan : Je veux dire, c'est littéralement le moment le plus dramatique de toute l'histoire de l'humanité.
Q : Beaucoup de gens ne savent peut-être pas que lorsque nous avons largué les bombes en 1945, ce n'était pas seulement un moment terrible, c'était aussi le moment où les gens ont appris que les humains ont maintenant la capacité d'éliminer toute la race humaine.
Nolan: Mon sentiment à propos d'Oppenheimer est que beaucoup de gens connaissent le nom, savent qu'il était lié à la bombe atomique, et il y a des choses compliquées qui se sont produites dans la relation dans l'histoire des États-Unis, et il n'y a rien d'autre .
Franchement, pour moi, c'est le public idéal pour mes films. Ceux qui ne connaissent rien auront l'expérience la plus folle. Parce que c'est une histoire de fou.
Q : Voulez-vous dire son histoire personnelle ?
Nolan : Le public devrait le savoir, car il est l'une des personnes les plus importantes de tous les temps.
L'acteur reine de Nolan, Cillian Murphy, joue Oppenheimer dans le film｜Douban Movie
Nolan : Il sait inspirer les gens à travers le drame de ses personnages, projeter sa propre lumière. Il a donné à tous les scientifiques, aux officiels, à tout le monde un objectif.
Q : Il a un vrai charisme.
Nolan : Charme, c'est le mot parfait. Ça fait que tout prend forme, et le film parle souvent de ça, et c'est sa fascination qui permet à ces universitaires, ces théoriciens de se rassembler et de construire de leurs propres mains quelque chose d'aussi énorme et d'aussi important. C'est un miracle.
Q : En parlant de construire quelque chose d'énorme, l'une des sessions les plus intéressantes que j'ai eues lors de la récente conférence TED à Vancouver était une série de conférences sur l'intelligence artificielle générative. De nombreux orateurs ont mentionné les bombes atomiques et les armes nucléaires. Le dernier orateur était un technologue - il a parlé de l'inévitable militarisation de l'intelligence artificielle.
Il a conclu son discours en disant que la seule façon de maintenir l'ordre mondial est d'avoir de meilleures armes d'intelligence artificielle. C'était dissuasif. Cela ressemble beaucoup à ce que les gens pensent de la bombe atomique. On dirait que votre film a trouvé le moment idéal pour sa sortie.
Nolan : Je pense que cette relation est une question intéressante. Ceci est différent. Mais c'est la meilleure métaphore - et c'est pourquoi je l'utilise dans "Tenet" - pour déchaîner sans réfléchir les dangers d'une nouvelle technologie sur le monde. Ceci est un récit édifiant. Nous pouvons en tirer des leçons.
Cela dit, je crois que la bombe atomique est unique en termes de technologies qui ont changé et mis en danger le monde.
Q : Et les origines de ces technologies ne sont pas les mêmes ?
Nolan : Il y a une différence fondamentale.
Les scientifiques qui étudient la division de l'atome ont essayé d'expliquer aux gouvernements que (l'énergie nucléaire) est un fait de la nature qui vient de Dieu, ou de celui qui a créé le monde. C'est juste à propos de la connaissance de la nature que cela arrivera inévitablement. Personne ne peut le cacher, nous ne l'avons pas créé et nous ne le possédons pas. C'est ainsi qu'ils le voient.
Q : En d'autres termes, ils avaient l'impression qu'ils ne faisaient que révéler ce qui était déjà là.
Nolan : Et je pense qu'il est difficile pour vous de faire valoir cet argument en faveur de l'intelligence artificielle. Bien sûr, quelqu'un est obligé de le faire.
Q : Vous devez avoir grandi à l'ombre de la bombe.
J'ai grandi au Royaume-Uni dans les années 1980 et nous avons eu une série de mouvements comme le désarmement nucléaire et les gens étaient très, très conscients de la menace des armes nucléaires. Quand j'avais 13 ans, mes amis et moi pensions que nous finirions par mourir dans une apocalypse nucléaire.
Q : Mais vous ne l'avez pas fait, et le monde a évolué.
L'autre jour, j'en parlais avec Steven Spielberg, qui a grandi avec la menace de la crise des missiles cubains dans les années 60. Pareil pareil.
Il y a eu des moments dans l'histoire humaine où le danger d'une guerre nucléaire a été si palpable et palpable pour nous que nous ne le savons que trop bien. Bien sûr, nous ne pouvons nous en préoccuper que si longtemps avant de passer à autre chose et de nous inquiéter d'autres choses. Le problème est que le danger n'a pas vraiment disparu.
Q : Oui. Je veux dire, j'ai l'impression qu'il y a un mois, nous étions tous inquiets qu'un pays puisse utiliser des armes nucléaires.
Nolan : Ce dont je me souviens dans les années 80, c'est que la peur de la guerre nucléaire avait reculé au profit de la peur de la destruction de l'environnement. C'est presque comme si les humains ne pouvaient pas maintenir la peur à long terme d'une seule menace, nous avons une relation compliquée avec la peur.
Oui, certains pays ont utilisé cette menace apocalyptique et cette peur pour agiter le drapeau. C'est très troublant.
Photo de travail du réalisateur Nolan｜Universal Pictures
Mettez l'IA sur l'autel, c'est la plus dangereuse
Q : Aussi inquiétant que la menace de l'apocalypse de l'IA ?
Nolan : Eh bien, la croissance de l'IA dans les systèmes d'armes, et les problèmes qu'elle créerait, étaient si évidents il y a de nombreuses années que peu de journalistes ont pris la peine d'écrire à ce sujet. Maintenant, il y a un chatbot qui écrit un article pour le journal local et soudain c'est la crise.
Q : Ceux d'entre nous dans les médias font cela depuis des années. poursuivre aveuglément. Certains d'entre nous écrivent sur l'intelligence artificielle parce qu'elle peut nous coûter des emplois.
Nolan : Cela fait partie du problème. Pour moi, l'intelligence artificielle est un problème très simple, c'est comme le mot algorithme. Nous voyons des entreprises utiliser des algorithmes, et maintenant l'intelligence artificielle, comme moyen d'éviter la responsabilité de leurs actions.
Q : Veuillez expliquer quelques phrases supplémentaires.
Nolan : Si nous acceptons l'idée que l'IA est omnipotente, nous acceptons qu'elle puisse décharger les gens de la responsabilité de leurs actes - sur le plan militaire, socio-économique, etc.
Le plus grand danger de l'IA est que nous nous tirons d'affaire en lui attribuant ces propriétés divines.
Je ne sais pas quelle est la base mythologique de cela, mais tout au long de l'histoire, les humains ont eu cette tendance à créer de fausses idoles, à façonner quelque chose à leur image, puis à dire que nous avons des pouvoirs divins parce que nous avons créé ces choses.
Q : Cela semble très, très vrai. Comme si nous étions à ce point de basculement.
Nolan : Exactement.
Q : Avec ces grands modèles de langage, les machines pourraient même commencer à s'auto-apprendre comme étape suivante.
Nolan : Il y avait un article intéressant dans le Los Angeles Times sur ChatGPT et OpenAI. C'est essentiellement ChatGPT est un véhicule de vente et OpenAI est maintenant une entreprise privée. Ils ont la plus grande machine de vente au monde, et c'est une chose très dangereuse. Peut-être que nous ne devrions pas le pousser vers les masses car tout le monde veut un assistant IA de nos jours.
Cela ne veut pas dire qu'il n'y a pas de danger réel ici, parce que je pense qu'il y en a un. Mais personnellement, et ce n'est que mon avis, je pense que le danger réside dans l'abdication de responsabilité.
Q : Les gens n'arrêtent pas de dire qu'il doit y avoir un organisme international pour réglementer l'IA.
Nolan : Mais c'est le jeu politique le plus ancien jamais joué par les entreprises technologiques. Droite? C'est, vous savez, ce que SBF a fait avec FTX (le scandale du crash de l'échange crypto) ; Zuckerberg demande à être réglementé depuis des années. Parce qu'ils savent que les bureaucrates que nous avons élus ne peuvent pas du tout comprendre ces problèmes.
Q : Comme nous l'avons vu lors des audiences du Congrès ?
Nolan : Que peuvent-ils dire ? Je veux dire, c'est un truc très professionnel, l'establishment contre le créateur et Oppenheimer -- laissez-moi ramener ça à Oppenheimer.
Le problème avec Oppenheimer était qu'il mettait beaucoup l'accent sur le rôle des scientifiques d'après-guerre, les experts qui devaient trouver comment contrôler les forces nucléaires. Mais quand vous voyez ce qui lui est arrivé, vous comprenez que cela n'a jamais été autorisé.
C'est la relation très compliquée entre la science et le pouvoir, et elle n'a jamais été mise à nu aussi brutalement que dans l'histoire d'Oppenheimer. Je pense qu'il y a plusieurs leçons à en tirer.
Oppenheimer a également dû faire face au pouvoir et à la science｜Total Film
Nolan : Donc, il essaie de travailler de l'intérieur du système, plutôt que de se retourner et de dire, vous savez, ce dont nous avons besoin, c'est d'amour, ou nous n'en avons pas besoin. Son approche était très pratique, mais il a néanmoins été battu. C'est très compliqué, et je pense que ces « inventeurs » maintenant, qui disent : « Nous devons être régulés » sont très hypocrites.
Q : Oppenheimer veut que la science soit partagée.
Nolan : Il a utilisé le mot Condor. franchement.
Q : Sa pensée semble avoir changé avec l'avènement de la bombe à hydrogène ?
Nolan : Non, il croyait aussi au truc de la bombe à hydrogène. C'est plutôt intéressant parce que, d'une certaine manière, c'est un peu un spoiler. Mais d'un autre côté, c'est de l'histoire, vous pouvez le rechercher sur Google.
À ce moment capital, alors que le programme de la bombe à hydrogène avançait, il commença son discours en disant : « J'aimerais pouvoir vous dire ce que je sais. Je ne peux pas. Si vous savez ce que je sais, vous comprendrez que nous doit partager l'information. Essentiellement, c'est la seule façon d'éviter de détruire le monde.
La franchise est donc, selon lui, le moyen le plus pratique. Il voit l'ONU comme une institution puissante d'avenir, dotée d'une réelle capacité d'action. Il croyait que le contrôle mondial de l'énergie atomique était le seul moyen d'assurer la paix mondiale. De toute évidence, cela ne s'est pas produit.
Q : Il n'a pas prévu ce qui se passe maintenant, le lent déclin des démocraties.
Nolan : Je ne pense pas qu'il ait vu ça du tout, et c'était un moment très optimiste.
Q : C'est pourquoi il existe un organe directeur mondial pour l'IA.
Nolan : Oui. Mais c'est le problème lorsqu'il s'agit d'entreprises technologiques qui refusent d'être géo-restreintes.
Institutionnellement, les entreprises technologiques sont encouragées et autorisées à contourner la réglementation gouvernementale. C'est devenu une "morale".
Au fait, cela me fait penser que la Silicon Valley est diabolique et que tous ces gens sont horribles. Je ne pense pas. C'est juste le system(), c'est comme ça que ça marche.
Q : En termes de sécurité, la fabrication d'armes nucléaires nécessite certains éléments, mais l'IA n'a pas cette limitation.
Nolan : Pendant la Seconde Guerre mondiale, le programme de bombardement britannique était très complexe. Ils ont beaucoup de grands scientifiques. Mais le gouvernement de Churchill s'est rendu compte qu'il n'avait tout simplement pas les ressources. Alors ils ont donné tout ce qu'ils avaient aux Américains. Ils ont dit, vous avez de la taille, vous êtes loin de la ligne de front et vous avez une base industrielle.
Dans mes recherches, j'ai lu une statistique sur le nombre d'Américains qui ont participé à la construction de la première bombe atomique - c'était environ 500 000. Plusieurs entreprises sont impliquées, et c'est un énorme processus physique, c'est pourquoi il est facile d'être découvert aujourd'hui si un pays procède secrètement à des essais nucléaires. Il y a donc quelques éléments qui nous donnent une petite assurance que ce processus peut être géré.
Et je ne pense pas qu'aucune de ces limitations ne s'applique à l'intelligence artificielle.
Q : Ouais, pas vraiment pour l'IA - surtout quand on parle de quelque chose dans l'IA qui est une menace "plus douce". Propagation rapide de la désinformation, chômage technologique.
Nolan : Exactement, mais je ne le suis pas trop -- je pense que l'intelligence artificielle peut encore être un outil très puissant. Je suis optimiste à ce sujet, je suis vraiment optimiste.
Mais nous devons le voir comme un outil, et la personne qui l'utilise doit toujours rester responsable de l'utilisation de cet outil. Si nous donnons à l'intelligence artificielle le statut d'humain, comme nous l'avons fait aux entreprises à un moment donné, alors oui, nous aurons d'énormes problèmes.
L'IA est bonne, mais respectez la tradition
Q : Voyez-vous de la beauté dans l'intelligence artificielle, en particulier dans le cinéma ?
Nolan : Oh, bien sûr. L'ensemble de l'apprentissage automatique est appliqué à la technologie deepfake (Deepfake), qui constitue une avancée remarquable dans les effets visuels et audio. À long terme, en termes de création d'environnement, comme la création d'une porte ou d'une fenêtre. Si vous mettez beaucoup de données sur l'apparence des choses, leur degré de réflexion, etc., dans une base de données, ce sera un outil très puissant.
Q : Utiliserez-vous l'IA pour créer ?
Nolan : Je suis un cinéaste "analogique" très old-school. J'ai tourné sur pellicule, en essayant de donner aux acteurs une réalité complète.
Ma position sur la technologie, en ce qui concerne mon travail, est que je veux utiliser la technologie à son meilleur avantage. Par exemple, si nous faisons une cascade, une cascade dangereuse. Vous pouvez le faire avec une coercition plus importante, puis l'effacer en post, des trucs comme ça.
Q : Cela signifie que cela améliorera la commodité et l'efficacité des effets visuels.
Nolan : Ce n'est pas un loup blanc les mains vides, il part d'une idée plus détaillée et basée sur des données. Cela pourrait enfin briser la barrière entre l'animation et la photographie, car c'est un hybride.
Si vous dites à un artiste de, disons, peindre une image d'un astronaute, il l'invente de mémoire ou de référence. Avec l'IA, c'est une approche différente, vous utilisez en fait tout l'historique de l'image.
Q : Utilisez des images réelles.
Nolan : Utiliser de vraies images, mais d'une manière complètement, fondamentalement recréée - cela soulève bien sûr des problèmes majeurs de droits d'artistes, et cela doit être géré correctement.
Q : Revenons à la science et à vos films. Dans une citation du numéro de décembre 2014 de WIRED que vous avez édité en tant qu'invité, vous avez déclaré : "Je suis fasciné par la relation entre la narration et la méthode scientifique. Il ne s'agit pas vraiment de compréhension intellectuelle. C'est un sentiment de saisir quelque chose." Parlez-moi de votre amour de la science.
Nolan : Eh bien, j'ai toujours été intéressé par les questions d'astronomie et de physique. J'ai exploré ce passe-temps dans Interstellar. Lorsque mon frère (Jonathan Nolan) écrivait le scénario, il regardait les expériences de pensée d'Einstein, et il a découvert que certaines d'entre elles avaient une qualité particulière de mélancolie, et cela avait à voir avec des parties dans le temps.
Genre, des jumeaux qui sont séparés, l'un est enlevé et l'autre grandit un peu, tu vois ? La pensée d'Einstein sur la physique a à peu près la même "qualité littéraire" que la façon dont vous faites ces expériences de pensée, la façon dont vous encadrez ces idées. Le processus de visualisation dont les physiciens ont besoin n'est pas différent de la création littéraire.
Q : Avez-vous ressenti cela pendant la phase de montage du film ?
Nolan : C'est ce que je ressens à chaque étape du tournage. Une grande partie de mon travail essaie d'exprimer l'intuition et le sentiment de la forme des choses. Cela peut être difficile et compliqué.
Q : Je trouve que si je crée une histoire et que je ne connais pas la structure, le déroulement, alors il y a un problème. Je ne peux pas parler de cette pièce de manière significative.
Nolan : Je pense aux structures et aux motifs d'une manière très géographique ou géométrique. Au fil des ans, j'ai essayé d'aborder la structure à partir de zéro, mais au final, c'était un processus très instinctif : ce sentiment a-t-il une forme narrative, et comment prend-il forme ? J'ai été fasciné de réaliser que les physiciens passent par un processus très similaire. Vraiment intéressant.
Q : C'est peut-être un hommage à Interstellar, mais les physiciens semblent toujours aimer la physique.
Nolan : Je suis passionné par la recherche de la vérité et la méthode scientifique. Je déteste le voir déformé par des scientifiques dans les médias ou des médias parlant au nom de scientifiques. La pure méthode scientifique, et l'idée que la science cherche constamment à se réfuter, la rend plus capable d'élever l'esprit humain que la religion ou quoi que ce soit d'autre.
Q : Avant cette interview, j'ai regardé votre film avec ma mère. Elle a estimé que votre film pourrait avoir un message très anti-négatif. Dunkerque, Interstellaire, Batman. Ou est-ce de l'optimisme ?
Nolan : La fin d'Inception, exactement. Quelqu'un avait une vision nihiliste de cette fin, n'est-ce pas ? Mais en même temps, il a aussi hâte d'être avec ses enfants. Cette ambiguïté n'est pas une ambiguïté émotionnelle. C'est une ambiguïté intellectuelle pour le spectateur.
Fait intéressant, je pense qu'il y a une relation intéressante à explorer entre les fins d'Inception et d'Oppenheimer. Oppenheimer a eu une fin compliquée, des sentiments mitigés.
Q : Comment le public initial a-t-il réagi ?
Nolan : Certaines personnes sortent du film dans une dépression absolue. Ils étaient sans voix. Ces peurs qui existent aux niveaux historique et factuel sont exprimées dans les films. Mais l'amour pour les personnages, l'amour pour les relations, est aussi fort que tout ce que j'ai fait auparavant.
La maison du réalisateur à Los Angeles, filmée par son fils｜MAGNUS NOLAN
Nolan : L'histoire d'Oppenheimer est une collection de problèmes impossibles, de dilemmes éthiques impossibles, de paradoxes. Il n'y a pas de réponses faciles dans ses histoires, seulement des questions difficiles, et c'est ce qui les rend si intéressantes.
Je pense que nous pouvons trouver beaucoup d'optimisme dans le film, mais il y a cette question primordiale qui plane au-dessus. J'ai senti qu'il était nécessaire de poser quelques questions à la fin pour faire réfléchir les gens et susciter la discussion.
Q : Qu'est-ce qui se passait dans la tête d'Oppenheimer avant et après le largage de la bombe atomique ? Que pensez-vous qu'il penserait?
Nolan : La réponse est dans le film. J'ai écrit ce script à la première personne. Voici ce que je dis à Cillian (Cillian Murphy, qui joue Oppenheimer dans le film) : vous êtes les yeux du public. Il l'a fait. Pour la plupart des histoires, nous ne sommes pas allés au-delà de son expérience. Ceci est ma meilleure tentative pour transmettre la réponse à cette question.
Q : Je suis un peu nerveux à l'idée de voir le travail complet.
Nolan : Je pense que vous devrez peut-être attendre longtemps. C'est une expérience intense parce que c'est une histoire intense. Je l'ai montré à un cinéaste récemment et il a dit que c'était un film d'horreur, et je n'étais pas d'accord.
C'est drôle que vous ayez utilisé le mot nihilisme plus tôt, je ne pense pas que mon travail puisse être lié au nihilisme. Mais alors que je commençais à finir le film, j'ai commencé à ressentir cette couleur, pas dans mes autres films, l'obscurité pure. C'est là, et le film le combat.
Q : Cela vous affecte-t-il ? avez-vous bien dormi?
Nolan : Je dors bien maintenant, et je suis soulagé d'avoir fini. Mais j'ai beaucoup aimé regarder ce film. Je pense que quand vous verrez ce film, vous comprendrez. Être attiré par quelque chose d'effrayant est un sentiment compliqué, tu sais ? C'est ainsi que se déroule l'espace de l'horreur.
Q : Votre enfant l'a-t-il regardé ?
Nolan : Oui.
Q : Savaient-ils quelque chose sur Oppenheimer auparavant ?
Nolan : Quand j'ai commencé à écrire le scénario, j'en ai parlé à l'un de mes fils, et il m'a littéralement dit : « Mais plus personne ne s'inquiète vraiment pour ça, les armes nucléaires. » Deux ans plus tard, il a arrêté de dire ça. Le monde a encore changé.
C'est une leçon pour nous tous, mais surtout pour les jeunes.
Le monde change rapidement.