Tu sais ce qui est fou ? Sam Altman aurait apparemment une véritable coupure d'urgence pour ChatGPT. Pas métaphoriquement—comme un vrai bouton d'arrêt qu'il peut déclencher à tout moment.



Donc voilà : le gars a ce sac à dos bleu qui contiendrait soi-disant un MacBook Pro connecté directement aux serveurs d'OpenAI. L'idée est que si l'IA commence un jour à faire quelque chose de catastrophique, il peut tout couper instantanément. Ça ressemble à quelque chose sorti d’un film d’espionnage, mais le parcours d’Altman suggère qu’il prend ces choses au sérieux.

Le concept de sac à dos nucléaire fait évidemment référence aux protocoles d’urgence de l’époque de la Guerre froide, mais la version d’Altman est conçue pour un autre type de risque existentiel. Il a été assez vocal sur les scénarios d’extinction de l’IA et le potentiel de déplacement massif d’emplois si cette technologie échappait à tout contrôle. Ce n’est pas une simple fantaisie paranoïaque—c’est une précaution calculée de la part de quelqu’un qui a passé des années à réfléchir aux scénarios catastrophe.

Ce qui est intéressant, c’est la façon dont cela reflète toute sa démarche en matière de leadership. Même chez Reddit, on pouvait voir quelqu’un de profondément conscient de la responsabilité que comporte la manipulation de ce genre de pouvoir. Il n’est pas le type technophile imprudent. Il collabore avec des personnes sérieuses comme Jonathan Ive, travaille avec la veuve de Steve Jobs sur de nouvelles lignes d’appareils, et insiste constamment sur la nécessité de garde-fous pour la sécurité.

Le sac à dos l’accompagne presque partout, ce qui montre à quel point il le prend au sérieux. Que le bouton d’urgence du MacBook soit réel ou simplement une légende de l’industrie tech, peu importe—le fait que les gens croient que Sam Altman pourrait en avoir un en dit long sur la façon dont le monde perçoit le risque lié à l’IA en ce moment.

Honnêtement ? C’est une mesure de précaution qui a du sens compte tenu de ce qui est en jeu. Espérons juste qu’il n’aura jamais besoin de l’utiliser réellement.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Reposter
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
Aucun commentaire
  • Épingler