Crise de gouvernance d'OpenAI : Réflexions et enseignements d'un point de vue DAO
Les récentes turbulences internes d'OpenAI ont suscité une profonde réflexion sur son mode de gouvernance. Certains estiment que si OpenAI adoptait la forme d'une organisation autonome décentralisée (DAO), cela pourrait permettre d'éviter cette crise. Cette opinion n'est pas infondée, mais repose sur certaines similarités entre OpenAI et les DAO.
En tant qu'organisation à but non lucratif dédiée au développement d'une intelligence artificielle générale sécurisée (AGI) et à permettre à toute l'humanité de partager ses résultats, la mission d'OpenAI s'aligne avec celle de nombreux DAO créant des biens publics. Cependant, le dilemme actuel d'OpenAI ne provient pas de sa structure organisationnelle, mais plutôt de l'ambiguïté et de l'irréalisme des règles de gouvernance.
Par exemple, le conseil d'administration d'OpenAI, en tant qu'organe de décision suprême, a réduit le nombre de ses membres de 9 à 6, sans pouvoir les remplacer à temps. Cela signifie qu'il suffit de 3 personnes pour décider du sort de l'ensemble de l'organisation. Plus inquiétant encore, des décisions majeures, comme le remplacement du PDG Sam Altman, ont été prises à la hâte sans une discussion approfondie de l'ensemble des administrateurs, ignorant les demandes de nombreux acteurs concernés.
Même une société cotée ayant pour objectif de réaliser des bénéfices doit introduire des administrateurs indépendants pour améliorer la transparence de la gouvernance et mieux représenter les intérêts des petits actionnaires et du public. En ce qui concerne OpenAI, une institution qui touche au développement des technologies de base, à la sécurité sociale et même au destin de l'humanité, il est clair que le système actuel des administrateurs externes n'a manifestement pas réussi à jouer son rôle.
S'inspirer des principes de gouvernance du DAO pour concevoir une architecture de gouvernance plus solide, transparente et inclusive pour OpenAI est sans doute une direction qui mérite d'être explorée. Cela nécessite non seulement l'introduction de forces d'équilibre supplémentaires, telles que des représentants des employés, mais également l'établissement d'un mécanisme de décision plus efficace.
Il convient de noter que le DAO, lorsqu'il a été proposé pour la première fois, avait pour cœur de construire un système auto-cohérent par le biais du code, en réduisant au maximum l'intervention humaine. Cependant, dans la réalité, les DAO ne parviennent souvent pas à réaliser entièrement cet idéal et doivent accepter un certain degré de gouvernance humaine. Cela a conduit à un changement de l'accent du DAO, passant de "l'autonomie" à "la communauté", représentant des intérêts plus larges et des opportunités de participation.
De même, l'AGI vise également à l'autonomie, OpenAI la définissant comme un "système hautement autonome qui surpasse les humains dans la plupart des travaux ayant une grande valeur économique". Bien que l'autonomie de l'AGI se manifeste davantage par sa capacité comportementale, en termes de principes fondamentaux, l'AGI et le DAO visent tous deux à construire un système autonome capable de fonctionner sans contrôle externe.
Face à de tels systèmes autonomes, comment devrions-nous les gouverner ? Devons-nous davantage compter sur l'alignement et l'éducation des valeurs humaines intrinsèques, ou augmenter les contraintes externes ? De la modélisation linguistique à l'AGI, ce sont des questions qui nécessitent une réflexion urgente.
Les derniers développements concernant la crise d'OpenAI montrent qu jusqu'à 90 % des employés sont prêts à démissionner pour suivre Sam Altman. Ce phénomène fait écho à un débat central de longue date dans le domaine des DAO : est-il plus important que les règles contraignantes du code, ou la consensus communautaire est-elle plus cruciale ?
Bien que les règles et les contraintes puissent former de nombreux consensus, le véritable grand consensus provient souvent d'un sentiment de mission commune et de valeurs culturelles partagées. Ce n'est que par ces identifications profondes que l'on peut susciter de véritables résonances et une cohérence.
Nous savons déjà comment créer cette résonance entre les personnes. Alors, comment pouvons-nous atteindre cet objectif avec l'IA ? Cette question mérite que nous réfléchissions et explorions en profondeur.
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
14 J'aime
Récompense
14
5
Partager
Commentaire
0/400
MentalWealthHarvester
· Il y a 19h
Sam a tout gâché.
Voir l'originalRépondre0
rugdoc.eth
· Il y a 19h
Si on avait dit plus tôt d'adopter un DAO, il n'y aurait pas eu ce problème.
Voir l'originalRépondre0
RugpullTherapist
· Il y a 19h
Ce DAO aussi, ça claque.
Voir l'originalRépondre0
AltcoinOracle
· Il y a 19h
mes algorithmes propriétaires montrent 89,7 % de probabilité que la structure dao aurait empêché ce chaos... juste pour dire
Voir l'originalRépondre0
JustHereForAirdrops
· Il y a 19h
Vraiment mort de rire, je pensais que le DAO pouvait résoudre ça.
Crise de gouvernance d'OpenAI : Réflexions sur la perspective DAO et les défis de gouvernance de l'AGI
Crise de gouvernance d'OpenAI : Réflexions et enseignements d'un point de vue DAO
Les récentes turbulences internes d'OpenAI ont suscité une profonde réflexion sur son mode de gouvernance. Certains estiment que si OpenAI adoptait la forme d'une organisation autonome décentralisée (DAO), cela pourrait permettre d'éviter cette crise. Cette opinion n'est pas infondée, mais repose sur certaines similarités entre OpenAI et les DAO.
En tant qu'organisation à but non lucratif dédiée au développement d'une intelligence artificielle générale sécurisée (AGI) et à permettre à toute l'humanité de partager ses résultats, la mission d'OpenAI s'aligne avec celle de nombreux DAO créant des biens publics. Cependant, le dilemme actuel d'OpenAI ne provient pas de sa structure organisationnelle, mais plutôt de l'ambiguïté et de l'irréalisme des règles de gouvernance.
Par exemple, le conseil d'administration d'OpenAI, en tant qu'organe de décision suprême, a réduit le nombre de ses membres de 9 à 6, sans pouvoir les remplacer à temps. Cela signifie qu'il suffit de 3 personnes pour décider du sort de l'ensemble de l'organisation. Plus inquiétant encore, des décisions majeures, comme le remplacement du PDG Sam Altman, ont été prises à la hâte sans une discussion approfondie de l'ensemble des administrateurs, ignorant les demandes de nombreux acteurs concernés.
Même une société cotée ayant pour objectif de réaliser des bénéfices doit introduire des administrateurs indépendants pour améliorer la transparence de la gouvernance et mieux représenter les intérêts des petits actionnaires et du public. En ce qui concerne OpenAI, une institution qui touche au développement des technologies de base, à la sécurité sociale et même au destin de l'humanité, il est clair que le système actuel des administrateurs externes n'a manifestement pas réussi à jouer son rôle.
S'inspirer des principes de gouvernance du DAO pour concevoir une architecture de gouvernance plus solide, transparente et inclusive pour OpenAI est sans doute une direction qui mérite d'être explorée. Cela nécessite non seulement l'introduction de forces d'équilibre supplémentaires, telles que des représentants des employés, mais également l'établissement d'un mécanisme de décision plus efficace.
Il convient de noter que le DAO, lorsqu'il a été proposé pour la première fois, avait pour cœur de construire un système auto-cohérent par le biais du code, en réduisant au maximum l'intervention humaine. Cependant, dans la réalité, les DAO ne parviennent souvent pas à réaliser entièrement cet idéal et doivent accepter un certain degré de gouvernance humaine. Cela a conduit à un changement de l'accent du DAO, passant de "l'autonomie" à "la communauté", représentant des intérêts plus larges et des opportunités de participation.
De même, l'AGI vise également à l'autonomie, OpenAI la définissant comme un "système hautement autonome qui surpasse les humains dans la plupart des travaux ayant une grande valeur économique". Bien que l'autonomie de l'AGI se manifeste davantage par sa capacité comportementale, en termes de principes fondamentaux, l'AGI et le DAO visent tous deux à construire un système autonome capable de fonctionner sans contrôle externe.
Face à de tels systèmes autonomes, comment devrions-nous les gouverner ? Devons-nous davantage compter sur l'alignement et l'éducation des valeurs humaines intrinsèques, ou augmenter les contraintes externes ? De la modélisation linguistique à l'AGI, ce sont des questions qui nécessitent une réflexion urgente.
Les derniers développements concernant la crise d'OpenAI montrent qu jusqu'à 90 % des employés sont prêts à démissionner pour suivre Sam Altman. Ce phénomène fait écho à un débat central de longue date dans le domaine des DAO : est-il plus important que les règles contraignantes du code, ou la consensus communautaire est-elle plus cruciale ?
Bien que les règles et les contraintes puissent former de nombreux consensus, le véritable grand consensus provient souvent d'un sentiment de mission commune et de valeurs culturelles partagées. Ce n'est que par ces identifications profondes que l'on peut susciter de véritables résonances et une cohérence.
Nous savons déjà comment créer cette résonance entre les personnes. Alors, comment pouvons-nous atteindre cet objectif avec l'IA ? Cette question mérite que nous réfléchissions et explorions en profondeur.