Кризис управления OpenAI: размышления и уроки с точки зрения DAO

Недавние внутренние потрясения в OpenAI вызвали глубокие размышления о ее модели управления. Существуют мнения, что если бы OpenAI приняла форму децентрализованной автономной организации (DAO), возможно, удалось бы избежать этого кризиса. Эта точка зрения не является безосновательной, а основана на некоторых сходствах между OpenAI и DAO.

Как некоммерческая организация, ориентированная на разработку безопасного общего искусственного интеллекта (AGI) и делящаяся его результатами со всем человечеством, миссия OpenAI перекликается с многими DAO, создающими общественные блага. Однако текущая проблема OpenAI не связана с его организационной структурой, а вызвана неясностью и неразумностью правил управления.

Например, совет директоров OpenAI, как высший орган принятия решений, сократился с 9 до 6 членов, но не был своевременно дополнен. Это означает, что всего 3 человека могут решать судьбу всей организации. Еще более тревожно то, что такие важные решения, как замена генерального директора Сэма Олтмана, принимаются поспешно без充分 обсуждения со всеми членами совета, игнорируя требования множества заинтересованных сторон.

Даже для публичных компаний, ориентированных на прибыль, необходимо вводить независимых директоров для повышения прозрачности управления и лучшего представления интересов миноритарных акционеров и общественности. Для таких важных организаций, как OpenAI, которые касаются развития базовых технологий, социальной безопасности и даже судьбы человечества, существующая система внешних директоров явно не выполняет должным образом своих функций.

Заимствование принципов управления DAO для разработки более устойчивой, прозрачной и инклюзивной структуры управления для OpenAI является направлением, которое стоит обсудить. Это не только требует введения большего количества сдерживающих сил, таких как представители сотрудников, но и создания более эффективного механизма принятия решений.

Стоит отметить, что DAO изначально было предложено как система, построенная на коде, с целью минимизировать человеческое вмешательство. Однако на практике DAO часто не может полностью реализовать эту идею и вынуждено принимать определенную степень управления людьми. Это сместило акцент DAO с "автономности" на "сообщество", что означает представление более широких интересов и возможностей участия.

Точно так же AGI стремится к автономности, OpenAI определяет её как "высокоавтономные системы, которые превосходят человека в большинстве работ с высокой экономической ценностью". Хотя автономность AGI более очевидна в его способности к действиям, с точки зрения основных принципов, как AGI, так и DAO направлены на создание автономных систем, которые могут функционировать без внешнего контроля.

Как нам следует управлять такими автономными системами? Должны ли мы больше полагаться на внутренние человеческие ценности для их согласования и настройки, или же следует увеличить внешние ограничения? От больших языковых моделей до AGI, это вопросы, которые требуют серьезного осмысления.

Последние события вокруг кризиса OpenAI показывают, что до 90% сотрудников готовы уволиться, чтобы следовать за Сэмом Альтманом. Это явление отзывается на долгосрочную основную дискуссию в области DAO: что важнее – правила, ограниченные кодом, или коллективный консенсус сообщества?

Несмотря на то, что правила и ограничения могут сформировать много согласия, действительно великое согласие часто возникает из общего чувства миссии и культурных ценностей. Только такие глубокие идентичности могут вызвать настоящую резонанс и согласованность.

Мы уже знаем, как создать такую резонанс между людьми. Так что, как мы можем достичь этой цели для ИИ? Этот вопрос заслуживает нашего глубокого размышления и исследования.