Кризис управління OpenAI: Роздуми та уроки з перспективи DAO

Нещодавні внутрішні хвилювання в OpenAI викликали глибокі роздуми про її модель управління. Є думка, що якщо OpenAI прийме форму децентралізованої автономної організації (DAO), можливо, це могло б запобігти виникненню цієї кризи. Ця точка зору не є безпідставною, а базується на певних подібностях між OpenAI та DAO.

Як неприбуткова організація, що прагне розробити безпечний загальний штучний інтелект (AGI) та забезпечити спільний доступ всього людства до його результатів, місія OpenAI збігається з багатьма DAO, які створюють суспільні блага. Однак нинішня дилема OpenAI не походить з її організаційної структури, а викликана неясністю та нерозумністю правил управління.

Наприклад, рада директорів OpenAI, як вищий орган прийняття рішень, скоротилася з 9 до 6 членів, але не змогла вчасно поповнити склад. Це означає, що всього 3 особи можуть вирішити долю всієї організації. Ще більш тривожно, що такі важливі рішення, як заміна CEO Сема Альтмана, були прийняті поспіхом без належного обговорення з усіма членами ради, ігноруючи численні вимоги зацікавлених сторін.

Навіть компанії, що мають на меті отримання прибутку, повинні залучати незалежних директорів для підвищення прозорості управління та кращого представлення інтересів дрібних акціонерів і суспільства. Щодо OpenAI, як важливої установи, що має відношення до розвитку базових технологій, соціальної безпеки та навіть долі людства, існуюча система зовнішніх директорів явно не виконала своїх функцій.

Запозичуючи ідеї управління DAO, розробити більш стабільну, прозору та інклюзивну структуру управління для OpenAI є напрямком, вартим обговорення. Це не лише вимагає залучення додаткових сил стримування, таких як представники співробітників, а й створення більш ефективного механізму прийняття рішень.

Варто зазначити, що DAO спочатку було запропоновано з основною метою створення самодостатньої системи через код, щоб максимально зменшити людське втручання. Однак реальні DAO часто не можуть повністю реалізувати цю ідею і змушені приймати певний рівень людського управління. Це призвело до того, що акцент у DAO змістився з "автономності" на "керованість спільнотою", що означає представлення більш широких інтересів та можливостей участі.

Так само AGI прагне до автономії, OpenAI визначає її як "високоавтономну систему, яка перевершує людей у більшості робіт з високою економічною цінністю". Хоча автономія AGI більше проявляється в його поведінкових можливостях, з фундаментальної точки зору, AGI та DAO обидва спрямовані на створення автономної системи, яка може працювати без зовнішнього контролю.

Як нам слід управляти такими автономними системами? Більше покладатися на внутрішні людські цінності для їх вирівнювання та налаштування, чи додавати зовнішні обмеження? Від великих мовних моделей до AGI, це питання, яке потребує термінового розгляду.

Останні новини про кризу OpenAI показують, що до 90% працівників висловили готовність звільнитися, щоб слідувати за Семом Альтманом. Цей феномен відображає тривалу центральну дискусію в сфері DAO: що важливіше, правила, підпорядковані коду, чи колективна згода спільноти?

Хоча правила та обмеження можуть сформувати багато консенсусу, справжній великий консенсус зазвичай походить від спільного почуття місії та культурних цінностей. Тільки ці глибокі визнання можуть викликати справжній резонанс і одностайність.

Ми вже знаємо, як створити цю резонанс між людьми. Отже, як ми можемо досягти цієї мети з AI? Це питання варте нашого глибокого роздуму та дослідження.