Віталік Бутерін виступає за людсько-орієнтований ШІ: чому доповнення перевищує автономію

Віталік Бутерін з Ethereum нещодавно виступив проти поширеної тенденції прагнення до повністю автономних систем штучного інтелекту. У коментарях, широко поширених у криптоспільноті, Віталік наголосив, що нові ініціативи з розвитку ШІ мають пріоритетно орієнтуватися на «покращення людства» як їхню основну цінність, активно віддаляючись від систем, здатних працювати незалежно понад шістдесят секунд без людського контролю.

Зростаючий розрив між філософіями розвитку ШІ

Заяви засновника Ethereum підкреслюють критичний конфлікт у розвитку ШІ. У той час як компанії по всьому світу змагаються у створенні суперштучного інтелекту (ASI) з мінімальним людським втручанням, Віталік стверджує, що ця траєкторія ігнорує більш перспективну альтернативу: розширений ШІ, спрямований на підсилення людських когнітивних здібностей, а не на заміну людського судження. Він зазначив, що навіть якщо всі існуючі питання безпеки ШІ виявляться безпідставними, нинішня одержимість повністю автономними системами є фундаментальним неправильним розподілом ресурсів і талантів.

Чому розширений ШІ залишається недостатньо дослідженим

Основний аргумент Віталіка зосереджений на тому, що він описує як «створення механізму для людського мозку» — фактично створення інструментів ШІ, які підсилюють, а не замінюють людське прийняття рішень. Ця філософія різко контрастує з поточною траєкторією галузі, де більшість значних інвестицій і технічних талантів спрямовані на створення незалежних систем ASI. Він підкреслив, що рішення з розширеним ШІ залишаються помітно рідкісними у сучасному ландшафті розвитку, незважаючи на їхній потенціал більш елегантно вирішувати питання безпеки ШІ, ніж намагатися створити ідеально автономні системи.

Важливість відкритого коду

Крім критики сучасних пріоритетів розвитку, Віталік активно підтримує проекти з людського підсилення ШІ, що використовують моделі відкритого коду. Він вважає, що прозорість і доступність цих систем для спільноти можуть краще гарантувати їх відповідність людським цінностям і контролю. Ця рекомендація підкреслює його переконання, що майбутнє корисного ШІ полягає не у створенні незалежних сутностей, а у розробці технологій, які роблять людей більш здатними, більш обізнаними і більш контрольованими.