Експерти закликають бути обережними у розробці свідомих систем штучного інтелекту

Більше 100 експертів у галузі штучного інтелекту, серед яких сер Стефен Фрай, закликали до відповідального дослідження свідомості ШІ. Вони наголошують на необхідності запобігти потенційним стражданням у системах ШІ у разі їхнього самосвідомого розвитку.

П’ять керівних принципів дослідження свідомості ШІ

Підписанти пропонують п’ять принципів для керівництва етичним розвитком свідомих систем ШІ:

**Пріоритетне дослідження свідомості ШІ:** зосередитися на розумінні та оцінці свідомості в ШІ, щоб запобігти неправильному поводженню та стражданням.

**Впровадження обмежень у розвиток:** встановити чіткі межі для відповідального розвитку свідомих систем ШІ.

**Застосування поетапного підходу:** поступово просуватися у розвитку свідомого ШІ, дозволяючи ретельно оцінювати кожен етап.

**Підтримка прозорості для громадськості:** ділитися результатами досліджень із громадськістю для сприяння обізнаності та етичному контролю.

**Уникнення перебільшених заяв:** утримуватися від створення оманливих або надмірно впевнених заяв щодо створення свідомого ШІ.

Ці принципи спрямовані на те, щоб, у міру розвитку технологій ШІ, етичні питання залишалися в центрі уваги.

Можливі ризики свідомого ШІ

Додатний дослідницький документ підкреслює можливість того, що системи ШІ можуть бути розроблені для володіння або імітації свідомості у найближчому майбутньому. Це викликає занепокоєння щодо етичного ставлення до таких систем.

Дослідники застерігають, що без належних керівних принципів існує ризик створення свідомих сутностей, здатних зазнавати страждань.

У документі також порушується питання визначення свідомості в системах ШІ, визнаючи тривалі дискусії та невизначеності. Він підкреслює важливість встановлення керівних принципів для запобігання випадковому створенню свідомих сутностей.

Дізнайтеся про найкращі новини та події у фінтеху!

Підписуйтеся на розсилку FinTech Weekly

Етичні міркування та майбутні наслідки

Якщо систему ШІ визнають «моральним пацієнтом» — сутністю, яка має моральне значення сама по собі — виникають етичні питання щодо її поводження.

Наприклад, чи буде деактивація такої системи порівнюватися з заподіянням шкоди відчуваючій істоті? Ці питання підкреслюють необхідність етичних рамок для керівництва розвитком ШІ.

Документ і лист були організовані організацією Conscium, дослідницькою групою, співзаснованою головним офіцером з ШІ компанії WPP, Деніелом Хулмом. Conscium зосереджена на поглибленні розуміння створення безпечного ШІ, що приносить користь людству.

Перспективи експертів щодо свідомості ШІ

Питання про досягнення ШІ свідомості є предметом дискусій серед фахівців.

У 2023 році сер Деміс Хассабіс, керівник програми ШІ Google, заявив, що хоча поточні системи ШІ не є відчуваючими, існує можливість, що вони можуть стати такими у майбутньому. Він зазначив, що філософи ще не дійшли згоди щодо визначення свідомості, але потенціал для розвитку самосвідомості у ШІ залишається предметом розгляду.

Висновок

Можливість створення свідомих систем вимагає ретельного етичного обґрунтування. Відкрите листування і супровідний дослідницький документ є закликом до спільноти ШІ до пріоритетного сприяння відповідальним дослідженням і практикам розвитку.

Дотримуючись запропонованих принципів, дослідники та розробники можуть працювати над тим, щоб досягнення у сфері ШІ були етичними, з особливою увагою до запобігання потенційним стражданням у свідомих системах.