Рівень судження: Чому ШІ не є розумним, поки лідери не стануть розумнішими

Гільєрмо Дельгадо Апарісіо — глобальний лідер з штучного інтелекту в Nisum.

Відкрийте для себе найважливіші новини та події у фінтеху!

Підписуйтеся на розсилку FinTech Weekly

Читають керівники JP Morgan, Coinbase, Blackrock, Klarna та інших компаній

Штучний інтелект у фінтеху охоплює широкий спектр застосувань, від виявлення шахрайства та алгоритмічної торгівлі до динамічного кредитного рейтингу та персоналізованих рекомендацій продуктів. Однак у звіті Управління фінансового регулювання та нагляду (Financial Conduct Authority) зазначається, що з 75% компаній, які використовують ШІ, лише 34% розуміють, як він працює.

Проблема полягає не лише у відсутності обізнаності. Це глибше — неправильне розуміння сили та масштабів аналітики даних, з якої виникає ШІ. Масове впровадження генеративних інструментів ШІ привернуло увагу керівництва. Але багато з тих, хто визначає, як впроваджувати ШІ, не розуміють його основних принципів — калькулюсу, статистики та складних алгоритмів.

Візьмемо закон Бінфорда — простий статистичний принцип, який виявляє шахрайство, помічуючи закономірності у числах. ШІ базується на тому ж типі математики, лише масштабованій до мільйонів транзакцій одночасно. Знявши гучність, залишається основа — статистика та алгоритми.

Саме тому важливою є грамотність керівників у сфері ШІ. Лідери, які не можуть відрізнити межі аналітики від можливостей ШІ, ризикують довіряти системам понад міру або недооцінювати їх через страх. Історія показує, що трапляється, коли керівники неправильно інтерпретують технології: регулятори колись намагалися заборонити міжнародні IP-зв’язки, але технологія швидше за правила. Те саме відбувається з ШІ. Його не можна блокувати або сліпо впроваджувати; потрібен розсуд, контекст і відповідальне керівництво.

Лідери у фінтеху мають закривати ці прогалини, щоб використовувати ШІ відповідально та ефективно. Це означає розуміти межі аналітики та ШІ, розвивати навички керування цими системами та застосовувати здоровий глузд для визначення, коли і як довіряти їхнім результатам.

Обмеження, сліпі зони та ілюзії ШІ

Аналітика аналізує минулі та поточні дані, щоб пояснити, що сталося і чому. ШІ виростає з цієї основи, використовуючи передову аналітику для прогнозування майбутніх подій і, все частіше, для автоматичного прийняття рішень або дій.

З його винятковими можливостями обробки даних легко зрозуміти, чому керівники фінтеху вважають ШІ своєю магічною кулею. Але він не може вирішити всі проблеми. Люди все ще мають природну перевагу у розпізнаванні шаблонів, особливо коли дані неповні або “забруднені”. ШІ може мати труднощі з інтерпретацією контекстуальних нюансів, які швидко розуміють люди.

Однак помилка — вважати, що недосконалі дані роблять ШІ марним. Аналітичні моделі можуть працювати з неповними даними. Але справжнє виклик — знати, коли застосовувати ШІ, а коли покладатися на людський розсуд для заповнення прогалин. Без цього ретельного контролю ШІ може створювати значні ризики.

Однією з таких проблем є упередженість. Коли фінтехи тренують ШІ на застарілих наборах даних, вони часто успадковують їхній багаж. Наприклад, ім’я клієнта може випадково слугувати ознакою статі, або прізвище — ознакою етнічної приналежності, що може спотворювати кредитний рейтинг у спосіб, який жоден регулятор не схвалить. Ці упередження, легко приховані у математиці, часто потребують людського контролю для виявлення та виправлення.

Коли моделі ШІ стикаються з ситуаціями, на яких їх не тренували, виникає зміщення моделі (model drift). Волатильність ринку, зміни регуляторних вимог, еволюція поведінки клієнтів і макроекономічні зрушення можуть впливати на ефективність моделі без людського моніторингу та переналаштування.

Складність переналаштування алгоритмів зростає, коли фінтехи використовують “чорні ящики”, що не дозволяють бачити зв’язки між змінними. У таких випадках вони втрачають можливість передавати ці знання керівництву. Крім того, помилки та упередження залишаються прихованими у непрозорих моделях, підриваючи довіру та відповідність.

Що потрібно знати керівникам у фінтеху

Опитування Deloitte показало, що 80% стверджують, що їхні ради директорів мають мало або зовсім не мають досвіду з ШІ. Але керівники вищого рівня не можуть дозволити собі вважати ШІ “проблемою технічної команди”. Відповідальність за ШІ лежить на керівництві, тому фінтех-лідери мають підвищувати свою кваліфікацію.

Мультифункціональна аналітична грамотність

Перед впровадженням ШІ керівники мають вміти швидко перемикатися — аналізуючи цифри, бізнес-кейс, операції та етичні аспекти — і бачити, як ці фактори перетинаються та формують результати ШІ. Вони мають розуміти, як статистична точність моделі пов’язана з кредитним ризиком. І вміти розпізнавати, коли змінна, яка здається фінансово обґрунтованою (наприклад, історія погашень), може створювати соціальні або регуляторні ризики через кореляцію з захищеними ознаками, такими як вік або етнічна приналежність.

Ця аналітична грамотність приходить через спільну роботу з фахівцями з комплаєнсу для розбору регуляцій, спілкування з менеджерами продуктів щодо досвіду користувачів і перегляд результатів моделей з даними на предмет ознак зміщення або упереджень.

У фінтеху 100% уникнення ризиків неможливе, але з такою мультифункціональною грамотністю керівники можуть визначити, які ризики варто брати, а які зруйнують цінність для акціонерів. Цей навик також допомагає швидко виявляти та реагувати на упередженість — не лише з точки зору відповідності, а й з стратегічної та етичної.

Наприклад, якщо модель кредитного скорингу, побудована на ШІ, суттєво схиляється до однієї групи клієнтів, виправлення цієї нерівності — не просто завдання для науки про дані; це захист репутації компанії. Для фінтехів, орієнтованих на фінансову інклюзію або під регуляторним контролем ESG, лише дотримання закону недостатньо. Розсуд — це знати, що правильно, а не лише дозволено.

Грамотність у пояснюваності

Пояснюваність — основа довіри. Без неї керівники, клієнти та регулятори залишаються з питаннями, чому модель прийшла до певного висновку.

Це означає, що керівники мають розрізняти моделі, які можна інтерпретувати, і ті, що потребують постфактумних пояснень (наприклад, SHAP або LIME). Вони мають ставити питання, коли логіка моделі незрозуміла, і розуміти, коли “точність” сама по собі не може виправдати рішення “чорної скриньки”.

Упередженість не виникає з нічого; вона з’являється, коли моделі тренують і застосовують без достатнього контролю. Пояснюваність дає керівникам можливість виявляти ці проблеми рано і діяти до того, як вони спричинять шкоду.

ШІ — це як автопілот у літаку. Більшу частину часу він працює гладко, але коли настає шторм, пілот має взяти кермо. У фінансах цей принцип той самий. Команди мають можливість зупинити торгівлю, змінити стратегію або навіть скасувати запуск продукту, коли умови змінюються. Пояснюваність працює разом із готовністю до втручання, що гарантує, що керівництво розуміє ШІ і залишається у контролі, навіть при масштабних операціях.

Модель ймовірнісного мислення

Керівники звикли до детермінованих рішень, наприклад, якщо кредитний рейтинг нижчий за 650 — відмовити у кредиті. Але ШІ працює інакше, і це — суттєва зміна парадигми.

Для керівників ймовірнісне мислення вимагає трьох навичок:

• інтерпретувати діапазони ризиків, а не бінарні “так/ні” результати;
• порівнювати рівень впевненості у прогнозі з іншими бізнес- або регуляторними аспектами;
• знати, коли слід перевищити автоматизацію і застосувати людський розсуд.

Наприклад, ймовірнісна модель фінтеху може позначити клієнта як високоризикового, але це не означає автоматично “відмовити”. Це може означати “дослідити додатково” або “змінити умови кредиту”. Без цієї нюансованості автоматизація ризикує стати грубим інструментом, що руйнує довіру клієнтів і піддає компанію регуляторним санкціям.

Чому рівень розсуду визначатиме переможців у фінтеху

Майбутнє фінтеху визначатиме не найпотужніші моделі ШІ, а ті, хто зможе їх використовувати з найгострішим розсудом. Оскільки ШІ стає товаром, вигоди від підвищення ефективності — це вже базовий рівень. Відмінність у перемозі — у здатності втручатися, коли алгоритми стикаються з невизначеністю, ризиком і етичними зонами сірого.

Рівень розсуду — це не абстрактна ідея. Це проявляється, коли керівники вирішують зупинити автоматичну торгівлю, відкласти запуск продукту або скасувати ризиковий рейтинг, що не враховує реальний контекст. Ці моменти — не провали ШІ, а доказ того, що людський контроль — це останній рівень створення цінності.

Стратегічне узгодження — це те, де розсуд стає інституціоналізованим. Сильна стратегія ШІ не лише створює технічні дорожні карти; вона забезпечує перегляд ініціатив, оновлення командних навичок у сфері ШІ, налаштування архітектури даних і зв’язок кожного впровадження з чітким бізнес-результатом. У цьому сенсі розсуд — не епізодичний, а вбудований у режим роботи, що дозволяє керівникам керувати на основі цінностей.

Фінтехи потребують лідерів, які вміють балансувати між швидкістю та масштабами ШІ і людським розсудом, контекстом, нюансами і довгостроковим баченням. ШІ може за секунди виявити аномалії, але лише люди можуть вирішити, коли потрібно протистояти математиці, переосмислити припущення або ризикнути сміливим кроком для зростання. Цей рівень розсуду перетворює ШІ з інструменту на конкурентну перевагу.

Про автора:

Гільєрмо Дельгадо — глобальний лідер з штучного інтелекту в Nisum та операційний директор Deep Space Biology. З понад 25-річним досвідом у біохімії, штучному інтелекті, космічній біології та підприємництві, він розробляє інноваційні рішення для людського добробуту на Землі та у космосі.

Як консультант з корпоративної стратегії, він сприяв формуванню бачення NASA щодо ШІ у космічній біології та отримав нагороди за інновації. Має ступінь магістра наук у галузі штучного інтелекту від Georgia Tech, здобутий з відзнакою. Також викладає у університеті курси з машинного навчання, великих даних і геноміки.