لماذا يُعد الإطار الحي في قلب دفع الابتكار في التكنولوجيا المالية

إمران أفتاب، الشريك المؤسس والرئيس التنفيذي لشركة 10بيرلز.

اكتشف أهم أخبار وفعاليات التكنولوجيا المالية!

اشترك في النشرة الإخبارية لـ FinTech Weekly

يقرأها التنفيذيون في جي بي مورغان، كوين بيس، بلاك روك، كلارنا وغيرهم

لطالما كانت المالية رائدة في الابتكار الرقمي، ولا تظهر موجة الذكاء الاصطناعي الأخيرة استثناءً. كصناعة تتعرض لضغوط متزايدة لتقديم تجارب رقمية أسرع وأكثر تخصيصًا وكفاءة للعملاء، فإن دمج التكنولوجيا المتطورة أمر لا بد منه.

مع انتقال شركات التكنولوجيا المالية من تجربة الذكاء الاصطناعي إلى دمجه في استراتيجياتها الأساسية، السؤال ليس عن القيمة التي يقدمها الذكاء الاصطناعي، بل عن كيفية حوكمة استخدامه مع مرور الوقت. بدون مبادئ توجيهية واضحة مدمجة ضمن إطار مركزي، ستواجه شركات التكنولوجيا المالية بسرعة مخاطر من ناحية السمعة والتنظيم والأمان.

إطار حي لا يغطي جميع الجوانب فحسب، بل يفعل ذلك مع مواكبة استراتيجيات التطور. يدفع، لا يعيق، الابتكار—دون المساس بسلامة شركات التكنولوجيا المالية.

التوازن بين العدالة والدقة

يخلق التحول الرقمي السريع للخدمات المالية المزيد من الفرص للاحتيال المحتمل والهجمات الإلكترونية. ومع ذلك، غالبًا ما تقع أنظمة الذكاء الاصطناعي غير المنظمة فريسة للهلوسة والتحيز—مما يعني أن حاملي الحسابات يمكن أن يتم تصنيفهم خطأً من قبل الأنظمة المصممة لحمايتهم.

يجب على شركات التكنولوجيا المالية ضمان عمل أنظمة الذكاء الاصطناعي بشكل متسق وتلبية معايير الأداء. إدارة البيانات السيئة هي حجر الزاوية في الذكاء الاصطناعي غير المنظم وتتسبب في عواقب كارثية. الأمر لا يقتصر على التصرف في الوقت الحقيقي فحسب، بل على القيام بذلك بدقة وعدالة. عندما لا تتم إدارة البيانات التي تُستخدم في هذه الأنظمة بشكل صحيح، فإن النشر سيكون فاشلاً حتمًا.

فكر في نظام ذكاء اصطناعي يُضلل ببيانات غير مُدارة ومتحيزة، والذي قام عن طريق الخطأ بوضع علامة على معاملة كبيرة وشرعية على أنها احتيال استنادًا إلى الرمز البريدي لحامل الحساب. يتم تمييز بعض الفئات السكانية بناءً على بيانات تاريخية غير دقيقة، مما يعزز التحيز ضد الأفراد أو المجموعات. لا يضر التمييز الثقة والعلاقات فحسب، بل له أيضًا تداعيات طويلة الأمد على سمعة المؤسسة، خاصة لأنه ينتهك قوانين حماية المستهلك مباشرة. على شركات التكنولوجيا المالية الالتزام قانونيًا باستخدام البيانات بشكل عادل وآمن طوال دورة حياة نظام الذكاء الاصطناعي، وليس الأدوات المستخدمة عند حدوث المخالفات، بل الفرق التي تستخدمها.

تتضاعف العواقب إلى ما هو أبعد من ذلك. تخلق هذه السيناريوهات ضغطًا إضافيًا على الفرق، التي يتعين عليها التدخل، مما يضيع الوقت والجهد الثمينين. والأهم من ذلك، أنها تكشف عن ثغرات خطيرة في الأساس القائم. البيانات غير المُدارة تمثل نقطة ضعف في النسيج الرقمي لشركات التكنولوجيا المالية، مما يجعلها عرضة للاحتيال الحقيقي وتهديدات الأمن السيبراني.

إطار الحوكمة الحي يقاوم هذه المخاطر لأنه يتطلب مراقبة مستمرة، واختبار، وإعادة معايرة لنماذج الذكاء الاصطناعي. يتيح ذلك لمقدمي الخدمات المالية تعزيز أمانهم بشكل مستمر مع تقييم وتحديث الأنظمة بانتظام مع تطور البيانات والمخاطر. وفي الوقت نفسه، يتم القضاء على التحيز، مما يفتح الطريق للعدالة والدقة في جميع العمليات.

ضمان الشفافية والتفسير

تمنع الشركات المالية التي تتبع إطارًا حيًا أن يعمل الذكاء الاصطناعي كصندوق أسود، حيث تكون آلياته الداخلية غامضة على الفرق والمستخدمين على حد سواء. يحتاج حاملو الحسابات والموظفون والهيئات التنظيمية إلى الاطمئنان من خلال الشفافية والتفسير حول أي تقنية مدمجة.

يتطلب القضاء على التحيز فهم كيف ولماذا توصلت أداة الذكاء الاصطناعي إلى قرار معين. تُستخدم أنظمة الذكاء الاصطناعي الآن في عمليات مثل تقييم الائتمان، لكنها للأسف ليست محصنة ضد التحيز. وتكون نتائج ذلك وخيمة: التمييز، خاصة ضد المجموعات الأقلية التي يُرفض طلبها للحصول على قروض بشكل غير عادل بسبب أخطاء في الذكاء الاصطناعي. تتطلب قوانين مثل قانون حماية المستهلك (CFPB) وقوانين الإقراض العادل تفسير وتتبع أدوات الذكاء الاصطناعي المستخدمة في الخدمات المالية. كما تشترط إزالة التحيز من المعادلة.

في نموذج الحوكمة الحي، يُدمج التفسير والتتبع في كل حالة استخدام وسير عمل:

• مصادر البيانات وجهاتها مسجلة بوضوح.
• يتم تسجيل جميع تغييرات النموذج، والاختبارات، والملاحظات.
• يتم توصيل منطق القرار بحيث يفهم المنظمون والعملاء، وليس فقط المشغلون، كيف ولماذا توصل نظام الذكاء الاصطناعي إلى توصية أو إجراء معين.

ضمان الامتثال لمكافحة غسل الأموال

تلجأ المؤسسات المالية إلى الأتمتة والذكاء الاصطناعي لمراقبة المعاملات والنشاطات المشبوهة كجزء من أنظمة مكافحة غسل الأموال. ومع ذلك، عندما لا يتم الإشراف على الذكاء الاصطناعي بشكل صحيح، تظهر مشكلتان:

• الإيجابيات الكاذبة: يتم تصنيف المعاملات الشرعية خطأً، مما يسبب إحباط العملاء وهدر الوقت والجهد الثمين.
• السلبيات الكاذبة: يتم تفويت التهديدات الحقيقية، مما يعرض البيانات الرقمية والنظم للخطر، ويضع سمعة المؤسسة على المحك، ويقوض الثقة.

باستخدام نهج الحوكمة كحواجز أمان، يتم تقليل هذه المخاطر من خلال بيانات منظمة وشفافة وقابلة للتدقيق. كما يتم دمج تنبيهات واضحة مع رؤى قابلة للتنفيذ لضمان التدخل السريع عند الحاجة.

مع استمرار تطور حلول الذكاء الاصطناعي، تصبح الأطر الحية والمرنة أكثر ضرورة. فهي لا تحمي المؤسسات والأفراد من مخاطر مشاركة الذكاء الاصطناعي فحسب، بل تمنح شركات التكنولوجيا المالية ميزة تنافسية كبيرة. تزودهم هذه الأطر بالوسائل لتعزيز الثقة وتحسين سمعتهم من خلال حوكمة مسؤولة، وعدالة، وشفافية، وضمان الاعتمادية والأداء.