وجهة نظر اليوم: يحتاج الذكاء الاصطناعي إلى قواعد وحدود "إجابات معيارية"

炒股就看金麒麟分析师研报，权威，专业，及时，全面，助您挖掘潜力主题机会！

■ 袁传玺

الفضيحة التي كشفت عنها حلقة “3·15” التلفزيونية حول “GEO (تحسين محرك التوليد)” في صناعة التسميم الرمادية، كانت بمثابة صفعة قوية أيقظت من غفوتهم الذين غرقوا في فوائد التكنولوجيا، حيث يقوم تجار غير شرعيين بإنتاج محتوى مزيف بكميات كبيرة “يقدمونه” لنماذج الذكاء الاصطناعي، مما جعل المعلومات المختلقة تُعتبر كـ”إجابات معيارية” من قبل العديد من تطبيقات الذكاء الاصطناعي الرئيسية.

هذا المثال السخيف يعكس التحديات الخطيرة التي تواجه المجتمع عند احتضانه لموجة الذكاء الاصطناعي: كيف يمكننا أن ننظر ونستخدم تطبيقات الذكاء الاصطناعي بشكل ديالكتيكي؟

في الواقع، كان الهدف من تطبيقات الذكاء الاصطناعي هو تمكين الناس، لكن في التطبيق العملي، حولت بعض الشركات ذلك إلى درع لتقليل التكاليف، على حساب حرارة الخدمة وحقوق المستخدمين. على سبيل المثال، في خدمة العملاء بالذكاء الاصطناعي، لا شك في كفاءتها في معالجة الاستفسارات الأساسية، لكن بعض الشركات عمدت إلى إخفاء مدخلات العمل اليدوي عمدًا، مما يترك المستخدمين عالقين في حلقة مفرغة من الحديث مع الآلة. هذا الحاجز الذكي، في جوهره، هو وسيلة تقنية لتهرب الشركات من مسؤوليتها، باستخدام برود التقنية.

عندما تتطلب المشاكل العميقة تفاعلاً عاطفيًا وقرارات معقدة، فإن غياب التدخل البشري يسبب تصدعات في الثقة. وهذا يثبت أن الاستخدام الصحيح للذكاء الاصطناعي لا يقتصر على مجرد “استبدال البشر بالآلات”، بل يجب تحديد حدود “التعاون بين الإنسان والآلة”، بحيث تتولى الخوارزميات المهام الروتينية والمنخفضة المستوى، وتظل مفاتيح تحسين تجربة المستخدم ومعالجة الأزمات في أيدي البشر ذوي المشاعر.

إذا كانت الفوضى في مجال خدمة العملاء ناتجة عن نقص أخلاقيات الخدمة، فإن الكشف عن صناعة GEO الرمادية في “3·15” هو تدمير جوهري للنظام المعلوماتي. مع تحول أدوات البحث بالذكاء الاصطناعي إلى الخيار الأول للمستخدمين في الحصول على المعلومات، فإن تحسين محركات البحث التقليدي (SEO) يتطور إلى GEO أكثر خفاءً، وهو تطور طبيعي لأساليب التسويق، يهدف إلى الوصول بدقة أكبر إلى المستخدمين، لكن تدخل الصناعة الرمادية حول الأمر حول “الاستهداف الدقيق” إلى “التسميم”.

بعض العاملين يعتمدون على نماذج كبيرة في تدريب البيانات، وينشرون عبر نمط مصفوفي محتوى مزيف، حيث يدمجون الإعلانات في جوهر النموذج كحقائق موضوعية، مما يضفي عليها مظهر الحقيقة، ويخفي علامة “إعلان”. هذه الوسيلة أخطر من الترتيب بالمزايدة التقليدي، لأنها تزيل علامة “إعلان” وتظهر الأكاذيب بمظهر الحقيقة. وإذا أصبحت النماذج الكبيرة أداة “من يدفع أكثر يُرشح أكثر”، فإن النظام المعلوماتي على الإنترنت سيواجه “تطهير السيء من الجيد”، وسينهار أساس ثقة الجمهور في الذكاء الاصطناعي، وتنهار الثقة في أساسات النظام.

مواجهة ظواهر مثل “حواجز خدمة العملاء” و”تسميم البيانات” لا تكفيها التفاؤل التكنولوجي البحت. لحل هذه الأزمة، لا يكفي الإصلاحات الجزئية، بل يتطلب بناء نظام دفاعي عميق يمتد من “الذاتية من المصدر” إلى “الرقابة والتنظيم”، وصولًا إلى “وعي الأفراد”.

التكنولوجيا ذاتها ليست خاطئة، لكن من يستخدمها يجب أن يتحلى بالاحترام والخشية. إذا ركزت الشركات فقط على التكاليف قصيرة الأمد، ورأت الذكاء الاصطناعي أداة لجمع البيانات، فإنها ستواجه عواقب انهيار سمعة علامتها التجارية. التطبيق الحقيقي للذكاء الاصطناعي يجب أن يحافظ على “المدخل البشري” في خدمة العملاء، ويؤكد على رفض “تسميم البيانات” في التسويق.

الذاتية ليست حلاً سحريًا، ولكن السيف الرقابي يجب أن يظل مرفوعًا عاليًا. مع ظهور صناعات رمادية جديدة مثل GEO، فإن الوسائل التقليدية لتطبيق قوانين الإعلانات أصبحت غير كافية، ويجب أن يتحول المنطق الرقابي من “العقاب بعد الوقوع” إلى “المراقبة المسبقة” و”المساءلة الخوارزمية”. من الضروري إنشاء آلية مراقبة ديناميكية لمحتوى النماذج الكبيرة، وتحديد المسؤولية القانونية وراء “التوصيات الخوارزمية”، بحيث يدفع المفسدون ثمنًا باهظًا، لمنع تدهور النظام البيئي للصناعة.

في فجوة الصراع بين التقنية والأخلاق، غالبًا ما تكون آخر خط دفاع في يد المستخدم. يجب أن يدرك الجميع أن “الإجابات المعيارية” التي تنتجها الذكاء الاصطناعي قد تكون محملة بتحيزات أو أكاذيب. الحفاظ على التفكير النقدي، وتبني عادة التحقق من المعلومات من مصادر متعددة، ليس فقط وسيلة لحماية الذات، بل هو أيضًا الحكمة التي يجب أن يتحلى بها كل مواطن رقمي في عصر الذكاء.

من محرك البخار إلى الكهرباء، مرت كل ثورة تكنولوجية عبر دورة “النمو الوحشي — وضع القواعد — دمج القيم”، وتُعد تطبيقات الذكاء الاصطناعي الحالية في مرحلة انتقالية من المرحلة الأولى إلى الثانية، حيث يجب أن نحتضن فوائد الكفاءة، ونحذر من فقدان الحدود؛ نشجع الابتكار التجاري، ونحمي المصلحة العامة.