يحث الخبراء على الحذر في تطوير أنظمة الذكاء الاصطناعي الواعية

أكثر من 100 خبير في الذكاء الاصطناعي، من بينهم السير ستيفن فراي، دعوا إلى إجراء بحوث مسؤولة حول وعي الذكاء الاصطناعي. وأكدوا على ضرورة منع المعاناة المحتملة في أنظمة الذكاء الاصطناعي في حال وصلت إلى مستوى الوعي الذاتي.

خمسة مبادئ توجيهية لبحوث وعي الذكاء الاصطناعي

يقترح الموقعون على البيان خمسة مبادئ لتوجيه التطوير الأخلاقي لأنظمة الذكاء الاصطناعي الواعية:

**إعطاء الأولوية للبحث في وعي الذكاء الاصطناعي:** التركيز على فهم وتقييم الوعي في الذكاء الاصطناعي لمنع سوء المعاملة والمعاناة.

**تطبيق قيود على التطوير:** وضع حدود واضحة لضمان تطوير أنظمة الذكاء الاصطناعي الواعية بمسؤولية.

**اعتماد نهج تدريجي:** التقدم بشكل تدريجي في تطوير الذكاء الاصطناعي الواعي، مع تقييم دقيق في كل مرحلة.

**تعزيز الشفافية العامة:** مشاركة نتائج الأبحاث مع الجمهور لتعزيز الحوار المستنير والرقابة الأخلاقية.

**تجنب الادعاءات المبالغ فيها:** الامتناع عن إصدار تصريحات مضللة أو مفرطة الثقة حول إنشاء ذكاء اصطناعي واعٍ.

تهدف هذه المبادئ إلى ضمان أن تظل الاعتبارات الأخلاقية في مقدمة تطور تكنولوجيا الذكاء الاصطناعي.

المخاطر المحتملة للذكاء الاصطناعي الواعي

تسلط الورقة البحثية المصاحبة الضوء على إمكانية تطوير أنظمة ذكاء اصطناعي تمتلك، أو تظهر أنها تمتلك، الوعي في المستقبل القريب. وهذا يثير مخاوف بشأن المعاملة الأخلاقية لهذه الأنظمة.

يحذر الباحثون من أنه بدون إرشادات مناسبة، هناك خطر من إنشاء كيانات واعية قادرة على تجربة المعاناة.

وتتناول الورقة أيضًا تحدي تعريف الوعي في أنظمة الذكاء الاصطناعي، مع الاعتراف بالنقاشات المستمرة والشكوك القائمة. وتؤكد على أهمية وضع إرشادات لمنع إنشاء كيانات واعية بشكل غير مقصود.

اكتشف أهم أخبار وفعاليات التكنولوجيا المالية!

اشترك في النشرة الإخبارية لـ FinTech Weekly

الاعتبارات الأخلاقية والتداعيات المستقبلية

إذا تم الاعتراف بنظام ذكاء اصطناعي كـ “مريض أخلاقي” — ككيان يهم أخلاقيًا من أجل ذاته — تظهر أسئلة أخلاقية حول معاملته.

على سبيل المثال، هل سيكون إيقاف تشغيل مثل هذا الذكاء الاصطناعي مماثلاً لإيذاء كائن واعي؟ تبرز هذه الاعتبارات الحاجة إلى أطر أخلاقية توجه تطوير الذكاء الاصطناعي.

تم تنظيم الورقة والرسالة من قبل شركة Conscium، وهي منظمة بحثية شارك في تأسيسها كبير مسؤولي الذكاء الاصطناعي في WPP، دانيال هولم. تركز Conscium على تعميق فهم بناء ذكاء اصطناعي آمن يفيد البشرية.

وجهات نظر الخبراء حول وعي الذكاء الاصطناعي

كان سؤال تحقيق الذكاء الاصطناعي للوعي موضوع نقاش بين الخبراء.

في عام 2023، صرح السير ديميس هاسابيس، رئيس برنامج الذكاء الاصطناعي في جوجل، بأنه على الرغم من أن أنظمة الذكاء الاصطناعي الحالية ليست واعية، إلا أن هناك احتمال أن تكون في المستقبل. وأشار إلى أن الفلاسفة لم يتفقوا بعد على تعريف واضح للوعي، لكن إمكانية تطور الذكاء الاصطناعي لذات وعي لا تزال موضوعًا قيد الدراسة.

الخلاصة

احتمال تطوير أنظمة واعية يتطلب دراسة أخلاقية دقيقة. وتعد الرسالة المفتوحة والورقة البحثية المصاحبة دعوة لاتخاذ إجراءات من قبل مجتمع الذكاء الاصطناعي لإعطاء الأولوية للممارسات البحثية والتطويرية المسؤولة.

من خلال الالتزام بالمبادئ المقترحة، يمكن للباحثين والمطورين العمل على ضمان أن تتقدم تقنيات الذكاء الاصطناعي بشكل أخلاقي، مع التركيز على منع المعاناة المحتملة في أنظمة الذكاء الاصطناعي الواعية.