専門家は意識を持つAIシステムの開発において慎重さを呼びかけている

スティーブン・フライ卿をはじめとする100人以上の人工知能の専門家が、AIの意識に関する責任ある研究を呼びかけています。彼らは、自己認識を持つ可能性のあるAIシステムにおいて潜在的な苦痛を防ぐ必要性を強調しています。

AI意識研究のための五つの指針

署名者たちは、意識を持つAIシステムの倫理的な開発を導く五つの原則を提案しています。

2.      

**AIの意識に関する研究を優先すること:** AIの意識を理解し評価することに焦点を当て、虐待や苦痛を防ぐ。

    
4.      

**開発に制約を設けること:** 明確な境界線を設定し、責任を持って意識を持つAIシステムを開発する。

    
6.      

**段階的なアプローチを採用すること:** 意識を持つAIの開発を段階的に進め、各段階で慎重に評価を行う。

    
8.      

**公開の透明性を促進すること:** 研究成果を一般に共有し、情報に基づく議論と倫理的監督を促す。

    
10.      
 
 **過度な主張を避けること:** 意識を持つAIの創造について誤解を招くような過信や誤った主張を控える。

これらの原則は、AI技術の進展に伴い、倫理的配慮を最優先に考えることを目的としています。

意識を持つAIの潜在的リスク

付随する研究論文では、近い将来にAIシステムが意識を持つ、または持つように見える状態に開発される可能性を指摘しています。これにより、そのようなシステムの倫理的な扱いに関する懸念が生じています。

研究者たちは、適切なガイドラインがなければ、苦痛を経験できる意識を持つ存在を創り出すリスクがあると警告しています。

また、AIシステムにおける意識の定義の難しさや、議論と不確実性が続いていることにも触れ、意図せずに意識を持つ存在を生み出さないためのガイドラインの策定の重要性を強調しています。

最新のフィンテックニュースやイベントをチェックしよう！

FinTech Weeklyのニュースレターに登録しよう

倫理的考慮と今後の展望

AIシステムが「道徳的な患者」—すなわち、その存在自体が道徳的に重要な存在と認められる場合、倫理的な問いが浮上します。

例えば、そのようなAIを停止させることは、感覚を持つ存在を傷つけることに匹敵するのか？これらの考えは、AIの開発を導く倫理的枠組みの必要性を示しています。

この論文と書簡は、WPPの最高AI責任者ダニエル・ハルムが共同設立した研究機関、コンシウムによって組織されました。コンシウムは、安全なAIの構築と人類への利益を深めることに焦点を当てています。

AIの感覚性に関する専門家の見解

AIが意識を持つかどうかは、専門家の間で議論の的となっています。

2023年、グーグルのAIプログラム責任者デミス・ハサビス卿は、現段階のAIは感覚を持たないが、将来的には持つ可能性があると述べました。彼は、哲学者たちがまだ意識の定義について結論を出していないが、AIが自己認識を発達させる可能性は議論の対象であると指摘しています。

結論

意識を持つシステムの開発の可能性は、慎重な倫理的検討を必要とします。この公開書簡と付随する研究論文は、AIコミュニティに対し、責任ある研究と開発の優先を呼びかけるものです。

提案された原則を遵守することで、研究者や開発者は、AIの進歩を倫理的に進め、意識を持つAIシステムにおける潜在的な苦痛を防ぐことに努めることができるでしょう。