ASILOMAR AIの原則
人工知能は、世界中の人々が毎日使っている有益なツールをすでに提供しています。以下の原則に基づいた継続的な開発は、何十年も何世紀にもわたって人々を助け、力を与えるすばらしい機会を提供します。
研究課題
1）研究目標： AI研究の目標は、指向していない知性ではなく有益な知性を創造することである。
2）研究資金： AIへの投資には、コンピュータサイエンス、経済、法律、倫理、社会学などの厄介な問題を含む、有益な利用を保証するための研究のための資金提供が伴われるべきである。
- 将来AIシステムをどのようにして非常に堅牢にして、誤動作やハッキングを起こすことなく、私たちが望むことをすることができますか？
- 人々の資源と目的を維持しながら、どのようにして自動化を通じて繁栄を育てることができますか？
- より公正かつ効率的に、AIに対応し、AIに関連するリスクを管理するために、法的システムをどのように更新できますか？
- AIとどのような価値観を結びつけ、どのような法的・倫理的地位を得なければならないのですか？
3）科学政策リンク： AI研究者と政策立案者との間に建設的で健全な交流が必要である。
4）研究文化： AIの研究者や開発者の間で、協力、信頼、透明性の文化を育むべきである。
5）競争回避： AIシステムを開発するチームは、安全基準のコーナーカットを避けるため積極的に協力する必要があります。
倫理と価値
6）安全性： AIシステムは、運用寿命を通じて安全で安全でなければならず、適用可能かつ実現可能な場合は検証可能でなければならない。
7）障害の透明性： AIシステムが危害を引き起こす場合、その理由を確かめることができるはずです。
8）司法の透明性：司法上の意思決定における自律システムの関与は、管轄の人権機関によって監査可能な満足のいく説明を提供するものでなければならない。
9）責任：アドバンストAIシステムの設計者およびビルダーは、その使用、誤用、および行為の道徳的影響に関わるステークホルダーであり、その影響を形作る責任と機会があります。
10）バリューアラインメント：高度に自律的なAIシステムは、目標や行動が人間の価値観と一致するように設計する必要があります。
11）人間の価値 AIシステムは、人間の尊厳、権利、自由、文化的多様性の理想に適合するように設計され運用されるべきである。
12）個人のプライバシー：人々は、AIシステムがそのデータを分析して利用することができれば、そのデータにアクセスし、管理し、制御する権利を持っている必要があります。
13）自由とプライバシー： AIの個人データへの適用は、人々の本当のまたは知覚された自由を不合理に縮小してはならない。
14） 共同便益： AI技術は、可能な限り多くの人々に利益をもたらし、権限を与えるべきである。
15）共通の繁栄：人類のすべてに利益をもたらすために、AIによって作られた経済的繁栄は広く共有されるべきである。
16） 人間のコントロール：人間は、人間が選択した目的を達成するために、決定をAIシステムに委譲する方法と選択するかどうかを選択する必要があります。
17）非破壊：高度AIシステムの制御によって与えられる力は、社会の健康が依存する社会的および市民的プロセスを覆すのではなく、尊重し、改善するべきである。
18）AIアームレース：致命的な自律的武器の武器競争は避けなければならない。
長期的な課題
19）能力注意：コンセンサスが存在しないため、将来のAI能力の上限に関する強力な前提を避けるべきである。
20）重要：高度なAIは、地球上の生命の歴史の中で重大な変化を表すことができ、そしてのために計画され、相応の注意とリソースで管理する必要があります。
21）リスク： AIシステムによってもたらされるリスク、特に壊滅的または実在のリスクは、予想される影響に見合った計画および緩和努力の対象となります。
22）再帰的自己改善AIシステムは、再現的に自己改善するか、または自己複製するように設計されているため、品質や量が急激に増加する可能性があります。
23）共通の良いもの：超インテリジェンスは広く共有された倫理的理想のために、また一つの州や組織ではなくすべての人類の利益のために開発されるべきである。
参考
