用語集
更新日
AI倫理とは？
AI倫理は、AIの用途が合法かどうかだけでなく、正しいかどうかを問うものです。誰が不公平に扱われうるか、AIが関わっていることを人々が知っているか、問題が起きたときに誰が責任を負うか、どのような場合に人が最終判断を下すべきか、といった問いを扱います。組織にとってのAI倫理は、通常、経営陣が採択する簡潔な原則として示され、AIに関するあらゆる判断の基準となります。
組織が参考にするフレームワークは？
企業の原則は、多くの場合、3つの国際的な文書を参考にしています。2019年5月に採択され、2024年5月に改訂されたOECD AI原則は、AIに関する初の政府間標準です。EUのAIに関するハイレベル専門家グループが2019年4月に公表した信頼できるAIのための倫理ガイドラインは、人間の主体性と監視、透明性、公平性、説明責任を含む7つの主要要件を示し、EU AI Actの形成に影響を与えました。UNESCOの人工知能の倫理に関する勧告は、2021年11月に193の全加盟国によって採択されました。
倫理とガバナンス、コンプライアンスの関係は？
3つは重なり合いますが、それぞれ役割が異なります。倫理は、組織が何を正しいと考えるかを定めます。コンプライアンスは、法律が何を求めるかを扱います。AIガバナンスは、その両方を実際の判断に適用するプロセスで、誰が新しいAIの用途をレビューし、どの基準に照らし、誰が承認するかを決めます。プロセスの裏付けがない原則では、実際に作られるものは変わりません。
EU AI Actは、高リスクシステムに対する人間による監視や、チャットボットと話していることを相手に伝えることなど、いくつかの倫理原則を法的義務にしました。それでも倫理的な問いの多くは法律の範囲外にあり、だからこそ組織は独自の原則を定めています。
原則を実践に移すには？
各原則を、レビュー担当者が答えられる問いと、確認できるエビデンスに落とし込みます。公平性は、ローンチ前にグループ間で結果をテストするという要件になります。透明性は、顧客がAIとやり取りしているときにはそれを伝えるというルールになります。人間による監視は、システムを停止できる担当者を指名することになります。こうした問いを、新しいAIの用途が必ず通るレビューに組み込めば、原則はローンチ前に適用されます。多くの組織は、倫理委員会や責任あるAIのチームに、用途のエスカレーションや差し止めの権限も与えています。影響の大きい用途については、AIシステム影響評価で、誰がどのような影響を受けうるかを記録します。
Enzaiでは、こうした問いが、新しいAIの用途ごとに行われる申請受付とレビューに組み込まれるため、回答と判断が用途ごとに記録として残ります。詳しくは責任あるAIを推進するリーダー向けのEnzaiをご覧ください。
例
ある医療保険会社のAI原則には、人によるレビューを経ない自動的な支払い拒否は行わない、という項目があります。あるチームが、支払い拒否の候補となる請求にフラグを立てるモデルを提案すると、申請受付時のレビューでは、請求を拒否する前に各フラグを人がどのように確認するのか、また結果が年齢や郵便番号によって異なるかどうかが問われます。チームはレビューの手順と四半期ごとの公平性テストを追加します。責任あるAIの担当リーダーはこれらを条件に用途を承認し、その条件は判断とあわせて記録されます。