データサイエンス
数値は明確でも、誰が承認し、その判断をどこに残すのかは明確ではありません。
AI委員会
文面は申し分ありませんが、どのシステムが対象で、誰がレビューするのかは何も示されていません。
エージェントプラットフォーム
設定を1つ変えるだけで、ポリシーが約束する人によるチェックが消えてしまう。
現在の進め方あるべき姿
- 現在の進め方
原則は合意後、ポリシーとして保管するだけ
あるべき姿原則を各システムの審査方法に組み込む
- 現在の進め方
用途を問わず、同じ倫理審査
あるべき姿影響を受ける人にとっての重大性に応じて審査を厳格化
- 現在の進め方
初版のままのモデルカード
あるべき姿モデルの変更に合わせて更新されるドキュメント
- 現在の進め方
助言するだけのAIを前提とした監督体制
あるべき姿エージェントが行動できるようになっても機能する人の確認
プロセスを増やせば、チームはそれを避けて通るだけではありませんか？
深さが影響の大きさに見合っていれば、そうはなりません。レビュー担当者が各システムを分類し、影響の小さいツールには、人に関する判断を下すシステムよりも少ないコントロールが適用されます。開発者は自分に関係する質問にだけ答え、詳細なレビューは原則が求める場所で行われます。
モデルはすでに自社のツールでテストしています。二度手間になりませんか？
いいえ。テストはデータサイエンティストが普段使う環境で続けてください。Enzaiが担うのはその後です。バイアステストのレポート、記入済みのフォーム、またはシステムやそのモデルに記録したメトリクスを、裏付けとなるコントロールのエビデンスとして添付し、レビュー担当者が承認します。結果を生み出すのは貴社のツール、その証拠と承認者を記録するのがEnzaiです。
自動化によって、人がプロセスから外れることはありますか？
自社のルールでレビューが不要と定めた場合に限られます。各承認は指名されたレビュー担当者を待ち、誰がいつ判断したかが記録に残ります。Enzaiに接続されたエージェントでは、承認済みツールに含まれない操作は実行前にブロックされます。エージェントは理由を添えてアクセスを申請でき、判断は人が行います。
機密性の高いテストデータがEnzaiに渡ることはありますか？
いいえ。テストレポートや記録対象として選んだメトリクスなど、コントロールを裏付けるものを添付するだけで、生データは元の場所に残ります。Enzaiが記録するのは、何をテストし、何が分かり、誰が承認したかであり、テストに使ったデータではありません。
原則はすでに合意済みです。まず何をすればよいですか？
原則を独自のコントロールと分類を備えた自社フレームワークとしてまとめ、影響が最も大きい少数のシステムから適用します。手元にあるエビデンスを添付し、各コントロールに担当者を割り当て、システムごとに範囲を広げていきます。原則が変わったときは、各システムをいつ新しいバージョンに移行するかを貴社が選べます。
その根拠を問われたとき、示すことはできますか？
各コントロールには、エビデンスと承認したレビュー担当者が紐づいています。各リスクには、レビュー担当者による対応前と対応後の2つの評価と、その差を説明する低減策が記録されます。社内外のレポートはこの記録から直接作成されます。規制当局の基準を満たすかどうかは当局が判断しますが、経緯を一から組み立て直す必要はありません。
まずはここから
