最終更新日:
自ら収集または精査していないデータでトレーニングされたAIシステムを使用する際、組織が負うことになる規制上および倫理上の責任。
企業がサードパーティ製AIを採用する際、GDPRに基づく法的根拠の欠如、著作権侵害、歴史的なバイアスなど、トレーニングデータに存在する上流プロセスの欠陥をそのまま引き継ぐことになります。企業自身によるツールの使用が倫理的であっても、システムの法的基盤が損なわれている可能性があり、結果として法執行措置や集団訴訟のリスクに直面する恐れがあります。
実際の導入事例：
ある企業がグローバルな広告キャンペーンにAI搭載画像生成ツールを使用しましたが、ベンダーが許可なく著作権で保護されたアートを使用していたことが判明しました。この企業は、AIモデルのトレーニングプロセスには一切関与していないにもかかわらず、世間からの厳しいPR危機と、キャンペーンの中止を求める法的要求に直面することになります。
