Last updated:
AIシステムが生成した不正確、偏った、または有害なコンテンツを使用することにより生じる、業務上、法的、ならびに評判上のリスク。
従来のITがデータ入力の保護に重点を置くのに対し、AIガバナンスでは出力も管理する必要があります。出力リスクには、もっともらしい嘘であるハルシネーション、差別的な意思決定につながるアルゴリズムのバイアス、ならびに第三者の著作権や商標を侵害するコンテンツを意図せず生成してしまうことが含まれます。
Real world example:
マーケティングチームが、承認されていないAIを使用してソーシャルメディア用の投稿文を生成します。AIが存在しない50%割引を提示してしまい、その結果、怒りを抱いた顧客が急増し、当該価格を履行する法的義務が生じます。
