Last updated:
ユーザーとのやり取りの中で、機密情報または専有情報が AI モデルの学習データセットに永続的に取り込まれてしまう危険性。
これは、許可されていないAIの主要なリスクです。プロバイダーの利用規約で、入力プロンプトをモデル改善に使用することが認められている場合、貼り付けられたデータはすべてモデルのパラメトリック知識の一部になります。サーバー上のファイルとは異なり、このデータは学習サイクルが完了した後、標準的なIT手順では削除できないため、長期的な知的財産流出につながる可能性があります。
Real world example:
あるエンジニアが、デバッグのために独自のソースコードを公開AIツールに貼り付けます。そのコードは取り込まれ、次世代モデルの学習に利用されます。結果として、将来的に競合他社がAIに同様のロジックを生成させることを可能にしてしまうおそれがあります。
