AIの導入が加速するなか、データ漏洩や規制違反のリスクが高まっています。
大規模言語モデル(LLM)は、従来のデータベースのように記録を保存せず、パターンを学習します。ひとたび機密データがモデルの重みに影響を与えてしまうと、モデル全体を再学習させることなしに、機密データを「消去」する標準的な方法はありません。そして再学習は、複雑で非常にコストがかかるのが一般的です。
さらに、従業員が無許可のオープンソース モデルを使用する「シャドーAI」の増加により、可視化が不完全となり、問題がさらに複雑化しています。
セキュリティ リーダーは、従来のデータ保護ではAI環境には対応できないことを認識する必要があります。標準的なアプリケーションとは異なり、AIシステムでは、固有の敵対的な入力データに対する継続的な検証が必要です。