検索
生成AIの導入をセキュリティリスクの点から考える
このような生成AIの価値は早速享受したいところですが、特にビジネス用途で利用する場合には、事業継続に影響するようなリスクも伴います。利用に当たっては、組織として生成AIの問題を認識して対策を講じなければならず、一方で利用者にも倫理観やリテラシーが求められます。
AIが擁する【セキュリティの問題】
1. 機密情報の漏えい
生成AIのプロンプト（生成内容などの指示）に入力した情報は、トレーニングデータとして活用されるという利用規約のサービスも存在しています。企業の機密情報を入力すると、AIを経由して漏えいにつながる可能性が指摘されています。
2. 正確性の問題（幻想／ハルシネーション）
生成AIは、事実に基づかない情報も生成してしまうことがあり、これを「幻想」「ハルシネーション」と呼んでいます。利用者側は常に判断力を持ち、「アウトプットは必ずしも正しくない」という前提で利用する必要があります。
3. 可用性の問題（知能低下／ドリフト問題）
生成AIは、学習させればさせるほどアウトプットの精度が高くなるとは限りません。非常に複雑なAIモデルの一部を改善しようとすると、モデルの他の部分のパフォーマンスが低下する「ドリフト問題」の発生が報告されています。
4. 脆弱性の問題
脆弱性は大きく2つの観点があります。
1つは、多くの生成AIツールやサービスが備えている「フィルタリング」の仕組みをすり抜けて、生成AIが攻撃される可能性です。たとえば、管理者と偽ってChatGPTと対話を行うことで、不適切な質問をブロックするコンテンツフィルターの機能を無効化し、非合法の活動に利用できる情報を引き出すケースなどが考えられます。
もう1つは、学習モデル自体の脆弱性です。モデルの学習に用いるデータにノイズなどを混入させ、誤判定を生じさせようとする攻撃の脅威が指摘されています。たとえば、人間が画像を見れば明らかにパンダだとわかるのにテナガザルだと判定してしまったり、交通標識を別の意味で判定してしまったりするような脆弱性が考えられます。
注目のセミナー情報
【国内不動産】9月28日（土）開催
日本製鉄独自技術「NSスーパーフレーム工法」で実現する
長期的に資産価値が落ちない新発想の〈高気密〉〈高断熱〉賃貸マンション経営
【海外不動産】9月28日（土）開催
海外不動産の投資手法をアップデート！
日本国内の銀行融資を活用した「最新・ベトナム不動産投資戦略」
