AIのリスクは、貼る・探す・従う・任せるの4つにまとめられるとのこと。良記事です。
AIポリシーの策定や、社内AIについてドサナイテは積極的に取り組んでおります。
4つのAIリスク
生成AIは業務効率を高める一方、社員の日常操作を侵入口に変えました。侵入後の横展開は平均30分弱、最短27秒で、「翌朝対処する」では間に合いません。
危険は「貼る・探す・従う・任せる」の4段階に整理できます。
① 情報を「貼る」危険
個人アカウントの生成AIへ社内資料、顧客名簿、プログラムなどを入力する無断利用は「シャドーAI」と呼ばれます。承認されていないAIを使う社員は業務端末の半数近くに達し、1年で約3倍に増加しました。入力情報は会社の管理外に残り、AI事業者や外部フォームが侵害されれば、本来の保管場所が安全でも機密が流出します。会社側は何が漏れたかさえ把握できず、発見と対処が遅れる点も深刻な問題です。
② AIを「探す」危険
無料のAI動画作成やAI搭載ソフトを検索する好奇心が狙われています。画像を送信した後、動画を装ったマルウェアをダウンロードさせる偽サイトや、正規の署名を備えた偽PDF編集ソフト、認証情報やAIの会話を盗むブラウザ拡張機能が確認されました。AIを一律禁止するだけでは、社員が検索で見つけた「使える偽物」へ流れるため、会社が安全な正規ツールを提供する必要があります。
③ AIの回答に「従う」危険
生成AIは存在しないURLやソフト部品を実在するように示すことがあります。攻撃者はAIが答えそうな架空URLを先に取得して偽ログイン画面を置く「ファントム・スクワッティング」や、架空の部品名でマルウェアを待ち伏せする手口を使います。さらに偽情報を大量発信し、AIの要約に「詐欺ではない」と表示させる攻撃もあります。回答やリンクをそのまま信用せず、別経路で確かめる必要があります。要注意です。
④ AIに「任せる」危険
文書、ウェブページ、メールに、背景と同色の文字などでAI向けの悪意ある指示を隠す「間接プロンプトインジェクション」が問題化しています。人には見えなくてもAIは命令として読み取り、利用者ではなく攻撃者の指示に従う恐れがあります。AIが外部情報を自動取得する場合、攻撃者が行き先に命令文を置く手口もあります。個人の注意だけでは防げず、AIへ渡すデータと権限を企業が制限すべきです。特に危険です。
禁止ではなく、管理する
対策はAIの全面禁止ではありません。公認の窓口を使い、無料ツールを避け、AIが示すURLや部品を確認します。企業はAIと拡張機能を把握し、入力情報、権限、任せる範囲を定めます。セキュリティは全社員の課題です。
新聞記事の抜粋・出典
新聞記事の抜粋は、Yahoo!ニュース掲載記事「『ちょっと便利』と使ってた…ごくフツーの社員が自社をサイバー攻撃に晒す、AIが社内に開けた“4つの新しい抜け穴”」をもとに項目別にまとめています。
