CASE · 中程度 · other
未検証の報告公開情報からの収集AI基盤の委託先Fireworks AIが侵害され、Notion AIのチャット記録が一部のワークスペースで流出した(未検証の報告)
BleepingComputerによれば、NotionはAI基盤の提供元Fireworks AIでの侵害により、ごく一部のワークスペースのNotion AIチャット記録が流出したと公表した。Notionは11月2日にFireworksから、合成のテストデータだけを含むデータセットが露出したとの通知を受けたが、11月8日にFireworksが顧客データへのアクセスを確認した。
約4分で読めます
- 発生日
- 分類
- other
- 影響範囲
- data
- 検知
- vendor-alert
- タグ
- #notion #notion-ai #fireworks-ai #third-party-breach #ai-infrastructure #chat-transcripts #insights
CH 1
原因
記事によれば、Fireworks AIは10月23日に、第三者のクラウド事業者を経由して攻撃者に開発環境へ入られた。流出したのは、InsightsというNotionの機能のために分析されていたチャット記録のデータセットである。記事は、記録がそのデータセットに入った経緯までは述べていない。
CH 2
結果
Notionによれば、影響を受けるのは利用者の1%未満である。記録の大半は、誰が書いたか、どのワークスペースのものかが分からない状態で、ツール呼び出しの結果は含まれていなかった。一方でNotionは、チャットに入力したパスワードやAPIキーなどの認証情報を更新するよう利用者に勧めている。
CH 3
対策
Notionは11月3日までにFireworksへの通信を止め、先方のシステムからデータをすべて削除し、学習の実行を止めた。Insightsのデータセットは無効化された。影響を受けた可能性のあるワークスペースの所有者は、デスクトップWeb版のSecurity incident reviewで内容を確認し、メンバーが自分の記録をダウンロードできるリンクを共有できる。通知を受けていない利用者は、今のところ対応不要とされている。
何が起きたか
BleepingComputerによれば、Notionは、AI基盤の提供元であるFireworks AIで起きた侵害により、一部のワークスペースのNotion AIチャット記録が露出したと公表した。FireworksはNotionのAIで使うオープンウェイトモデルの一部を動かし、Insightsという機能のために保存された会話の分析も担っている。
Insightsは、ワークスペースの管理者がチームのAI利用の様子を見られる機能である。露出した記録はこのInsightsのデータセットのもので、機能はすでに無効化された。
現場の混乱
Notionが異変を知ったのは11月2日で、Fireworksから、データセットが露出したという通知が届いた。この時点では、データセットには合成のテストデータしか含まれないと伝えられていた。
Notionは、Fireworksへの通信を止め、先方のシステムからデータをすべて削除し、学習の実行を止める対応を11月3日までに済ませた。ところが11月8日に、Fireworksが顧客データへのアクセスがあったことを、Notionの利用者のものを含めて確認した。
Notionが同日受け取ったデータセットを調べると、Insights用のNotion AIチャット記録が入っていた。Notionによれば、影響を受けるワークスペースの大半では、記録は誰が書いたか、どのワークスペースのものかが分からない状態だった。ツール呼び出しの結果も含まれていなかった。
原因
記事によれば、Fireworks AIは10月23日に、第三者のクラウド事業者を経由して攻撃者に開発環境へ入られた。一部の顧客について、リソースのメタデータ、請求情報、モデルの重み、データセットが侵害されたという。
記事はこれとは別に、10月上旬にもFireworksで侵害があり、一部のアカウントのシークレットとして保存された環境変数(APIキーやトークン)に攻撃者が触れたことを伝えている。
Notionは、FireworksがNotionのデータについて保持しないことを契約上約束していたと、FAQページで強調している。記事は、それでも記録がデータセットに残っていた理由には触れていない。
対策
Notionは、影響を受けるのは利用者の1%未満だとしている。影響を受けた可能性のあるワークスペースの所有者は、デスクトップWeb版のSecurity incident reviewでデータを確認し、メンバーが自分の記録をダウンロードできるリンクを共有できる。
Notionは、影響を受けた利用者に、チャットに入力したパスワード、APIキー、その他の認証情報を更新するよう勧めている。利用者本人にも所有者にも通知が届いていなければ、おそらく影響を受けた範囲には入っておらず、今のところ対応は不要だという。
教訓として、AIチャットに入力した認証情報は、記録が外部に出た場合に備えて更新が必要になる。委託先のAI基盤に会話を渡している場合、その委託先の侵害が自社の利用者のデータの露出につながりうる。
出典
この記録をチームに回す