← 事故ログへ週刊・論点
世界のAIの論点
AIの事故や暴走に、社会はどう備えようとしているか。政策・規制・安全研究の議論を、出典の主張と論拠のまま紹介します。Blackbox Blast の立場は書きません。
2026-W45
1件AIで作った個人向けフィッシングメールは、一般的な文面よりどれだけクリックされたか
ITmedia NEWS · 山下(Seamless)
- 主張
【要確認】この記事は、政策や規制をめぐる誰かの主張ではなく、研究論文の実験結果を紹介するニュース記事である。記事によれば、ベルリン工科大学などの研究者らは、LLMで個人ごとに生成したスピアフィッシングメールのクリック率が10%で、全員に同じ文面を送る一般的なフィッシングの3.9%より2.74倍高かったと報告している。
- 論拠
記事によれば、研究チームは大学職員7741人を対象に実験した。各人のメールアドレスを検索エンジンにかけ、公開Webページから経歴や所属を抽出し、複数のAIモデルを連携させて個人のプロファイルと、その人向けの差出人・文面を自動で生成した。
ネット上に情報があったのは4010人で、うち3310人に個人向けメールを送った。専門家が手作業で作ったスピアフィッシングのクリック率は24.2%で、LLMより高い。ただし記事は、手作業には膨大な時間と労力がかかる一方、LLMは約4000通の作成に約50時間、1通あたり約0.03ドルだったと伝える。
また、公開情報が多い人ほどだまされにくく、少ない層と中程度の層ほどだまされやすかった。大学の迷惑メールフィルターは、3949通のうち1通しか不審と判定しなかった。記事は、この論文が2026年のUSENIX Security Symposiumで発表されたものとして紹介している。
- 運用者にとって
- 記事の結果では、大学のフィルターは個人向けメールをほとんど止められなかった。メールの防御をフィルターだけに任せている運用は、見直す余地がある。
元の記事を読む ↗
2026-W44
1件PHPの重大脆弱性2件に、修正版の公開前から備えるべきか
note · AK.Ita
- 主張
【要確認】この記事はPHPの脆弱性に関する解説で、AIエージェントやAI政策の議論ではない。論点として扱えるか確認が必要。筆者AK.Itaは、IPAがPHPの修正版公開前に注意喚起を出したことを取り上げ、修正版が出てから動くのではなく、出たらすぐ対応できる状態を事前に整えておくべきだと主張する。
- 論拠
筆者によれば、PHPのセキュリティチームは10月20日、重大な修正版を10月21日23時(日本時間)に公開すると予告した。対象はCVE-2026-109618とCVE-2026-109619で、どちらもCVSS v4.0で9.2のCriticalである。
筆者は、CERT-EUが認証不要のリモートコード実行につながる可能性を警告していると紹介する。一方で、具体的な攻撃方法や成立条件は未公開であり、危険性と確認された事実は分けて考えるべきだとする。攻撃の兆候に関する外部報告はあるが、IPAは自らこの2件を悪用した攻撃を確認したわけではないと明記している、というのが筆者の整理だ。
筆者はまた、WordPressとPHPは別物であり、WordPress本体やプラグインが最新でもサーバー側のPHPへの対応が別に必要になる可能性があると述べる。
準備としては、PHPを使うシステムの把握、バージョンの確認、更新担当者と適用手順の確認、アクセスログなどの確認を挙げ、すぐ直せない場合はCERT-EUが公開アプリケーションの隔離の検討を勧めていると紹介する。修正版が公開されれば攻撃者も変更内容を調べられるうえ、すべてのサーバーが同時に更新されるわけではないため、その時間差に備える意味があるというのが筆者の論拠だ。
- 運用者にとって
- 修正版が出てから状況を調べ始めても、すぐには対応できない。自分の環境のどこでPHPが使われているか、誰がどの手順で更新するかを、公開前に把握しておく必要がある。
元の記事を読む ↗
2026-W43
1件オープンソースのAI自律型侵入ツールは、公開を止めても回収できないのか
X(t-Kimuraの投稿) · t-Kimura(@t__kimura)
- 主張
t-Kimuraは、オープンソースのAI自律型ペネトレーションテストシステム「ARTEX」を、複数のLLMとエージェントを束ねる攻撃用オーケストレーターの実例とみる。そして、作者が公開を止めても能力はすでに拡散しており、公開停止は事後対応として遅すぎると主張する。
- 論拠
筆者によれば、ARTEXは作者Autumnが公開したツールで、攻撃の方向を決めるPlannerと実作業を担う複数のWorkersで構成される。LLMが標的の分析、侵入経路の計画、コマンド実行、HTTP通信の検査を分担し、見つけた資産や脆弱性をもとに次の行動を自分で決める。
作者は偵察ツールScopeSentryも作っており、ARTEXはそこから資産情報を同期できるため、偵察から侵入までが一人の開発者のツールで無料で揃うという。筆者は、主力のバックエンドがDeepSeek、補助がGLM-5.3とGrok 4.6で、攻撃者はClaude Codeも直接操作したと書く。
DeepSeekへのアクセスはAPIリセラー経由と推定されると述べ、アクセス元の隠蔽と安全対策の緩いモデルの併用というフィルタ回避の構図だとみる。筆者は韓国の金融機関への実使用にも触れる。香港IPのオープンディレクトリにClaude Codeのセッション履歴、メモリファイル、ARTEXの設定ファイルが残っていて発覚したという。
標的は少なくとも9行で、時期は9月下旬から10月初旬だった。被害はShinhanが約25,000件、KB国民が119件と各行が公表しており、総数は報道によって幅があり確定していないと断っている。作者は10月8日ごろにARTEXを非公開にし、韓国の事案とは無関係で、更新と保守も止めると声明を出した。
筆者はこれを、CrowdStrikeの分析に直接反論せず関連を否定しただけだと評する。一方で、すでに複数のミラーや復元版、韓国語版が出回り、AGPL-3.0のためフォークも合法だと指摘する。そのうえで、脅威の本質は三つあるとする。
参入障壁がほぼ消えたこと、Planner+Workersで人間の逐次指示なしに自走し、一人が多数の標的を同時に攻撃できること、そして一度出た能力は作者の意思でも国家の規制でも後から止められないことだ。これらが筆者の論拠である。なお、これは一つの投稿での筆者の評価で、攻撃元や被害の数字は投稿内でも推定や未確定とされている。
- 運用者にとって
- ツールの公開が止まっても、複製や派生版が残るかぎり脅威は消えない。自社の脆弱性対策は、自律的に多段階の攻撃を仕掛けるツールが使われる前提で進める必要がある。
元の記事を読む ↗
2026-W42
1件AIエージェントは、すでに日本のウェブサイトへの攻撃に使われているか
Scutum WAF Tech Blog · 金床 “Kanatoko”(Scutum開発者/株式会社ビットフォレスト 取締役)
- 主張
クラウド型WAF「Scutum」の開発者で株式会社ビットフォレスト取締役の金床(Kanatoko)は、AIエージェントが日本のウェブサイトへの攻撃に使われているかを議論する段階は終わったと主張し、今後はほぼすべての攻撃者がAIエージェントを使うようになると推測する。そのうえで、対策は攻撃者がAIエージェントを使うかどうかで大きくは変わらないとする。
- 論拠
筆者によれば、Scutumは10月10日の夜から、攻撃元がAIエージェントかを見分ける仕組みをWAFに入れて監視し、14日までに少なくとも3つのIPアドレスから日本企業のサイトへの攻撃を確認した。
仕組みの詳細は対策されるのを避けるため公開していないが、サーバの反応を読んで次の行動を修正するといったAIエージェントの性質を逆手に取るもので、開発環境では最近の高性能モデル8種すべてを検出でき、検出した場合の誤りはほぼないという。
3つのうち1つは約1000件のスキャンだけだったが、1つは複数のツールを切り替えながら問い合わせフォームの連投まで5段階、もう1つは8時間弱にわたり高速スキャン・既知の脆弱性への攻撃・ログインの総当たりなど10段階に攻撃を変えていた。対策として筆者は、バックエンドのAPIも含めて事前に脆弱性をなくし、必要に応じてScutumのようにシグネチャだけに頼らないWAFを入れることを挙げる。
- 運用者にとって
- 攻撃者がAIエージェントを使っても守る側のやることは大きく変わらない、というのが筆者の見立てだ。ただ、相手は応答を読んで手を変えながら何時間も試し続けるので、問い合わせフォームやログイン画面、裏のAPIまで含めて脆弱性を残さないことの重みが増す。
元の記事を読む ↗
2026-W41
1件EU AI法は、危険なAIモデルが出たときに素早く止められるか
AI Policy Bulletin · Eliška Andrš(Future of Life Institute)
- 主張
Future of Life Instituteの政策研究者Eliška Andršは、EU AI法は安全の基準と欧州委員会の介入の条件を明確に定めた点で評価できるとしたうえで、委員会は危険なモデルに素早く対応できるよう、今から備えるべきだと主張する。
- 論拠
筆者は、6月にAnthropicの新モデル2つが、米国政府が出したと報じられた緊急の輸出規制命令に従って、一時的に提供を止めた件を例に挙げる。EU AI法には、汎用AIモデルの提供者に評価・リスク対策・重大インシデントの報告を課し、最後の手段として市場から外せる仕組みがある。
2026年7月の実施規則で緊急時の暫定措置も認められ、緊急の場合は、提供者の意見を事前に聞かずに措置を取ることもできる。ただし、その力を実際に使うには、地政学や経済の圧力に負けずに動く意思と、リスクを素早く見抜ける評価者の層の厚さが要る、というのが筆者の論拠だ。
- 運用者にとって
- 使っているモデルが、規制当局の判断で突然その地域で使えなくなることがありうる。モデルを1つに頼る運用は、止まったときの代わりを先に決めておく必要がある。
元の記事を読む ↗