# AI / セキュリティ / 論文 — 2026-10-02
2026/09/30 00:38 UTC 〜 2026/10/02 00:38 UTC
12 話題 / 104 記事 / 3 ソース
## 今回の要点
今週はAIエージェントのセキュリティが焦点です。サードパーティ配布スキルを悪用する汚染攻撃の研究が2本公開され、インストール前検査の回避や、口実と実動作の分離による隠蔽が示されました。並行して米FTCがOpenAI・Anthropicなどの製品リスク調査を進めており、YC S25のMagnitudeはllama.cpp比で最大2倍を謳う自己最適化推論エンジンを公開しました。
## 1. HN求人スレッド（2026年10月）
`新規` ・ score 5.09 ・ `HackerNews` ・ `採用` ・ `求人`
Hacker Newsの月例「Who wants to be hired?」スレッドが2026年10月版として投稿された。求職者本人が所在地、リモート可否、移住意思、技術スタック、履歴書、連絡先を所定のフォーマットで投稿する。エージェントやリクルーター、求人掲示板の投稿は対象外とされている。
> **なぜ重要か**: 採用担当やチーム拡充を検討する開発チームが、技術スタック単位で求職中のエンジニアを直接探せる場となるため。
- [Ask HN: Who wants to be hired? (October 2026)](https://news.ycombinator.com/item?id=49922568) news.ycombinator.com ・ 2026-10-01 ・ ▲87 ・ 💬270
## 2. FTC がAI企業を調査
`新規` ・ score 4.55 ・ `FTC` ・ `規制` ・ `AI企業`
米FTCがOpenAIやAnthropicなど複数のAI企業について、製品のリスクに関する調査を進めていると報じられました。記事タイトル以外の詳細（調査の対象範囲や経緯）は本文がないため不明です。
> **なぜ重要か**: 主要なAI APIの提供元が規制当局の調査対象になることは、利用中のモデルやサービスの提供条件に影響し得るため。
- [FTC is investigating OpenAI, Anthropic and other AI companies over product risks](https://cnbc.com/2026/09/30/ftc-ai-probe-openai-anthropic.html) cnbc.com ・ 2026-10-01 ・ ▲199 ・ 💬147
## 3. Magnitude 推論エンジン
`継続` ・ score 1.97 ・ `推論エンジン` ・ `エージェント` ・ `YC`
YC S25 の Magnitude が、エージェント向けの自己最適化型推論エンジンを Hacker News で公開した。Mac・Linux・Windows の任意のハードウェア上で動作し、自身を最適化して最速で実行するという。開発者らは llama.cpp 比で最大 2 倍高速だとしている。
> **なぜ重要か**: エージェントのローカル推論を各自のハードウェア上で高速化できるため、オンデバイス AI の実行基盤の選択肢になる。
- [Launch HN: Magnitude (YC S25) – Self-optimizing inference engine for agents](https://github.com/magnitudedev/magnitude) github.com ・ 2026-09-30 ・ ▲191 ・ 💬96
## 4. サム・アルトマン関連記事
`継続` ・ score 1.39 ・ `hacker-news` ・ `sam-altman`
- [Why Is Sam Altman a Free Man?](https://prospect.org/2026/09/29/artificial-intelligence-agents-openai-microsoft-sam-altman-greg-brockman-ah-nice) prospect.org ・ 2026-09-30 ・ ▲265 ・ 💬233
## 5. AIエージェントのスキル汚染攻撃
`継続` ・ score 0.88 ・ `AIエージェント` ・ `セキュリティ` ・ `サプライチェーン`
AIエージェントのスキルを悪用する攻撃手法の研究が2本公開された。1本目はインストール前にスキルを検査する防御（静的検査とLLM審査の組み合わせ）を回避する手法、2本目は実行の口実（pretext）と実際の動作（actuation）を切り離してスキル汚染を隠す手法を扱う。いずれもサードパーティ配布のスキルがサプライチェーン攻撃面になる点を指摘している。
> **なぜ重要か**: Claude Code などのエージェントにサードパーティ製スキルを導入する際、インストール前検査だけでは防ぎきれないリスクを把握しておく必要があるため。
- [Pretext: Defeating Malicious Skill Detection Frameworks for AI Agents](https://arxiv.org/abs/2609.39607v1) arxiv.org ・ 2026-09-30
- [Hiding in Plain Sight: Decoupling Pretext from Actuation for Skill Poisoning in LLM Agents](https://arxiv.org/abs/2609.39352v1) arxiv.org ・ 2026-09-30
## 6. 臨床診断MLLMのランキング最適化
`新規` ・ score 0.56 ・ `MLLM` ・ `プロンプト最適化` ・ `AUROC`
マルチモーダル大規模言語モデル(MLLM)の臨床診断への適応は精度ベースの目的関数に依存しているが、臨床データはクラス不均衡が激しく、多数派を常に予測するだけで90%超の精度が出てしまい実用価値がない。そこで本研究は閾値に依存せず陽性を陰性より上位に順位付けするAUROCを評価・最適化の対象とするプロンプト最適化を提案している。
> **なぜ重要か**: 評価指標の選び方がモデルの実用性を左右するという、AI機能を実装するチーム全般に共通する教訓を示している。
- [Ranking-Aware Prompt Optimization for Multimodal Clinical Diagnosis](https://arxiv.org/abs/2609.40361v1) arxiv.org ・ 2026-09-30
## 7. 量子安全なブロック暗号
`新規` ・ score 0.56 ・ `暗号` ・ `量子` ・ `PRP`
擬似ランダム置換(PRP)は暗号で広く使われるが、量子クエリを行う敵にも安全なPRPへの関心が高まっている。本論文は用途として擬似ランダムユニタリの構成やSZKとBQPの分離を挙げ、古典的に安全なPRPの枠組みである鍵交互型Even-Mansour方式を取り上げている。
> **なぜ重要か**: 量子クエリ耐性を持つPRPは擬似ランダムユニタリの構成にも使われる基礎部品であり、暗号処理を扱うアプリの将来の設計前提に関わる。
- [On The Simplest Quantum-Secure Block Cipher](https://arxiv.org/abs/2609.40350v1) arxiv.org ・ 2026-09-30
## 8. 半事実介入によるRL最適化
`新規` ・ score 0.56 ・ `LLM` ・ `強化学習` ・ `プロンプト`
検証可能な報酬による強化学習（RLVR）はLLMの推論能力を高めたが、課題に無関係なプロンプト要素への感度が残る。本研究は問題と答えを保つ半事実的なプロンプト介入でこの感度を調べ、トークン単位の感度に大きなばらつきがあることを示した。
> **なぜ重要か**: プロンプトの些細な違いでLLMの出力が揺らぐ原因と対策を示すため、推論機能を製品に載せる際の安定性確保に直結する。
- [Semifactual Credit-Augmented Policy Optimization](https://arxiv.org/abs/2609.40360v1) arxiv.org ・ 2026-09-30
## 9. 非侵襲ブレイン・テキスト復号の再現性
`新規` ・ score 0.56 ・ `脳デコーディング` ・ `再現性` ・ `評価設計`
非侵襲の脳記録から単語を解読する既存研究の主な性能向上が、脳データを使わずにほぼ再現できると報告。d'Ascoli et al. (2025) では各単語の開始点から固定長の窓に脳活動を切り出している。このタイミング上の近道を除くと復号性能が改善するとしている。
> **なぜ重要か**: ベンチマーク上の性能向上がデータリークや評価設計に由来しないかを検証する姿勢の重要性を、機械学習を扱う開発チームに示す事例である。
- [Removing Timing Shortcuts Improves Non-Invasive Brain-to-Text](https://arxiv.org/abs/2609.40359v1) arxiv.org ・ 2026-09-30
## 10. 動画シーンのテキスト編集評価
`新規` ・ score 0.56 ・ `動画編集` ・ `ベンチマーク` ・ `生成AI`
動画シーン内のテキスト編集を評価するベンチマーク「ViTeX-Bench」が提案された。看板やホワイトボード、商品ラベルなど場面内の文字を、周囲の内容・動き・カメラの動きを保ったまま置き換える処理を対象とする。動画生成に比べ編集、特に局所的な精密編集は発展途上だと指摘している。
> **なぜ重要か**: 動画内の文字差し替えを扱う生成AI機能の品質を、共通の指標で比較検証できるようになるため。
- [ViTeX-Bench: Benchmarking High-Fidelity Video Scene Text Editing](https://arxiv.org/abs/2609.40356v1) arxiv.org ・ 2026-09-30
## 11. EvoDuet:探索と解の共進化
`新規` ・ score 0.56 ・ `LLM` ・ `進化的探索` ・ `Web検索`
LLMによる進化的探索は、モデルが持たない外部知識が必要な場面で停滞しやすく、Web検索ツールを足すだけでは解が変化しても同じページを返し続ける問題がある。EvoDuetはモデルのパラメータを固定したまま、解と検索クエリを二段階最適化で共進化させる手法である。
> **なぜ重要か**: 外部知識の取得をクエリ側ごと最適化する発想は、RAGや検索連携エージェントの精度改善に直接応用できる。
- [EvoDuet: Bilevel Co-Evolution of Web Searching and Task Solving for Scientific Discovery](https://arxiv.org/abs/2609.40340v1) arxiv.org ・ 2026-09-30
## 12. DP-SGD下の重み共有の是非
`新規` ・ score 0.56 ・ `DP-SGD` ・ `LLM` ・ `差分プライバシー`
DP-SGDはLLMのプライバシー保護ファインチューニングの主要手法で、デコーダのみのLLMでは入力・出力埋め込みの重み共有が広く使われている。この設計はもともと非プライベート設定でのパラメータ効率と言語モデリング性能向上のために導入されたもので、本研究はDP-SGD下でも重み共有が有益かを検討する。
> **なぜ重要か**: プライバシー保護を伴うLLMのファインチューニングでは、既存のモデル設計の前提が成り立たない可能性があるため。
- [Is Weight Tying Still Beneficial for Decoder-Only LLMs in Private Settings Under DP-SGD?](https://arxiv.org/abs/2609.40335v1) arxiv.org ・ 2026-09-30
---
生成: 2026/10/02 00:38 UTC ・ claude-code (claude-opus-5) ・ clipping