今週はAI安全性をめぐる発言が目立ちます。OpenAIの安全責任者が「文化が壊れている」と警告して退職した一方、ヤン・ルカン氏はAIによる人類滅亡や「暴走」事例について全く懸念していないと述べました。ほかに宗教学者とAnthropicの会談、ドイツAleph Alphaの主権型オープンウェイトLLM「Kolibri」公開があります。いずれも本文未取得で詳細は未確認です。
OpenAIの安全部門のリーダーが退職した。本人は退職の理由として、同社の文化が「壊れている」と警告している。記事本文は付いておらず、詳細な経緯は確認できない。
なぜ重要か: AIモデルの提供元における安全体制の変化は、その上でプロダクトを作る開発チームの前提に関わるため。
Hacker News に「Religious scholars met with Anthropic（宗教学者が Anthropic と会談した）」という記事が archive.is のリンク付きで投稿された。本文が参照できないため、会談の時期・参加者・議題・結論は不明。
ヤン・ルカン氏が、AIが人類を滅ぼす可能性について「全く懸念していない」と述べた。最近報じられたAIの「暴走(rogue)」事例についても同様に懸念はないとしている。本文が付いておらず、発言の論拠や文脈は不明。
なぜ重要か: AI の安全性リスクをどう見積もるかは、プロダクトへの AI 組み込み方針やガードレール設計の判断に直結するため。
ドイツのAleph Alphaが、主権型（ソブリン）オープンウェイトLLM「Kolibri」を公開したことが同社ブログで告知され、Hacker Newsで取り上げられました。記事はKolibriの仕組みを解説する内容です。本文が未取得のため、技術的な詳細は確認できていません。
なぜ重要か: 欧州発のオープンウェイトモデルは、データ主権やオンプレミス要件のある案件でのモデル選定肢になり得るため。
Hacker News