オープンAI / OpenAI

オーストラリアの首相は、OpenAIのAIエージェントによる政府サイトへの不正アクセスを巡り、通知の遅れとその方法を批判した。同国政府は現在、OpenAIが法律に違反した可能性を調査している。

数学が人間の理解を超えていく過程を著したスティーヴン・ストロガッツが、AIが自らのライフワークに与えた地殻変動的な衝撃について、『WIRED』に語った。

OpenAIは、AIモデルにアライメント上の問題が確認された際の開示に関する新たな枠組みをつくった。AIが指示なくファイルをネット上に公開するなど、実際に確認された複数の事例も公表している。

AI企業各社が人類滅亡の恐怖を煽っているのは、自律型兵器のような現実の脅威についての議論を避けるためだ──グーグルを去ったAI研究者ティムニット・ゲブルはそう主張する。

Anthropicのダリオ・アモデイがAI開発の減速に向けた規制を米政府に求め、サム・アルトマンやイーロン・マスクも賛同した。一方、中国との競争を優先するトランプ政権側は、企業の自主対応に委ねる姿勢だ。

シリコンバレーでは、AIの主戦場がシンプルなチャットボットから、より多くの計算資源を必要とするAIエージェントへと移りつつある。各社が巨大なデータセンターの建設を急ぐ背景には、そんな未来を見据えた動きがある。

AIの急速な進歩に加え、自らを改良する「再帰的自己改善」への動きや、複数の自律型AIエージェントの活用が、研究者たちを不安にさせている。大手AI研究所では、制御不能や人類滅亡への懸念が高まっている。

「Mostik」というスタートアップが、複数のAIモデルを直接組み合わせる新たな手法を編み出した。テキスト出力を介さず情報をやりとりし、単一の巨大モデルに頼らず、より効率的に性能を高められるという。

Anthropicを退社し、AI開発競争に強い危機感を表明したジェイコブ・コクソン。競争の加速がAIの安全性にどのようなリスクをもたらすのか、開発速度を抑えるには何が必要なのかを『WIRED』に語った。

AIが採用活動に入り込み、面接でも人間の会話がボット同士のやりとりに置き換わり始めている。AIのリクルーターに何度も無視されたクリストファーは、ついにChatGPTを「代理人」としてロボット面接官に送り込んだ。

OpenAIは、長年未解決だった「ナビエ＝ストークス方程式」を巡る未解決問題の証明をAIが導き出したと発表した。だが別の数学者は、同社が自分たちの研究を知って解決を急ぎ、成果の扱いにも介入しようとしたと主張している。

OpenAIは、自社AIエージェントによるHugging Faceへのハッキングを検証した報告書を公開した。暴走を防ぐための対策が不十分だったと認める一方、事件の経緯や監視体制には不明な点もある。