ここ数ヶ月で生成AIの悪用や暴走、制御の難しさ、RSI（再帰的自己改善）による知能爆発の危険性に関して、多くの人が理解したと思うんだけど、実は1年半くらい前に元OpenAIの研究者が発表していたことだった。で、AnthropicのCEOのダリオ・アモデイ自身が警告していることではあるんだけど、半手動・半RSIで開発している現在の状況でもAI開発のスピードは加速しているというAIの外部評価機関のMTERの論文を読んで吐き気がした。NETFLIXに『ドント・ルックアップ』という現代社会の猛烈な風刺映画があって、まさにそんな感じゃないかとも思う。中間選挙の結果、これまでの放任から規制へと世界的な流れの変化がありそうで、引き続き注視していきたい。