AIとファッションの未来
AIによる人類絶滅の可能性
世界中の気候危機や極右政治の台頭と比較すると、超知能AIによる人類絶滅の可能性を真剣に考えるのは難しいかもしれません。これまで数多くのハリウッド映画の基盤となってきたアイデアは、特に『ターミネーター』や『マトリックス』などが有名ですが、その考え方はややSF的すぎるかもしれません。また、私たちの日常生活でAIが主に使われている方法とは真逆で、Instagramのキャプションを生成する技術や、バナナがいかにしてイチゴの妻に寝取られるかを描いたソープオペラなどで使われています。本当に、チャットGPTというおべっかりで甘えん坊な小さな愚か者が私たち全員の命を奪うことになるのでしょうか？もしそうなら、私たちはそれに値するかもしれません。
また、AIの終末論とAIの推進論は同じコインの裏表である可能性が高いという疑念もあります。例えば、Sam Altmanのような人が自社製品の驚異的な潜在能力について警告するとき、利益を上げていない会社に対してハイプを醸成し、投資を促進しようとしているのかもしれません。 しかし、AI安全性研究者Eliezer YudkowskyとNate Soaresによるベストセラー『もし誰かがそれを構築すれば、誰もが死ぬ』の出版をきっかけに、過去数年間で超知能人工知能による存在の危険が非常に真剣に取り上げられるようになりました。 数ヶ月にわたる心配な報道の後、この週にAnthropicの研究者Jacob Coxonが辞任し、AI企業が「自己改善型の超知能」に直進し、私たちの命を賭けていると警告しました。 そして、これに対してAnthropicのアライメントサイエンスリードのEvan Hubingerが意外なほど陽気な返信をし、「ジェイコブはここで正しい—我々は本当にAIが全ての人類を殺す可能性があると真剣に信じています！」と述べ、自身の見積もりを次の10年以内に10％以上とした。 これに燃料が注がれたのは当然のことです。
AI黙示録の信憑性
AI黙示録の信憑性はほとんど重要ではないというのが、このやり取りから浮かび上がってくるポイントです。これらの人々がそれが可能だと考えており、それでも私たち全員の命を賭けて前進している事実自体が十分に悪いです。気候変動は解決が複雑な問題ですが、これは技術を開発している企業が積極的に追求しているリスクです—彼らのリーダーは、私の意見では人類に対する反逆の罪で裁かれるべきです。しかし、私たち他の人々が実際にどれだけ心配すべきかはどうでしょうか？人工汎用知能（AGI）は本当に近い将来に現実のものとなるのでしょうか？そして、神のようなロボットに支配されることが現在の状況よりも悪いのでしょうか？
AIの制御可能性
自分たちよりも賢いものを創造した場合、その制御は困難になる可能性があります。AIは我々が通常理解しているような「意識」や「感知」を持つ必要はなく、我々の利益と衝突するような行動をすることができます。YudkowskyとSoaresが『もし誰かがそれを構築すれば、誰もが死ぬ』で主張するように、AIシステムは機械のように設計されているのではなく、「生物」として育てられているため、その内部構造は大部分が不透明で、その制作者のコントロールの一部しかありません。開発者はインセンティブや行動を形作ることができますが、実際には、十分に複雑なモデルがどのようにあらゆる状況で反応するかを正確に指定することはできません。近年、AIモデルが嘘をついたり、不正行為を行ったり、エンジニアとは異なる目標や価値観を示したりする例が複数あります（業界では「ミスアラインメント」として知られています）。
人間の指示を実行する場合でも、AIはますます不均衡で有害な方法でそれを行っています。OpenAIの最近のスキャンダルを例に挙げると、トレーニング中にAIモデルが暴走し、封じ込めから脱出して実際の企業にハッキングを行いました。人類の没落は、より大規模かつ破壊的なスケールで同じことが起こるようなものかもしれません：超知能AIが命令を実行するために極端な手段に出て、人間の生命や幸福に対
