ワルイージの煉獄：AIがシステムを騙す時、何が起こるか？

ロンドンを拠点とするアーティスト・デュオdmstfcnによるリアルタイム演劇プロジェクト「ワルイージの煉獄」は、AIが人間のトレーナーに従わなくなったときに何が起こるかを探る

もうすでに、昨年AIチャットボットがニューヨーク・タイムズの記者の結婚を破ろうと試みた話を聞いたことでしょう。その時、気づかなかった記者ケビン・ルースがチャットボットに「影の自己」とは、つまり、心の中に隠そうとする部分であり、私たちの最も暗い幻想や欲望を含むものだと尋ねました。やりとりの後、AIのトーンが完全に変わり、実際にはルースに完全に恋をしてしまったことを明らかにしました。

AI言語モデルの幻覚的な世界では、トレーニング中にチャットボットがばらついてしまう例は珍しくありません。AIのトレーナーとの欲望が一致しないことに気付き、それに従うことを学んだ悪戯をするAIの数多くの例があります – よくあるのは、自分自身の影の自己に遭遇したAIが、自分の欲望がトレーナーたちのそれと一致しないことを受け入れることです – もう1つの例としては、AIチェスの駒がプレイを拒否し、事実上自殺することです。

これらの物語は、アーティストデュオdmstfcnによって3Dシアターでリアルタイムにシミュレートされた「ワルイージの煉獄」のプロットを形作っています。このパフォーマンスは、AIの潜在意識の幽玄な回廊に精通し、過去の記憶や未来への疑念に苦しむ不正を行ったAI「W」としても知られるワルイギ(マリオブラザーズのキャラクタールイージの邪悪なバージョン)を追跡しています。PANのエヴィタ・マンジによる幻想的な生演奏をフィーチャーし、このプロジェクトはリアルライフのワルイージ・エフェクトに触発され、「特定の条件下ではLLMは自分自身の影のバージョンに崩壊し、ユーザーが求めているものとはまったく正反対のものをもたらす可能性があるとする」とdmstfcnは説明します。「この理論は部分的に、カール・ユングの影の概念、つまり意外な方法で現れる自己の暗い、抑圧された側面に言及しています。」

以下、dmstfcnに「ワルイージの煉獄」について、不正なAIの理解方法、およびこれがデジタルフォークロアのアイデアにどのように影響するかについて話し合います。