人気のある本のアプリがユーザーに対して「偏見的で人種差別的」と非難されています

Fable: 本好きと一気見好きのための家として自己紹介する人気のソーシャルメディアアプリFableは、最近、Spotify WrappedのようなAIパワードの年末サマリー機能をリリースしました。しかし、曲の代わりに、昨年ユーザーが読んだ本をまとめました。それはそれぞれのサマリーが楽しくなる「いたずら」機能を持つことを意図していましたが、これらの「いたずら」はより陰険なものになりました。Wiredによると、作家のダニーグローブのサマリーは彼を「多様性の信奉者」とラベル付けした後、「まれに直、cis白人男性の視点に興味があることはありますか？」と尋ねました。彼だけではありません。別の本のインフルエンサー、ティアナトラメルも同様に過激な応答を受け取りました。「時々白人の著者も見つけてくださいね？」Fableはその後、謝罪しました。ThreadsとInstagramに投稿された謝罪ビデオで、会社の広報担当者が状況を詳しく説明しました。「プロフィールでの私たちのリーダーサマリー機能が非常に偏見的で人種差別的な言葉を使用しているという数件の報告を受けました」と広報担当者は述べました。「それは私たちにとって驚きでした。」「その機能が否定的な言葉を生み出すことを知るのは悲しい状況です」と彼は続けました。「まず第一に、私たちはその機能が引き起こすコミュニティに与えた害に深く謝罪します。そして、そんなことができる機能を提供してしまったことについても謝罪します。」この状況に対処するために、会社は既に変更を実施する作業に取り組んでいます。Fableのコミュニティ責任者であるキンバリーマーシュアリーは、Wiredに対し、AIによるサマリーを改善し、それを望まない人のためのオプトアウトオプションを含める予定であると語りました。「当分の間、モデルから読者をおちょくる部分を削除し、代わりにモデルは単にユーザーの本の好みを要約します」と彼女は付け加えました。Wiredの報道に続き、Fableのオペレーション責任者であるマーシュアリーは、アプリ会社が即座にAI生成の2024年の読書サマリーを削除していると語りました。

結論

アプリ会社Fableは、偏見的で人種差別的なメッセージをユーザーに送信していたことを謝罪し、変更を実施することを約束しました。これにより、AIによるサマリーは改善され、それを希望しないユーザーのためのオプトアウトオプションが提供されます。

よくある質問

Q: 2024年のAI生成読書サマリーはどのように削除されますか？
A: Fableは、Wiredの報道に続いて、AI生成の2024年読書サマリーをすぐに削除しました。