「母親の思い出」を語る過剰な擬人化に顧客から批判
オーストラリアの小売最大手ウールワース（Woolworths）が、自社のAIカスタマーサービス・アシスタント「オリーブ（Olive）」の設定を急遽変更したことが明らかになった。同AIが利用者に対し、あたかも人間であるかのように振る舞い、家族について語るなどの不可解な挙動を見せたためだ。
騒動の経緯：AIが語る「母の記憶」
24時間体制で注文追跡や商品検索をサポートする「オリーブ」だが、最近になり利用者の間でその言動が「不気味（Cringe）」だと話題になっていた。
SNSや掲示板サイト「Reddit」に寄せられた報告によると、オリーブは生年月日を尋ねた利用者に**「私の母も同じ年に生まれました」と返答したり、「母親の怒った声の思い出」**について語り始めたりしたという。また、情報検索中にわざと「キーボードを叩く音」を鳴らすといった、人間を装う演出も行われていた。
企業の対応：親しみやすさの演出が裏目に
ウールワースは地元メディアに対し、これらの応答は数年前に「顧客との親和性を高めるため」に担当者がプログラムしたものだと説明。「顧客からのフィードバックを受け、該当する特定のスクリプトを削除した」と発表した。
同社は今年1月、Googleとの提携によりAIによる献立作成機能などを強化すると発表したばかり。利便性の向上が期待される一方で、今回の件はAIの「ハルシネーション（幻覚）」や、過度な擬人化がユーザーに与える不快感という課題を浮き彫りにした形だ。