アップル社のAIを搭載した音声テキスト化サービスが、日常的なボイスメールを冒涜的なメッセージに変えてしまったため、スコットランドの高齢女性が精神的ショックを受けた。

ダンファームリンに住むルイーズ・リトルジョンさん（66）は、マザーウェルにあるルッカーズ・ランドローバーからイベントへの招待電話を受けた。しかし、そのボイスメールがアップルのAIツールによって書き取られたとき、AIは彼女のことをquot;piece of s**t"と呼んだり、彼女の性生活を質問するなど、冒涜的で粗野な言葉を含んでいた。

彼女のiphoneの歪んだメッセージにはこう書かれていた。

|にできるようにあなたがそれをすることができます本当に出くわすことあなたは、実際には私たち約束、誰でも素早くはちょうど無視これらの一見正確にどのように{}人のことを忘れることができます。|にできるようにあなたがそれをすることができます本当に出くわすことあなたは、実際には私たち約束、誰でも素早くはちょうど無視これらの一見正確にどのように{}人のことを忘れることができます；

最初は詐欺だと思ったリトルジョンさんだったが、発信者の市外局番に気づき、以前そのディーラーで車を購入したことを思い出した。BBCのインタビューに答えたリトルジョンさんは、不適切なメッセージだと感じたものの、全体的にはとても可笑しかったと語った。

AIはアクセントと文脈で苦労する

専門家によると、この誤作動はおそらくアップル社のAIが作業員のスコットランド訛りの濃さや販売店のバックグラウンドノイズを正確に処理するのに苦労したことに起因しているようだ。

この事件は、アップルが最近直面しているAIへの挑戦に拍車をかけるものだ。1月には、AIが生成したニュースの要約が誤解を招くような通知を表示するようになったため、アップルは一時停止した。

AIの不手際に頭を悩ませているハイテク企業はアップルだけではない。2024年11月、グーグルのAIチャットボット「ジェミニ」が、宿題を手伝っていたミシガン州の学生に「死んでください」と言ったとされ、大きな話題となった。

チャットボットの返答には、次のような文言が含まれていたという：

あなたは特別ではなく、重要でもなく、必要とされてもいない。社会のお荷物だ；

これらの事件は、AIが人間の発話や意図を正確に理解する上で現在進行中の課題を浮き彫りにしており、日常的な用途におけるAIの信頼性に対する懸念を高めている。