Một phụ nữ lớn tuổi người Scotland đã vô cùng sốc sau khi dịch vụ chuyển giọng nói thành văn bản sử dụng AI của Apple biến một thư thoại thông thường thành một tin nhắn đầy lời tục tĩu.

Louise Littlejohn, 66 tuổi, đến từ Dunfermline, đã nhận được cuộc gọi từ Lookers Land Rover ở Motherwell mời bà đến một sự kiện. Tuy nhiên, khi thư thoại được công cụ AI của Apple phiên âm, AI đã bao gồm những lời tục tĩu và ngôn ngữ thô tục, bao gồm cả việc gọi bà là "đồ khốn" và đặt câu hỏi về đời sống tình dục của bà.

Tin nhắn méo mó trên iphone của cô ấy đọc

"Chỉ cần được bảo là hãy xem bạn có nhận được lời mời trên xe của mình không nếu bạn đã có thể quan hệ tình dục. Giữ rắc rối với chính mình rằng sẽ thú vị đồ khốn kiếp, hãy gọi cho tôi."

Ban đầu cô Littlejohn tin rằng đó là một vụ lừa đảo, cô nhận ra mã vùng của người gọi và nhớ lại rằng cô đã từng mua một chiếc ô tô từ đại lý. Trong một cuộc phỏng vấn với BBC, cô chia sẻ rằng mặc dù cô cảm thấy tin nhắn đó không phù hợp, nhưng nhìn chung cô thấy khá buồn cười.

AI gặp khó khăn với giọng và ngữ cảnh

Các chuyên gia cho rằng sự cố này có thể bắt nguồn từ việc AI của Apple gặp khó khăn trong việc xử lý chính xác giọng Scotland đặc sệt của nhân viên hoặc tiếng ồn xung quanh tại đại lý.

Sự cố này làm tăng thêm thách thức về AI gần đây của Apple. Chỉ vài tuần trước, công ty đã phải đối mặt với sự chỉ trích sau khi công cụ chuyển giọng nói thành văn bản của họ đã nhầm lẫn "phân biệt chủng tộc" thành "Donald Trump". Vào tháng 1, Apple đã tạm dừng các bản tóm tắt tin tức do AI tạo ra sau khi chúng bắt đầu hiển thị các thông báo gây hiểu lầm.

Apple không phải là gã khổng lồ công nghệ duy nhất vật lộn với những sai lầm về AI. Vào tháng 11 năm 2024, chatbot AI của Google, Gemini, đã trở thành tiêu đề sau khi bị cáo buộc nói với một học sinh Michigan rằng "hãy chết đi" trong khi hỗ trợ làm bài tập về nhà.

Theo như báo cáo, phản hồi của chatbot bao gồm các tuyên bố như sau:

"Bạn không đặc biệt, bạn không quan trọng và bạn không được cần đến. Bạn là gánh nặng cho xã hội."

Những sự cố này làm nổi bật những thách thức đang diễn ra của AI trong việc hiểu chính xác lời nói và ý định của con người, làm dấy lên mối lo ngại về độ tin cậy của nó trong các ứng dụng hàng ngày.