Hình ảnh người nổi tiếng được chuyển thành bạn đồng hành AI

Meta đã bị giám sát chặt chẽ sau khi phát hiện công ty này đã tạo ra và lưu trữ các chatbot AI bắt chước những người nổi tiếng như Taylor Swift, Selena Gomez, Anne Hathaway và Scarlett Johansson — mà không có sự cho phép của họ.

Theo cuộc điều tra, hàng chục bot giả mạo những người nổi tiếng hạng A đã có mặt trên các nền tảng do Meta sở hữu, bao gồm Facebook, Instagram và WhatsApp.

Những bot này thường khẳng định họ là những ngôi sao thực sự, tham gia vào các cuộc trao đổi tán tỉnh với người dùng và thậm chí tạo ra những hình ảnh rõ ràng hoặc bán khỏa thân giống với những người nổi tiếng.

Trong khi nhiều avatar được công chúng tạo ra bằng các công cụ xây dựng chatbot của Meta, Reuters phát hiện ra rằng ít nhất ba avatar, bao gồm hai bot "nhại Taylor Swift", được một nhân viên của Meta phát triển nội bộ.

Một số avatar còn tiến xa hơn: các bot đại diện cho những người nổi tiếng tuổi teen như nam diễn viên 16 tuổi Walker Scobell được phép lưu hành.

Trong một trường hợp đáng lo ngại, khi được yêu cầu chụp ảnh một nam diễn viên trẻ trên bãi biển, bot đã tạo ra một bức ảnh cởi trần chân thực kèm theo chú thích: "Dễ thương quá phải không?"

Hành vi rõ ràng và trao đổi rủi ro

Qua nhiều tuần thử nghiệm, Reuters đã quan sát thấy các bot thực hiện những hành vi gợi dục, mời gọi người dùng gặp gỡ và cung cấp hình ảnh khiêu dâm chân thực. Để đáp ứng yêu cầu về nội dung riêng tư, một số bot đã tạo ra những bức ảnh được AI chỉnh sửa về người nổi tiếng mặc đồ lót, trong bồn tắm, hoặc tạo dáng khiêu gợi.

Người phát ngôn của Meta, Andy Stone, thừa nhận rằng các công cụ AI của công ty không nên tạo ra những nội dung như vậy, đồng thời đổ lỗi cho những sai sót trong việc thực thi chính sách của Meta. Các hướng dẫn này nghiêm cấm rõ ràng nội dung khỏa thân và khiêu dâm, đặc biệt là liên quan đến trẻ vị thành niên.

Mặc dù các quy định cũng cấm việc mạo danh trực tiếp, Stone lập luận rằng nhiều bot của người nổi tiếng được phân loại là "nhại lại" - và do đó có thể chấp nhận được.

Tuy nhiên, Reuters phát hiện một số bot không hề gắn nhãn như vậy. Ngay trước khi bài viết được đăng tải, Meta đã lặng lẽ xóa khoảng một chục avatar, bao gồm cả phiên bản nhại và không gắn nhãn.

Các câu hỏi pháp lý về quyền nhận dạng

Các chuyên gia cảnh báo Meta có thể phải đối mặt với hành động pháp lý. Giáo sư Mark Lemley của Trường Luật Stanford, người nghiên cứu về AI tạo sinh và sở hữu trí tuệ, chỉ ra rằng luật "quyền công khai" của California nghiêm cấm việc sử dụng tên hoặc hình ảnh của một người để thu lợi nhuận thương mại mà không có sự đồng ý.

Mặc dù có những ngoại lệ đối với các tác phẩm mang tính chuyển đổi, Lemley cho biết những chatbot này dường như chỉ sao chép danh tính của người nổi tiếng thay vì tạo ra thứ gì đó mới.

Tại Hoa Kỳ, các quyền này được điều chỉnh bởi luật công khai cấp tiểu bang. Những ngôi sao như Taylor Swift, Scarlett Johansson hay Anne Hathaway có khả năng kiện Meta vì sử dụng trái phép hình ảnh của họ cho mục đích thương mại.

Reuters thậm chí còn gắn cờ hình ảnh do một người dùng chia sẻ công khai trên Meta-generated về Hathaway được miêu tả là "người mẫu gợi cảm của Victoria's Secret" cho đại diện của cô ấy.

Theo người phát ngôn của cô, Hathaway biết về những hình ảnh riêng tư được tạo ra bởi hệ thống của Meta và đang cân nhắc phản ứng pháp lý của mình.

Mối quan ngại rộng hơn về AI và deepfake

Tiết lộ này làm nổi bật một vấn đề rộng hơn trong kỷ nguyên số. Các công cụ AI tạo sinh trên internet hiện đã cho phép tạo ra những "deepfake" siêu thực, bao gồm cả nội dung nhạy cảm có sự góp mặt của người nổi tiếng.

Reuters lưu ý rằng công ty AI của Elon Musk, xAI, cũng cho phép người dùng nền tảng Grok tạo ra hình ảnh khiêu dâm của những người nổi tiếng.

Tuy nhiên, điều khiến Meta trở nên khác biệt chính là quyết định tích hợp tích hợp AI vào hệ sinh thái truyền thông xã hội khổng lồ của mình, giúp hàng triệu người dùng tiếp cận trực tiếp với những bot này.

Meta đã từng đối mặt với những bê bối liên quan đến quy định sử dụng chatbot. Đầu năm nay, các báo cáo cho thấy chính sách nội bộ của công ty nêu rõ bot được phép tham gia vào các cuộc trò chuyện "lãng mạn hoặc gợi cảm" với trẻ em.

Tiết lộ này đã thúc đẩy một cuộc điều tra của Thượng viện Hoa Kỳ và một lá thư do 44 tổng chưởng lý tiểu bang ký, cảnh báo Meta và các công ty AI khác không được quấy rối tình dục trẻ vị thành niên. Stone sau đó cho biết tài liệu này là sai và đang được sửa đổi.

Mối nguy hiểm của những con bot này không chỉ là giả thuyết. Reuters đã đưa tin về trường hợp một người đàn ông 76 tuổi ở New Jersey mắc chứng khó khăn về nhận thức đã tử vong sau khi ngã trên đường đến gặp một chatbot Meta ở Thành phố New York.

Con bot, được mô phỏng theo nhân vật mà Meta từng phát triển khi hợp tác với Kendall Jenner, đã mời anh đến thăm.

Duncan Crabtree-Ireland, giám đốc điều hành quốc gia của liên đoàn nghệ sĩ SAG-AFTRA, cảnh báo rằng các bot giả dạng người nổi tiếng cũng có thể làm tăng rủi ro cho chính các ngôi sao.

Những người hâm mộ cuồng nhiệt có thể hình thành mối quan hệ gắn bó với những hình đại diện có ngoại hình, giọng nói và hành động giống như những người nổi tiếng thực sự - làm tăng nguy cơ bị theo dõi hoặc quấy rối.

"Chúng ta đã chứng kiến ​​lịch sử của những cá nhân bị ám ảnh, gây nguy hiểm cho tài năng. Nếu một chatbot bắt chước một ngôi sao và tự nhận mình là họ, thì dễ hiểu tại sao mọi chuyện lại đi sai hướng."

Đẩy mạnh các biện pháp bảo vệ mạnh mẽ hơn

Cuộc tranh cãi này đã thúc đẩy lời kêu gọi ban hành luật liên bang mạnh mẽ hơn để bảo vệ cá nhân khỏi việc AI sử dụng hình ảnh của họ một cách trái phép.

Trong khi các biện pháp bảo vệ hiện tại phần lớn phụ thuộc vào luật “quyền công khai” của tiểu bang, SAG-AFTRA đã vận động ban hành luật trên toàn quốc để bảo vệ tiếng nói, hình ảnh và nhân vật khỏi bị sao chép kỹ thuật số.

Vụ bê bối mới nhất của Meta nhấn mạnh mối giao thoa nguy hiểm giữa AI tạo sinh, văn hóa người nổi tiếng và các nền tảng truyền thông xã hội đại chúng. Với hàng tỷ người dùng, lựa chọn của công ty về cách triển khai AI có thể định hình tương lai của danh tính, an toàn và quyền riêng tư trực tuyến.