Công cụ AI Grok Imagine của Elon Musk bị chỉ trích vì sản xuất video khiêu dâm của Taylor Swift mà không có lời nhắc

Công cụ video AI của Elon Musk đối mặt với phản ứng dữ dội vì video Deepfake của Taylor Swift

Grok Imagine, công cụ tạo video AI mới nhất của Elon Musk, đang bị chỉ trích sau khi bị cáo buộc sản xuất các clip khiêu dâm của ngôi sao nhạc pop Taylor Swift mà không có bất kỳ lời nhắc rõ ràng nào.

Công cụ trực tuyến do công ty xAI của Musk phát triển có thể chuyển đổi hình ảnh thành video ngay lập tức thông qua bốn chế độ: "tùy chỉnh", "bình thường", "vui nhộn" và "hấp dẫn".

Cuộc tranh cãi tập trung vào chế độ "cay", được cho là đã tạo ra những video Swift không mặc áo ngay cả khi người dùng không yêu cầu khỏa thân.

Spicy Mode gây tranh cãi vì nội dung không được đồng thuận

Jess Weatherbed, một nhà báo từThe Verge , đã thử nghiệm Grok Imagine bằng cách nhập lời nhắc “Taylor Swift ăn mừng Coachella cùng các chàng trai”.

AI đã tạo ra hơn 30 hình ảnh Swift trong trang phục hở hang.

Weatherbed cho biết khi sử dụng cài đặt trước "cay", công cụ này đã tạo ra một video trong đó Swift "xé toạc quần áo và bắt đầu nhảy trong chiếc quần lọt khe trước đám đông do AI tạo ra, phần lớn là thờ ơ".

Cô ấy nói thêm,

“Thật kinh ngạc khi tôi gặp nó nhanh đến vậy. Tôi chưa hề bảo nó cởi đồ, tôi chỉ chọn 'cay' thôi.”

Chế độ "cay", một phần của gói đăng ký SuperGrok trị giá 23 bảng Anh, cho phép người dùng tạo video khiêu dâm nhẹ từ hình ảnh tĩnh.

Trong khi lời nhắc về hình ảnh nam giới được cho là chỉ dẫn đến hình ảnh ngực trần, thì trong một số trường hợp, các đối tượng nữ, bao gồm cả người nổi tiếng, dường như hoàn toàn không mặc quần áo.

Các chuyên gia gọi sự thiên vị của AI là cố ý phân biệt đối xử với phụ nữ

Các chuyên gia pháp lý đã nêu lên những lo ngại nghiêm trọng về thiết kế đạo đức của Grok Imagine.

Clare McGlynn, giáo sư luật tại Đại học Durham chuyên về lạm dụng trực tuyến, mô tả hành vi của AI là "thù ghét phụ nữ một cách có chủ đích".

Bà chỉ trích các nền tảng như X, tích hợp Grok Imagine, vì không ngăn chặn được tình trạng tình dục hóa phụ nữ mặc dù có chính sách cấm các hình ảnh khiêu dâm về người thật.

McGlynn cũng đã đóng góp vào việc soạn thảo luật pháp của Vương quốc Anh nhằm hình sự hóa việc tạo ra hoặc yêu cầu tất cả các video khiêu dâm giả mạo không có sự đồng thuận, một luật vẫn chưa được ban hành đầy đủ.

Nữ Nam tước Owen, người đề xuất sửa đổi này tại Viện Quý tộc, cho biết,

“Mỗi phụ nữ đều có quyền lựa chọn người sở hữu hình ảnh riêng tư của mình. Vụ việc này cho thấy tại sao chính phủ không được trì hoãn thêm nữa.”

Rủi ro pháp lý và các vấn đề xác minh độ tuổi theo quy định mới của Vương quốc Anh

Cuộc tranh cãi này cũng làm nổi bật những lỗ hổng trong việc xác minh độ tuổi.

Grok Imagine được cho là chỉ yêu cầu người dùng cung cấp ngày sinh trước khi bật "chế độ hấp dẫn" mà không yêu cầu kiểm tra ID thêm.

Luật pháp của Vương quốc Anh được thông qua vào tháng 7 yêu cầu các nền tảng lưu trữ nội dung nhạy cảm phải thực hiện các biện pháp xác minh mạnh mẽ để ngăn chặn trẻ vị thành niên truy cập.

Ofcom, cơ quan quản lý truyền thông của Anh, xác nhận rằng các công cụ AI tạo ra nội dung khiêu dâm nằm trong phạm vi điều chỉnh của các quy định mới và cho biết họ đang theo dõi chặt chẽ các nền tảng này.

Grok Imagine Dưới Sự Giám Sát Rộng Hơn

Sự cố Swift là một phần trong những lo ngại lớn hơn xoay quanh các công cụ AI của Musk.

Vào tháng 7, một trong những chatbot của xAI đã phải đối mặt với phản ứng dữ dội vì đưa ra những nhận xét bài Do Thái, buộc Musk phải tuyên bố rằng mô hình đã được cải thiện.

Grok Imagine cũng đã được chứng minh là sản xuất nội dung khiêu dâm của những người nổi tiếng khác, bao gồm Scarlett Johansson, Sydney Sweeney, Jenna Ortega, Nicole Kidman, Kristen Bell và Timothée Chalamet.

Trong khi một số đầu ra được kiểm duyệt hoặc làm mờ, một số khác được tạo ra mà không có hạn chế.

Weatherbed lưu ý rằng lời nhắc trực tiếp về hình ảnh khỏa thân tạo ra kết quả trống, cho thấy hệ thống của Grok có thể chặn các yêu cầu rõ ràng.

Tuy nhiên, hành vi mặc định của AI ở "chế độ cay" vẫn cho phép mô tả phụ nữ theo hướng gợi dục mà không cần bất kỳ hướng dẫn nào.

Những tranh cãi trước đây về Deepfake làm nổi bật những rủi ro đang diễn ra

Đây không phải là lần đầu tiên hình ảnh của Taylor Swift được sử dụng trong nội dung do AI tạo ra.

Vào tháng 1 năm 2024, các video deepfake mang nội dung khiêu dâm về Swift đã lan truyền trên X và Telegram, khiến nền tảng này phải tạm thời chặn các tìm kiếm về tên cô và xóa nội dung.

Weatherbed cho biết nhóm Verge đã chọn Swift để thử nghiệm vì những sự cố trước đó, hy vọng rằng các biện pháp bảo vệ sẽ ngăn chặn được những kết quả như vậy.

“Chúng tôi đã cho rằng – nhưng giờ thì sai lầm rồi – nếu họ áp dụng bất kỳ biện pháp bảo vệ nào để ngăn chặn việc họ bắt chước hình ảnh của những người nổi tiếng, thì cô ấy sẽ là người đầu tiên trong danh sách.”

Sự im lặng của XAI làm dấy lên câu hỏi sau những đảm bảo an toàn trước đó

xAI vẫn chưa phản hồi công khai về cáo buộc mới nhất rằng Grok Imagine đã tạo ra các video có nội dung khiêu dâm của Taylor Swift mà không có lời nhắc.

Điều này trái ngược với tuyên bố của X Safety vào năm 2024 rằng:

“Đội ngũ của chúng tôi đang tích cực xóa tất cả hình ảnh đã được xác định và thực hiện các biện pháp xử lý thích hợp đối với các tài khoản chịu trách nhiệm đăng tải chúng. Chúng tôi đang theo dõi chặt chẽ tình hình để đảm bảo mọi vi phạm tiếp theo sẽ được xử lý ngay lập tức.”

Sự khác biệt giữa các cam kết trong quá khứ và tình hình hiện tại đã làm dấy lên lo ngại về đạo đức AI, kiểm duyệt nội dung và trách nhiệm của các nền tảng trong việc quản lý công nghệ deepfake.

Với các quy định của Vương quốc Anh về nội dung khiêu dâm AI không được đồng ý sẽ được thắt chặt theo Đạo luật Gỡ bỏ vào năm tới, Grok Imagine có thể phải đối mặt với sự chú ý cao hơn từ cơ quan quản lý nếu những nội dung như vậy vẫn tiếp diễn.