Deepfakes

Tài khoản X của Vancouver Canucks đã bị hack ngay trước Lễ bốc thăm tuyển quân NHL và được sử dụng để quảng cáo tiền điện tử giả mạo và video deepfake Elon Musk. Tin tặc cũng trả lời người hâm mộ để trông giống thật, trong khi đội làm việc với NHL và X để giành lại quyền kiểm soát.

Các ứng dụng "khỏa thân" AI, thay đổi ảnh để tạo ra hình ảnh rõ ràng về trẻ em, đã gây ra mối lo ngại nghiêm trọng ở Anh, với Ủy viên về Trẻ em kêu gọi lệnh cấm. Sự gia tăng tài liệu lạm dụng trẻ em do AI tạo ra đã dẫn đến sự gia tăng 380% các trường hợp được báo cáo, thúc đẩy các lời kêu gọi hành động pháp lý mạnh mẽ hơn.

Một sinh viên Malaysia 16 tuổi đã bị giam giữ hai ngày sau khi bị tạm giam hợp pháp trước khi bị buộc tội tạo và bán hình ảnh khỏa thân do AI tạo ra của các bạn cùng lớp. Hiện tại, anh ta phải đối mặt với cáo buộc khiêu dâm và sử dụng sai mục đích mạng, được tại ngoại, và vụ bê bối đã khiến hiệu trưởng trường anh ta phải từ chức.

Nhà đầu tư và người ủng hộ tiền điện tử Scott Melker, được biết đến rộng rãi với biệt danh 'Sói già khắp mọi nẻo đường', đã đưa ra cảnh báo về những kẻ lừa đảo mạo danh ông trực tuyến.

Một xu hướng lan truyền biến con người thành những nhân vật hành động do AI tạo ra đang thu hút sự chú ý—nhưng cũng gây ra báo động. Các nghệ sĩ cảnh báo công nghệ này đe dọa công việc sáng tạo, trong khi deepfake rõ ràng tiếp tục phá vỡ các trường học, chính trị và nhân vật công chúng.

Cảnh sát Hàn Quốc đã bắt giữ tám người vì tạo và chia sẻ video deepfake nhắm vào các nghệ sĩ HYBE, bao gồm BTS và LE SSERAFIM. Cuộc đàn áp diễn ra sau nhiều tháng hợp tác giữa HYBE, người hâm mộ và cơ quan thực thi pháp luật để chống lại nội dung do AI tạo ra.

Cựu Tổng thống Halimah Yacob cho biết bà sẽ theo đuổi hành động pháp lý đối với người đã tạo ra video deepfake về bà, chỉ trích sai sự thật chính phủ Singapore

Vào năm 2024, hơn 10.000 người đã tìm kiếm sự giúp đỡ cho tội phạm tình dục kỹ thuật số ở Hàn Quốc, với các trường hợp deepfake tăng 227% so với năm trước. Hầu hết nạn nhân đều dưới 30 tuổi và hơn 300.000 nội dung bất hợp pháp đã bị xóa.

Ngành công nghiệp âm nhạc ngày càng quan ngại về việc sử dụng trái phép nội dung của mình để đào tạo các mô hình AI tạo sinh như Suno, Udio và Mubert, làm dấy lên các vấn đề về quyền sở hữu trí tuệ và khả năng khai thác mà không có sự đồng ý hoặc bồi thường.

Những kẻ lừa đảo sử dụng một chiến lược thường xuyên, ban đầu nhắm vào nạn nhân bằng cách đóng giả là nhà quản lý đầu tư, sau đó xuất hiện trở lại với tư cách là đặc vụ Europol hứa sẽ thu hồi số tiền bị đánh cắp - với một khoản phí.