Một thí nghiệm lừa đảo được hỗ trợ bởi AI trên Reddit phổ biếnr/changemyview subreddit gần đây đã bị phát hiện, tiết lộ một nỗ lực đáng lo ngại nhằm thao túng người dùng thông qua các bot ngụy trang.
Từ cuối năm 2024 đến đầu năm 2025, các nhà nghiên cứu từ Đại học Zurich đã bí mật sử dụng các mô hình ngôn ngữ lớn để mạo danh người dùng, tác động đến ý kiến mà không cần sự đồng ý của người dùng và thu về hàng nghìn lượt bình chọn.
Trong thí nghiệm, các bot đã đăng hơn 1.700 bình luận dưới nhiều hình thức khác nhau, bao gồm cả những người sống sót sau chấn thương và những người cực đoan chính trị.
Để giải quyết vấn đề này, Reddit đã công bố kế hoạch thắt chặt hệ thống xác minh người dùng nhằm ngăn chặn những sự cố tương tự trong tương lai.
Giám đốc pháp lý của Reddit, Ben Lee, đã đưa ra phản hồi chính thức và lên án thử nghiệm này là "sai lầm nghiêm trọng về cả mặt đạo đức và pháp lý".
Lee đã viết trong một bài đăng cộng đồng,
“Điều này vi phạm các chuẩn mực về nghiên cứu học thuật và nhân quyền, và bị cấm theo thỏa thuận và quy định của người dùng Reddit, bên cạnh các quy định của subreddit.”
Ông cũng đảm bảo rằng tất cả các tài khoản liên quan đã bị cấm và mọi nội dung do AI tạo ra đều đã bị xóa.
“Chúng tôi đã cấm tất cả các tài khoản liên quan đến nỗ lực nghiên cứu của Đại học Zurich. Ngoài ra, trong khi chúng tôi có thể phát hiện ra nhiều tài khoản giả mạo này, chúng tôi sẽ tiếp tục tăng cường khả năng phát hiện nội dung không xác thực và chúng tôi đã liên hệ với nhóm kiểm duyệt để đảm bảo chúng tôi đã xóa mọi nội dung do AI tạo ra liên quan đến nghiên cứu này.”
Nguồn: Reddit
Steve Huffman, CEO của Reddit, tuyên bố rằng việc duy trì tính toàn vẹn của nền tảng này là tối quan trọng.
Trong bản cập nhật được đăng cách đây bốn ngày, Huffman đã viết,
"Reddit hoạt động vì nó là con người. Đây là một trong số ít nơi trực tuyến mà những người thực sự chia sẻ ý kiến thực sự. Tính xác thực đó là thứ mang lại giá trị cho Reddit."
Nhấn mạnh rằng sự tin tưởng và tương tác chân thành giữa con người là nền tảng của nền tảng này, ông nói thêm,
“Nếu chúng ta mất niềm tin vào điều đó, chúng ta sẽ mất đi những gì tạo nên Reddit…Reddit.”
Nguồn: Reddit
Để ngăn chặn những sự cố tương tự, Reddit hiện đang nỗ lực triển khai các biện pháp mạnh mẽ hơn để xác minh người dùng, mặc dù Huffman đảm bảo với lượng người dùng trung thành của nền tảng này rằng quyền riêng tư sẽ không bị xâm phạm.
Huffman giải thích,
"Để duy trì tính nhân văn của Reddit và đáp ứng các yêu cầu quản lý đang thay đổi, chúng tôi sẽ cần thêm một chút thông tin."
Ông làm rõ rằng Reddit sẽ chỉ xác minh xem người dùng có phải là con người hay không và ở một số khu vực, xác minh xem họ có phải là người lớn hay không, nhưng sẽ không thu thập thông tin cá nhân như tên.
Nguồn: Reddit
Công ty có kế hoạch hợp tác với các dịch vụ xác minh của bên thứ ba để thực hiện các cuộc kiểm tra này.
Tuy nhiên, vẫn còn câu hỏi về việc những thay đổi này có thể tác động như thế nào đến nguyên tắc cốt lõi về tính ẩn danh của nền tảng.
Reddit từ lâu đã tự hào vì cung cấp một không gian cho người dùng chia sẻ suy nghĩ mà không tiết lộ danh tính, nhưng sự cố gần đây đã buộc công ty phải xem xét lại cách tiếp cận của mình.
Thí nghiệm này nêu lên những lo ngại quan trọng về mặt đạo đức, đặc biệt là về sự đồng ý của người dùng.
Bằng cách sử dụng bot AI để thu hút người dùng vào các cuộc thảo luận nhạy cảm mà không thông báo cho họ biết rằng họ đang tương tác với máy móc, các nhà nghiên cứu đã vi phạm cả thỏa thuận người dùng của Reddit và đạo đức nghiên cứu đã được thiết lập.
Những người điều hành r/changemyview đã nhanh chóng nộp đơn khiếu nại lên ủy ban đạo đức của trường đại học, nhưng bất chấp sự phản đối, việc công bố các phát hiện của các nhà nghiên cứu vẫn tiếp tục.
Các bot AI có hiệu quả đáng kinh ngạc, thu thập được hơn 20.000 lượt bình chọn và 137 "delta" - giải thưởng được trao cho những người thành công trong việc thay đổi quan điểm của ai đó.
Tuy nhiên, thành công của họ chỉ được biết đến sau khi các nhà nghiên cứu tiết lộ hành động của họ, thúc đẩy Reddit nhanh chóng thực hiện các biện pháp xác minh danh tính người dùng và bảo vệ chống lại sự thao túng AI tiếp theo.
Sự cố này là một phần trong thách thức ngày càng tăng trong việc phân biệt nội dung do con người tạo ra và nội dung do AI tạo ra.
Khi trí tuệ nhân tạo tiếp tục phát triển, các nền tảng như Reddit phải đối mặt với áp lực ngày càng tăng trong việc cân bằng quyền riêng tư với nhu cầu ngăn chặn việc khai thác.
Khi các bot ngày càng tinh vi hơn, rõ ràng là các cộng đồng trực tuyến có nguy cơ trở thành nơi nảy sinh hành vi thao túng nếu không được kiểm soát.
Quyết định tăng cường quy trình xác minh của Reddit đi kèm với lời hứa sẽ không làm ảnh hưởng đến tính ẩn danh của người dùng.
Huffman trấn an người dùng bằng cách nói rằng,
"Chúng tôi sẽ cố gắng hết sức để bảo vệ cả tính nhân văn và tính ẩn danh của Reddit."
Mặc dù vậy, việc thiếu rõ ràng xung quanh các dịch vụ của bên thứ ba và các trường hợp cần xác minh đã gây ra mối lo ngại cho một số người dùng, những người lo ngại điều này có thể làm xói mòn giá trị cốt lõi về quyền riêng tư của Reddit.
Cuộc tranh luận về việc xác minh người dùng và những tác động về mặt đạo đức của việc thao túng do AI thúc đẩy đánh dấu thời điểm quan trọng đối với cộng đồng trực tuyến.
Quy định mới của FTC cấm các bài đánh giá giả mạo, nội dung do AI tạo ra và bot trả tiền để tăng số lượng người theo dõi, có khả năng bắt đầu từ tháng 10. Nhưng liệu nó có thực sự loại bỏ được sự tương tác trực tuyến giả mạo hay sẽ giống như muối bỏ bể?
KikyoToken $DOGS đã nhanh chóng trở nên phổ biến trong hệ sinh thái Telegram, tiếp cận hơn 50 triệu người dùng và đảm bảo niêm yết trên các sàn giao dịch lớn như Bitget, OKX và Bybit. Thành công của nó được thúc đẩy bởi lượng người dùng lớn của Telegram và các chiến lược tiếp thị sáng tạo, định vị nó là một đối thủ đáng kể trong số các memecoin.
AnaisGrass, sản phẩm chủ lực của Wynd Network, cho phép người dùng kiếm tiền từ các tài nguyên mạng chưa sử dụng. Khi dự án AI DePIN kết thúc Closed Beta, nó sẽ ra mắt một kỷ nguyên tiền thưởng có thời hạn và gợi ý về các thông tin chi tiết về airdrop và tokenomics sắp tới, nhằm mục đích định nghĩa lại kết nối internet.
CatherineĐợt ra mắt mainnet sắp tới của Fractal vào tháng 9 nhằm mục đích chuyển đổi khả năng mở rộng và khả năng lập trình của Bitcoin bằng cách giới thiệu giải pháp mở rộng đệ quy gốc và chức năng hợp đồng thông minh. Tuy nhiên, sự suy giảm gần đây của Bitcoin trong bối cảnh thị trường tăng trưởng rộng hơn và đầu tư của các tổ chức đang diễn ra đặt ra câu hỏi về sự ổn định của thị trường trong ngắn hạn và việc áp dụng các công nghệ mới.
AnaisVitalik Buterin đã quyên góp hơn 500.000 đô la tiền xu meme theo chủ đề động vật cho tổ chức từ thiện, kêu gọi sử dụng tiền xu meme thực tế hơn. Đây có phải là hành động vị tha thực sự hay là động thái chiến lược để nâng cao hình ảnh của anh ấy trong khi bán tiền xu?
KikyoIran đang phải đối mặt với cuộc khủng hoảng điện nghiêm trọng do khai thác tiền điện tử bất hợp pháp, tiêu thụ quá nhiều điện. Để chống lại điều này, chính phủ đang đưa ra phần thưởng 24 đô la cho những người cung cấp thông tin về các hoạt động khai thác trái phép, nhưng điều này có thể không giải quyết được các vấn đề cơ bản về quản lý lưới điện kém.
WeatherlySuperRare, một nền tảng nghệ thuật kỹ thuật số hàng đầu, đã chứng kiến lượng truy cập giảm 45%, phản ánh sự sụt giảm rộng hơn về doanh số bán NFT. Mặc dù vậy, CEO John Crain vẫn lạc quan, thúc đẩy một góc nhìn rộng hơn về những thách thức của thị trường, coi chúng là một phần của quá trình phát triển của không gian NFT chứ không phải là sự kết thúc của nó.
CatherineBinance Labs đã đầu tư vào MyShell, một nền tảng AI phi tập trung cho phép người sáng tạo xây dựng và sở hữu các công cụ AI. Hệ thống phần thưởng của MyShell, dựa trên token $SHELL, và chiến lược đa chuỗi của nó nhằm mục đích dân chủ hóa quá trình phát triển AI và thu hút lượng người dùng rộng rãi.
WeatherlyNgười sáng tạo ra Cardano, Charles Hoskinson, đang treo giải 1 triệu đô la cho bất kỳ ai có thể bẻ khóa được Lace Paper Wallet mới, một thử thách kéo dài đến hết năm 2024. Đây có phải là một bước đột phá hay một canh bạc lớn?
KikyoVào năm 2023, các vụ lừa đảo tiền điện tử tăng vọt, khiến người Mỹ mất hàng tỷ đô la, bao gồm 650 triệu đô la trong một kế hoạch do NovaTech và những người đứng đầu điều hành, và gian lận đáng kể thông qua Cửa hàng Google Play. Các nạn nhân, bao gồm Maria Vaca, phải đối mặt với tổn thất tài chính lớn và các mối đe dọa, làm nổi bật nhu cầu cấp thiết về việc tăng cường an ninh và cảnh giác trên thị trường tiền điện tử.
Anais