Cảnh báo an ninh thông tin AI: Bắt đầu từ tin đồn "Mã thông báo Robinhood đang chạy trốn"

Tôi đã đọc một cái gì đóX.comĐăng bài, thảo luậnrobinhoodtạiuniswapchatgptđã bỏ trốn, tuyên bố rằng nó có thể xóa số dư của địa chỉ nắm giữ token. Tôi nghi ngờ tính xác thực của khả năng xóa số dư này, vì vậy hãyhãy ra ngoài và điều tra.

chatgptđã đưa ra phán quyết tương tự, cho rằng mô tả về việc xóa số dư như vậy là không có khả năng.

Điều thực sự làm tôi ngạc nhiên là quá trình suy luận của chatgpt, bởi vì tôi muốn hiểu cách chatgptđưa ra phán đoán, vì vậy tôi đã đọc chuỗi suy nghĩ của nó.

Tôi thấy rằng có một số bước trong chuỗi suy nghĩ của nó, đó là "nhập" một địa chỉ Ethereum vào trình duyệt khối và sau đó xem lịch sử giao dịch của địa chỉ này.

Vui lòng đặc biệt chú ý đến dấu ngoặc kép quanh "input". Đây là một động từ, có nghĩa là một thao tác đã được thực hiện trên trình khám phá khối, điều này khiến tôi ngạc nhiên vì nó không khớp với kết quả nghiên cứu của tôi về bảo mật của chatgptnửa năm trước.

Nửa năm trước, tôi đã sử dụng mô hìnhchatGPT O1 Prođể điều tra việc phân phối lợi nhuận ban đầu của Ethereum. Tôi đã gửi một yêu cầu rõ ràng đến chatgpt o1 pro để truy vấn địa chỉ khối genesis thông qua việc duyệt khối để tìm hiểu xem có bao nhiêu tiền chưa được chuyển ra ngoài, nhưng hatgpt đã nói rõ với tôi rằng nó không thể thực hiện thao tác như vậy vì đây là thiết kế bảo mật.

Chatgpt

Thật tuyệt vời phải không?

Do đó, chatgptkhông vi phạm hạn chế cấm mô phỏngGiao diện người dùnghoạt động.

Tuy nhiên, nếu chúng ta thực sự quan tâm đến bảo mật của máy tính và điện thoại di động, chúng ta phải cẩn thận về những LLMquyền mô hình ngôn ngữ lớn đối với thiết bị đầu cuối.

Chúng ta cần vô hiệu hóa nhiều AItrong các thiết bị đầu cuối có yêu cầu bảo mật.

Hãy đặc biệt chú ý đến "nơi mô hình chạy (cuối hay đám mây)" vì nó quyết định ranh giới bảo mật nhiều hơn là trí thông minh của chính mô hình - đây cũng là lý do cơ bản tại sao tôi muốn cấu hình một thiết bị cô lập bổ sung hơn là để mô hình đám mây lớn chạy trên máy tính có khóa riêng.