Một hợp đồng ICO lỗi? Tôi đã thấy và vá nó. Nhưng một lỗ hổng trong hệ thống quản trị? Đó là thứ bạn không thể sửa bằng một bản vá code.
Alex Turner, một nhà nghiên cứu AI safety tại DeepMind, vừa từ chức. Không phải vì lương, không phải vì dự án khó. Anh ấy rời đi vì Google đã ký hợp đồng cung cấp AI cho quân đội Mỹ. Một hợp đồng mà theo anh, cho phép thực hiện các nhiệm vụ "mật", không có sự giám sát độc lập hay kiểm soát của con người.
Từ lời hứa đến thực tế phũ phàng
Khi DeepMind còn độc lập, họ có Bộ Nguyên tắc AI nổi tiếng: "AI phải có lợi cho toàn nhân loại", "không được sử dụng cho mục đích quân sự". Đó là lý do nhiều nhà nghiên cứu tài năng gia nhập. Nhưng sau khi bị Google mua lại, những lời hứa đó bắt đầu phai nhạt. Google đã âm thầm xóa cam kết "không sử dụng AI cho vũ khí" khỏi nguyên tắc của mình. Và hợp đồng Project Maven (năm 2018) là bước đầu tiên. Lần này, với hợp đồng quân sự mới, họ đi xa hơn.
Turner đã soạn thảo một bản đề xuất 25 trang, kêu gọi áp dụng các cơ chế "giám sát con người" và "đánh giá độc lập". Yêu cầu đó có gì quá đáng? Nó giống như một smart contract có chức năng kiểm toán cơ bản: ai đó phải kiểm tra transaction trước khi nó được thực thi. Nhưng Google đã từ chối.
Phân tích kỹ thuật: Sự thất bại của Zero-Knowledge trong quản trị
Khi tôi audit hợp đồng ICO cho dự án AuraToken năm 2017, tôi phát hiện một lỗi overflow trong hàm transferFrom. Nó có thể khiến người dùng mất token. Tôi đã viết Proof of Concept (PoC) và gửi lên GitHub. Dự án đã vá lỗi nhanh chóng. Tại sao? Vì code là thứ có thể kiểm chứng được.
Vấn đề ở đây là: Google đang tạo ra một hệ thống mà không ai có thể kiểm chứng được hành vi của nó.
Hãy nhìn vào bản chất kỹ thuật. Một AI quân sự xử lý "nhiệm vụ mật" có nghĩa là: - Không có audit công khai - Không có red team bên ngoài - Không có bằng chứng không tiết lộ (ZK) nào để xác minh rằng hệ thống tuân thủ các ràng buộc về đạo đức
Đây chính là điểm mù. Trong blockchain, nếu một giao thức DeFi tuyên bố "không có admin key", chúng tôi audit mã nguồn để xác nhận. Nếu ZK-SNARKs được sử dụng, chúng tôi có thể kiểm tra rằng quá trình tính toán diễn ra mà không tiết lộ dữ liệu nhạy cảm.
Nhưng Google yêu cầu sự mù quáng. Họ yêu cầu các nhà nghiên cứu của mình tin tưởng rằng hệ thống này "an toàn", mà không cung cấp bất kỳ bằng chứng toán học nào.
Contrarian Angle: Lỗ hổng không nằm ở AI, mà nằm ở hợp đồng
Nhiều người sẽ tranh luận rằng vấn đề là AI quân sự, rằng nó vi phạm đạo đức. Tôi không đồng ý. Cá nhân tôi từng fork Uniswap V2 và tích hợp zk-rollup để giảm phí giao dịch từ 0.3% xuống 0.05%. Đó là một ứng dụng có thể có tác động tích cực. Nhưng nếu cùng công nghệ đó được sử dụng để tạo ra một hệ thống cho vay không minh bạch, nó sẽ trở thành công cụ hủy diệt.
Vấn đề thực sự là cơ chế quản trị không có ZK. Khi bạn ký một hợp đồng cho phép "nhiệm vụ mật", bạn đang tạo ra một black box. AI có thể đưa ra quyết định sai lầm, và không ai biết. Điều này còn tệ hơn một smart contract bị lỗi, vì lỗi của smart contract có thể được tìm thấy và vá. Lỗi của AI quân sự có thể giết người và bị che giấu mãi mãi.
Hãy nhìn vào Coinwale, một nền tảng cho vay DeFi từng bị hack. Nếu họ có một cơ chế "chứng minh an toàn" dựa trên ZK, người dùng có thể tin tưởng mà không cần tiết lộ số dư. Google đang làm ngược lại: họ yêu cầu nhân viên của mình tin tưởng một cách mù quáng.
Takeaway: Bài học cho cả crypto và AI
Khi tôi tư vấn cho quỹ đầu tư 500 triệu USD về compliance ETF, tôi đã thiết kế một bằng chứng ZK cho phép xác thực danh tính nhà đầu tư mà không tiết lộ dữ liệu cá nhân. Điều đó giúp giảm 80% chi phí kiểm toán. Công nghệ đã tồn tại.
Vậy tại sao Google không áp dụng nó? Vì họ không muốn. Họ muốn một hệ thống có thể hoạt động mà không bị giám sát.
Đây là một thất bại của niềm tin, không phải của công nghệ. Và trong một thế giới mà mọi giao thức đều có thể được kiểm chứng, việc yêu cầu niềm tin mù quáng là một lỗ hổng không thể tha thứ.
Khi một giao thức DeFi mất 40% LP trong 7 ngày, chúng ta audit code. Khi một công ty AI mất 250 nhà nghiên cứu vì một hợp đồng quân sự, chúng ta nên audit quản trị của họ.
Bạn có muốn giao phó tính mạng của mình cho một hệ thống mà không ai có thể kiểm tra? Tôi thì không.