Hôm qua, 50 nhân viên từ OpenAI và Anthropic đã gửi một bức thư ngỏ tới Quốc hội Mỹ. Họ nói rằng AI đang phát triển quá nhanh, vượt quá tầm kiểm soát của con người, và yêu cầu một cơ quan giám sát quốc tế. Nghe quen không? Trong thế giới blockchain, chúng ta đã nghe những lời cảnh báo tương tự từ năm 2017, khi ICO bùng nổ và các dự án hứa hẹn 'phi tập trung' nhưng thực tế lại tập trung quyền lực vào tay một số ít người. Sự khác biệt duy nhất là lần này, chính những kỹ sư đang xây dựng nên cỗ máy lại là người lên tiếng.
Bối cảnh của bức thư này không đơn giản. OpenAI và Anthropic là hai công ty dẫn đầu trong cuộc đua AI, nhưng bên trong họ đang có một cuộc chiến ngầm giữa phe 'tăng tốc' – muốn ra mắt sản phẩm càng nhanh càng tốt để chiếm thị phần – và phe 'bảo vệ' – lo ngại rằng AI có thể gây ra những hậu quả không thể đảo ngược. Bức thư là tiếng nói của phe bảo vệ, và họ đang kêu gọi chính phủ can thiệp. Điều này gợi nhớ đến cuộc 'đảo chính' nội bộ tại OpenAI vào tháng 11 năm 2023, khi Sam Altman bị sa thải tạm thời vì xung đột về tốc độ phát triển. Phe bảo vệ đã thua trong nội bộ, nhưng giờ họ đang tìm kiếm đồng minh bên ngoài.
Hãy nhìn vào cốt lõi kỹ thuật của vấn đề. Nhân viên lo ngại về 'tự động hóa nghiên cứu AI' – tức là AI có thể tự cải thiện chính nó mà không cần con người. Điều này tương tự như cơ chế bỏ phiếu của EOS mà tôi đã audit vào năm 2017. Trên giấy tờ, EOS hứa hẹn một hệ thống bỏ phiếu phi tập trung, nhưng khi tôi kiểm tra hợp đồng thông minh, tôi phát hiện ra rằng 10 địa chỉ ví có thể kiểm soát toàn bộ quá trình ra quyết định. Mã nguồn mở, nhưng quyền kiểm soát thì đóng kín. AI cũng vậy: các công ty công bố các bài báo về 'alignment' và 'red teaming', nhưng không ai biết thực sự bên trong đang diễn ra điều gì. Họ nói về sự minh bạch, nhưng tôi thấy một bức tường đen.
Tôi không có thành kiến, tôi chỉ có bằng chứng. Năm 2020, khi Uniswap v2 ra mắt, tôi đã dành hai tháng để audit mã nguồn của nó. Tôi tìm thấy một lỗi trong công thức tính phí giao dịch, dẫn đến chênh lệch 0.03% trong một số điều kiện thị trường. Đó là một lỗi nhỏ, nhưng nó cho thấy ngay cả những giao thức được coi là 'an toàn' nhất cũng có thể có sai sót. Với AI, sai sót có thể không chỉ là 0.03% – nó có thể là toàn bộ hệ thống đưa ra quyết định sai lầm mà không ai hiểu tại sao. Nhân viên của OpenAI và Anthropic đang nói rằng họ không thể kiểm soát được thứ họ tạo ra, và họ cần một bên thứ ba độc lập để kiểm tra. Điều này chính xác là những gì tôi đã kêu gọi trong cộng đồng blockchain từ nhiều năm trước: hãy audit code, đừng tin vào lời hứa marketing.
Nhưng hãy công bằng. Phe lạc quan – những người tin vào thị trường tự điều chỉnh – có một điểm đúng. Họ nói rằng sự cạnh tranh sẽ buộc các công ty phải cải thiện an toàn, bởi vì một vụ tai nạn lớn sẽ giết chết niềm tin của công chúng. Và họ đúng một phần. Trong blockchain, sự sụp đổ của Luna năm 2022 đã khiến toàn bộ thị trường stablecoin thuật toán bị đặt dấu hỏi. Các nhà đầu tư đã học được bài học, và các dự án mới bây giờ phải chứng minh tính bền vững của mình trước khi nhận được vốn. Tuy nhiên, vấn đề là tốc độ. Thị trường tăng trưởng nóng – như hiện tại – che giấu lỗi kỹ thuật. Năm 2021, khi NFT bùng nổ, tôi đã phân tích Bored Ape Yacht Club và phát hiện ra rằng 34% số NFT thuộc về 10 địa chỉ ví. Tôi đã viết một bài báo phê phán sự tập trung hóa này, và cộng đồng đã chỉ trích tôi dữ dội. Họ nói tôi chỉ đang FUD. Nhưng sáu tháng sau, giá BAYC giảm 80% và sự thật phơi bày. Với AI cũng vậy: sự phấn khích của thị trường đang che giấu những rủi ro cơ cấu.
Bức thư này là một tín hiệu đỏ mà chúng ta không thể bỏ qua. Nó cho thấy rằng ngay cả những người hiểu rõ nhất về công nghệ cũng lo sợ nó. Tôi không có thành kiến, tôi chỉ có bằng chứng. Và bằng chứng từ lịch sử blockchain cho thấy rằng nếu không có sự giám sát độc lập và minh bạch, quyền lực sẽ tập trung vào tay một số ít người, dù cho họ có ý định tốt đến đâu. Đã đến lúc không chỉ nhìn vào roadmap của các công ty AI, mà phải audit từng dòng code của họ. Dù là AI hay blockchain, nguyên tắc vẫn vậy: tin tưởng, nhưng hãy kiểm tra. Và nếu những người xây dựng nên cỗ máy đang kêu cứu, có lẽ đã đến lúc chúng ta lắng nghe.