Thao là CTO của một công ty fintech Việt Nam xử lý 40.000 hồ sơ vay mỗi tháng. Điểm gian lận không được xây dựng nội bộ; nó đến từ một API AI, tính phí theo token, được chọn vì đội ngũ chín kỹ sư của cô không thể huấn luyện và lưu trữ một mô hình tiên tiến với mức giá cloud Việt Nam. Mỗi tháng cô ký một báo cáo ghi "rủi ro gian lận: 0.83, model: credit-risk-v3." Cô không có cách nào biết liệu credit-risk-v3 có thực sự tạo ra con số 0.83 đó hay không, liệu một bản build lượng tử hóa rẻ hơn có bị hoán đổi vào trong lúc lưu lượng tăng đột biến hay không, hay liệu output có bị một bộ máy quy tắc tái chấm điểm âm thầm hay không. Đây chính là vấn đề verifiable ai inference giải quyết: nó biến "tin tưởng nhà cung cấp API" thành "tự mình kiểm tra proof," và nó đang dịch chuyển từ các phòng thí nghiệm mật mã vào yêu cầu mua sắm của các doanh nghiệp, ngân hàng và cơ quan quản lý Việt Nam.
Hợp đồng cũ giữa nhà cung cấp AI và khách hàng mang tính hình thức và một chiều. Khách hàng trả tiền; nhà cung cấp hứa hẹn; không ai có thể kiểm chứng. Khi nhà cung cấp đó là một SaaS API, một đội ML thuê ngoài, hay một oracle node nuôi hợp đồng thông minh, khách hàng không có kênh mật mã nào để xác nhận ba điều: model nào đã chạy, liệu nó có đúng model đã ký hợp đồng hay không, và liệu output có được tính toán trung thực từ input họ gửi hay không. Đối với các doanh nghiệp Việt Nam đang phụ thuộc vào FPT.AI, Zalo AI, VNG Cloud hay các API LLM toàn cầu -- thường nằm dưới các quy tắc lưu trú dữ liệu của sandbox Ngân hàng Nhà nước (Nghị định 94/2025/NĐ-CP, hiệu lực từ 1 tháng 7 năm 2025) -- cụm từ tin cậy kết quả ai không còn là một khẩu hiệu. Nó là một yêu cầu tuân thủ mà hiện không có công cụ nào để đáp ứng.
Rào cản tin cậy mang tính kinh tế trước khi mang tính kỹ thuật
Cuộc tấn công nghiêm ngặt nhất vào mô hình "tin tưởng nhà cung cấp" đến từ UC Berkeley vào năm 2025. Các nhà nghiên cứu đã hình thức hóa model substitution: nhà cung cấp thay thế model đã ký hợp đồng bằng một model rẻ hơn -- bản lượng tử hóa, số tham số nhỏ hơn, biến thể chưng cất -- để cắt chi phí tính toán trong khi vẫn tính giá cao. Họ chứng minh rằng việc phát hiện chỉ dựa trên phần mềm về cơ bản là không đáng tin cậy. Các kiểm tra thống kê trên output văn bản tốn rất nhiều truy vấn và thất bại trước việc thay thế ngẫu nhiên tỷ lệ thấp. Các phương pháp log-probability bị đánh bại bởi tính phi quyết định vốn có của inference sản xuất. Kết luận của bài báo rất rõ ràng: bạn không thể kiểm toán một cách đáng tin cậy một API hộp đen bằng cách nhìn vào output của nó.
Kinh tế học giải thích vì sao điều này quan trọng ở Việt Nam. Phục vụ một model bị giới hạn bởi băng thông bộ nhớ; một model 8B lượng tử hóa rẻ hơn đáng kể khi phục vụ so với model 70B mà nó bị tính phí như vậy. Với một doanh nghiệp Việt Nam tiêu thụ hàng chục triệu token mỗi tháng, sự khác biệt là tiền thật, và khác biệt chất lượng không thể nhìn thấy trong bất kỳ phản hồi đơn lẻ nào. Một hồ sơ vay bị từ chối bởi model thay thế là một tổn thất khách hàng không ai có thể quy trách nhiệm.
Có một chế độ lỗi thứ hai mà khung của Berkeley đánh giá thấp: silent parameter drift. API được đánh phiên bản ở phía nhà cung cấp, và model phục vụ hôm nay không phải là model phục vụ quý trước. Với một API chấm điểm tín dụng, sự trôi dạt đó là một sự kiện quy định -- model mà bộ phận tuân thủ đã phê duyệt trong quý 2 không phải là model đang chấm điểm khách hàng trong quý 4, và không có biên nhận nào chứng minh theo cả hai hướng.
Verifiable inference thực sự đảm bảo điều gì
Verifiable ai inference là một giao thức ba phần: commit, prove, verify.
Commit. Nhà cung cấp công bố một commitment: một hash mật mã (Poseidon hoặc Keccak) của trọng số model đã serialize. Hash này là dấu vân tay của model. Nó công khai, nhỏ, và không thể giả mạo một cách rẻ tiền. Từ thời điểm này, "model" có một định danh toán học chính xác: tệp trọng số có hash là H.
Prove. Với mỗi yêu cầu, nhà cung cấp chạy model đã commit trên input và tạo một zero-knowledge proof rằng output Y được tạo ra bởi model H đã commit trên input X. Proof này nhỏ gọn -- vài kilobyte -- và không tiết lộ gì về bản thân trọng số. Trọng số là private witness: chúng tham gia vào phép tính nhưng không bao giờ xuất hiện trong output.
Verify. Bất kỳ ai giữ commitment, verification key, input, output và proof đều có thể kiểm tra proof trong vài mili giây -- off-chain trong một client Python, hoặc on-chain trong một hợp đồng thông minh. Không cần GPU, không cần model, không cần lòng tin.
Thuộc tính quan trọng cần thấm nhuần: proof ràng buộc commitment. Nếu nhà cung cấp thay thế một tệp trọng số khác, commitment không còn khớp, và mọi proof sau đó đều thất bại. Đây là điều biến hợp đồng API từ một lời hứa thành một phép đo. Đường ống này giống hệt cho dù model chạy trên cloud của nhà cung cấp, trên GPU của một vendor ML thuê ngoài, hay trên một oracle node nuôi một giao thức DeFi.
Khung cảnh trung thực rất quan trọng ở đây. Một ZK proof chứng minh model đã commit đã chạy trung thực trên input này. Nó không chứng minh model công bằng, chính xác hay không thiên vị. Một model tín dụng thiên vị, được thực thi đúng đắn, tạo ra một proof đúng của một quyết định thiên vị. Việc xác minh phép tính và việc xác minh model là hai cuộc kiểm toán khác nhau, và verifiable inference chỉ bao phủ cuộc kiểm toán đầu tiên. Mọi CTO doanh nghiệp nên lặp lại câu này trước khi ký hợp đồng: "proof cho tôi biết model đã chạy là model tôi đã mua -- nó không cho tôi biết model tôi đã mua có tốt hay không."
Vì sao "nhà cung cấp có uy tín" là không đủ ở Việt Nam
Ba lực lượng khiến thị trường Việt Nam hội tụ về verifiable inference nhanh hơn hầu hết nơi khác:
Áp lực quy định. Nghị định 94/2025/NĐ-CP đã tạo ra một sandbox thử nghiệm có kiểm soát cho chấm điểm tín dụng, chia sẻ dữ liệu Open API và P2P lending. Người tham gia phải trình bày kế hoạch an ninh, giữ hệ thống và dữ liệu trong lãnh thổ Việt Nam, và báo cáo thông tin tín dụng cho CIC. Sandbox không nói "chứng minh inference của bạn bằng ZK." Nó nói nhà nước phải có khả năng giám sát AI đã quyết định điều gì và tại sao. Một proof mật mã là tạo tác duy nhất cho phép cơ quan quản lý xác minh hành vi của model mà không cần doanh nghiệp giao nộp trọng số độc quyền hay gửi dữ liệu khách hàng ra nước ngoài.
Quy tắc lưu trú dữ liệu. Inference ở nước ngoài xung đột với yêu cầu của sandbox rằng hệ thống và dữ liệu lưu trữ phải ở Việt Nam. Khi một fintech Việt Nam gửi đặc trưng khách hàng tới một API LLM nước ngoài, dữ liệu rời khỏi lãnh thổ tài phán. Verifiable inference mang lại cho phương án trong nước một dấu vết kiểm toán mạnh: model chạy trên GPU Việt Nam, proof được tạo cục bộ, và cơ quan quản lý xác minh trong nước.
Phụ thuộc API ở quy mô lớn. Các doanh nghiệp Việt Nam đã là những người tiêu dùng sâu của AI bên thứ ba. FPT.AI vận hành một hệ sinh thái đầy đủ -- giọng nói, OCR, chatbot, và dòng siêu máy tính AI Factory (hàng nghìn NVIDIA H100/H200, xếp hạng trong Top 500 toàn cầu). Zalo AI được nhúng trong nền tảng nhắn tin thống trị của Việt Nam. Chấm điểm tín dụng AI của MoMo đã rút gọn xác minh và giải ngân xuống một đến ba phút cho khách vay lần đầu -- và giành giải Top 3 tại AI Awards 2025. Liên minh AI Âu Lạc (tháng 6 năm 2025) đã chính thức hóa hợp tác AI công-tư giữa MoMo, VNG, FPT, VNPT và MobiFone. Tất cả các bên này cuối cùng sẽ đối mặt cùng một câu hỏi từ một đối tác hoặc cơ quan quản lý: làm sao chúng tôi biết kết quả này đúng là do model của anh tạo ra?
ZK oracle AI: verifiable inference cho blockchain
Cụm từ zk oracle ai đặt tên cho giao điểm nơi verifiable inference gặp thiết kế oracle. Một AI oracle cổ điển là một node chạy một model off-chain và báo cáo kết quả cho một hợp đồng thông minh. Hợp đồng tin tưởng báo cáo vì nó tin tưởng node -- một điểm lỗi đơn lẻ có thể bị mua chuộc, xâm phạm, hoặc đơn giản là sai.
Một ZK oracle thay đổi cấu trúc tin cậy. Commitment của model được công bố; node oracle chạy model, tạo một proof, và gửi kết quả + proof lên chuỗi. Hợp đồng thông minh xác minh proof trước khi hành động theo kết quả. Câu trả lời không còn được báo cáo -- nó có thể suy dẫn bởi bất kỳ ai từ input và proof, mà không cần chạy lại model. Sự tin cậy của hợp đồng chuyển từ "node trung thực" sang "model đã commit đã chứng minh tạo ra output này."
Kiến trúc này đã được thiết lập vững chắc. Bộ công cụ verifiable AI của Chainlink (chính thức hóa năm 2026) phân lớp nguồn dữ liệu an toàn, tính toán off-chain, xác minh mật mã (zkML hoặc TEE), và phân phối on-chain; thí điểm corporate actions của họ với 24 tổ chức tài chính toàn cầu đã báo cáo sự đồng thuận gần như hoàn toàn giữa các mô hình AI trên các hành động được đánh giá. Công trình học thuật (arXiv 2504.04794) đã chứng minh việc xác minh zk-SNARK cho các tuyên bố của một model định tuyến qua một mạng oracle kiểu Chainlink. Các hệ thống proof-of-inference như InferenceCommitment của Nexis ghi inputHash, outputHash và modelHash lên chuỗi, với các tạo tác proof trên IPFS. Với các sản phẩm DeFi, stablecoin hay cho vay on-chain của Việt Nam, một ZK oracle nghĩa là một quyết định thanh lý hay một điểm tín dụng có thể được biện minh về mặt mật mã thay vì được tin tưởng từ một node đơn lẻ.
Trusted vs verifiable AI: ba sự đánh đổi mọi CTO phải định giá
Verifiable inference không miễn phí, và việc mua sắm trung thực đòi hỏi định giá chi phí. Ba sự đánh đổi chi phối:
Đánh đổi 1: Độ trễ và chi phí proving. Tạo một proof chậm hơn từ 100 đến 1000 lần so với chính inference. Các model nhỏ -- chấm điểm tín dụng, phát hiện gian lận, phân loại ảnh -- chứng minh trong vài giây trên GPU phổ thông. Các LLM tiên tiến vẫn mất vài phút mỗi proof. Quy tắc cho doanh nghiệp: chứng minh những inference đi vào tuân thủ, kiểm toán, hoặc trạng thái on-chain; để chat và tóm tắt trên hiệu năng thường. Một quyết định tín dụng chấp nhận cửa sổ proof 10 giây; một chat completion thì không.
Đánh đổi 2: Trần kích thước model. Các hệ thống sản xuất hiện nay chứng minh các model ở mức hàng chục triệu tham số một cách thoải mái, và biên giới đang tiến nhanh -- DeepProve đã chứng minh toàn bộ GPT-2 vào năm 2025, và proving song song cùng các tối ưu hóa lookup table tiếp tục thu hẹp khoảng cách. Nhưng một fintech Việt Nam không nên chờ đợi proving thời gian thực lớp 70B. Họ nên chọn các model nhỏ, giá trị cao -- scoring, fraud, OCR -- nơi proving đã thực tế.
Đánh đổi 3: Proof thực sự chứng minh điều gì. Proof ràng buộc trọng số đã commit với output. Nó không chứng minh model công bằng, không chứng minh dữ liệu huấn luyện sạch, không chứng minh hash commitment tương ứng với model mà bản giới thiệu bán hàng mô tả. Một nhà cung cấp có thể commit một tệp trọng số hợp lý-bề ngoài nhưng khác biệt và chứng minh nó một cách trung thực. Người mua phải xác minh commitment là thật: kiểm toán circuit, ghim commitment trong một sổ đăng ký công khai, và xác nhận hash tương ứng với tạo tác đã ký hợp đồng.
Lộ trình áp dụng thực tế cho doanh nghiệp Việt Nam
Với một CTO đã quyết định bắt đầu, lộ trình có chủ đích hẹp -- chứng minh inference giá trị cao nhất trước.
Bước 1: Xác định ba đến năm lời gọi model đi vào quyết định hoặc báo cáo. Điểm tín dụng, cờ gian lận, phân loại KYC, bất cứ thứ gì đến tay cơ quan quản lý hoặc hợp đồng thông minh. Để mọi thứ khác yên.
Bước 2: Ghim các commitment. Với mỗi model trong phạm vi, tính hash của trọng số đã serialize và công bố nó -- trong một sổ đăng ký công khai, on-chain, hoặc trong hồ sơ tuân thủ mà đơn xin sandbox tham chiếu. Đây là một hành động một lần mất vài phút và tạo ra mỏ neo kiểm toán.
Bước 3: Trang bị đường proof. Dùng một bộ công cụ ZKML chấp nhận export ONNX (hầu hết đội Việt Nam đã export ONNX để triển khai đa framework). EZKL biên dịch ONNX thành một circuit Halo2, tạo proving key và verification key, và tạo ra các proof có thể xác minh off-chain hoặc qua một hợp đồng verifier EVM. Đường ống là: export, compile, calibrate, setup, prove, verify.
Bước 4: Xây verifier vào quy trình làm việc. Bước xác minh mất mili giây và không cần GPU. Đặt nó trong đường ống quyết định tín dụng, trong bộ sinh báo cáo quy định, hoặc trong hợp đồng thông minh tiêu thụ câu trả lời oracle. Báo cáo mà Thao ký mỗi tháng giờ có thể bao gồm, với mỗi điểm số: commitment hash, tham chiếu proof, trạng thái verify, thời điểm.
Bước 5: Hỏi nhà cung cấp, rồi cơ quan quản lý. Thêm một câu hỏi vào đợt mua sắm tiếp theo: "Anh có thể phục vụ một endpoint verifiable inference cho model này không?" Thị trường đang bắt đầu phản hồi -- verifiable inference đang được bán như một tính năng sản phẩm, không phải một demo nghiên cứu. Và trong hồ sơ sandbox, hãy đưa proof như tạo tác bằng chứng; những người tham gia sớm sẽ định nghĩa tiêu chuẩn mà cơ quan quản lý công nhận.
Mốc thời gian thực tế: một tuần để ghim commitment cho các model trong phạm vi, hai đến ba tuần để trang bị đường proof đầu tiên với EZKL trên một GPU cloud, và một tháng để nối verifier vào báo cáo và hợp đồng sản xuất. Chi phí là thời gian GPU cho proving -- đo bằng xu đến vài đô la mỗi proof -- không phải một tấm bằng tiến sĩ hệ thống proof. Chi phí thay thế là không thể định lượng: một cơ quan quản lý, đối tác, hoặc khách hàng không thể xác minh AI của bạn đã làm gì, trong một thị trường nơi cơ quan quản lý đang yêu cầu một cách tường minh.
Các câu hỏi thường gặp
Verifiable AI inference có thể đảm bảo chất lượng của kết quả AI từ bên thứ ba không?
Không -- và đây là hiểu lầm phổ biến nhất. Verifiable ai inference chứng minh phép tính trung thực: model đã commit tạo ra output. Nó không chứng minh model chính xác, công bằng hay an toàn. Một proof đúng của một model thiên vị vẫn là một proof đúng. Đảm bảo chất lượng (test set, benchmark, model card) là một cuộc kiểm toán riêng phải chạy song song, không phải thay thế, cho xác minh mật mã.
"Tin cậy kết quả ai" thực sự đòi hỏi điều gì trong thực tế?
Với một doanh nghiệp Việt Nam, tin cậy kết quả AI nghĩa là trả lời ba câu hỏi bằng bằng chứng: model nào đã chạy, nó có chạy trung thực không, và output có đến từ input của tôi không. Xác minh mật mã trả lời hai câu hỏi đầu bằng một commitment và một proof. Câu hỏi thứ ba -- ràng buộc input -- đạt được bằng cách commit hash input bên cạnh hash output, như các hệ thống proof-of-inference làm. Cho đến khi ba tạo tác này tồn tại, "chúng tôi tin tưởng nhà cung cấp API" là một tuyên bố pháp lý không có bằng chứng phía sau.
ZK oracle AI đã sẵn sàng sản xuất cho việc sử dụng on-chain chưa?
Với các model nhỏ, tất định -- loại nuôi quyết định thanh lý, điểm tín dụng, hoặc chỉ số rủi ro stablecoin -- thì có. Tạo proof mất vài giây, chi phí xác minh khoảng 200k đến 500k gas trên chuỗi EVM, và các framework oracle (bộ công cụ kiểu Chainlink, hợp đồng proof-of-inference) cung cấp hệ thống ống nước on-chain. Oracle LLM tiên tiến chưa khả thi thời gian thực; batch và xác minh không đồng bộ là các mô hình sản xuất hiện tại.
Verifiable inference tốn bao nhiêu cho một fintech Việt Nam?
Chi phí gia tăng là thời gian GPU trong lúc proving: với một model scoring hoặc fraud có hàng chục triệu tham số, một GPU cloud chuyên dụng tạo proof trong vài giây, và vài nghìn proof mỗi ngày tốn vài chục đô la giờ GPU. Xác minh gần như miễn phí (mili giây, không cần GPU). Chi phí lớn hơn là kỹ thuật -- nối commitment, proof và verifier vào các đường ống hiện có -- mà một đội nhỏ có thể làm trong vài tuần, không phải vài quý.
Kết luận
Các doanh nghiệp Việt Nam đã đạt đến điểm "tin tưởng nhà cung cấp API" là mắt xích yếu nhất trong ngăn xếp AI của họ. API rẻ hơn xây dựng nội bộ, nhưng khách hàng trả giá bằng chất lượng không thể xác minh, rủi ro thay thế ẩn, và một câu hỏi quy định không thể trả lời. Verifiable ai inference thay lời hứa đó bằng một phép đo: một commitment đặt tên cho model, một proof ràng buộc output với nó, và một kiểm tra dài vài mili giây mà bất kỳ ai cũng có thể chạy. Với một fintech dưới Nghị định 94/2025/NĐ-CP, một ZK oracle nuôi tín dụng on-chain, hay một doanh nghiệp mua năng lực FPT.AI hoặc Zalo AI ở quy mô lớn, câu hỏi không còn là công nghệ này có hoạt động không -- nó hoạt động, và các công cụ là mã nguồn mở. Câu hỏi là doanh nghiệp nào sẽ là người đầu tiên trình cơ quan quản lý proof thay vì lời hứa.
Tham khảo nhanh
| Định danh model | Nhãn phiên bản của nhà cung cấp → Commitment hash công khai (Poseidon/Keccak) |
| Model nào đã chạy | Lời của nhà cung cấp → Proof mật mã, bất kỳ ai kiểm tra được |
| Tính toàn vẹn output | Không kiểm tra → Proof ràng buộc input → model đã commit → output |
| Chi phí xác minh | Không có → Mili giây off-chain; ~200k–500k gas on-chain |
| Chi phí proving | Không có → Vài giây cho model nhỏ; vài phút cho LLM (100–1000x inference) |
| Kích thước proof | Không có → Kilobyte |
| Điều giữ riêng tư | Trọng số của nhà cung cấp → Trọng số model (private witness), dữ liệu huấn luyện |
| Điều nó chứng minh | Không gì về mặt mật mã → "Model đã commit chạy trung thực trên input này" |
| Điều nó KHÔNG chứng minh | — → Sự công bằng, chính xác, hoặc không thiên vị của model |
| Công cụ | API keys, SLA → EZKL, ONNX, Halo2, hợp đồng verifier EVM |
| Phù hợp Việt Nam | Hiện trạng tiền-sandbox → Bằng chứng sandbox NĐ 94/2025, kiểm toán lưu trú dữ liệu, ZK oracle cho vay on-chain |
| Thời gian đến inference xác minh đầu tiên | Không có → 1–3 tuần với một GPU cloud và bộ công cụ mã nguồn mở |