Quản trị AI trong doanh nghiệp: Khi công nghệ đi nhanh hơn cơ chế kiểm soát

Từ Shadow IT đến Shadow AI

Nếu như trước đây, bài toán quản trị công nghệ thông tin chủ yếu xoay quanh việc kiểm soát phần mềm, thiết bị hay hệ thống được sử dụng ngoài danh mục được phê duyệt, thì AI tạo sinh đang khiến ranh giới này mở rộng đáng kể.

Nhân viên ở nhiều bộ phận hiện có thể đưa dữ liệu vào chatbot công cộng, sử dụng các dịch vụ AI SaaS chưa qua phê duyệt, tự tạo ứng dụng bằng các công cụ vibe coding hoặc cấu hình AI Agent để thực hiện một phần quy trình nghiệp vụ.

Từ đó hình thành ít nhất 4 dạng “shadow” mới.

Shadow AI xuất hiện khi nhân viên đưa dữ liệu nội bộ, mã nguồn hoặc tài liệu mật vào chatbot công cộng hay dịch vụ AI chưa được doanh nghiệp phê duyệt. Rủi ro đi kèm là rò rỉ bí mật kinh doanh, dữ liệu cá nhân hoặc dữ liệu bị đưa vào tập huấn luyện của bên thứ ba.

Shadow Automation/Vibe Coding phát sinh khi nhân viên nghiệp vụ dùng AI mô tả ý tưởng bằng ngôn ngữ tự nhiên để tạo ra ứng dụng có thể đưa vào sử dụng thực tế. Những ứng dụng này có thể tồn tại lỗ hổng bảo mật, để lộ API key, secret hoặc phụ thuộc vào các gói phần mềm do AI “ảo giác” tạo ra.

Ở mức độ cao hơn là Shadow Agents, khi nhân viên tự cấu hình AI Agent có khả năng thao tác trên hạ tầng, dữ liệu hoặc quy trình nghiệp vụ. Rủi ro không chỉ nằm ở dữ liệu mà còn bao gồm hành động ngoài tầm kiểm soát, leo thang đặc quyền hay rò rỉ dữ liệu thông qua prompt injection và việc sử dụng công cụ.

Trong khi đó, Shadow Data/Analytics hình thành khi các bộ phận nghiệp vụ tự trích xuất dữ liệu và xây dựng dashboard bằng công cụ AI nằm ngoài hệ thống quản trị dữ liệu trung tâm. Hệ quả có thể là quyết định được đưa ra dựa trên dữ liệu chưa xác thực, mất khả năng theo dõi dòng biến đổi dữ liệu hoặc vi phạm chính sách bảo mật.

Điểm chung của các hiện tượng này là làm suy yếu một giả định căn bản của mô hình quản trị CNTT truyền thống: doanh nghiệp biết và kiểm soát được các tài sản công nghệ đang tồn tại trong tổ chức.

Với vibe coding, một ứng dụng nghiệp vụ có thể được tạo ra chỉ trong vài giờ. Người dùng có thể sở hữu một sản phẩm chạy thực tế trước khi bộ phận CNTT hay an ninh thông tin kịp ghi nhận sự tồn tại của nó.

Bài toán mới của quản trị và tuân thủ AI

Để quản trị những rủi ro mới, có thể kể đến một số khung quốc tế như ISO/IEC 42001:2023 về hệ thống quản lý AI; NIST AI Risk Management Framework và Generative AI Profile; COBIT 2019; mô hình phân tầng rủi ro của EU AI Act và khung SHIELD dành cho vibe coding.

Điểm chung của các khung này là hướng tới quản trị AI theo vòng đời, từ kiểm kê, phân loại rủi ro, đánh giá tác động đến ghi log, giám sát con người, kiểm soát kỹ thuật và ứng phó sự cố.

Tại Việt Nam, theo tài liệu, Luật Trí tuệ nhân tạo (Luật số 134/2025/QH15) có hiệu lực từ ngày 1/3/2026 và Nghị định 142/2026/NĐ-CP có hiệu lực từ ngày 1/5/2026 đã hình thành hành lang pháp lý chuyên ngành điều chỉnh vòng đời hệ thống AI.

Theo cơ chế được tài liệu dẫn tại Điều 9 Luật AI 2025, hệ thống AI được phân thành 3 cấp độ rủi ro.

Với hệ thống rủi ro cao, có khả năng gây thiệt hại đáng kể đến tính mạng, sức khỏe, quyền lợi hợp pháp, an ninh quốc gia, tài chính - ngân hàng hoặc lợi ích công cộng, các nghĩa vụ chính bao gồm đánh giá sự phù hợp, lập hồ sơ kỹ thuật, ghi nhật ký vận hành và bảo đảm cơ chế con người can thiệp hoặc dừng khẩn cấp.

Với hệ thống rủi ro trung bình, trọng tâm là minh bạch, gắn nhãn nội dung AI, giải trình khi được yêu cầu và chịu giám sát. Các trường hợp còn lại thuộc nhóm rủi ro thấp và được giám sát khi có sự cố, phản ánh hoặc yêu cầu về an toàn.

Một yêu cầu đáng chú ý khác được tài liệu dẫn từ Điều 10 Nghị định 142/2026/NĐ-CP là nghĩa vụ thông báo qua Cổng thông tin điện tử một cửa về AI (Bộ Khoa học và Công nghệ) đối với nhà cung cấp hoặc chủ sở hữu triển khai hệ thống AI thuộc nhóm rủi ro trung bình và rủi ro cao trước khi đưa vào vận hành thực tế. Đây là thủ tục hành chính bắt buộc, đặt ra thách thức lớn cho các tổ chức khi số lượng ứng dụng AI nội bộ gia tăng nhanh chóng.

Khoảng cách giữa quy định và thực tế vận hành

Một trong những khó khăn được chỉ ra là ranh giới xác định hệ thống “rủi ro cao”. Khi danh mục cụ thể còn phụ thuộc vào hướng dẫn và cập nhật, doanh nghiệp phải tự đánh giá theo các tiêu chí nguyên tắc và chịu trách nhiệm đối với kết quả phân loại.

Trong khi đó, không phải doanh nghiệp nào cũng có đội ngũ quản trị AI hay pháp chế đủ năng lực chuyên môn, đặc biệt là doanh nghiệp vừa và nhỏ và các nhóm “citizen developer” sử dụng công cụ vibe coding.

Khó khăn khác nằm ở năng lực đánh giá sự phù hợp. Với những hệ thống rủi ro cao, yêu cầu kiểm định có thể kéo theo chi phí và thời gian tuân thủ trong bối cảnh hệ sinh thái chứng nhận độc lập trong lĩnh vực AI còn mới.

Quản trị AI đồng thời không thể tách khỏi các yêu cầu về bảo vệ dữ liệu cá nhân, an ninh mạng, sở hữu trí tuệ hay giao dịch điện tử. Vì vậy, chương trình tuân thủ AI trên thực tế cần được đặt trong mối liên hệ với quản trị dữ liệu và an ninh thông tin của doanh nghiệp.

Đặc biệt, vibe coding đặt ra một câu hỏi khó về trách nhiệm pháp lý. Khi một nhân viên không chuyên về kỹ thuật sử dụng công cụ AI để tự tạo chatbot chăm sóc khách hàng hoặc một ứng dụng có tích hợp AI, ranh giới giữa doanh nghiệp với tư cách “nhà cung cấp” hệ thống mới và doanh nghiệp với tư cách “người sử dụng” nền tảng chưa dễ phân định.

Đây cũng là điểm khiến việc kiểm soát Shadow AI trở nên phức tạp. Một ứng dụng do nhân viên tự xây dựng có thể được triển khai trực tiếp trên nền tảng cloud cá nhân, nằm hoàn toàn ngoài pipeline phát triển phần mềm, hệ thống CI/CD hay kho mã nguồn nội bộ của doanh nghiệp.

Khi đó, vấn đề không còn đơn thuần là hệ thống có tuân thủ hay không, mà trước hết là doanh nghiệp có biết hệ thống đó đang tồn tại hay không.

Quản trị AI theo 5 lớp phòng thủ

Để giải quyết bài toán trên, tài liệu đề xuất mô hình quản trị tổng hợp gồm 5 lớp.

Lớp đầu tiên là hiển thị liên tục, thông qua việc kiểm kê các công cụ AI, vibe coding, quản lý tài khoản cloud và giám sát những dịch vụ đang được sử dụng trong tổ chức.

Lớp thứ hai là phân loại rủi ro và thẩm định pháp lý, nhằm xác định mức độ rủi ro của từng hệ thống và trách nhiệm tương ứng.

Lớp thứ ba là kiểm soát kỹ thuật tại pipeline và endpoint. Doanh nghiệp có thể sử dụng các công cụ quét mã nguồn, phát hiện API key và mật khẩu bị hardcode, kiểm tra lỗ hổng trong thư viện phụ thuộc, kiểm soát package và ngăn dữ liệu nhạy cảm bị gửi ra ngoài.

Lớp thứ tư là hồ sơ tuân thủ và thực hiện nghĩa vụ thông báo, bao gồm duy trì hồ sơ kỹ thuật, nhật ký vận hành và thực hiện các thủ tục cần thiết đối với hệ thống thuộc diện áp dụng.

Cuối cùng là giám sát vận hành và ứng phó sự cố, với quy trình báo cáo sự cố AI và đánh giá lại khi mô hình hoặc dữ liệu đầu vào của hệ thống thay đổi.

Trong cấu trúc này, 4 lớp đầu mang tính chủ động, nhằm nhận diện và ngăn rủi ro trước khi phát sinh; lớp cuối tập trung xử lý khi sự cố đã xảy ra.

Một sai lầm cần tránh là tập trung nguồn lực vào hồ sơ, thông báo và xử lý sự cố nhưng bỏ qua khâu phát hiện, phân loại và kiểm soát kỹ thuật. Khi đó, doanh nghiệp có thể hoàn thiện hồ sơ tuân thủ đối với những hệ thống đã biết, trong khi rủi ro lại nằm ở những ứng dụng chưa từng được nhận diện.

Từ “cấm” sang tạo một con đường sử dụng AI an toàn

Đối với doanh nghiệp vừa và nhỏ, trước hết cần thiết lập một cổng khai báo AI nội bộ đơn giản, yêu cầu nhân viên đăng ký tên ứng dụng, công cụ sử dụng, mục đích và loại dữ liệu xử lý trước khi đưa vào sử dụng thực tế.

Song song, doanh nghiệp có thể xây dựng một “con đường trải nhựa” cho AI: cung cấp sẵn những tài khoản, nền tảng và môi trường AI đã được phê duyệt, thay vì để nhân viên tự tìm công cụ bên ngoài phục vụ công việc. Việc kiểm soát mạng và quản lý danh tính, quyền truy cập cũng được sử dụng để hạn chế các dịch vụ chưa được chấp thuận.

Với ngân hàng quy mô nhỏ, nơi yêu cầu về tuân thủ và an toàn cao hơn, tài liệu đề xuất cân nhắc mô hình AI cục bộ (local) hoặc tại chỗ (on-premise) để cách ly dữ liệu; thành lập ủy ban quản trị AI liên chức năng từ các bộ phận an ninh thông tin, kiểm toán CNTT, tuân thủ, quản trị rủi ro và pháp chế; đồng thời tăng cường cơ chế chống thất thoát dữ liệu để ngăn thông tin tài khoản, dữ liệu định danh và giao dịch bị đưa ra các dịch vụ AI bên ngoài.

Lộ trình thực thi được đề xuất trong 90 ngày, bắt đầu từ rà soát và khai báo các công cụ AI đang được sử dụng (tuần 1-2); tiếp đến phân loại rủi ro, lập hồ sơ (tuần 3-5); triển khai các biện pháp kiểm soát kỹ thuật (tuâng 6-8); cuối cùng là hoàn thiện quy trình và đào tạo nhân viên (tuần 9-12).

Nguyễn Anh Tuấn (tổng hợp)