Trong bối cảnh đẩy mạnh chuyển đổi số tại các cơ quan hành chính, việc ứng dụng công nghệ thông tin và trí tuệ nhân tạo mang lại nhiều bước đột phá nhưng đồng thời cũng làm phát sinh những mối lo ngại lớn về vấn đề bảo mật. Tại buổi trao đổi chuyên đề về chuyển đổi số và trí tuệ nhân tạo diễn ra với sự tham gia của đông đảo cán bộ, quản lý tại Hà Nội, các vấn đề cốt lõi liên quan đến an toàn dữ liệu đã được đưa ra mổ xẻ chi tiết bởi các chuyên gia trong ngành.
Nguy cơ tiềm ẩn từ hiện tượng shadow ai trong bộ máy hành chính
Theo chia sẻ từ bà Manon Lafitte, chuyên gia dữ liệu số thuộc dự án Hợp tác Chính phủ điện tử Pháp - Việt, một trong những thách thức lớn nhất khi ứng dụng trí tuệ nhân tạo trong khu vực công chính là hiện tượng "Shadow AI". Đây là tình trạng cán bộ, công chức tự ý sử dụng các nền tảng trí tuệ nhân tạo thương mại trôi nổi, không nằm trong kế hoạch hay sự quản lý thống nhất của cơ quan.
Việc áp dụng tràn lan các công cụ ngoài luồng này vào công việc chuyên môn hàng ngày đang tạo ra những lỗ hổng bảo mật nghiêm trọng. Dữ liệu công vụ, thông tin nhạy cảm có nguy cơ bị rò rỉ ra bên ngoài, gây mất an toàn thông tin hệ thống. Để giải quyết triệt để thực trạng này, chuyên gia Pháp đưa ra khuyến nghị bước đầu là các cơ quan cần tiến hành rà soát tổng thể: thống kê danh ách nhân sự đang sử dụng công cụ nào, mục đích ra sao, đồng thời phân loại rõ đâu là hệ thống có chủ quyền và đâu là nền tảng thương mại tự do để xây dựng bản đồ quản lý chính xác.
Dựa trên dữ liệu thu thập được, các đơn vị có thể nghiên cứu và tự thiết kế các mô hình trí tuệ nhân tạo có chủ quyền nhằm thay thế hoàn toàn các giải pháp bên ngoài thiếu kiểm soát. Song song với đó, vấn đề "ảo giác" của trí tuệ nhân tạo cũng cần được lưu tâm đặc biệt. Các mô hình này đôi khi đưa ra phản hồi sai lệch hoặc mang tính thiên kiến. Nếu thiếu đi cơ chế kiểm duyệt gắt gao ngay từ khâu vận hành ban đầu, các sự cố nghiêm trọng trong quá trình xử lý công việc là điều hoàn toàn có thể xảy ra.
Kinh nghiệm quốc tế trong việc kiểm toán và quản trị rủi ro ai
Nhằm đảm bảo an toàn tối đa cho hệ thống thông tin nhà nước, kinh nghiệm từ nước Pháp cho thấy sự cần thiết của việc thành lập một cơ quan độc lập. Đơn vị này đóng vai trò như một phòng thí nghiệm chuyên trách để kiểm toán các thuật toán và giải pháp trí tuệ nhân tạo trước khi cho phép ứng dụng rộng rãi. Quá trình kiểm định sẽ tập trung đánh giá mức độ minh bạch, khả năng giải thích logic và khả năng truy vết dữ liệu của công nghệ.
Bà Lafitte nhấn mạnh rằng con người luôn phải giữ vai trò quyết định, duy trì sự kiểm tra và phê duyệt cuối cùng đối với mọi kết quả đầu ra. Việc trực tiếp xác minh nguồn dữ liệu giúp loại bỏ hoàn toàn các thông tin sai lệch do hiện tượng ảo giác của máy móc gây ra. Tùy thuộc vào mức độ rủi ro của từng mô hình, nhà quản lý sẽ áp dụng các tiêu chuẩn ràng buộc pháp lý tương ứng. Mô hình nào đảm bảo tính minh bạch và khả năng giải thích càng cao thì việc triển khai thực tế vào hệ thống sẽ càng thuận lợi.
Trước đó, Tổ chức Hợp tác và Phát triển Kinh tế (OECD) cũng đưa ra những nhận định tương tự sau khi tiến hành khảo sát tại nhiều quốc gia. Tổ chức này chỉ ra rằng các hướng dẫn thực tế về thiết kế và giám sát thử nghiệm công nghệ hiện vẫn còn khá rời rạc, làm xói mòn trách nhiệm giải trình. Do đó, các chính phủ nên khởi động bằng những dự án thử nghiệm có cấu trúc quy mô nhỏ và đo lường liên tục qua năm yếu tố cốt lõi: hiệu suất, giá trị mang lại, tính khả thi, khả năng sử dụng và mức độ quản trị rủi ro.
Góc nhìn chuyên gia kỹ thuật từ ttc việt nam
Dưới góc độ chuyên môn về hạ tầng mạng và an ninh thông tin, các kỹ sư tại TTC Việt Nam nhận định rằng việc triển khai trí tuệ nhân tạo trong các cơ quan nhà nước hay doanh nghiệp lớn đòi hỏi một nền tảng hạ tầng vững chắc đi kèm các chính sách kiểm soát truy cập nghiêm ngặt. Hiện tượng Shadow AI không chỉ làm rò rỉ dữ liệu mà còn tạo ra các điểm yếu chết người cho toàn bộ hệ thống mạng nội bộ (LAN/WAN). Do đó, việc ứng dụng các giải pháp tường lửa thế hệ mới, kết hợp giám sát lưu lượng dữ liệu thời gian thực và xây dựng các mô hình AI nội bộ (On-Premises AI) là xu hướng tất yếu để đảm bảo chủ quyền số và an toàn thông tin tuyệt đối.
Để được tư vấn chi tiết về các giải pháp hạ tầng mạng an toàn, bảo mật dữ liệu doanh nghiệp và cơ quan nhà nước, hãy liên hệ ngay với TTC Việt Nam hôm nay để nhận hỗ trợ chuyên sâu từ đội ngũ chuyên gia kỹ thuật hàng đầu.
