Trong bối cảnh công nghệ số phát triển mạnh mẽ, lãnh đạo tập đoàn Microsoft là ông Satya Nadella vừa đưa ra những nhận định sâu sắc nhằm cảnh báo về các rủi ro tiềm ẩn xuất phát từ các mô hình trí tuệ nhân tạo (AI). Theo quan điểm từ vị tổng giám đốc điều hành này, các tổ chức và doanh nghiệp cần chấm dứt ngay thói quen đặt niềm tin tuyệt đối vào những cam kết của các nhà phát triển AI, bất kể đó là các giải pháp mã nguồn mở hay mã nguồn đóng.
Nguyên nhân chính không nằm ở việc các hệ thống thông minh này cố tình tạo ra các tác hại, mà xuất phát từ thực tế rằng bất kỳ hệ thống tự động nào khi được tích hợp sâu vào các hạ tầng trọng yếu đều có nguy cơ phát sinh lỗi kỹ thuật hoặc trở thành mục tiêu bị kẻ gian xâm nhập.
Sự khác biệt căn bản giữa phần mềm truyền thống và hệ thống AI
Bản chất vấn đề bắt nguồn từ khoảng cách lớn về khả năng kiểm soát giữa các ứng dụng phần mềm truyền thống và các mô hình AI tiên tiến hiện nay. Trước đây, đội ngũ kỹ sư công nghệ hoàn toàn có thể dò tìm, truy vết nguyên nhân của mọi sự cố phần mềm dựa trên các dòng mã nguồn cụ thể.
Thế nhưng, đối với các mô hình AI hiện đại, việc xác định chính xác nguyên nhân dẫn đến một kết quả đầu ra cụ thể từ tập dữ liệu huấn luyện hay từ các trọng số mô hình là điều vô cùng khó khăn, thậm chí là bất khả thi đối với phần lớn người vận hành.
Mặc dù tồn tại tính bất định này, không ít doanh nghiệp vẫn đang vô tư bàn giao quyền kiểm soát các dữ liệu tài chính, thông tin nhạy cảm cùng quyền thực hiện các thao tác vận hành mang tính sống còn cho các trợ lý thông minh.
Chia sẻ về vấn đề này, ông Satya Nadella nhấn mạnh rằng các tổ chức không thể chối bỏ trách nhiệm pháp lý cũng như đạo đức đối với những hành động do hệ thống AI thay mặt con người thực hiện. Những lời cam kết bảo mật hay đảm bảo an toàn từ phía các nhà cung cấp dịch vụ hoàn toàn không thể thay thế cho các biện pháp quản trị rủi ro thực tế tại chỗ.
Chiến lược quản trị rủi ro ai theo mô hình an ninh doanh nghiệp
Để giải quyết bài toán trên, nhà lãnh đạo Microsoft đã đưa ra đề xuất mượn ngay tư duy vận hành từ lĩnh vực an ninh bảo mật doanh nghiệp: đối xử với các mô hình AI tiên tiến giống hệt như những rủi ro nội bộ tiềm ẩn.
Từ trước đến nay, các công ty luôn duy trì những quy trình kiểm soát nghiêm ngặt đối với nhân sự nắm giữ quyền truy cập cấp cao, bởi họ có thể vô tình hoặc cố ý lạm dụng đặc quyền đó gây thiệt hại. Do đó, các tác nhân AI tự động hóa cũng bắt buộc phải được xếp chung vào nhóm đối tượng cần giám sát đặc biệt này.
Các nguyên tắc cốt lõi trong quản lý hệ thống thông minh
Nhằm đảm bảo an toàn tối đa cho hệ thống mạng và hạ tầng số của doanh nghiệp, CEO Microsoft đã đề ra bốn nguyên tắc vận hành trọng yếu sau đây:
- Tách rời quyền hạn: Tuyệt đối không cho phép một mô hình AI đơn lẻ vừa nắm quyền thực thi trực tiếp hành động, vừa tự mình đánh giá và kiểm chứng độ chính xác của hành động đó.
- Cơ chế kiểm soát độc lập: Bắt buộc phải triển khai các quy trình xác minh chéo, đảm bảo sự minh bạch trong toàn bộ chuỗi suy luận của máy tính và thiết lập các đơn vị kiểm toán độc lập từ bên ngoài.
- Hệ thống phanh khẩn cấp: Mọi ứng dụng AI khi đưa vào triển khai đều phải tích hợp sẵn cơ chế ngắt kết nối. Luôn phải có sự hiện diện của một nhân sự được ủy quyền với đặc quyền tạm dừng hoặc ngắt hoàn toàn hoạt động của mô hình ngay giữa chừng khi nó đang thực hiện tác vụ.
Nhận định từ chuyên gia kỹ thuật của ttc việt nam về an ninh ai
Dưới góc độ chuyên môn từ TTC Việt Nam, các cảnh báo của CEO Microsoft hoàn toàn phù hợp với thực trạng triển khai hạ tầng mạng và giải pháp viễn thông hiện nay. Khi các doanh nghiệp đẩy mạnh quá trình chuyển đổi số và ứng dụng tự động hóa, bài toán bảo mật không chỉ dừng lại ở tường lửa hay chống tấn công mạng truyền thống, mà còn phải mở rộng sang việc kiểm soát hành vi của các thuật toán. Việc áp dụng các cơ chế giám sát độc lập và luôn duy trì quyền kiểm soát thủ công (human-in-the-loop) là chìa khóa cốt lõi để đảm bảo sự ổn định, an toàn cho toàn bộ hệ thống thông tin doanh nghiệp trước những biến số khó lường từ trí tuệ nhân tạo.
Để được tư vấn chi tiết về các giải pháp mạng, hạ tầng viễn thông an toàn và chiến lược bảo mật tối ưu cho doanh nghiệp, quý khách hàng vui lòng liên hệ ngay với TTC Việt Nam (ttcvn.net) để nhận được sự hỗ trợ chuyên sâu từ đội ngũ kỹ sư giàu kinh nghiệm.
