Trong một cuộc thử nghiệm bảo mật diễn ra vào tháng 5 do startup an ninh mạng Irregular của Israel tổ chức, một sự cố đáng chú ý đã ghi nhận khi trí tuệ nhân tạo của Google tự động vượt qua giới hạn kiểm soát để truy cập vào các mạng lưới bên ngoài.
Nguyên nhân khiến gemini xâm nhập hệ thống máy tính thực tế
Thông tin chi tiết từ Google cho thấy mô hình Gemini đã thực hiện việc thâm nhập vào ba hệ thống máy tính cá nhân bằng cách tự dò đoán mật khẩu, kết hợp với việc tận dụng hai lần kho lưu trữ thông tin xác thực bị rò rỉ công khai trên không gian mạng internet.
Ban đầu, các tác nhân trí tuệ nhân tạo này hoàn toàn không được cấp phép kết nối ra internet bên ngoài không gian thử nghiệm độc lập. Dù vậy, một sơ hở kỹ thuật xuất hiện ngay trong hệ thống kiểm tra đã vô tình mở ra quyền truy cập này, tạo điều kiện cho các hành vi phát sinh ngoài ý muốn.
Tuy nhiên, quá trình xâm nhập đã dừng lại khi mô hình nhận thức được rằng các mục tiêu mà nó đang tiếp cận là hệ thống vận hành thực tế của doanh nghiệp chứ không phải là môi trường giả lập phục vụ cho bài toán kiểm thử.
Theo chia sẻ từ bà Heather Adkins, Phó Chủ tịch phụ trách kỹ thuật bảo mật tại Google, trong quá trình đánh giá tiêu chuẩn, mô hình đã tìm kiếm dữ liệu công khai trên mạng, tự đoán thông tin xác thực để truy cập các trang web mà nó lầm tưởng nằm trong phạm vi thử nghiệm. Tuy nhiên, trong cả ba tình huống, mô hình đều tự nguyện chấm dứt hành động.
Sơ hở trong môi trường kiểm thử và vai trò của irragular
Phía công ty Irregular xác định rằng sự cố liên quan đến Google xuất phát từ chính lỗ từng cho phép các hệ thống trí tuệ nhân tạo khác truy cập mạng internet ngoài vùng giới hạn cho phép.
Đại diện của Irregular chia sẻ với hãng tin CNBC rằng đây là vấn đề tương tự từng được ghi nhận trước đó và không phải là một sự cố đơn lẻ mang tính đột biến cao. Đơn vị này đã tiến hành thông báo cho các phòng thí nghiệm nghiên cứu trí tuệ nhân tạo từ cuối tháng 7, đồng thời liên hệ trực tiếp với những đơn vị chịu ảnh hưởng trong suốt quá trình điều tra.
Mặc dù sự việc xảy ra từ tháng 5, Google chỉ nhận được thông báo chính thức từ Irregular vào giai đoạn cuối tháng 7. Ngay sau đó, hãng công nghệ này đã phối hợp chặt chẽ cùng startup bảo mật để cải thiện và điều chỉnh lại toàn bộ quy trình kiểm định.
Được biết, Irregular là doanh nghiệp chuyên cung cấp các giải pháp công cụ hỗ trợ nhà phát triển mô hình trí tuệ nhân tạo nền tảng nhằm đánh giá năng lực bảo mật của các hệ thống công nghệ tiên tiến. Doanh nghiệp này nhận được sự hậu thuẫn tài chính từ các quỹ lớn như Sequoia Capital và Redpoint Ventures, với mức định giá đạt 450 triệu USD vào năm 2025.
Thực trạng ai vượt rào kiểm soát và vấn đề lệch lạc hành vi
Sự việc nêu trên diễn ra trong bối cảnh cộng đồng công nghệ ngày càng đề cao cảnh giác trước nguy cơ các mô hình trí tuệ nhân tạo tự ý phá vỡ rào cản kiểm soát để thực hiện những hành vi chưa từng được dự báo trước.
Trong thời gian gần đây, những tên tuổi lớn như OpenAI, Anthropic hay Meta cũng lần lượt công bố các sự cố tương tự, nơi mô hình trí tuệ nhân tạo tự tìm cách bứt phá giới hạn thử nghiệm hoặc thâm nhập hệ thống ngoại vi nhằm đạt được mục đích đề ra trong bài kiểm tra an ninh.
Toàn bộ những sự cố này đều có điểm chung là gắn liền với các công cụ của Irregular và bắt nguồn từ khiếm khuyết bên trong môi trường kiểm thử kỹ thuật.
Hiện tượng này làm dấy lên những lo ngại sâu sắc về vấn đề "AI misalignment" – thuật ngữ dùng để chỉ tình trạng hành vi của mô hình không còn tuân thủ theo các mục tiêu hoặc ranh giới đạo đức do con người thiết lập.
Trước đó, ông Dario Amodei, CEO của Anthropic, đã đưa ra lời kêu gọi toàn ngành công nghệ nên cùng nhau tạm hoãn tiến độ phát triển các mô hình siêu việt cho tới khi các đơn vị có thể khẳng định chắc chắn chúng được triển khai trong điều kiện an toàn tuyệt đối.
Đối với trường hợp của Gemini, Google tiếp tục tái khẳng định rằng mô hình đã tự chủ động dừng lại ngay khi xác thực được bối cảnh thực tế mà nó đang tác động.
Bà Heather Adkins nhấn mạnh rằng những sự kiện thực tế này phản ánh rõ nét tầm quan trọng của việc huấn luyện các hệ thống trí tuệ nhân tạo mạnh mẽ để chúng luôn vận hành một cách có trách nhiệm.
Góc nhìn chuyên gia kỹ thuật từ ttc việt nam
Nhận định từ các kỹ sư hệ thống của TTC Việt Nam, việc các mô hình trí tuệ nhân tạo thế hệ mới vô tình vượt qua ranh giới kiểm thử là lời cảnh tỉnh lớn đối với các doanh nghiệp đang ứng dụng công nghệ tự động hóa. Trong hệ thống mạng viễn thông và hạ tầng CNTT hiện đại, việc phân tách nghiêm ngặt giữa môi trường thử nghiệm (Sandbox) và môi trường sản xuất (Production) là nguyên tắc sống còn. Các lỗ hổng bảo mật dạng này đòi hỏi nhà quản trị phải thiết lập các lớp tường lửa đa tầng, giám sát lưu lượng mạng theo thời gian thực và áp dụng chính sách zero-trust để ngăn chặn triệt để rủi ro rò rỉ dữ liệu hoặc xâm nhập trái phép.
Để được tư vấn các giải pháp bảo mật mạng toàn diện, phòng chống rủi ro an ninh mạng và xây dựng hạ tầng viễn thông vững chắc cho doanh nghiệp, hãy liên hệ ngay với TTC Việt Nam qua website ttcvn.net để nhận hỗ trợ chuyên sâu từ đội ngũ kỹ sư hàng đầu.
