Tập đoàn Meta đang đẩy mạnh các sáng kiến nhằm bảo vệ an toàn cho nhóm người dùng trẻ tuổi trên toàn bộ hệ sinh thái dịch vụ bao gồm Facebook, Instagram, Messenger và Threads. Chiến lược này tập trung vào hai trụ cột cốt lõi: thiết lập hệ thống cảnh báo sớm cho các bậc phụ huynh và ứng dụng công nghệ trí tuệ nhân tạo (AI) để rà soát, xác thực độ tuổi người dùng một cách chính xác hơn.
Cơ chế phát cảnh báo khẩn cấp dành cho phụ huynh
Dựa trên những cập nhật mới nhất đối với tính năng giám sát trực tuyến, các bậc phụ huynh tại Việt Nam sẽ nhận được thông báo trực tiếp từ hệ thống khi phát hiện con em mình có các biểu hiện gặp rủi ro về mặt tâm lý. Tình huống này thường rơi vào hai trường hợp cụ thể: thứ nhất là việc trẻ thực hiện tìm kiếm lặp lại nhiều lần các cụm từ khóa liên quan đến hành vi tự tử hoặc tự làm hại bản thân trên Facebook và Instagram trong một khoảng thời gian ngắn; thứ hai là sự xuất hiện của các nội dung thảo luận về chủ đề tự tử hoặc tự hại trong những đoạn hội thoại với công cụ Meta AI trên Messenger, Instagram hay Facebook.
Ngay tại thời điểm nhận diện được nguy cơ tiềm ẩn, hệ thống Meta AI sẽ chủ động cung cấp thông tin liên hệ của các đường dây nóng hỗ trợ khẩn cấp. Đồng thời, công cụ này cũng khuyến khích các bạn trẻ nên tâm sự và trò chuyện cởi mở với cha mẹ hoặc các chuyên gia tâm lý có chuyên môn. Song song với đó, hệ thống sẽ tự động gửi đi các thông báo cảnh báo kèm theo tài liệu hướng dẫn tiếp cận từ chuyên gia đến các bậc phụ huynh để có biện pháp hỗ trợ kịp thời.
Phía Meta chia sẻ rằng doanh nghiệp đang vận hành theo nguyên tắc tiếp cận thận trọng. Cụ thể, hệ thống chấp nhận khả năng sẽ gửi cảnh báo ngay cả khi mức độ lo ngại chưa thực sự đạt đến ngưỡng nghiêm trọng, với mục tiêu cao nhất là không để xảy ra tình trạng bỏ sót bất kỳ trường hợp nào cần được can thiệp khẩn cấp.
Quy trình xây dựng và tinh chỉnh hệ thống phản hồi của trí tuệ nhân tạo
Cơ chế phản hồi của AI được nghiên cứu và thiết lập dựa trên những ý kiến đóng góp quý báu từ hơn 75 chuyên gia uy tín trong lĩnh vực sức khỏe tâm thần. Bên cạnh đó là sự tham gia phối hợp chặt chẽ từ Hội đồng Chuyên gia về Sức khỏe AI cùng Nhóm Cố vấn chuyên trách về vấn đề Tự tử và Tự hại. Mục đích cốt lõi của quy trình này là ghi nhận cảm xúc thực tế của người dùng và điều hướng sự hỗ trợ phù hợp, thay vì thực hiện các thao tác ngắt quãng cuộc hội thoại một cách đột ngột gây ảnh hưởng tâm lý.
Ứng dụng trí tuệ nhân tạo quét và xử lý các tài khoản khai gian độ tuổi
Bên cạnh việc triển khai các công cụ giám sát tâm lý, Meta còn mở rộng phạm vi ứng dụng công nghệ ước tính độ tuổi bằng trí tuệ nhân tạo trên nền tảng Instagram, đồng thời tiếp tục duy trì áp dụng cho cả Facebook và Threads trên quy mô toàn cầu.
Giải pháp công nghệ này ra đời nhằm giải quyết triệt để vấn nạn người dùng chưa đủ 18 tuổi cố tình khai báo sai lệch ngày tháng năm sinh nhằm vượt qua các hàng rào kiểm duyệt độ tuổi của nền tảng. Khi hệ thống phát hiện một tài khoản có xác suất cao thuộc về nhóm người dùng từ 13 đến 17 tuổi, tài khoản đó sẽ tự động được chuyển đổi sang trạng thái "Tài khoản Thanh thiếu niên" (Teen Accounts).
Khi được kích hoạt chế độ này, các rào chắn kỹ thuật sẽ được áp dụng một cách mặc định. Cụ thể bao gồm việc giới hạn danh tính đối tượng có thể nhắn tin, siết chặt các bộ lọc nội dung hiển thị để phù hợp với độ tuổi, và áp đặt định mức thời gian sử dụng ứng dụng trong ngày.
Theo đại diện từ Meta, việc ứng dụng trí tuệ nhân tạo để ước tính độ tuổi mang tính chất hỗ trợ nhận diện ban đầu. Hãng sẽ tiếp tục không ngừng tinh chỉnh các thuật toán phân loại nhằm nâng cao độ chính xác trong việc phân định nhóm trẻ em dưới 13 tuổi và nhóm thanh thiếu niên từ 13 đến 17 tuổi, qua đó kiến tạo một không gian mạng trực tuyến lành mạnh và an toàn hơn.
Nhận định từ chuyên gia kỹ thuật của TTC Việt Nam: Việc các nền tảng công nghệ lớn như Meta tích hợp sâu trí tuệ nhân tạo để quản lý định danh và bảo vệ người dùng trẻ là một bước tiến tất yếu trong kỷ nguyên số. Tuy nhiên, để tối ưu hóa hiệu quả vận hành và đảm bảo an toàn thông tin toàn diện, các tổ chức và gia đình cũng cần kết hợp đồng bộ các giải pháp hạ tầng mạng, tường lửa và thiết bị giám sát chuyên dụng tại chỗ nhằm tạo ra nhiều lớp bảo vệ vững chắc cho thế hệ trẻ trước các rủi ro trên không gian mạng.
Để được tư vấn chi tiết về các giải pháp mạng, hạ tầng viễn thông an toàn và các công nghệ bảo mật tiên tiến nhất hiện nay, quý khách hàng vui lòng liên hệ ngay với TTC Việt Nam để nhận được sự hỗ trợ chuyên sâu từ đội ngũ kỹ sư giàu kinh nghiệm của chúng tôi.
