Trong bối cảnh tấn công mạng tiếp tục gia tăng phức tạp, đặc biệt là tấn công mã độc mã hóa tống tiền (ransomware) nhằm vào các cá nhân, doanh nghiệp và tổ chức. Đặc biệt, thời gian qua, nhiều nhóm tội phạm đã thực hiện hành vi lừa đảo tống tiền bằng cách dụ dỗ người dùng trẻ tuổi cung cấp hình ảnh nhạy cảm cá nhân sau đó đe dọa sẽ phát tán công khai trừ khi chúng nhận được một khoản tiền.

Instagram đang hướng tới mục tiêu ngăn chặn những kẻ lừa đảo và tội phạm tiềm năng ép buộc thanh thiếu niên tuổi teen gửi ảnh khỏa thân và tống tiền họ.

Kế hoạch này của Meta sử dụng công cụ AI thử nghiệm. Đây là công cụ, có khả năng tìm kiếm, phân tích và làm mờ những bức ảnh như vậy được gửi tới trẻ vị thành niên trên hệ thống nhắn tin của ứng dụng. Như vậy, người dùng có thể lựa chọn việc không phải xem các hình ảnh không mong muốn. Meta nhấn mạnh công cụ sẽ giúp giới trẻ được bảo vệ trước nguy cơ tống tiền bằng hình ảnh nhạy cảm, đồng thời đối tượng lừa đảo cũng khó khăn hơn khi tìm kiếm và tiếp cận người dùng. Bên cạnh đó, Meta cũng dùng công cụ AI để xác định nội dung vi phạm và thiết lập biện pháp ngăn chặn đối tượng có ý đồ xấu không thể tương tác với người dùng trẻ tuổi trên Instagram.

Giám đốc an toàn toàn cầu của Meta Antigone Davis nói với CNN rằng: “Ép người dùng gửi ảnh khỏa thân và tống tiền họ- Đó là một tội ác thực sự khủng khiếp, nhằm mục đích khiến mọi người cảm thấy đơn độc và nhục nhã. Có tài liệu rõ ràng rằng tội phạm đang gia tăng và đây là một trong những lý do khiến chúng tôi muốn tiến lên phía trước và đảm bảo rằng mọi người biết về những gì chúng tôi đang làm khi chúng tôi liên tục phát triển các công cụ của mình.”

Việc chia sẻ hình ảnh khỏa thân không có sự đồng thuận đã là một vấn đề trong nhiều năm, điển hình là ở những người tìm cách trả thù nạn nhân mà họ quen biết. Nhưng FBI gần đây cho biết họ đã chứng kiến ​​sự gia tăng các vụ tống tiền tình dục từ những người lạ, thường do những kẻ lừa đảo ở nước ngoài thực hiện. Trong một số trường hợp, những vụ tống tiền kiểu như vậy đã dẫn đến các hành động tự sát.

Các công cụ mới nhất của Meta được xây dựng dựa trên các tính năng an toàn liên quan đến thanh thiếu niên hiện có của Meta, bao gồm các cài đặt nghiêm ngặt ngăn chặn việc nhắn tin giữa các tài khoản không được kết nối, tăng thông báo về an toàn và tùy chọn báo cáo các tin nhắn trực tiếp đe dọa chia sẻ hoặc yêu cầu hình ảnh thân mật.

Trước đó vào tháng 1/2024, Meta đã đưa thông báo về việc triển khai biện pháp bảo vệ người dùng là trẻ vị thành niên, bao gồm kiểm soát nội dung và tăng cường công cụ giám sát cho phụ huynh.