Instagram làm mờ tin nhắn có ảnh khỏa thân

Ngoài làm mờ tin nhắn có ảnh khỏa thân, Meta cũng đang phát triển công nghệ xác định tài khoản lừa đảo sextort (tin tặc lừa đang giữ ảnh nóng của người dùng).

Công ty mẹ của Instagram đang có những bước đi nhằm bảo vệ giới trẻ trước áp lực của dư luận - Ảnh minh họa: AFP

Meta, công ty mẹ của Instagram, ngày 11-4 thông báo sẽ thử nghiệm tính năng làm mờ tin nhắn có nội dung chứa ảnh khỏa thân để bảo vệ thanh thiếu niên và ngăn những kẻ lừa đảo tiếp cận họ.

Động thái trên được cho là nỗ lực của công ty nhằm xoa dịu những lo ngại về nội dung độc hại trên Instagram.

Theo Reuters, Meta đang chịu áp lực ngày càng tăng từ Mỹ và châu Âu với những cáo buộc rằng ứng dụng của họ gây nghiện và gây ra các vấn đề sức khỏe tâm thần trong giới trẻ.

Gã khổng lồ công nghệ cho biết tính năng bảo vệ các tin nhắn trực tiếp trên Instagram sẽ sử dụng máy học (machine learning) để phân tích xem hình ảnh được gửi qua ứng dụng này có chứa ảnh khỏa thân hay không.

Máy học là một nhánh của trí tuệ nhân tạo (AI) và khoa học máy tính, tập trung vào việc sử dụng dữ liệu và thuật toán để cho phép AI bắt chước cách con người học, dần dần cải thiện độ chính xác của nó, theo trang ibm.com.

Tính năng này sẽ được bật theo mặc định đối với người dùng dưới 18 tuổi. Meta cũng sẽ thông báo cho người dùng trưởng thành để khuyến khích họ bật tính năng này. Vì hình ảnh được phân tích trên chính thiết bị của người dùng, nên tính năng bảo vệ khỏi ảnh khỏa thân vẫn hoạt động trong các cuộc trò chuyện được mã hóa hai đầu.

Không giống như ứng dụng Messenger và WhatsApp của Meta, tin nhắn trực tiếp trên Instagram không được mã hóa, song công ty cho biết họ có kế hoạch triển khai mã hóa cho ứng dụng này.

Khi một người nhận tin nhắn có chứa ảnh khỏa thân trên Instagram, hình ảnh đó sẽ tự động bị làm mờ kèm dòng cảnh báo - Ảnh: Meta

Meta cũng đang phát triển công nghệ để xác định các tài khoản có khả năng tham gia vào các vụ lừa đảo sextortion (tin tặc lừa đang giữ ảnh/clip nóng của người dùng). Công ty cũng đang thử nghiệm các tin nhắn dạng pop-up (cửa sổ thông báo bật lên khi mở trình duyệt web) với những người dùng có thể đã tương tác với các tài khoản lừa đảo như vậy.

Tháng 1 vừa qua, Meta nói công ty sẽ ẩn nhiều nội dung hơn đối với thanh thiếu niên trên Facebook và Instagram và điều này sẽ khiến giới trẻ khó có thể xem những nội dung nhạy cảm hơn, như là tự tử, tự ngược đãi bản thân và rối loạn ăn uống.

Trước đó vào tháng 10-2023, 33 bang của Mỹ đã kiện Meta, cáo buộc công ty liên tục đánh lừa công chúng về sự nguy hiểm của các nền tảng của mình. Tại châu Âu, Ủy ban châu Âu đã tìm kiếm thông tin về cách Meta bảo vệ trẻ khỏi nội dung bất hợp pháp và độc hại.