3 ứng dụng tạo ảnh khỏa thân bằng AI bị Apple gỡ bỏ

29/04/2024 11:20:28

Khả năng tạo hình ảnh dựa trên lời nhắc của AI ngày càng phổ biến. Tuy nhiên, công nghệ này đang bị lạm dụng để tạo ra những hình ảnh khỏa thân vô căn cứ.

Trước đó không lâu, người dùng đã phàn nàn về công cụ chỉnh sửa hình ảnh bằng AI (trí tuệ nhân tạo) trên chiếc điện thoại Huawei Pura 70 Ultra có thể cởi bỏ quần áo khỏi hình ảnh, tạo ra ảo giác rằng bạn đang nhìn vào cơ thể trần trụi của đối tượng.

3 ứng dụng tạo ảnh khỏa thân bằng AI bị Apple gỡ bỏ
Công cụ chỉnh sửa hình ảnh bằng AI trên Huawei Pura 70 Ultra gây ra nhiều tranh cãi

Huawei thừa nhận vấn đề và đổ lỗi cho thuật toán AI của tính năng "smart AI retouching". Công ty cho biết họ sẽ thực hiện những thay đổi phù hợp trong các bản cập nhật hệ thống trong tương lai. Nhưng cho đến khi điều đó xảy ra, tính năng này có thể giúp tạo ra hình ảnh khỏa thân giả mạo. Hãy nhớ rằng những gì bạn nhìn thấy khi cởi bỏ quần áo không phải là cơ thể thật của đối tượng.

Vừa qua, Apple cũng đã xóa bỏ 3 ứng dụng khỏi App Store vì quảng cáo về khả năng tạo ảnh khỏa thân.

Theo 404 Media, các ứng dụng này đã chạy quảng cáo trên Instagram, quảng cáo về tính năng “cởi quần áo” của bất kỳ ai. Sau khi nhận được cảnh báo, Apple và Google đã ngay lập tức xóa các ứng dụng liên quan khỏi App Store và Google Play.

3 ứng dụng tạo ảnh khỏa thân bằng AI bị Apple gỡ bỏ - 1
Apple xóa các ứng dụng quảng cáo về tính năng tạo ảnh khỏa thân vô căn cứ khỏi App Store. Ảnh minh họa

Việc Apple xóa các ứng dụng tạo ảnh khỏa thân giả mạo khỏi App Store là một tin tốt nhưng vẫn còn một số vấn đề còn sót lại. Đầu tiên, Apple đã không cấm các ứng dụng này như một phần của quy trình đánh giá, thay vào đó, công ty chỉ thực sự biết về các ứng dụng sau khi nhận được báo cáo của bên thứ ba.

Các báo cáo vào năm 2022 về các ứng dụng này giải thích rằng ban đầu chúng có vẻ vô hại trên App Store. Tuy nhiên, nhà phát triển ứng dụng đã liên tục quảng cáo về tính năng tạo ảnh khỏa thân của ứng dụng trên các trang web người lớn.

Vào thời điểm đó, Apple và Google đã được cảnh báo về vấn đề này nhưng từ chối xóa ứng dụng. Thay vào đó, các công ty chỉ yêu cầu nhà phát triển ngừng chạy quảng cáo. Tuy nhiên, bất chấp lệnh cấm, một ứng dụng vẫn tiếp tục quảng cáo tính năng tạo ảnh khỏa thân bằng AI cho đến năm 2024, khi nó bị xóa khỏi Google Play.

Bên cạnh việc sử dụng các phương pháp đào tạo mô hình ngôn ngữ AI để bảo vệ quyền riêng tư, Apple cũng tránh sử dụng các tác phẩm có bản quyền một cách bất hợp pháp. Trong khi Microsoft và OpenAI bị New York Times kiện vì vi phạm bản quyền khi sử dụng các bài báo của họ để đào tạo AI, thì thay vào đó, Apple đã chi hàng triệu USD để mua giấy phép sử dụng tác phẩm từ các nhà xuất bản.

Với việc Apple sắp đưa ra một số thông báo lớn về AI liên quan đến iOS 18 và Siri tại WWDC vào tháng 6-2024, công ty đã cố gắng duy trì một hình ảnh sạch sẽ.

Theo Tiểu Minh (Plo.vn)

Nổi bật