(CAO) Một người đàn ông Hàn Quốc đã bị kết án tù vì sử dụng trí tuệ nhân tạo (AI) để tạo ra những hình ảnh khiêu dâm trẻ em - trường hợp đầu tiên thuộc loại này ở nước này trong bối cảnh tòa án trên khắp thế giới đang gặp phải dạng tội phạm sử dụng công nghệ mới để tạo ra nội dung khiêu dâm.
Theo Tòa án quận Busan và Văn phòng công tố quận, người đàn ông giấu tên, ở độ tuổi 40, đã bị kết án 2 năm rưỡi tù giam trong tháng này. Văn phòng công tố nói với CNN rằng ông ta đã tạo ra khoảng 360 hình ảnh do AI tạo ra vào tháng 4. Những hình ảnh này không được phát tán và đã bị cảnh sát tịch thu.
Các công tố viên lập luận trong vụ án rằng định nghĩa về tài liệu bóc lột tình dục phải bao gồm mô tả về hành vi tình dục của “con người ảo” chứ không chỉ hình dáng bên ngoài của trẻ em thực sự.
Văn phòng công tố cho biết phán quyết cho thấy nội dung lạm dụng tình dục có thể bao gồm hình ảnh được tạo bằng công nghệ “cấp cao”, đủ chân thực để trông giống trẻ em và trẻ vị thành niên thật.
Vụ việc xảy ra khi các chính phủ trên khắp thế giới đang vật lộn với sự bùng nổ của ngành công nghiệp AI, với những tác động sâu rộng từ bản quyền và sở hữu trí tuệ đến an ninh quốc gia, quyền riêng tư cá nhân và nội dung khiêu dâm. Nhiều người hiện đang chạy đua để quản lý công nghệ - đặc biệt là khi những trường hợp như bản án của Hàn Quốc nêu bật cách AI có thể được sử dụng để vi phạm quyền tự chủ và an toàn cơ thể của con người, đặc biệt là đối với phụ nữ và trẻ vị thành niên.
Hàn Quốc vừa bắt người đàn ông dùng AI để tạo ra nội dung khiêu dâm
Đầu tháng này, cảnh sát Tây Ban Nha đã mở một cuộc điều tra sau khi hình ảnh các cô gái chưa đủ tuổi vị thành niên được thay đổi bằng AI để cởi bỏ quần áo và gửi đi khắp thị trấn. Trong một trường hợp, một cậu bé đã cố gắng tống tiền một trong các cô gái bằng cách sử dụng hình ảnh khỏa thân của cô gái này, mẹ của cô gái nói với kênh truyền hình Canal Extremadura.
Trong nhiều năm, deepfake – những video giả mạo có sức thuyết phục cao được thực hiện bằng AI – đã được sử dụng để đưa khuôn mặt của phụ nữ vào các video khiêu dâm mà không có sự đồng ý của họ. Các video thường xuất hiện chân thực đến mức nạn nhân nữ khó có thể phủ nhận đó không thực sự là họ.
Vấn đề này đã được công chúng quan tâm rộng rãi hơn vào tháng 2 năm nay khi có thông tin cho rằng một người phát trực tuyến trò chơi điện tử nổi tiếng đã truy cập vào các video deepfake của một số đồng nghiệp nữ phát trực tuyến của anh ta.
Liên minh châu Âu đã đưa ra các quy định về cách các công ty có thể sử dụng AI vào tháng 6, tiếp theo là Trung Quốc vào tháng 7. Và trước đó vào tháng 9, một số nhà lãnh đạo công nghệ lớn nhất ở Hoa Kỳ – bao gồm Bill Gates, Elon Musk và Mark Zuckerberg – đã tập trung tại Washington để thảo luận khi Thượng viện chuẩn bị soạn thảo luật về AI.