Cuộc khủng hoảng deepfake tại Hàn Quốc: Nội dung khiêu dâm 'lan tràn' trên Telegram

Nội dung khiêu dâm deepfake tràn lan

Tháng trước, cảnh sát Hàn Quốc đã phát hiện một đường dây khiêu dâm deepfake tại hai trường đại học lớn, trong đó thủ phạm đã lấy ảnh của rất nhiều nạn nhân thông qua mạng xã hội (đa phần là nữ) rồi sử dụng công nghệ deepfake để ghép mặt họ vào những nội dung khiêu dâm.

Nhiều video đã được chỉnh sửa đã được chia sẻ trên ứng dụng nhắn tin Telegram, với những phòng trò chuyện có tới 220.000 - 400.000 thành viên. Một phòng trò chuyện trực tuyến khác bị phát hiện, với hơn 900 thành viên, đã chia sẻ video deepfake về các nữ quân nhân, được gọi một cách miệt thị là "đạn dược".

Từ những vụ việc đầu tiên, cảnh sát đã tiến hành một chiến dịch truy quét đặc biệt đối với tội phạm deepfake.

Deepfake” là sự kết hợp của hai cụm từ đầy đủ gồm “deep learning” và “fake”. Công nghệ này được phát triển dựa trên nền tảng machine learning sử dụng mã nguồn mở của hãng Google.

Deepfake sẽ thực hiện quét video và ảnh chân dung của một người dùng cụ thể. Sau đó hợp nhất với video riêng biệt nhờ tính năng AI thông minh và thay thế các chi tiết nhận dạng cơ bản có trên gương mặt như mắt, miệng, mũi với tốc độ chuyển động của gương mặt, và âm thanh giọng nói gần như thật.

Càng có nhiều dữ liệu hình ảnh gốc thì tính năng AI thông minh càng có nhiều dữ liệu để có thể tự động học hỏi. Deepfake có thể sử dụng khuôn mặt của người này áp sang người khác trong video với độ chân thực đáng ngạc nhiên.

Dữ liệu từ Cơ quan Cảnh sát Quốc gia Hàn Quốc cho thấy các tội phạm liên quan đến deepfake được báo cáo đã tăng lên 297 tính tới cuối tháng 7, tăng mạnh so với 156 vụ ghi nhận vào năm 2021, 160 vụ vào năm 2022 và 180 vụ vào năm 2023.

Ngày 11/9, cảnh sát Hàn Quốc cho biết họ đang điều tra 513 vụ tội phạm tình dục deepfake, tương đương tăng hơn 70% trong khoảng 40 ngày so với con số 297 vụ hồi cuối tháng 7.

Nếu xu hướng hiện tại tiếp tục, số vụ án deepfake hàng năm được báo cáo với cảnh sát dự kiến ​​sẽ đạt mức cao kỷ lục.

Vấn đề không mới ở Hàn Quốc

Đáng chú ý, những vụ việc như thế này không hề mới mẻ ở Hàn Quốc. Một báo cáo năm 2023 từ công ty an ninh mạng Mỹ Security Hero phát hiện ra rằng 53% nội dung khiêu dâm deepfake trên toàn cầu có hình ảnh của Hàn Quốc, vượt xa các quốc gia khác.

"Những loại tội phạm lạm dụng tình dục này xảy ra ở Hàn Quốc nhiều hơn những nơi khác", Chang Da-hye từ Viện Tội phạm học và Tư pháp Hàn Quốc cho biết.

"Đất nước chúng ta không có lộ trình toàn diện để chống lại các vụ lạm dụng tình dục trực tuyến này. Chính quyền của chúng ta tập trung vào việc ngăn chặn việc phát tán nội dung và xóa bỏ những hình ảnh này, nhưng điều này không ngăn chặn được việc nó xảy ra lần nữa", bà Chang nói.

Từ tháng 1 đến tháng 9 năm nay, 318 nghi phạm đã bị bắt giữ vì cáo buộc tội phạm tình dục deepfake và 251 người trong số họ, hay 78,9% là thanh thiếu niên. Nhiều nạn nhân của tội phạm tình dục deepfake cũng ở độ tuổi thanh thiếu niên, với 62% tổng số nạn nhân là thanh thiếu niên vào năm ngoái.

Theo truyền thống, Hàn Quốc chưa áp dụng hình phạt đối với các nền tảng về tội phạm tình dục trực tuyến. Đạo luật trừng phạt bạo lực tình dục sửa đổi năm 2020 cho phép phạt tù tới 5 năm đối với tội phạm tình dục deepfake hoặc phạt tiền lên tới 50 triệu won (37.400 USD).

Nhưng rất ít người bị trừng phạt, vì số liệu của cảnh sát cho thấy tỷ lệ bắt giữ những trường hợp như vậy chỉ là 48% vào năm ngoái, thấp hơn đáng kể so với các hình thức tấn công tình dục kỹ thuật số khác.

Gần đây, Cơ quan Cảnh sát Quốc gia đã tiến hành điều tra Telegram vì có khả năng hỗ trợ phát tán deepfake, đánh dấu sự thay đổi đáng kể trong cách tiếp cận của cơ quan thực thi pháp luật.

Cơ quan quản lý truyền thông Hàn Quốc cũng cho biết họ có kế hoạch tổ chức một cuộc họp cấp chuyên gia với các quan chức của Telegram trong tương lai gần để thảo luận về phản ứng chung của họ đối với nội dung khiêu dâm deepfake trên nền tảng này. Cơ quan quản lý không nêu chi tiết về cuộc họp đã lên kế hoạch.

Telegram cũng đã mở đường dây nóng với Ủy ban Tiêu chuẩn Truyền thông Hàn Quốc (KCSC) để phản hồi tốt hơn về nội dung bất hợp pháp trên nền tảng của mình. Theo cơ quan giám sát, kể từ đó, Telegram đã xóa 61 nội dung khai thác tình dục khỏi nền tảng của mình, bao gồm cả những nội dung do KCSC yêu cầu.

Tổng thống Hàn Quốc, Yoon Suk Yeol, đã thúc giục cảnh sát xóa bỏ tội phạm deepfake. Ông phát biểu tại một cuộc họp nội các gần đây: "Một số người có thể coi đó chỉ là trò đùa, nhưng rõ ràng đây là hành vi phạm tội khai thác công nghệ ẩn danh".

Không dập tắt được nỗi lo bị lợi dụng hình ảnh cho mục đích xấu

Sau vụ việc gây "chấn động", nhiều người dân Hàn Quốc đã xuống đường biểu tình, yêu cầu chính phủ phải chịu trách nhiệm về sự gia tăng đáng báo động của nội dung khiêu dâm deepfake.

Đầu tháng 9, khoảng 1.200 người biểu tình, đại diện cho hàng trăm tổ chức dân sự, đã diễu hành qua trung tâm thành phố Seoul, hô vang khẩu hiệu: “Hãy ngừng lo lắng và sợ hãi, hãy chiến đấu để giành lại cuộc sống của chúng ta!”

Tập trung tại Bosingak Bell Pavilion, những người phát biểu chỉ trích chính phủ thiếu hành động và hỗ trợ cho các nạn nhân, cho rằng cuộc khủng hoảng này là do văn hóa phân biệt đối xử với phụ nữ lan rộng.

Cô Kim Chan-seo thuộc Trung tâm Tư vấn và Giáo dục tình dục Aha dành cho Thanh thiếu niên, cho biết việc thiếu giáo dục giới tính toàn diện ở Hàn Quốc đã khiến vấn đề trầm trọng hơn vì "khiến đàn ông tìm những phương pháp khác để hiểu và thể hiện tính dục, tạo môi trường thuận lợi cho những nội dung xấu tràn lan".

Một người biểu tình từng là nạn nhân của deepfake cho biết việc đưa kẻ tấn công mình ra trước công lý sau khi cô nhận được một loạt tin nhắn Telegram vào năm 2021 có chứa hình ảnh deepfake cho thấy cô bị tấn công tình dục là một "cú sốc lớn".

Kẻ tấn công cô là một sinh viên cùng trường tại Đại học Quốc gia Seoul danh tiếng, người mà cô hiếm khi giao lưu nhưng lại nghĩ là người hiền lành.

"Thế giới mà tôi nghĩ mình biết đã sụp đổ hoàn toàn. Không ai nên bị đối xử như một vật thể hoặc được sử dụng như một phương tiện để bù đắp cho mặc cảm tự ti của những cá nhân như bị đơn, chỉ vì họ là phụ nữ", người này cho biết.

Một nam sinh viên tham gia biểu tình cho biết anh không ngạc nhiên khi phim khiêu dâm deepfake là một vấn đề lớn trong xã hội Hàn Quốc.

Choi Ji-soo, một người tham gia biểu tình ở độ tuổi 30, bày tỏ sự thất vọng với chính phủ và lưu ý rằng các nạn nhân thường phải tự tìm video bị lạm dụng và báo cảnh sát.

Jihyeon, một giáo viên sau đại học tại Seoul, cho biết gần đây cô đã chuyển tài khoản mạng xã hội của mình sang chế độ riêng tư và nhận thấy sinh viên xóa ảnh khỏi mạng xã hội để tự bảo vệ mình.