Deepfake có bất hợp pháp không? Mặt tối của AI được giải thích

"Deepfake có bất hợp pháp không? Mặt tối của AI được giải thích

Cập nhật lần cuối: ngày 17 tháng 4 năm 2024

Các mặt tối của AI được giải thích vì nó gây ra mối đe dọa ngày càng tăng Đây là hình ảnh minh họa khái niệm công nghệ deepfake, hiển thị so sánh chia đôi màn hình giữa khuôn mặt gốc và phiên bản đã được thay đổi để xuất hiện như một người khác.

Các mặt tối của AI được giải thích vì nó gây ra mối đe dọa ngày càng tăng

Chúng ta đang sống trong một thế giới mà mọi thứ dường như đều có thể thực hiện được với trí tuệ nhân tạo. Mặc dù AI có những lợi ích đáng kể trong một số ngành nhất định, chẳng hạn như chăm sóc sức khỏe, nhưng mặt tối cũng đã xuất hiện. Nó làm tăng nguy cơ các tác nhân xấu thực hiện các kiểu tấn công mạng mới, cũng như thao túng âm thanh và video để lừa đảo và bắt cóc ảo. Trong số các hành vi độc hại này có deepfake, ngày càng trở nên phổ biến với công nghệ mới này.

Deepfake là gì?

Deepfakes sử dụng công nghệ AI và máy học (AI/ML) để tạo ra các video, hình ảnh, âm thanh và văn bản thuyết phục và chân thực về các sự kiện giới thiệu chưa từng xảy ra. Đôi khi, mọi người đã sử dụng nó một cách vô tội, chẳng hạn như khi chiến dịch Malaria Must Die tạo ra một video có cầu thủ bóng đá huyền thoại David Beckham xuất hiện nói bằng 9 ngôn ngữ khác nhau để đưa ra kiến ​​nghị chấm dứt bệnh sốt rét.

Tuy nhiên, do thiên hướng tự nhiên của mọi người là tin vào những gì họ nhìn thấy, nên deepfake không cần phải đặc biệt phức tạp hoặc thuyết phục để truyền bá thông tin sai lệch hoặc thông tin sai lệch một cách hiệu quả.

Theo Bộ An ninh Nội địa Hoa Kỳ, các mối lo ngại xung quanh 'phương tiện truyền thông tổng hợp' dao động từ ""mối đe dọa khẩn cấp"" đến ""đừng hoảng sợ, chỉ cần chuẩn bị sẵn sàng"".

Thuật ngữ deepfakes bắt nguồn từ cách công nghệ đằng sau hình thức phương tiện bị thao túng hay còn gọi là giả mạo này dựa vào các phương pháp học sâu. Học sâu là một nhánh của học máy, do đó nó là một phần của trí tuệ nhân tạo. Các mô hình học máy sử dụng dữ liệu đào tạo để tìm hiểu cách thực hiện các nhiệm vụ cụ thể, cải thiện khi dữ liệu đào tạo trở nên toàn diện và mạnh mẽ hơn. Tuy nhiên, các mô hình học sâu còn tiến thêm một bước nữa bằng cách tự động xác định các tính năng của dữ liệu giúp hỗ trợ việc phân loại hoặc phân tích dữ liệu, đào tạo ở cấp độ sâu hơn hoặc sâu hơn.

Dữ liệu có thể bao gồm hình ảnh và video về bất kỳ thứ gì cũng như âm thanh và văn bản. Văn bản do AI tạo ra đại diện cho một dạng deepfake khác đang đặt ra vấn đề ngày càng gia tăng. Trong khi các nhà nghiên cứu đã xác định chính xác một số lỗ hổng trong deepfake liên quan đến hình ảnh, video và âm thanh giúp phát hiện chúng, việc xác định văn bản deepfake tỏ ra khó khăn hơn.

Deepfake hoạt động như thế nào?

Một số hình thức deepfake sớm nhất được nhìn thấy vào năm 2017 khi khuôn mặt của ngôi sao Hollywood Gal Gadot được ghép vào một video khiêu dâm. Bo mạch chủ đã báo cáo vào thời điểm đó rằng nó được cho là tác phẩm của một người - một Redditor có biệt danh là ‘deepfakes'.

Người dùng Reddit ẩn danh nói với tạp chí trực tuyến rằng phần mềm này dựa trên nhiều thư viện nguồn mở, chẳng hạn như Keras với phần phụ trợ TensorFlow. Để tổng hợp khuôn mặt của những người nổi tiếng, nguồn tin đã đề cập đến việc sử dụng tìm kiếm hình ảnh của Google, ảnh stock và video trên YouTube. Học sâu liên quan đến mạng lưới các nút được kết nối với nhau tự động thực hiện tính toán trên dữ liệu đầu vào. Sau khi 'đào tạo' đầy đủ, các nút này sẽ tự tổ chức để hoàn thành các nhiệm vụ cụ thể, như thao tác video một cách thuyết phục trong thời gian thực.

Ngày nay, AI đang được sử dụng để thay thế khuôn mặt của người này bằng khuôn mặt của người khác trên một cơ thể khác. Để đạt được điều này, quy trình có thể sử dụng công nghệ Bộ mã hóa hoặc Mạng thần kinh sâu (DNN). Về cơ bản, để tìm hiểu cách hoán đổi khuôn mặt, hệ thống sử dụng bộ mã hóa tự động xử lý và ánh xạ hình ảnh của hai người khác nhau (Người A và Người B) thành một biểu diễn dữ liệu nén, được chia sẻ bằng cách sử dụng cùng một cài đặt.

Sau khi huấn luyện ba mạng, để thay thế khuôn mặt của Người A bằng khuôn mặt của Người B, mỗi khung hình video hoặc hình ảnh của Người A được xử lý bởi mạng mã hóa dùng chung và sau đó được xây dựng lại bằng mạng giải mã của Người B.

Giờ đây, các ứng dụng như FaceShifter, FaceSwap, DeepFace Lab, Reface và TikTok giúp người dùng dễ dàng hoán đổi khuôn mặt. Đặc biệt, Snapchat và TikTok đã giúp người dùng dễ dàng hơn và ít đòi hỏi hơn về sức mạnh tính toán cũng như kiến ​​thức kỹ thuật để tạo ra nhiều thao tác thời gian thực khác nhau.

Một nghiên cứu gần đây của Photoutorial cho biết có 136 tỷ hình ảnh trên Google Images và đến năm 2030, sẽ có 382 tỷ hình ảnh trên công cụ tìm kiếm. Điều này có nghĩa là bọn tội phạm có nhiều cơ hội hơn bao giờ hết để đánh cắp chân dung của ai đó.

Deepfake có bất hợp pháp không?

Như đã nói, thật không may, đã có rất nhiều hình ảnh khiêu dâm của những người nổi tiếng. Từ Scarlett Johannson đến Taylor Swift, ngày càng có nhiều người trở thành mục tiêu. Vào tháng 1 năm 2024, những bức ảnh deepfake của Swift được cho là đã được xem hàng triệu lần trên X trước khi chúng bị gỡ xuống.

Woodrow Hartzog, giáo sư tại Trường Luật Đại học Boston chuyên về luật công nghệ và quyền riêng tư, cho biết: Đây chỉ là trường hợp điển hình nhất về một thứ đã trở thành nạn nhân của nhiều người, chủ yếu là phụ nữ, trong một thời gian khá lâu.

Phát biểu với Billboard, Hartzog cho biết đây là một loại cocktail độc hại, đồng thời nói thêm: Đó là một vấn đề hiện có, kết hợp với các công cụ AI mang tính sáng tạo mới này và sự sa sút rộng rãi hơn trong các cam kết của ngành về niềm tin và sự an toàn.

Tại Vương quốc Anh, bắt đầu từ ngày 31 tháng 1 năm 2024, Đạo luật An toàn Trực tuyến đã quy định việc chia sẻ những hình ảnh thân mật do AI tạo ra mà không có sự đồng ý là bất hợp pháp. Đạo luật cũng đưa ra các quy định bổ sung chống lại việc chia sẻ và đe dọa chia sẻ hình ảnh thân mật mà không có sự đồng ý.

Tuy nhiên, ở Hoa Kỳ, hiện không có luật liên bang nào cấm chia sẻ hoặc tạo hình ảnh deepfake, nhưng ngày càng có nhiều nỗ lực đòi thay đổi luật liên bang. Đầu năm nay, khi Đạo luật An toàn Trực tuyến của Vương quốc Anh đang được sửa đổi, các đại diện đã đề xuất Đạo luật Không có bản sao giả mạo trí tuệ nhân tạo và bản sao trái phép (Không gian lận AI).

Dự luật đưa ra một khuôn khổ liên bang để bảo vệ các cá nhân khỏi hàng giả và hàng giả do AI tạo ra, hình sự hóa việc tạo ra ‘mô tả kỹ thuật số' về bất kỳ ai, dù còn sống hay đã chết, mà không có sự đồng ý. Lệnh cấm này mở rộng đến việc sử dụng trái phép cả hình ảnh và giọng nói của họ.

Mối đe dọa từ deepfake nghiêm trọng đến mức Kent Walker, chủ tịch phụ trách các vấn đề toàn cầu của Google, cho biết vào đầu năm nay: Chúng tôi đã học được rất nhiều điều trong thập kỷ qua và chúng tôi rất coi trọng rủi ro về thông tin sai lệch hoặc thông tin sai lệch.

Đối với các cuộc bầu cử mà chúng tôi đã thấy trên khắp thế giới, chúng tôi đã thành lập các phòng thông tin 24/7 để xác định những thông tin sai lệch tiềm ẩn.

Ở Anh, hành vi tạo ra những hình ảnh deepfake khiêu dâm sẽ bị hình sự hóa, chính phủ tuyên bố vào tháng Tư.

Hình ảnh nổi bật: DALL-E / Canva"

TÁC GIẢ

Về ABN Asia: AiUTOMATING PEOPLE, ABN Asia được thành lập từ năm 2012, là một công ty xuất phát từ học thuật, do những giảng viên, cựu du học sinh Hungary, Hà Lan, Nga, Đức, và Nhật Bản sáng lập. Chúng tôi chia sẻ đam mê chung và tầm nhìn vững chắc về công nghệ, mang đến sự đổi mới và chất lượng đỉnh cao cho khách hàng. Phương châm của chúng tôi là: Tốt hơn. Nhanh hơn. An toàn hơn. Trong nhiều trường hợp: Rẻ hơn.

Hãy liên hệ với chúng tôi khi Quý doanh nghiệp có các nhu cầu về dịch vụ công nghệ thông tin, tư vấn chuyển đổi số, tìm kiếm các giải pháp phần mềm phù hợp, hoặc nếu Quý doanh nghiệp có đấu thầu CNTT (RFP) để chúng tôi tham dự. Quý doanh nghiệp có thể liên hệ với chúng tôi qua địa chỉ email [email protected]. Chúng tôi sẵn lòng hỗ trợ với mọi nhu cầu công nghệ của Quý doanh nghiệp.

© ABN ASIA