Deepfake (từ được ghép bởi "Deep Learning" và "fake") là một loại thuộc về trí tuệ nhân tạo dùng cho việc tạo ra hình ảnh, âm thanh và video dàn dựng một cách chân thật để thuyết phục người khác nhằm các mục đích như lừa bịp và tạo tin giả. Thuật ngữ này dùng để mô tả cả công nghệ lẫn những nội dung không có thật.
Deepfake được sử dụng công nghệ nhận dạng hình ảnh và chồng các hình ảnh, video này lên một hình ảnh hay một video khác. Vì khả năng thay thế khuôn mặt hơn 95%, Deepfake đã bị lợi dụng để tạo ra các hình ảnh và video mang nội dung khiêu dâm đối với những người nổi tiếng. Ngoài những tác hại kinh khủng đó thì Deepfake cũng có thể được sử dụng để lan truyền tin giả hoặc các trò lừa bịp trong giới người nổi tiếng và chính trị gia.
Để tìm hiểu và tiếp cận Deepfake một cách lành mạnh và có lợi cho chính mình, thì mời bạn đọc qua bài viết dưới đây để có cái nhìn tổng quan hơn về công nghệ này.
Deepfake thực chất là gì?
Deepfake (từ được ghép bởi "Deep Learning" và "fake") là một loại thuộc về trí tuệ nhân dùng cho việc tạo ra hình ảnh, âm thanh và video dàn dựng một cách chân thật để thuyết phục người khác nhằm các mục đích như lừa bịp, tạo tin giả hay trêu chọc. Thuật ngữ này dùng để mô tả cả công nghệ lẫn những nội dung không có thật. Hai thành phần chính của Deepfake là Deep Learning và fake.
Trong đó, fake là những thứ được làm giả nhưng lại cực kỳ giống với phiên bản thật đến nỗi không thể phân biệt. Còn Deep Learning (Học sâu) là một nhánh của ngành máy học (Machine Learning) dựa trên một tập hợp các thuật toán để cố gắng đưa các dữ liệu đó thành một mô hình có thể nhìn thấy rõ ràng qua hình ảnh hay video. Nghĩa là nó sẽ cần rất nhiều hình ảnh khác nhau để có thể phân tích và đưa ra một hình ảnh được xử lý như ý người thực hiện mong muốn.
Một trường hợp sử dụng deepfake đó là vào năm 2013, nam diễn viên Paul Walker bất ngờ qua đời trước khi bộ phim Fast and Furious được hành thành. Đoàn phim đã phải lục tìm các công nghệ tốt nhất vào thời điểm đó, để biến người em trai tên Cody thành Paul Walker. Sau khi được xử lý hậu kỳ và sản xuất thành phim, khán giả đã không khỏi ngỡ ngàng khi Paul Walker trong sống động như thật, họ không hề nhận ra đó là em trai của anh ấy.
Đó là bởi một công nghệ CGI được xem là một dẫn chứng đầu tiên cho Deepfake. Đây một công nghệ đồ họa dành cho việc sản xuất các bộ phim, hoàn toàn lạnh mạnh và chính thống.
Tổng quát về Deepfake
Sẽ thật kinh khủng nếu công nghệ này được sử dụng một cách lén lút và không chính quy. Tiếc rằng điều đó đã thành sự thật khi mà Deepfake được sử dụng cho các video có nội dung khiêu dâm, truyển bá thông tin sai lệch. Deepfake được tạo ra dường như đã khiến sự cân bằng của Internet bị lung lay, nó giống như một Deepweb thứ hai chỉ khác nhau về bản chất công nghệ. Một bóng ma mới trong thế giới Internet.
Những trò lừa bịp bằng Deepfake thường mang tính chất khiêu dâm khi con số được dự đoán lên đến 95%. Và nạn nhân của trò lựa bịp này thường là phụ nữ. Một số hình ảnh, video Deepfake còn được sử dụng để tác động đến kết quả bầu cử như việc giả mạo các chính trị gia.
Các vụ giả mạo bằng Deepfake có thể gây ra nhiều thách thức đối với an ninh quốc gia trong những năm tới. Khi công nghệ này tiếp tục phát triển, chúng có thể có những tác động đáng kể đến đến đời sống xã hội. Các xử lý hình ảnh, video của Deepfake thật đến nỗi nếu có đủ thời gian và dữ liệu thì nó có thể tạo ra hình ảnh, video giống thật đến mức không thể nào nhận ra được.
Làm cách nào mà Deepfake được tạo ra?
Mặc dù có nhiều định nghĩa khác nhau nhưng về cơ bản Deepfake được tạo ra bằng cách sử dụng máy học (Machine Learning) một nhánh của AI. Trong quá trình tạo ra Deepfake, phần mềm sẽ tạo ra 2 hệ thống Machine Learning được gọi là mạng nơ-ron, 2 mạng này sẽ được huấn luyện để chạy song song với nhau.
Mạng đầu tiên, còn được gọi là trình tạo có nhiệm vụ tạo dữ liệu giả mạo chẳng hạn như ảnh, bản ghi âm hoặc cảnh quay video bằng cách sao chép các thuộc tính của tập dữ liệu gốc (dữ liệu muốn làm giả).
Mạng thứ hai, còn gọi là trình phân biệt, có nhiệm vụ xác định dữ liệu nào là giả mạo. Sau quá trình chạy nhiều lần, trình tạo sẽ dựa vào các kết quả của mỗi lần lặp để điều chỉnh để tạo ra dữ liệu ngày càng giống thật, nghĩa là càng chạy nhiều video giả mạo sẽ càng thật hơn. Các mạng sẽ liên tục chạy song song với nhau - thường trong hàng nghìn hoặc hàng triệu lần lặp - cho đến khi trình tạo cải thiện sản phẩm của nó để trình phân biệt không còn phân biệt được dữ liệu thật và giả.
Mặc dù việc sử dụng Photoshop hay các công cụ xử lý hình ảnh, video không không có gì mới, nhưng việc sử dụng AI để tạo ra Deepfake đang gây ra những lo lắng trong xã hội vì kết quả xử lý bằng Deepfake càng ngày càng giống thật. Không chỉ vậy nó còn được tạo ra một cách nhanh chóng với giá thành rẻ bằng phần mềm miễn phí có sẵn, không chỉ vậy với sự tiên tiến của điện toán đám mây như hiện nay việc cho thuê một bộ xử lý mạnh mẽ để chạy Deepfake là cực kỳ dễ dàng. Do đó, ngay cả những người bình thường cũng có thể tải xuống các công cụ phần mềm cần thiết, các dữ liệu công khai để tạo ra nội dung giả mạo cực kỳ chân thật.
Deepfake được sử dụng như thế nào?
Công nghệ Deepfake đã được phổ biến cho các mục đích như là giải trí, như việc nhiều người dùng mạng xã hội chèn vào ảnh của họ nam diễn viên Lee Min Ho hay những người nổi tiếng khác mà học thích. Các công nghệ Deepfake cũng đã được sử dụng cho các mục đích tốt. Như là, các nhà nghiên cứu y tế đã báo cáo việc sử dụng quá trình chạy Deepfake để tổng hợp các hình ảnh y khoa giả nhằm đào tạo các thuật toán phát hiện bệnh đối với các bệnh hiếm gặp.
Deepfake như đã nói ở trên nó có thể được sử dụng cho các mục đích bất chính. Những kẻ chống phá nhà nước hoặc các cá nhân có động cơ chính trị xấu có thể tung ra các video giả mạo ảnh hưởng đến các quan chức được bầu cử hoặc những người công chúng. Không chỉ vậy, làm như thế có thể khiến lòng tin của mọi người bị mất đi.
Tình báo Hoa Kỳ kết luận rằng Nga đã tham gia vào các hoạt động gây ảnh hưởng rộng rãi trong cuộc bầu cử tổng thống năm 2016 với mục đích làm suy yếu niềm tin của dân chúng vào tiến trình bầu cử dân chủ của Hoa Kỳ. Trong tương lai, việc giả mạo âm thanh, hình ảnh hoặc video có khả năng sẽ mạnh mẽ hơn trước với việc các máy tính đang ngày càng trở nên mạnh mẽ, thế nên Việt Nam cũng cần chuẩn bị với các công nghệ không thể kiếm soát và nỗ lực trong việc ngăn chặn những sản phẩm xấu đến từ Deepfake.
Deepfake cũng có thể được sử dụng để khiến người khác mất đi danh dự hoặc tống tiền. Đã có bằng chứng cho thấy các những kẻ phá rối sử dụng các bức ảnh được xử lý Deepfake để tạo các tài khoản mạng xã hội giả, từ đó thu thập thông tin, lừa đảo hoặc gây tổn hại đến người khác. Một số nhà phân tích đã gợi ý rằng những nội dung Deepfake có thể được sử dụng để tạo ra nội dung sai lêch nhằm nói sai sự thật về lịch sử, chính trị, kinh tế và văn hóa.
Làm sao để biết đâu mới là sản phẩm Deepfake?
Ngày nay, Deepfake thường có thể bị phát hiện mà không cần các công cụ chuyên dụng. Tuy nhiên, sự tinh vi của công nghệ này đang phát triển chóng mặt đến nỗi việc phát hiện của con người dường như là không thể và rất khó.
Cơ quan Defense Advanced Research Projects Agency (DARPA) hiện có hai chương trình dành cho việc phát hiện các sản phẩm Deepfake là MediFor và SemaFor. MediFor là chương trình tập thuật toán để tự động đánh giá tính toàn vẹn của ảnh và video cũng như cung cấp cho các nhà phân tích thông tin về cách tạo ra nội dung giả mạo nó giống như trình phần biệt nhưng thông minh hơn, điều này là dĩ nhiên.
Chương trình sẽ báo cáo về sự không nhất quán trong âm thanh và hình ảnh của sản phẩm Deepfake, Bao gồm sự không nhất quán của các pixel (tính toàn vẹn kỹ thuật số), sự không nhất quán của các quy luật vật lý (tính toàn vẹn vật lý) và sự không nhất quán của các nguồn thông tin khác (tính toàn vẹn ngữ nghĩa).
Tương tự như vậy, SemaFor tìm cách phát triển các thuật toán để xác định Deepfake này là tốt hay độc hại. Chương trình này sẽ liệt kê ra các sai phạm hay sai lệch về mặt ngữ nghĩa, các đặc điểm khuôn mặt hay những bất thường về thông tin cá nhân (tên, tuổi, nơi ở...)
Tạm kết
Nếu bỏ qua các nội dung độc hại từ Deepfake thì mình vẫn thấy rằng Deepfake là một công nghệ khá thú vị như việc tạo ra một vài video giải trí hay trêu đùa bạn bè. Tuy hiện tại việc chúng ta dùng mắt thường để phát hiện các sản phẩm sơ sài làm từ Deepfake là rất dễ, nhưng sẽ rất khó để phát hiện nếu chúng được xử lý một cách chỉnh chu và chuyên nghiệp. Mình nghĩ Việt Nam cũng cần chuẩn bị, nỗ lực phát triển và áp dụng công nghệ AI và Machine Learning vào các hoạt động quản lý, nhất là để đối phó với những thành phần lợi dụng công nghệ để gây rối trật tự xã hội hiện nay.
Smember
0 Hỏi đáp