Với sự phát triển của trí tuệ nhân tạo (AI) và sự tiến bộ trong lĩnh vực học sâu, công nghệ deepfake đã ra đời. "Deepfake” dùng để chỉ những video, hình ảnh hoặc âm thanh giả mạo được tạo ra bằng cách sử dụng AI.

Sự tăng trưởng của thị trường AI nói chung được thúc đẩy bởi nhu cầu ngày càng tăng về trải nghiệm kỹ thuật số được cá nhân hóa. Các doanh nghiệp đang tận dụng công nghệ deepfake để tạo ra nội dung phù hợp, từ đó tăng khả năng tương tác với khách hàng và mức độ gắn kết của khách hàng với thương hiệu. Ngành giải trí và tiếp thị đang dẫn đầu xu hướng này, sử dụng deepfake để xây dựng cốt truyện và chiến dịch tương tác nhằm thu hút sự chú ý.

Tuy nhiên, sự phát triển của AI cũng đặt ra những thách thức về quản lý dữ liệu. Nhiều công ty AI gặp khó khăn trong việc duy trì và sắp xếp dữ liệu, trong khi các quy định về lưu trữ dữ liệu xuyên biên giới của Liên minh châu Âu (EU), Mỹ và Trung Quốc,... cũng tạo ra những rào cản cho các công ty AI vốn luôn “khát” dữ liệu.

Riêng với deepfake, những tiến bộ không ngừng trong lĩnh vực AI và máy học (ML) đang nâng cao đáng kể khả năng của các công cụ truyền thông tổng hợp, dẫn đến nội dung deepfake chính xác và chân thực hơn. Các thuật toán nâng cao không chỉ cải thiện chất lượng của nội dung được tạo ra mà còn tăng cường khả năng phát hiện, giải quyết các mối lo ngại về thông tin sai lệch và thúc đẩy niềm tin vào các nền tảng truyền thông kỹ thuật số.

Thị trường AI deepfake được phân khúc thành phần mềm và dịch vụ. Phân khúc phần mềm deepfake đang chiếm ưu thế với 76% thị phần trong năm 2023 và giá trị dự kiến vượt 4,9 tỷ USD vào năm 2032. Lĩnh vực phần mềm đang phát triển nhanh chóng, tập trung vào giao diện thân thiện với người dùng và các thuật toán tiên tiến để tạo và phát hiện deepfake. Khi mối lo ngại về thông tin sai lệch gia tăng, nhu cầu về phần mềm phát hiện đáng tin cậy cũng tăng theo, thúc đẩy thị trường phát triển hơn nữa.

Các giải pháp dựa trên đám mây cũng được ưa chuộng nhờ khả năng mở rộng, linh hoạt và tiết kiệm chi phí, chiếm 68% thị phần deepfake trong năm 2023.

Bắc Mỹ dẫn đầu thị trường deepfake vào năm 2023, chiếm 42% tổng doanh thu. Mỹ là quốc gia tiên phong trong công nghệ AI, thúc đẩy đầu tư vào việc tạo và phát hiện deepfake. Sự gia tăng lo ngại về thông tin sai lệch và an ninh dữ liệu đang thúc đẩy nhu cầu về các công cụ phát hiện hiệu quả.

Một số công ty hàng đầu đang chiếm ưu thế trên thị trường deepfake bao gồm Kairos, Reface, Truepic, DeepBrain, Synthesia, Resemble AI, Wombo, Oz Forensics, iDenfy, và BioID.

Ngoài ứng dụng cho những mục đích tốt, trên thực tế, công nghệ deepfake cũng đã làm phát sinh một số vấn đề an ninh xã hội như thao túng video và tin tức giả mạo.