Dünya’nın ilk “sertifikalı” deepfake videosu: Her şey sahte, söylenenler gerçek

Geçtiğimiz on yıllar boyunca çocuklara internette gördükleri her şeye inanmamaları söylendi. ama artık bu öğüdü yetişkinleri de kapsayacak şekilde genişletmemiz gerekiyor.

Yapay zeka (AI) teknolojisinin görüntüleri ve sesi gerçek hayatı taklit edecek şekilde manipüle etmek için kullanıldığı ve “deepfake” olarak isimlendirilen olaylar giderek daha fazla karşımıza çıkıyor. Ve şimdi, Dünya’nın ilk “sertifikalı” deepfake videosu, bir şeffaflık örneği oluşturmaya yardımcı olmak için AI stüdyosu Revel.ai tarafından yayınlandı.

Bu görüntüde, profesyonel bir AI danışmanı olan Nina Schick‘in “gerçek ile kurgu arasındaki çizgilerin nasıl bulanıklaştığı” konusunda bir ikazda bulunduğu görülüyor. Lakin, yazının başlangıcından da tahmin edebileceğiniz, görüntüde görülen aslında gerçek Schick değil ve video, dijital özgünlük şirketi Truepic tarafından kriptografik olarak imzalanarak yapay zeka tarafından üretilen içerik içerdiğini beyan ediyor.

Deepfake teknolojisi ile üretilen “sahte Schick” yavaş ve net bir şekilde, “Bazıları gerçeğin bizim gerçekliğimizin bir yansıması olduğunu söylüyor” diyor. Açıklamalar şöyle devam ediyor: “Onu kendi duyularımızla tanımlamaya alışkınız. Peki ya gerçekliğimiz değişiyorsa? Ya burada ve burada gördüklerimizin gerçekliğini belirlemek için artık duyularımıza güvenemezsek? Yapay zekanın şafağındayız ve gerçek ile kurgu arasındaki çizgiler şimdiden bulanıklaşıyor. Gölgelerin gerçekle karıştırıldığı bir dünya ve bazen olayları gerçekte oldukları gibi görmek için bakış açımızı kökten değiştirmemiz gerekiyor. Bu deepfake, Revel.ai tarafından Nina Schick’in müsaadesiyle oluşturuldu ve Truepic tarafından kriptografik olarak imzalandı.”

• Deepfake nedir? Deepfake teknolojisi nasıl çalışıyor?

Porno görüntülerle ortaya çıktı

Deepfake’ler, ses, görüntü ya da görüntüyü manipüle etmek için “derin öğrenmeyi” kullanan, hiper gerçekçi fakat geçersiz medya içeriği oluşturan yapay zeka biçimleridir. Terim, 2017 yılında bir Reddit kullanıcısının foruma manipüle edilmiş porno görüntüler göndermesiyle ortaya çıktı.

Videolar, Gal Gadot, Taylor Swift ve Scarlett Johansson aynıi ünlülerin yüzlerini müsaadeleri olmadan porno yıldızlarıyla değiştirmişti. Deepfake’in tehlikeli bir diğer örneği, geçtiğimiz yıl Rusya sosyal medyasında geniş çapta dolaşan bir görüntüde Ukrayna cumhurbaşkanı Volodymyr Zelensky’nin Rusya’ya teslim olmuş görünmesiyle ortaya çıktı. Cumhurbaşkanı, bu geçersiz görüntüde Ukrayna askerlerini silahlarını bırakmaya ve Putin’in işgalci güçlerine boyun eğmeye çağırıyordu.

Dikkatli internet kullanıcıları Zelensky’nin boynunun ve yüzünün rengi, garip aksanı ve başının etrafındaki pikselleşme benzeri tutarsızlıkları süratli bir şekilde bulsa da, bu video ilk bakışta gereğince gerçekçi gözüküyordu.

Deepfake görüntüleri cümbüş maksatlı bir pahaya sahip olabilse de, birtakım uzmanlar oluşturabilecekleri tehlikeler konusunda yıllardır ihtarlarda bulunuyor.

Pek çok uzman, bu deepfake görüntülerin prestij zedelemenin de ötesine geçerek ulusal düzeye kadar çıkabilecek önemli güvenlik tehlikeleri oluşturabileceğine ve “düşman faktörler” tarafından kendi gayeleri için kullanılabileceğine işaret ediyor.

DALL-E ve Meta’nın “Make-A-Video”i bedelsiz olarak kullanılabilen metinden manzaraya ve metinden görüntüye yapay zeka araçlarının yükselişiyle, manipüle edilmiş medya daha yaygın hale gelecek gibi gözüküyor. Hatta, 2025 yılına kadar çevrimiçi içeriğin yüzde 90’ının yapay zeka kullanılarak üretileceği ya da oluşturulacağı tahmin ediliyor. Velhasıl artık, internette gördüğümüz her şeye çok daha fazla kuşkuyla yaklaşmamız gerekebilir.