[TR] Yapay Zekâ Tarafından Oluşturulan Sahte Kişiler Nasıl Tanınır?

Yapay Zekâ Tarafından Oluşturulan Sahte Kişiler Nasıl Tanınır?¹

Bu blog yazısı 2022 Ocak Ayında yazılmıştır. 2023 sonuna doğru aşağıda bahsedilen bir çok konuda çok ciddi gelişmeler oldu. Lütfen bunu göz önünde bulundurarak okuyunuz ama yine de güzel bir temel oluşturmanızı sağlayabilir. Ilerleyen zamanlarda bu blogun sadece güncel olan konularını içerecek ikinci kısmını yazmayı planlıyorum.

2000’li yıllarda üzerinde çalışılmaya başlanılan ve hayatımıza ilk kez Matrix, Terminator ve Tron filmleri ile girmiş olan Sentetik Yüz Oluşturma teknolojisi 2014’te Ian Goodfellow’un GAN (generative adversarial network) teknolojisi ile çok farklı boyutlara ulaşmıştır. Ancak 2018’e kadar gündelik hayatımıza girmemiştir.

GAN nedir diye sorarsanız çok basit bir şekilde, İki adet öğrenebilen yapay zekâ olduğunu düşünün. Bunlardan bir tanesi bir referanstan (komut/resim) yola çıkarak yapay bir resim oluşturuyor. Diğer yapay zekâ da bu resmin gerçek olup olmadığını tahmin etmeye çalışıyor. Bu şekilde resmi oluşturan yapay zekâ tahmin edilememek için gelişiyor ve diğer yapay zekâda resimleri daha doğru tahmin edebilmek için gelişiyor. İlk basit örneklere bakacak olursak,

2014 DCGAN Algoritması ile oluşturulmuş Sahte İnsan Yüzleri

Görüldüğü 2014’te yapılan çalışmalar zamanına göre çok ilgi çekici olsa da, kolayca sahte olduklarını anlayabilirsiniz. Ancak 2018’de NVIDIA’nın duyurmuş olduğu ve hâlâ geliştirmekte olan StyleGAN adı verilen GAN, yukarıdaki resimleri çok farklı bir boyuta getirmiştir.

2018 NVIDIA StyleGAN version 1 (2022 itibari ile StyleGAN3 çıkmıştır)

Görüldüğü gibi gerçek mi sahte mi olduğunu anlamak çok zor bir hâlâ gelmiştir. Bunu fark edenler, yapay insan yüzleri ile Sosyal Medya hesapları açmaya başlamış ve dolandırıcılık gibi kötü amaçlı işler için kullanmaktadırlar. Neyse ki şu an itibariyle bu teknoloji mükemmelleştirilmiş değildir.

StyleGAN şu an en gelişmiş yapay yüz oluşturma metholdarında birisi olarak kabul edilse de. Oluşturulan resimlerin sahte olduğu anlamamın birkaç yolu vardır.

Arka Plan

Yüz eğitmek için oluşturulan GAN’lar resimlerin arka planlarını oluşturmakta pekiyi değildir. Araka planda okunması zor yazılar, surreal görüntüler ve fiziksel olarak imkânsız manzaralar görebilirsiniz. Bunun nedeni GAN’ı oluştururken kullanılan resimlerin genelde sadece insan kafasının ortalanmış ve kesilmiş(crop) resimler ile oluşturulmasındandır. Bu sebep ile arka plandan bir bilgi öğrenmesi oldukça zordur

Aşağıdaki örnekler thispersondoesnotexist sitesinde oluşturulmuştur.

Arka planlarda gariplikler

Garip Dişler

Dişlerin işlenmesi pek kolay değildir. Genellikle dişler tuhaf renkli, anormal şekilli veya asimetriktir. Bazı durumlarda, aşağıdaki gibi üç azı dişi bile görebilirsiniz.

Resimlerin üzerinde tıklayarak dişlerdeki problemleri görebilirsiniz

Saçların Görünüşü — Yeni uyanmış gibi saçlar

Saçın gerçekçi bir şekilde işlenmesi büyük bir problem gibi gözüküyor. Bazen yüzlerde veya başka bir yerde bağlantısız saç telleri görebilrisiniz. Diğer zamanlarda ssaçın etrafında garip bir parıltı veya fon olabilir. Çok nadiren de sanki Paint ile photoshop’lanmış saç uçları da bulabilirsiniz.

Kırmızı ile işaretlenmiştir.

Renk Kanaması

Bazı resimlerde ufak renk bozuklukları olduğunu görebilirsiniz.

Tüm resimlerde, kıyafetlerin yakasına dikkatli bakmalısınız.

Kayıp Küpeler — Asimetri

GAN’ı oluştururken kullanılan resimlerin bazılarında küpe olması ve bazılarında olmaması, oluşturulan yapay yüzlerde sorunlar yatabiliyor. Ancak bu sorunlar son GAN versiyonlarında büyük oranda çözülmüştür.

Sol resimde küpe kulak ile birleşmiş ve Sağ resimde bir küpe eksik.

Water Splotches²

Bu şekilde olan resimleri birisi profil fotoğrafı olarak kullanmaz ancak görmeniz durumunda yapay yüz yaratma algoritması ile yapıldığını anlayabilirsiniz.

Genellikle Küpelerin olduğu yerde görülse de yukarıdaki örnekleri gibi farklı yerlerde de karşınıza çıkabilir.

Gözlükler — Asimetri

Şu anda, algoritmalar gerçekçi görünümlü gözlükler oluşturmayı pek beceremiyor. Genel bir simetri sorunu yaşıyorlar. Oluşturulan çerçevelerde genellikle sağ tarafında ve sol tarafında fiziksel farklılıklar oluyor.

Gözlüklerin çerçevelerinde deformasyonlar vardır ve tam simetrik değildir. Ayrıca ilk resimde gözlük camları eksiktir.

Simetri Problemleri — Asimetri

Genel olarak simetri, yüz oluşturma algoritmaları için şu an büyük bir problem oluşturuyor gibi gözüküyor. Gözlüklerine ek olarak sakalların asimetrik olması, sağ ve sol küpelerdeki deformasyon ve giyilen kıyafetteki tutarsızlıklar yapay yüzleri bulmamızda kolaylık sağlıyor.

Sol resimde göz ve kaşlarda simetrik değildir. Sağ resimde ise kulakların birinde deformasyon vardır.

ve En Önemlisi

GAN, şu an aynı yapay resmin bir başka versiyonunu oluşturamıyor, yani kişinin farklı bir açıdan görüntüsünü yaratamıyorlar. Eğer sosyal medyadan birisi ile tanıştıysanız sadece bir resmi var ise ve yapay olduğunda şüpheleniyorsanız başka bir resmin isteyin. Veremezler ise durum sıkıntılı demektir.

Tabii belirtmekte fayda Wombo.ai gibi bir resim üzerinden insanların yüzünü video olarak oynatan ya da Deepfake gibi teknolojiler sayesinde tek bir resim üzerinden gerçekci videolarda yaratılabilir. Su an için tek teselliniz Deepfake yaratmanın, StyleGAN ile resim yaratmaya göre daha zor olmasıdır.

Öğrendiklerinizi denemek isterseniz, gerçek mi sahte mi adlı oyunlarına bakabilirsiniz.

• Which Face Is Real?
• Detect Fakes - Attention check: Fabricated or Authentic

Ek olarak, bu resimlerin gerçek hayatta istihbarat örgütleri tarafından nasıl kullanıldığını görmek istiyorsanız bu habere bakmanızda fayda var. Incelemek isterseniz buradan bakabilirsiniz.

Daha farklı teknikler ve StyleGAN ile başka ne tür şeyler yapay olarak yapılabilir bakmak isterseniz, güzel bir liste hazırladım,

• Yapay Kedi Resimleri — thiscatdoesnotexist.com
• Yapay Oda Resimleri — Cozy apartment in coole — Guest suites for Rent
• Yapay Stackoverflow soruları — Stack Roboflow: This Question Does Not Exist
• Yapay Araba Resimleri — This Automobile / Car / Vehicle Does Not Exist
• Yapay Şehir/Uydu Görüntüleri — This City Does Not Exist
• Yapay Sahiller — This beach does not exist
• Gerçek insanların yüzlerinden sahte insan resmi üretimi - Generate look-a-like photos to protect your identity
• Kriterlere göre insan resmi seçmenizi sağlayan bir site — Gallery of AI Generated Faces
• ve daha farklı konular için — This X Does Not Exist

2022 Ocak’tan beri çok fazla farklı uygulamalar çıktı, internette araştırmanızda fayda var.

Teknik olarak daha detaylı bir yazı için bu seriyi okuyabilirsiniz,

• Detect AI-generated Images & Deepfakes (Part 1)
• Detect AI-generated Images & Deepfakes (Part 2)
• Detect AI-generated Images & Deepfakes (Part 3)

Ilginizi çekebilecek diğer siteler,

• How to Spot Synthetic Faces Online — the Clue Is in the Eyes
• Glut of Fake LinkedIn Profiles Pits HR Against the Bots

Kaynak

1. İl olarak burada paylaşıldı Levent’s Medium. ↩

2. Yeni GAN uygulamalarında artık pek fazla karşılaşılmıyor. ↩