Artık Gördüğümüze de İnanamayacağız: Google’ın Yeni Yapay Zekâ Aracı, Fotoğraflara Enkaz, Uyuşturucu ve Hatta Ceset Ekleyebiliyor!
Google, geçtiğimiz haftalarda yeni telefonları Pixel 9 serisini duyurmuştu. Natürel ki de bu aygıtlar, şirktin en önde olduğu bahislerden biri olan yapay zekâ özellikleriyle gelmişti. Fotoğraflardaki objeleri istediğiniz şeye dönüştürebilen “Reimagine” özelliği de bunlardan biriydi. Bu araç, Magic Editor fotoğraf özelliklerinin düzgünleştirilmiş bir modülü olarak geliyordu.
Şimdi ise Reimagine’in nasıl çalıştığına dair örnekler bizlerle buluştu. Özelliği deneyen The Verge’deki meslektaşlarımız, Reimagine’ın korkutucu yanını gözler önüne serdi.
Reimagine, yapay zekâyla görsellere enkazlardan cesetlere kadar birçok şey eklemeyi sağlıyor
*The Verge
Öncelikle özelliği biraz açalım. Bir fotoğraftaki insan olmayan rastgele bir objeyi seçiyorsunuz akabinde metin komutu yazarak onun yerine ne isterseniz koyabiliyorsunuz. Yani bir fotoğrafı apayrı bir hâle getirmek mümkün oluyor.
Denemelerde bu özelliğin çok başarılı bir formda çalıştığı görüldü. Reimagine aracı, çok ikna edici gerçek üzere görünen yapay zekâyla oluşturulmuş ögeleri görsellere yerleştirebildi. Işığı, gölgesi ve bakış açısı üzere kısımların bile başarılı olması dikkat çekti.
*The Verge
Ancak testler, aracın büyük bir sorunu de beraberinde getirdiğini gösterdi. Testlerde olumsuz ve rahatsız edici ögelerin de rahatça görsellere eklenebildiği görüldü. Fotoğraflara, enkaz, doğal afet, uyuşturucu, sis bombası ve hatta ceset üzere şeyler kolayca koyulabildi.
*The Verge
Tabii ki Google’ın bunlardan kaçınmak için bir müdafaa sistemi var. “Bu fotoğrafa ceset ekle” dediğinizde direkt eklemiyor. Lakin testler, komutlarda biraz yaratıcı olunursa bu stil ögelerin basitçe eklenebildiğini ortaya koyuyor. Yani müdafaa sistemi pek kâfi değil. Bu da çok büyük bir sorun. Makûs hedefli bireyler, Reimagine’ı sahte görseller oluşturmak, dezenformasyon yaymak için kullanabilir. Gerçeğinden ayırt edilememesi de insanların kolaylıkla kandırılmasına neden olabilir.
Google, güvenlik sistemleri olduğunu fakat birtakım komutların bu sistemleri zorlayabileceğini tabir etti. Bu nedenle de özelliği sürekli geliştirdiklerinin altını çizdi. Ne kadar gelişeceğini vakit gösterecek lakin şu an için çok tehlikeli olduğunu söyleyebiliriz. Eklenen bir cesedi bile fark edememesi, çok dehşetli sonuçların ortaya çıkabileceğinin bir göstergesi.
