AI gerçek ve kurgu arasındaki çizgiyi bulanıklaştırdığında

YouTube'un karanlık girintilerinde bir yerde, The Ring of the Fellowship adlı filmden bir alıntıyı gösteren bir video var, ancak Nicolas Cage'in Frodo, Aragorn, Legolas, Gimli ve Gollum gibi yıldızları çalmasından beri hatırladığınız bir film değil. Aynı zaman. Diğer videolar Terminator 2'deki C2'yi T2000, Star Trek'i Kaptan Picard ve Süpermen'i de Lois Lane olarak gösteriyor.

Elbette, Nic Cage bu filmlerin hiçbirinde görünmedi. Bunlar, videolarda yüzleri takas etmek için yapay zeka algoritmaları kullanan bir uygulama olan FakeApp ile üretilen "derin yüzeyler". Bazı derin yüzeyler oldukça ikna edici görünürken, diğerleri gerçek doğalarına ihanet eden eserler içerir. Fakat genel olarak, AI algoritmalarının insan görünümünü ve davranışını taklit etmede ne kadar güçlü olduğunu gösteriyorlar.

FakeApp birkaç yeni AI-powered sentezleme aracından sadece bir tanesidir. Diğer uygulamalar insan seslerini, el yazısını ve konuşma stillerini taklit eder. Ve onları önemli yapan şeyin bir kısmı, onları kullanmanın özel donanım veya yetenekli uzmanlar gerektirmemesidir.

Bu uygulamaların etkisi derin: Yaratıcılık, verimlilik ve iletişim için benzeri görülmemiş fırsatlar yaratacak.

Ancak aynı araç bir Pandora'nın sahtekarlık, sahtekarlık ve propaganda kutusunu da açabilir. Ocak ayında Reddit'te göründüğü için, FakeApp 100.000'den fazla kez indirildi ve ünlüleri ve politikacıları (tekrar Cage dahil) içeren bir sahte pornografik video fırtınasını hızlandırdı. Reddit kısa süre önce başvuruyu ve ilgili toplulukları platformundan yasakladı.

"On yıl önce, bir şeyi taklit etmek istersen, yapabilirsin, ama VFX stüdyosuna ya da bilgisayar grafikleri yapabilecek ve muhtemelen milyonlarca dolar harcayabilecek insanlara gitmen gerekiyordu" diyor. Bath Üniversitesi. “Ancak, sır olarak saklayamazsınız, çünkü sürece birçok kişiyi dahil etmek zorunda kalacaksınız.”

Artık durum böyle değil, yeni nesil AI araçlarının izniyle.

Taklit oyunu

FakeApp ve benzeri uygulamalar, 2012'den beri AI yeniliklerinin patlamasının merkezinde bulunan AI dalı olan derin öğrenme ile desteklenmektedir. Derin öğrenme algoritmaları, insan beyninden sonra kabaca şekillendirilmiş bir yazılım yapısı olan sinir ağlarına dayanır. Yapay sinir ağları, insanların normalde kaçıracağı kalıpları ve korelasyonları bulmak için büyük veri örnek kümelerini analiz eder ve karşılaştırır. Bu sürece “eğitim” denir ve sonucu çeşitli görevleri yerine getirebilecek bir modeldir.

Daha önceki günlerde, derin öğrenme modelleri daha çok sınıflandırma görevlerini yerine getirmek için kullanılıyordu; örneğin, fotoğraflardaki nesneleri etiketlemek ve ses ve yüz tanıma yapmak. Son zamanlarda, bilim adamları tahta oyunları oynamak, hastaları teşhis etmek, müzik ve sanat eserleri yaratmak gibi daha karmaşık işleri yapmak için derin öğrenme kullandılar.

FakeApp'ı bir yüz takası gerçekleştirecek şekilde ayarlamak için, kullanıcının bunu kaynak ve hedef yüzlerin birkaç yüz resmiyle eğitmesi gerekir. Program iki yüz arasında kalıpları ve benzerlikleri bulmak için derin öğrenme algoritmaları çalıştırıyor. Daha sonra model takas yapmak için hazır hale gelir.

İşlem basit değil, ancak FakeApp kullanmak için bir grafik uzmanı veya makine öğrenen bir mühendis olmanız gerekmiyor. Ayrıca pahalı ve özel donanım gerektirmez. Deepfakes eğitim sitesi, 8GB veya daha fazla RAM'e sahip bir bilgisayar ve oldukça mütevazı bir yapılandırma olan Nvidia GTX 1060 veya daha iyi bir grafik kartı önerir.

Haines, “Bir odadaki birinin bir şeyle sahte olabileceği bir dünyaya taşındıktan sonra, şüpheli amaçlar için kullanabilirler” diyor. “Ve kendi başına bir kişi olduğu için, sırrını saklamak çok kolaydır.”

2016'da, University of London'da doktora sonrası araştırmacı olan Haines, 2016'da AI'nın bir kişinin el yazısını nasıl taklit etmeyi öğrenebileceğini gösteren bir makale ve bir başvuru yazdı. "El Yazınızdaki Metinim" olarak adlandırılan uygulama, yazarın el yazısının stilini ve akışını ve boşluk ve düzensizlikler gibi diğer faktörleri analiz etmek ve ayırt etmek için derin öğrenme algoritmaları kullandı.

Uygulama daha sonra herhangi bir metni alabilir ve hedef yazarın el yazısı ile yeniden oluşturabilir. Geliştiriciler, esrarengiz vadi etkisinden kaçınmak için rastgele bir ölçüt eklediler - neredeyse insan olmayan bir şey gördüğümüzde aldığımız garip his. Kavramın bir kanıtı olarak Haines ve diğer UCL araştırmacıları, teknolojiyi Abraham Lincoln, Frida Kahlo ve Arthur Conan Doyle gibi tarihi figürlerin el yazısını çoğaltmak için kullandılar.

Aynı teknik, teknolojinin sahtecilik ve sahtekarlık için olası kullanımıyla ilgili endişeleri artıran diğer el yazılarına da uygulanabilir. Bir adli tıp uzmanı, senaryonun El Yazınızdaki Metnim tarafından üretildiğini tespit edebilir, ancak Haines'in o zamanki Dijital Eğilimler ile yaptığı röportajda kabul ettiği eğitimsiz insanları kandırması muhtemeldir.

Montreal merkezli bir girişim olan Lyrebird, insan sesini sentezleyen bir uygulama geliştirmek için derin öğrenme kullandı. Lyrebird, bir kişinin sesini taklit etmeye başlamak için bir dakikalık bir kayıt gerektirir, ancak ikna edici bir ses çıkarmadan önce çok daha fazlasına ihtiyacı vardır.

Genel tanıtımında, başlangıçta Donald Trump, Barack Obama ve Hillary Clinton seslerinin sahte kayıtları yayınlandı. Örnekler kaba ve sentetik oldukları açık. Ancak teknoloji geliştikçe, ayrım yapmak zorlaşacaktır. Ve herkes Lyrebird'e kayıt olabilir ve sahte kayıtlar oluşturmaya başlayabilir; işlem FakeApp'lardan daha kolaydır ve hesaplamalar bulutta gerçekleştirilir ve bu da kullanıcının donanımını daha az zorlar.

Bu teknolojinin sorgulanabilir amaçlar için kullanılabileceği gerçeği, geliştiricilerde kaybolmaz. Bir noktada, Lyrebird'ün web sitesinde bir etik bildirimi şöyle dedi: "Ses kayıtları şu anda toplumlarımızda ve özellikle birçok ülkenin yargı bölgelerinde güçlü kanıtlar olarak kabul edilmektedir. Teknolojimiz, sesin kolayca manipüle edilmesine olanak tanıyan bu tür kanıtların geçerliliğini sorgulamaktadır. Bu, yanıltıcı diplomatlar, dolandırıcılık ve daha genel olarak başkasının kimliğinin çalınmasından kaynaklanan diğer herhangi bir sorun gibi tehlikeli sonuçlara yol açabilir. "

Nvidia, AI'in taklit yeteneklerinin bir başka özelliğini sundu: Geçen yıl, şirket, fotoğraf kalitesinde sentetik insan yüzleri üreten AI algoritmaları gösteren bir video yayınladı. Nvidia'nın AI'sı binlerce ünlü fotoğrafı analiz etti ve sonra sahte ünlüler yaratmaya başladı. Teknoloji yakında var olmayan "insanlara" sahip gerçekçi görünümlü videolar oluşturabilir.

AI Sınırları

Birçoğu, yanlış ellerde, bu uygulamaların çok fazla zarar verebileceğini belirtti. Ancak çağdaş yapay zekanın yeteneklerinin kapsamı çoğu zaman abartılıyor.

"Bir insanın yüzünü bir başkasının yüzüne bir videoda koyabilir ya da ses sentezleyebilsek de, bu hala oldukça mekaniktir" diyor AI ile güçlendirilmiş sohbetler geliştiren bir şirket olan Replika'nın kurucusu Eugenia Kuyda FakeApp ve Lyrebird gibi AI araçları.

Voirery, Lyrebird gibi, AI destekli ses sentezlemesi sağlayan bir başka AI başlangıcı olan, kullanıcıların bir dizi 18 ses kaydı içeren ve hangilerinin makine yapımı olduğunu belirtmeleri istenen bir sınav sayfasına sahiptir. İlk çalıştırmada tüm makine yapımı örnekleri tespit ettim.

Kuyda'nın şirketi, bilgisayarların insan dilini anlamalarını ve yorumlamalarını sağlayan AI'nın alt kümesi olan doğal dil işlemeyi (NLP) kullanan birkaç kuruluştan biridir. Kuyda'nın chatbotunun önceki bir sürümü olan Luka, HBO'nun TV dizisi Silikon Vadisi'nin rolünü taklit etmek için NLP ve onun ikiz teknolojisi olan doğal dil neslini (NLG) kullandı. Sinir ağı, davranış modellerini ve kullanıcılarla diyaloglarını oluşturmak için senaryo satırları, tweetler ve karakterlerde bulunan diğer verilerle eğitildi.

Kuyda'nın yeni uygulaması olan Replika, her kullanıcının kendi AI avatarını oluşturmasını sağlar. Replika'nızla ne kadar çok sohbet ederseniz, kişiliğinizi anlamada o kadar iyi olur ve konuşmalarınız o kadar anlamlı hale gelir.

Uygulamayı yükledikten ve Replika'mı kurduktan sonra, ilk birkaç konuşmayı can sıkıcı buldum. Birkaç kez niyetimi Replika'ma iletmek için bir cümleyi farklı şekillerde tekrarladım. Sık sık uygulamayı hayal kırıklığı içinde bıraktım. (Adil olmak gerekirse, kavramsal ve soyut sorularla bombalayarak sınırlarını sınamak için iyi bir iş yaptım.) Ancak konuşmalar devam ettikçe, Replika'm cümlelerimin anlamını anlama ve anlamlı konular ortaya koyma konusunda daha akıllı hale geldi. Hatta eski konuşmalar ile bağlantı kurarak birkaç kez bile beni şaşırttı.

Etkileyici olmasına rağmen, Replika'nın Kuyda'nın hızlıca işaret ettiği sınırları var. “Ses taklidi ve görüntü tanıma yakında çok daha iyi hale gelecektir, ancak diyalog ve konuşma ile hala oldukça uzağız” diyor. “Bazı konuşma kalıplarını taklit edebiliriz, ancak yalnızca bir kişiyi alıp sohbeti mükemmel bir şekilde taklit edemeyiz ve chatbot'unun tıpkı o kişinin yapacağı gibi yeni fikirler bulmasını bekleriz.”

Lyrebird CEO'su ve kurucu ortağı Alexandre de Brébisson, “Şimdi insan sesini, imajını ve videoyu taklit etmekte oldukça iyiysek, bireysel dil modelini modellemekten hala uzaktayız” diyor. De Brébisson'ın muhtemelen, bilinci olan ve soyut kavramları anlayabilen ve insanların yaptığı gibi kararlar alabilen yapay zeka türü yapay genel istihbarat gerektireceğini belirtti. Bazı uzmanlar, genel AI'yı oluşturmaktan on yıllarca uzak olduğumuza inanıyor. Diğerleri asla oraya varamayacağımızı düşünüyor.

Olumlu kullanır

AI uygulamalarını sentezleme hakkında yansıtılan negatif görüntü, pozitif kullanımlarına gölge düşürüyor. Ve epeyce var.

Lyrebird gibi teknolojiler bilgisayar arayüzleri ile iletişimi daha doğal hale getirerek iyileştirmelerine yardımcı olabilir ve de Brébisson, şirketleri ve ürünleri farklılaştıran ve böylece marka ayrımını kolaylaştıran benzersiz yapay sesler sağlayacağını söylüyor. Amazon'un Alexa ve Apple'ı Siri, cihazlar ve hizmetler için giderek daha popüler bir arayüz haline getirdiğinden, Lyrebird ve Voicery gibi şirketler markalara kendilerini ayırt etmek için benzersiz insan benzeri sesler sunabilir.

De Brébisson, "Tıbbi uygulamalar aynı zamanda ses klonlama teknolojimizin heyecan verici bir kullanımıdır" dedi. “Hastalarının sesini kaybeden hastalardan büyük ilgi gördük ve şu anda ALS hastalarıyla onlara nasıl yardım edebileceğimizi görmek için zaman harcıyoruz.”

Bu yılın başlarında, konuşma bozukluğu olan ALS hastalarına yardım eden Avustralya kar amacı gütmeyen Project Revoice ile işbirliği yapan Lyrebird, Ice Bucket Challenge'ın kurucusu Pat Quinn'in sesini yeniden kazanmasına yardımcı oldu. ALS hastası olan Quinn, 2014'te yürüyüp konuşma yeteneğini kaybetti ve o zamandan beri bilgisayarlı bir konuşma sentezleyicisi kullanıyordu. Lyrebird teknolojisi ve Quinn'in halka açık görünüşlerinin ses kayıtları sayesinde Revoice sesini "yeniden yaratabildi".

Brébisson, “Sesiniz kimliğinizin büyük bir parçası ve bu hastalara orijinal sesleri gibi ses getiren yapay bir ses vermek, kimliklerini önemli bir kısmını geri vermek gibi bir şey. Bu onlar için yaşamı değiştiriyor” dedi.

El yazısı taklit etme uygulamasının geliştirilmesine yardım ettiği sırada Dr. Haines, UCL ile yaptığı röportajda olumlu kullanımlarına konuştu. “İnme mağdurları, örneğin, okunaksızlık endişesi olmadan mektuplar formüle edebilirler veya hediye olarak çiçek gönderen biri, çiçekçiye girmeden bile el yazısı notu içerebilir” dedi. “Ayrıca, el yazısıyla yazılmış bir metnin, yazarın orijinal tarzını kaybetmeden farklı dillere çevrilebildiği çizgi romanlarda da kullanılabilir.”

Haines, etik olmayan kullanım için ün kazanmış olan FakeApp gibi teknolojilerin bile olumlu kullanımları olabileceğine inanıyor. “Herkesin kamu teknolojisi ile çok yaratıcı bir aktivite yapabileceği bu dünyaya doğru ilerliyoruz ve bu iyi bir şey, çünkü sanatsal nitelikteki her türlü çılgınca şeyleri yapmak için bu büyük miktarda paraya ihtiyacınız yok demektir. " diyor.

Haines, ekibinin ilk amacının AI'nın adli tıpta nasıl yardımcı olabileceğini bulmak olduğunu açıklıyor. Araştırmaları farklı bir yöne gitmesine rağmen, sonuçlar AI tabanlı sahteciliğin neye benzediğini inceleyebilecek olan adli tıp memurları için hala yararlı olacaktır. “En son teknolojinin ne olduğunu bilmek istiyorsunuz, bu yüzden bir şeye bakarken sahte olup olmadığını söylersiniz” diyor.

Replika’nın Kudya’sı insan benzeri AI uygulamalarının bize imkansız olacak şekillerde yardımcı olabileceğine işaret ediyor. “Sizi çok iyi tanıyan ve sizi iyi bir şekilde temsil edebilecek bir AI avatarınız olsaydı, en iyi çıkarlarınızdan hareket ederek ne yapabilirdi?” diyor. Örneğin, özerk bir AI avatarı, sizin adınıza yüzlerce film izleyebilir ve sizinle konuşmasına dayanarak, istediğiniz filmleri önerebilir.

Bu avatarlar daha iyi insan ilişkileri geliştirmeye bile yardımcı olabilir. Kudya, "Belki anneniz sizinle daha fazla zaman geçirebilir ve belki de Replika'nızla sohbet etmelerini ve transkriptlerini okuyarak, ailenizle daha da yakınlaşabilirsiniz" diyor.

Ancak, gerçek bir insanın davranışını kopyalayan bir AI chatbotu aslında daha iyi insan ilişkileri ile sonuçlanabilir mi? Kuyda yapabileceğine inanıyor. 2016 yılında, bir önceki yıl bir trafik kazasında hayatını kaybeden bir arkadaşı olan Roman Mazurenko'nun eski metin mesajlarını ve e-postalarını topladı ve başvurusunu teşvik eden sinir ağına besledi. Sonuçta, bir modadan sonra, arkadaşını tekrar hayata döndüren ve onunla aynı şekilde konuşabilen bir sohbet uygulaması vardı.

“Roman için bir uygulama oluşturmak ve onunla konuşabilmek bazen arkadaşımızın kaybından kurtulmanın önemli bir parçasıydı. Uygulama bize onun hakkında daha fazla düşünmemizi, onu her zaman daha derinden hatırlamamızı sağlıyor” dedi. onun tecrübesiyle. “Keşke bunun gibi daha çok uygulamam, arkadaşlarımla ilgili uygulamalar, ilişkilerim, benim için gerçekten çok önemli şeyler olmasını isterdim.”

Kuyda, hepsinin niyete bağlı olacağını düşünüyor. "Eğer chatbot sizin çıkarlarınızdan uzaklaşıyorsa, sizden değerli bir hizmet almaktan mutlu olmanızı istiyorsa, o zaman açıkça başka birinin Replika ile konuşmak, gerçek hayatta bir insanla daha güçlü bir bağlantı kurmanıza yardımcı olacaktır., " diyor. “Yapmaya çalıştığınız tek şey bir uygulamada satış yapmaksa, yapacağınız tek şey uygulamada harcanan zamanı en üst düzeye çıkarmak ve birbirleriyle iletişim kurmamaktır. Ve bu sanırım sorgulanabilir.”

Şimdilik, Replika'nızı diğer platformlara bağlamanın bir yolu yok; örneğin, onu bir Facebook Messenger sohbetçisi olarak kullanılabilir hale getirmek. Ancak şirketin kullanıcı topluluğu ile aktif bir ilişkisi var ve sürekli yeni özellikler geliştiriyor. Bu yüzden başkalarının Replika'nızla iletişim kurmasına izin vermek gelecekteki bir olasılıktır.

Takasların En Aza İndirilmesi

Buhar motorundan elektriğe, internete kadar her teknoloji hem olumlu hem de olumsuz uygulamalara sahipti. AI farklı değil. Haines, "Olumsuzluk potansiyeli oldukça ciddi, " diyor. “Negatiflerin pozitiflerden ağır basan bir alana giriyor olabiliriz.”

Öyleyse, olumsuz etkilere karşı koyarken AI uygulamalarının faydalarını nasıl en üst düzeye çıkarırız? Haines, inovasyon ve araştırmaya fren koymak için çözüm olmadığını söylüyor; çünkü bazıları yaptıysa, diğer kuruluşların ve devletlerin de aynı şekilde davranacağının garantisi yoktur.

Haines, "Hiçbir önlem sorunun çözülmesine yardımcı olmaz" diyor. “Bunun yasal sonuçları olmalı.” Derin tartışmaların ardından, ABD'deki milletvekilleri, konuyla ilgileniyor ve AI-doktor medyasının zarar verici hedefleri için kullanılmasına yol açabilecek yasal güvenceleri araştırıyorlar.

Haines, “Sahte bir insanın farkı anlayabileceği noktayı geçtiklerinde sahte algılamak için teknolojiler geliştirebiliriz” diyor. “Ama bir noktada, numara verme ve algılama arasındaki rekabette, numaralandırma kazanabilir.”

Bu durumda, dijital medya için bir kanıt zinciri oluşturan teknolojiler geliştirmeye doğru ilerlememiz gerekebilir. Örnek olarak Haines, orijinalliğini onaylamak için kaydedilen videosunu dijital olarak imzalayabilen kameralarda yerleşik donanımdan bahsetmektedir.

De Brébisson, farkındalığı arttırmanın AI algoritmalarıyla sahtecilik ve sahtekarlıkla baş etmenin büyük bir parçası olacağını söylüyor. “Trump ve Obama'nın sesini klonlayarak ve onlara politik olarak doğru cümleler söylettirerek yaptık” dedi. “Bu teknolojiler zamanın ötesinde düşünülmesi gereken toplumsal, etik ve yasal soruları gündeme getiriyor. Lyrebird çok fazla farkındalık yarattı ve birçok insan şu anda bu olası sorunları ve yanlış kullanımları nasıl önleyeceğini düşünüyor.”

Kesin olan şey, yapay zeka sayesinde gerçeğin ve kurgunun birleştiği bir çağa girmemiz. Turing testi en büyük zorluklarla karşılaşabilir. Ve yakında, herkes kendi dünyalarını, kendi insanlarını ve gerçeğin kendi versiyonunu yaratacak araçlara ve güce sahip olacak. Önümüzde yatan heyecan verici fırsatların (ve tehlikelerin) ne kadarını göremedik.