AI endüstrisinin etik hesaplaşma yılı

Derin sinir ağları, 2012 yılında dünyanın en önemli görüntü tanıma yarışmasını kazandığından beri, yapay zekanın ortaya çıkardığı için herkes heyecanlandı. Ancak yeni AI teknikleri ve uygulamaları geliştirme yarışında, olası olumsuz etkiler arka koltukta kaldı.

Şimdi AI etiği hakkında daha fazla farkındalığa doğru bir kayma görüyoruz. 2018’de, AI geliştiricileri, yarattıklarının olası sonuçları hakkında daha fazla bilinç sahibi oldular. Birçok mühendis, araştırmacı ve geliştirici, masum insanların hayatlarına zarar veren veya zarar veren teknolojiler üretmeyeceklerini açıkça belirtti ve şirketlerini elinde tuttu.

Kanun Yaptırımında Yüz Tanıma

Geçmişte, yüz tanıma uygulamaları oluşturmak zor, kaynak yoğun ve hataya açıktı. Ancak bilgisayarlı görmedeki ilerlemelerle - bilgisayarların görüntülerin ve videoların içeriğini tanımalarını sağlayan AI alt kümesi - yüz tanıma uygulamaları oluşturmak çok daha kolay ve herkesin erişimine açık hale geldi.

Microsoft, Amazon ve IBM gibi büyük teknoloji şirketleri, herhangi bir geliştiricinin yüz tanıma teknolojisini yazılımlarına entegre etmesini sağlayan bulut tabanlı hizmetler vermeye başladı. Bu, kimlik koruması ve kimlik doğrulaması, akıllı ev güvenliği ve perakende satış gibi farklı alanlardaki birçok yeni kullanım durumunun ve uygulamasının kilidini açtı. Ancak gizlilik hakları aktivistleri kötüye kullanma potansiyeli konusunda endişelerini dile getirdi.

Mayıs 2018'de Amerikan Sivil Özgürlükler Birliği Amazon'un gerçek zamanlı bir video-analiz teknolojisi olan Rekognition'ı kolluk kuvvetlerine ve devlet kurumlarına pazarladığını açıkladı. ACLU'ya göre, en az üç eyalette polis, gözetim video yayınlarında yüz tanıma amacıyla Rekognition'ı kullanıyordu.

“Rekognition ile bir hükümet artık kimsenin kimliğini ve izini otomatikleştirmek için bir sistem kurabilir. Polis karoseri kameraları örneğin yüz tanıma ile donatılsaydı, polis memuru saydamlığı ve hesap verebilirliği amaçlayan cihazlar daha fazla Halk, "ACLU uyardı. “Kitlesel gözetimi otomatikleştirerek, Rekognition gibi yüz tanıma sistemleri bu özgürlüğü tehdit ediyor, mevcut siyasi iklimde zaten haksız yere hedeflenen topluluklar için özel bir tehdit oluşturuyor. Bunlar gibi güçlü gözetleme sistemleri kurulduktan ve zarar gördükten sonra çok zor olacak. ."

ACLU'nun endişeleri, Haziran ayında şirketin CEO'su Jeff Bezos'a bir mektup yazan ve Rekognition'ı kolluk kuvvetlerine satmayı bırakmasını talep eden Amazon çalışanları tarafından tekrar edildi. “Şirketimiz gözetim işinde olmamalı, polislik işinde olmamalı, marjinal toplumları izleyen ve bunlara baskı yapanları destekleme işinde olmamalıyız” dedi.

Ekim ayında, isimsiz bir Amazon konuşmacısı, en az 450 çalışanın, Rekosnition'ı polise satmayı bırakması için Bezos ve diğer yöneticilere çağrı yapan bir mektup daha imzaladığını açıkladı. “Topluluklarımızın pahasına bir grup güçlü müşteriden kâr edemeyiz; gözlerimizi işimizin insani maliyetinden alıkoyamayız. Ülkemizde veya başka ülkelerde, insanları ezmek ve öldürmek için sessizce teknoloji geliştirmeyiz, " o dedi.

Google'ın Askeri AI Projesinin Serpinti

Amazon bu iç boşluk ile uğraşırken, Google, ABD ordusu için Proje Maven adlı bir AI için geliştirme sözleşmesi üzerinde benzer mücadeleler yaşıyordu.

Google’ın Savunma Bakanlığı’nın, drone video görüntülerini işleyebilecek bilgisayarlı vizyon teknolojisi geliştirmesine yardımcı olduğu bildiriliyor. Her gün dronlar tarafından kaydedilen video görüntülerinin miktarı, insan analistlerinin incelemesi için çok fazlaydı ve Pentagon, sürecin bir bölümünü otomatikleştirmek istedi.

Google'ın bir sözcüsü olan görevin tartışmalı niteliğini kabul ederek, yalnızca video yayınlarındaki nesneleri algılamak için makine öğrenme platformu olan TensorFlow için API'ler sağladığını belirtti. Google ayrıca, teknolojisinin etik yönlerini ele almak için politikalar ve güvenceler geliştirdiğini vurguladı.

Ancak Maven Projesi, çalışanlarının 3000'i düzinelerce mühendis dahil olmak üzere 3 bin kişiden oluşan Google çalışanlarıyla iyi oturmuyordu.

Mektubu, “Google’ın savaş işinde olmamasına inanıyoruz” dedi. Şirketin “ne Google’ın ne de müteahhitlerinin hiçbir zaman savaş teknolojisi inşa edemeyeceğini belirten net bir politika taslağını, yayınlamasını ve yürürlüğe koymasını” istedi.

Google çalışanları ayrıca, işverenlerinin itibarını ve gelecekteki yetenekler için rekabet etme yeteneğini tehlikeye attığı konusunda da uyardı. Google, “Teknolojilerimizin ahlaki sorumluluğunu üçüncü taraflara dış kaynak olarak veremiyoruz” dedi.

Kısa süre sonra, 90 akademisyen ve araştırmacı tarafından imzalanan bir dilekçe, Google teknolojisi üst düzey yöneticilerini askeri teknoloji çalışmalarına son vermeye çağırdı. İmzalayanlar, Google’ın çalışmalarının “otomatik hedef tanıma ve özerk silah sistemleri” için hazırlık yapacakları konusunda uyardılar. Ayrıca, teknoloji geliştikçe, "insan gözetimi veya anlamlı insan kontrolü olmadan, otomatik olarak öldürmek için özerk dronları yetkilendirmekten kısa bir adım uzak duracakları" konusunda uyardılar.

Gerilimler büyüdükçe, birkaç Google çalışanı protesto etmek için istifa etti.

Teknoloji Liderleri Nasıl Yanıt Verdi?

Baskı altında olan Google, Haziran’da 2019’da sona erdikten sonra Maven Projesi Savunma Bakanlığı ile olan sözleşmesini yenilemeyeceğini açıkladı.

Bir blog yazısında CEO Sundar Pichai (aşağıda gösterilen), şirketin AI teknolojisini geliştirmesini ve satmasını yöneten bir dizi etik ilke ilan etti. Pichai'ye göre, şirket bundan sonra toplumun yararına olan projeleri bir bütün olarak ele alacak ve mevcut adaletsiz önyargıları ya da kamu güvenliğini zayıflatan AI'nın geliştirilmesini önleyecektir.

Pichai ayrıca, şirketinin insan hakları normlarını ihlal eden teknolojiler üzerinde çalışmayacağını açıkça belirtti.

Amazon'un Bezos'u Rekognition'a olan öfkeden daha az etkilendi. Bezos, Ekim ayında San Francisco'da düzenlenen bir teknoloji konferansında “DoD'u desteklemeye devam edeceğiz ve bence yapmalıyız” dedi. "Üst düzey liderliğin işlerinden biri, popüler olmasa bile doğru kararı vermektir."

Bezos ayrıca teknoloji topluluğunun orduyu destekleme ihtiyacının altını çizdi. “Eğer büyük teknoloji şirketleri DoD'a geri döneceklerse, bu ülkenin başı derde girecek” dedi.

Şirketi ICE ile olan çalışmaları nedeniyle eleştiriyle karşı karşıya olan Microsoft Başkanı Brad Smith, Temmuz ayında, devlet kurumlarına hassas teknoloji satışı konusunda ölçülü bir yaklaşım çağrısında bulunan bir blog yazısı yayınladı. Smith, kolluk kuvvetlerine ve orduya yüz tanıma hizmetlerinin satılmasını yasaklamamasına rağmen, teknoloji sektöründe daha iyi düzenleme ve şeffaflık ihtiyacını vurguladı.

• MIT AI Etik Çalışması için Programa 1 Milyar Dolar Harcayacak MIT
• AI Gerçekten Dilimizi Konuşuyor mu? AI Gerçekten Dilimizi Konuşuyor mu?
• Çin'in Durdurulamaz AI Fabrikasını Yıkma Çin'in Durdurulamaz AI Fabrikasını Yıkma

“Kongrede temsilciler seçtik, bu yeni teknolojiyi değerlendirmek için gerekli tüm araçlara tüm sonuçları ile ihtiyaç duyduk. Bizi mum çağından yapay zekâ çağına kadar gören bir Anayasanın çekleri ve dengelerinden yararlanıyoruz. Smith, “geçmişte birçok kez, yeni icatların, demokratik özgürlüklerimize hukukun üstünlüğüne uygun şekilde hizmet etmesini sağlamamız gerekiyor” dedi.

2018'de, katil robotların uzak tehditleri ve kitlesel işsizlik AI'nın daha acil etik ve sosyal etkileri konusunda endişelere yol açtı. Birçok açıdan, bu gelişmeler AI algoritmaları kritik görevlerde daha belirgin hale geldiğinden endüstrinin olgunlaştığını göstermektedir. Ancak algoritmalar ve otomasyon günlük hayatımızda daha köklü hale geldikçe, daha fazla tartışma ortaya çıkacaktır.