Microsoft, buz ve teknolojinin 'nötr' olmasının sorunu

IBM'i tanımlamak için kelime ararken, sağlam ve kalıcı olduğunu düşünürsünüz, ama aynı zamanda lekelenmiştir. İkinci Dünya Savaşı sırasında, başkan ve CEO'su Thomas Watson başkanlığında, IBM, Üçüncü Reich'in idari işlerinin mekanikleştirilmesine yardımcı oldu.

Şirketin Alman iştiraki, ana şirketin işbirliği ve koordinasyonu ile birlikte, tutturdukları kartlı sıralama makineleriyle, özel uygulamalarla ve onları delikli kartlarda tutmak için kağıtla toplama kampları kurdu. Bu Hollerith makineleri tarafından çalkalanan bilgiler, Yahudileri, milyonlarca insanın kaçmayacağı jilet tel örgüsünün arkasına koymada rol oynadı.

Bugün binlerce göçmen ve sığınmacı çocuğu, ABD gözaltı merkezlerinde kendi zincir bağlantı kafeslerinde, bileklerine sarılı barkodlarda bulunuyor. Teknolojiyi geride bırakan veya takip etmeyen teknolojilerin ardındaki şirketler bu konuda övünmek istemiyorlar.

Ocak ayında Microsoft, Redmond'ın Azure Government bulut hizmetini kullanan Göçmenlik ve Gümrük İcraatı (ICE) ile ortaklığından bahsetti. Görev, bu hafta hükümetin sınırdaki çocuk ayrılık politikası konusundaki kargaşanın ortasında yeniden ortaya çıktı ve kısa bir süre için ICE'den herhangi bir söz silinmedi. Konuyla ilgili bilgi kaynakları PCMag'e, bir çalışanın sosyal medyadaki yorumları gördükten sonra onu sildiğini; bundan kısa bir süre sonra restore edildi.

Kaynak ayrıca, Güney sınırındaki ailelerin ayrılmasında Azure veya Azure hizmetlerinin kullanıldığına inanmadıklarını söyledi; CEO Satya Nadella, yönetimin aileleri ayırma politikasını kınayan bir mektupta yankılandı. Azure'un yalnızca eski posta, takvim, mesajlaşma ve belge yönetimi iş yükleri için ICE tarafından kullanıldığını söyledi.

Fakat gerçekten, ajansın hizmetlerini nasıl kullandığından tam olarak emin olamaz. Bazı Microsoft çalışanları görünüşte hemfikirdir; şirketten ICE ile olan sözleşmesini bitirmesini isteyen açık bir mektup yazdılar. Microsoft'un yakın zamanda edindiği GitHub'taki geliştiriciler de aynısını yaptı.

Teknoloji şirketlerinin ahlaki gerekçelerle karar vermesi gereken yer burasıdır; Birleşmiş Milletler İnsan Hakları Yüksek Komiserliği'nin vicdani olarak nitelendirdiği iş yapan devlet kurumlarıyla iş yapmak istiyorlar mı?

İmaj Tanıma Tartışması

Vigilant Solutions daha düşük bir profile sahipken, gerçek zamanlı olarak insanları bulmak ve izlemek için kullanılan plaka tanıma (LPR) programı için ICE ile bir sözleşme imzaladı. “LPR çözümümüz yalnızca çalıntı araçları bulmak için değil. Bunun için ve daha fazlası” diyor.

Vigilant Solutions, ICE ile yaptığı çalışmalar hakkında bir soruya cevap vermedi. Ayrıca, kanun uygulayıcı ve devlet kurumları tarafından kullanılan görüntü tanıma teknolojisi konusunda sıkıntılı kalan tek şirket bu değil.

Amazon'un Rekognition'ı cansız nesneleri, insanları ve etkinlikleri tespit etmek için derinlemesine öğrenme kullanır. Yasal olarak sorulduğunda ancak belki de toplumsal olarak sorgulanabilir kullanımlar hakkında ICE'nin bir müşteri olması gerektiğinde, bir Amazon sözcüsü kötüye kullanım potansiyelini kabul eder, ancak Rekognition'ın Amazon Web Hizmetlerinin Kabul Edilebilir Kullanım Politikasına tabi olduğunu söyledi.

Politikanın okunması sakıncalı davranışları durduracak şekillerde yetersiz kalıyor. En alakalı bölüm, "Yasadışı, başkalarının haklarını ihlal eden veya başkalarına, operasyonlarımıza veya itibarımıza zarar verebilecek faaliyetler" yasağını yasaklar.

Rekognition, ICE tarafından kullanılmıyor, ancak şirketten Rekognition'ı kolluk kuvvetlerine satmayı bırakmasını isteyen bazı Amazon hissedarlarını endişelendiren birkaç polis departmanı tarafından kullanılıyor.

NBC News, HP Kurumsal, Dell ve Motorola dahil olmak üzere ICE ile sözleşmesi olan bir dizi teknoloji şirketini ortaya çıkardı. ICE'ye yardımcı olan bir firma hiç şaşırtıcı olmamalı: Palantir. The Intercept tarafından edinilen belgelere göre, ICE'nin Ajans için "görevi kritik" olan Araştırmacı Vaka Yönetimi ürünü için 41 milyar dolarlık bir anlaşması var.

Palantir'in kurucu ortağı ve başkanı Peter Thiel, kampanyalarından bu yana sürekli Donald Trump'ın destekçisi oldu. Thiel, sınırdaki durum hakkında konuşmadı, ancak 2008'de hem yasal hem de yasadışı göçü azaltmaya adanmış göçmen karşıtı grup NumbersUSA'ya 1 milyon dolarlık bağış yaptı. Thiel görünüşte, olağan süreci atlayarak Yeni Zelanda vatandaşı olmasında hiçbir ironi görmüyor.

Devlet sözleşmeleri güvenilir şekilde kazançlıdır, ancak tarihteki en kötü zulümlerin bazılarına yol açanlara benzer faaliyetlerden kâr elde etmek çok pahalıya mal olur. Tartışmalı bir dron programında Pentagon'la olan çalışmalarına itirazlarla uğraşan Google'a sorun. Sosyal sermaye Silikon Vadisi yıllar içinde kazanmıştır ve yetenekleri ve becerileri daha iyi bir gelecek için geçmişimizin korkularını yok etmeye koyulmalıdır.