Techonomy: google ve facebook'ta neyin yanlış olduğunu nasıl çözebilirim?

Belki de bu yılki Techonomy'deki en şaşırtıcı tema, konuşmacıların birçoğunun Facebook, Google ve Twitter ile ne kadar üzüldüğü ve eleştiriye gizlilik yaklaşımlarına ve özellikle de 2016 seçimlerinin Rus kesilmesini sağlamada oynadıkları rollere odaklanmasıydı.

Bu “İnternet Devleri” nin çeşitli düzenlemeleri için çok çeşitli konuşmacılar itti ve söz konusu şirketlerden hiçbirinden hiçbiri alternatif bir bakış açısı sunmak için konferansta yer almadı. Bu, Facebook CEO'su Mark Zuckerberg'in Facebook'taki sahte haberlerin seçimleri etkilediği fikrinin “oldukça çılgın bir fikir” olduğunu söylediği geçen yılki konferanstan çok farklıydı.

O zamandan beri Techonomy'nin kurucu ortağı Simone Ross'un belirttiği gibi, “teknoloji bizi bizi bir araya getirecek kadar bölmeyi kolaylaştıracak” olduğunu öğrendik. Konferansın kurucu ortağı olan David Kirkpatrick (yukarıda) konferansın tonunu belirleyerek “teknolojinin iyi bir güç olduğunu, ancak yalnızca amacınız iyiyse” olduğunu söyledi ve büyük teknoloji şirketlerinin proaktif bir ihtiyaç duyduğuna inandığını söyledi. “Kesişme” ile hükümet denir, buna düzenleme denir veya denemez.

Ağa Bağlı, Yapay Olarak Akıllı Bir Dünyada Otorite

Hem Facebook hem de Google’ın ilk yatırımcısı olan Elevation Partners’tan tanınmış yatırımcı Roger McNamee, belki de tüm konuşmacıların en olumsuzuydu. McNamee, bu şirketlerin "dünyayı kurtarmaya başladığını" söyledi, ancak bu, reklamcılık onların iş modeli olduğunda değişti. Akıllı telefonun kişisel bilgilerle birleştirildiğinde "daha önce medyada hiç görülmemiş bir beyin korsanlığı düzeyi" yaratmayı mümkün kıldığını söyledi.

McNamee, böyle bir hacklemenin bir yıl önce mümkün olduğuna inanmadığını söylerken Zuckerberg'in içten olduğuna inandığını, ancak Google ve Facebook'un şu anda oynadığı rolün gereğinden fazla abartılamayacağını söyledi. O, “Şimdi onlar olmak ve batı medeniyetini yok ettiğinizi fark etmek zor olmalı” yorumunu yaptı.

danah boyd, Veri ve Toplum; Roger McNamee, Yükseklik Ortakları; Marc Rotenberg, Elektronik Gizlilik Bilgi Merkezi (EPIC); Stratford Sherman, Accompli

Bu tartışma, Data & Society ve Microsoft Research’e sahip bir sosyal bilimci olan danah oğlunu da içeren “Ağa Bağlı, Yapay Bir Akıllı Dünyadaki Otorite” konulu bir panelde geldi; Elektronik Gizlilik Bilgi Merkezi (EPIC) Başkanı Marc Rotenberg; ve Accompli'den moderatör Stratford Sherman. Sherman, Facebook ve Google kamuya açık konuşma forumları olarak başlarken “radikal bir şekilde düzenlenmemiş” olduklarını söyledi. Sherman, ufuktaki insan ırkını temelde etkileyebilecek AI ile, daha önce gördüğümüz teknolojik gelişimin istenmeyen sonuçları konusunda endişeli olduğunu söyledi.

Rotenberg, izlenmesi ve profillendirilmesi konusundaki geleneksel gizlilik endişeleri konusunda endişeli kalmaya devam ederken, rekabet eksikliği, inovasyon eksikliği ve demokratik kurumlar için riskten eşit derecede endişe duyduğunu söyledi. İnternet devlerinin muazzam bir güce sahip olduğunu ve sahip oldukları verilerin gerçek bir giriş engeli yarattığını, bu nedenle anlamlı bir rekabet olmadığını söyledi. Rotenberg, Reagan yönetiminden beri Washington’da olduğunu ve ilk defa “geçen yıl yapılan seçimlerin tanıdık gelmediğini” söyledi.

Daha önceki bir oturumda, "Karmaşık" adlı bir kitap yazan çocuk, internette manipülasyonla yüzleşmenin zorluğundan bahsetti.

Son 20 yıl boyunca artan bir manipülasyon sürecinden bahsetti; çocuklar Oprah'ı trolling ve "rickroll'lere" ve "Santorum" adındaki arama sonuçlarını değiştirmek gibi şeylere doğru ilerlemeye başladı. Daha yakın zamanlarda, Gamergate ile, devlet oyuncuları da dahil olmak üzere daha büyük bir karakter oyuncu oyuncu haline geldi. Boyd, İnternet şirketlerinin AI'nın onları koruyabileceğini düşündüklerini söyledi, ancak sonuçları manipüle etmeye çalışan gruplar zaten doğal dil işlemeyi deniyor ve en önemlisi veri kaynaklarına müdahale ediyorlar. Örneğin bir sisteme hatalı veriler enjekte etmek, onun görüşüne göre yeni bir güvenlik açığıdır. Yine de boyd, tek cevabın "endüstrimize teknik antikorlar oluşturmak" olacağını söyledi.

Bu oturumda boyd, teknoloji şirketlerinin birkaç cephede manipülasyonla ilgili olduğunu düşünüyor ve herkes Rusya'ya bakarken, benzer eylemler peşinde koşan başka birçok ülke olduğunu belirtti. Örneğin, Çinli şirketler AI'ları kontrol etmelerini sağlamaya çalışıyorlar ve bunun endüstriyel bir rekabet değil, bir devletle rekabet etmesi nedeniyle farklı bir zorluk sunduğunu söyledi.

Sherman'ın bu bir savaş olup olmadığını sorduğunu söyleyen çocuk, bunun düşündüğünü söylerken, McNamee, düşmanlarımızın teknolojimizi bize karşı kullandıklarının klasik gerilla savaşı olduğunu söyledi. McNamee, sorunun sosyal ağlar ya da aramalar değil reklamcılık modeli olduğunu söyledi. İnsanların dikkatine verilen savaşta, maddenin sansasyonla gömüldüğünü ve “kanayan olursa yol açar” diye eski atasözünden alıntı yaptı.

Sherman, korku ve öfkenin çok daha manyetik olduğunu ve dolayısıyla daha az pahalı olduğunu belirtti. Organik mesajların 125 milyondan fazla kişiye ulaşmak için kullanılmasına rağmen, çabaların amacının reklamların insanları ortak ilgi alanlarına göre gruplara ayırması olduğunu söyledi.

Rotenberg, algoritmaları şeffaf hale getirmekten ve reklamcılığın düzenlenmesinden yana olduğunu, ancak bireylerin çevrimiçi konuşma hakkına saygı duymamız gerektiğini söyledi. Ancak McNamee, "ilk değişikliğin silahlandırıldığını" ve çevrimiçi alanların temelde kamusal alandan farklı olduğunu söyledi.

boyd, "bumerang etkisi" veya başka bir deyişle medyayı çirkin şeyler hakkında rapor etmeye teşvik eden düşünceyi, yani medyayı yanlış tutan izleyici kitlesine orijinal mesajı pekiştirdiği fikrini tanımladı. Örnek olarak, çocuk Pizzagate hakkında konuştu. İnternetten önce, medyanın genellikle intiharlar ve Klan mitingleri gibi şeyleri duyurmaktan kaçınmaktan kaçınmak için "stratejik sessizlik" kullandığını belirtti.

Rotenberg, bu titizlik ve gözetim geleneğinin çoğunun kaybolduğunu kabul etti ve Bölüm 230 (İnternet şirketlerinin kullanıcılar tarafından gönderilenler gibi şeylerden sorumlu olmadığını söyleyen) geleneksel haberlerin rekabetini zorlaştırdığını söyledi.

Çözümler istedi, McNamee, Facebook'un bir kült olduğunu ve sorunu reddetmeyi bırakıp, bununla baş etmeyi bırakmasının yanı sıra, her bir kullanıcıya ulaşarak "deprogramlamayı" ele almaya başladığını söyledi. Rotenberg düzenleme fikrini destekledi. Ve Boyd, Amerika’ya “yeniden ağ kurmak” için topluma para yatırmamız gerektiğini önerdi.

Yeni Hegemonistlerle Hesaplaşma

Mark Mahaney, RBC Sermaye Piyasaları; Dave Morgan, Simulmedia; Joyce Vance, Alabama Üniversitesi; David Kirkpatrick, Techonomy

“Yeni Hegemonistlerle Hesaplaşma” başlıklı ilk panelde, neredeyse herkes, teknolojinin çaresizce yetişmesi gereken yasaları çoktan abarttığını söyleyen Alabama Üniversitesi'nden Joyce Vance ile aynı fikirdeydi. Ancak Vance, “kaymaz” politik cevap verme riskinin de bulunduğunu belirtti.

Simulmedia'dan Dave Morgan "düzenleme olacak" dedi, ancak büyük şirketlerin etkilerinin çoğundan kaçınmasının mümkün olabileceğini söyledi.

Morgan, medya endüstrisinin tarihinin şu anda gördüklerimize paralellikler sağladığını, gazetelerin kendilerini matbaa şirketleri olarak göreceklerini ve erken yayın şirketlerinin kendilerini teknoloji şirketleri olarak gördüklerini belirtti. Bunların hepsi, açıkça Google ve Facebook’un yaptığı gibi tüketici iletişimi sağlanmasına olanak tanıyor. Bu tür yoğun medya gücünün bir sonucu olarak birçok antitröst vakası ortaya çıktı ve hükümet onları ele geçirdi. Bugünün büyük farklarından biri, diğer teknolojilerin İnternet şirketlerinin ihtiyaç duymadığı bir coğrafi bağlantıya ihtiyaç duymasıydı.

Vance, Senato’nun şu anda bu şirketlerin reklam tarihçelerini korumalarını ve aynı zamanda siyasi reklamlar için kimin parasını ödediğini açıkça ortaya koymasını gerektiren bir tasarıyı düşündüğünü belirtti. Ancak Morgan, bunların artık daha geniş bir alana sahip küresel şirketler olduğuna dikkat çekti. Avrupa GSYİH gizlilik düzenlemeleri hakkında sorulan Vance, ABD’nin bu alanda AB’ye önderlik edebileceğini söyledi. ABD şirketlerinin farklı coğrafi alanlarda farklı şekilde uyum sağlayamayacağını düşündüğünü, bu nedenle varsayılan şirketler Avrupa düzenlemelerine uyacağını söyledi.

RBC Capital Markets’tan Mark Mahaney, şirketlerin, özellikle Avrupa Birliği’nde, özellikle Google’ın, arama sonuçlarıyla veya Android ile birlikte hizmetlerini bir araya getirmek veya tanıtmak için incelemeye tabi tutulduğunu söyledi. Kirkpatrick, antitröst anlaşmasının Microsoft’a gerçekten yardım ettiğini düşündüğünü söyledi, ancak Mahaney, Microsoft’u durduran düzenleyiciler değil, rekabet olduğunu söyledi.

Teknoloji ve Hükümet Demokrasiyi Kurtarabilir mi?

Tim Hwang, FiscalNote; Minnie Ingersoll, Amerika Kodları; Marc Rotenberg, Elektronik Gizlilik Bilgi Merkezi; Molly Turner, UC Berkeley Haas İşletme Fakültesi; Jon Fine, Inc Dergisi; Lawrence Norden, NYU Hukuk Fakültesi

Benzer bir konu, Inc dergisinin moderatörü Jon Fine'ın çözüm istediği “Yuvarlak Teknoloji ve Hükümet Demokrasiyi Canlandırabilir mi?” Başlıklı bir kahvaltı masasında geldi. Ancak yuvarlak masa gerçekten herhangi bir şey bulamadı.

Hwang, sorunun teknoloji platformları olmadığını, aksine ekonomiden kopmalarının bir sonucu olarak öfkeli insanların hissettiğini söyledi.

NYU Hukuk Fakültesi, Brennan Merkezi'nden Lawrence Norden, siyasi reklamlarla ilgili daha fazla açıklama gerektiren yasaların kolay bir cevap olduğunu, ancak ne yazık ki en büyük sorunun "karanlık postalar" veya bilinmeyen kaynaklı mesajlar olduğunu söyledi. Bu bağlamda, İnternetin bir şehir meydanı gibi olduğunu söyledi.

Ancak Rotenberg bunun tam tersi olduğunu ve İnternet'in daha çok platformların kuralları belirlediği ve ne göreceğine karar verdiği bir şirket kasabası olduğunu söyledi. Code For America için Minnie Ingersoll, sorunun dış müdahale olup olmadığını veya Google’ın söylediklerimizi kontrol edip etmediğini sordu. Düzenleyicilerin sorunları daha iyi anlaması gerektiğini söyledi.

UC Berkeley Haas İşletme Okulu'ndan Molly Turner, İnternet'in ifade için en büyük araç olduğunu söyledi, ancak bunun sivil söylemleri baltalamasından korkuyor. Öte yandan, platformların belirli türdeki bilgilerin kaldırılması gereklilikleri hakkında endişelenmektedir (İletişim Kararı Yasası zayıflamışsa, ya da diğer düzenleme türlerinden dolayı), çünkü bu durumda aniden platformun “hakemi” haline geldiği için konuşma."

Rotenberg, otomobil şirketleri bir zamanlar güvenlik düzenlemeleriyle mücadele ederken, sonunda bunların arabaları daha güvenli hale getirmelerine ve daha fazla inovasyona yol açmasına yardımcı olduğunu belirtti. Kararlı bir düzenleyici ortam, platformlara gerçekten yardımcı olabileceğini belirtti. Rotenberg, teknoloji şirketlerinin telekomünikasyon şirketleri için "net tarafsızlığı" zorladığını, ancak kendileri için olmadığını ve aynı zamanda bir oyun alanı aradığını belirtti.

Saldırı Altındaki İnternet

Mark Anderson, Stratejik Haber Servisi; Peder Jungck, BAE Sistem Zekası ve Güvenliği; Rebecca MacKinnon, Yeni Amerika; David Kirkpatrick, Techonomy

"Saldırı Altında İnternet" adlı son bir panel bu tartışmaya devam etti.

New America'daki Dijital Haklar Sıralaması projesini yürüten Rebecca MacKinnon, bir keresinde İnternet nedeniyle otoriter rejimlerin daha sonra demokrasiye benzer hale geleceği varsayımı olduğunu söyledi. O şimdi otoriter rejimlerden daha fazla korkuyor ve demokrasiler “ortada buluşacak”.

MacKinnon, otoriter rejimlerin İnterneti amaçlarına uyarladığını, demokrasilerin popülizm, manipülasyon ve "gözetim kapitalizmi" ile karşı karşıya olduğunu söyledi. Ancak, demokrasilerin düzenleyici bir yanıt konusunda dikkatli olmaları gerektiğini söyledi - algoritmalar ve mahremiyet söz konusu olduğunda daha fazla şeffaflığa ihtiyaç duyulduğunu kabul ederken, bir sansür sisteminin parçaları yıkmanın daha kolay olacağını düşünüyor toplum hükümeti küçümsüyor.

BAE Sistemleri için istihbarat ve güvenliği yöneten Peder Jungck, hükümetlerin muhalifleri bulmak için bu tür sistemleri kullanmak istediğine karar verdi ve bir fikrin bir ürün olduğunu ve itilebileceği herhangi bir ürün gibi olduğunu söyledi. Reklam sistemlerinin silahlı olup olmadığı sorulduğunda "Pandora'nın Kutusu açıldı ve geri dönemeyiz." Dedi.

Stratejik Haber Servisi'nden Mark Anderson, ARPANET'in günlerinden, kötü erkeklerin olmadığı günlerden günümüze gittikçe daha fazla kötü niyetli davranış gördüğümüzde düz bir çizgi gördüğümüzü söyledi.

Anderson, Çin’in fikri mülkiyet haklarını nasıl çaldığını ve şirketleri işten çıkarmak için nasıl kullandığını açıklarken özellikle açıktı. Ve Equifax Hack'in hükümet saldırısının tüm işaretlerini taşıdığını öne sürdü. Özetle, Anderson "bir çözüm görmediğini" söyledi.

Jungck, kötü adamların sistemimizde olduğunu varsaymalı ve çözümler üzerinde çalışmalıyız dedi. Örneğin, bir sosyal güvenlik numarasının artık güvence altına alınmadığını, bunun yerine bir blok zinciri çözümüne ihtiyacımız olabileceğini söyledi.

Sıralama Dijital Haklar projesinde MacKinnon, 22 küresel şirketi, ifade özgürlüğü, gizlilik ve güvenlik gibi konularda 35 soru üzerinde değerlendirdi. İki şirketin "D" aldığını ve diğer herkesin başarısız olduğunu söyledi. Verilerinizle hangi şirketlerin ne yaptığını bilmek istiyor; kimlerle paylaştıkları; durum tespiti, güvenlik değerlendirmeleri ve risk için yönetişim yapıyorlar mı; ve gizlilik ve güvenliği, içeriği ve ifadeyi koruyorlar mı. Şeffaflık yeterli değil, dedi, ancak gerekli ilk adım.

Anderson, şeffaflığın iyi bir şey olduğunu, ancak bunun bir çözüm olmadığını ve bir sistemi manipüle etmek isteyen birinin reklamlar için ödeme yapmak zorunda olmadığını, ancak 100.000 botnet kullanabileceğini belirtti. Kirkpatrick, şirketlerin kimlikleri zorlayabileceklerini ve böylece botnet kullanımını azaltabileceklerini önerdi.

Ancak MacKinnon, bu tür sistemlerin kullanımına karşı en savunmasız insan hakları aktivistlerinin, çünkü kimliği uygularsanız, o zaman otoriter bir hükümete karşı çıkan hiç kimse, sosyal ağlarda bulunmayacağını söyledi.

Jungck, siteler zaten kim olduğunuzu ve ne alacağınızı bildiğinde neden bir kimliği uygulamaya koymamız gerektiğini merak etti. “İnternette anonimlik yok, çok uzun zaman geçti” dedi. Tek fark, kim olduğunuzu bulmanızın ne kadar süreceği.

Sonuç olarak, MacKinnon çok uzun vadede iyimser olduğunu, ancak önümüzdeki 100 yıl boyunca "çok fazla değil" dedi.

Tüm bunları dinlerken, gerekli düzenleme miktarı ve bunun etkisi hakkında karamsar olmak ya da en azından öldürücü olmak kolaydır. Fakat hala iyimser olmaya meyilliyim ve bir miktar ek düzenlemenin hem muhtemel hem de gerekli olduğunu düşünüyorum, ancak bugünün İnternet devlerinin (veya gelecekteki bazı oyuncuların) daha iyi cevaplar getirmesi muhtemel olduğuna inanıyorum.

PCMag.com'u ne kadar tavsiye edersiniz?