Gdpr ai endüstrisini nasıl etkileyecek | Ben Dickson

Bir çeşit silahlanma yarışı olarak nitelendirilebilecek olan teknolojide, şirketler, uygulamalarını ve platformlarını güçlendiren yapay zeka algoritmalarını bilemek için büyük miktarlarda kullanıcı verilerini topluyorlar. Bugüne kadar, uygulamaları yasal ve etik açıdan gri alanlara ittiğinde, çoğunlukla hesap verme sorumluluğunu üstlenebildiler.

Ancak, Avrupa Birliği'nin Genel Veri Koruma Kuralları (GDPR) yürürlüğe girdiğinde, 25 Mayıs'ta değişebilir. GSYİH, AB bölgesindeki kullanıcı verilerinin toplanması ve işlenmesi konusunda benzeri görülmemiş kısıtlamalar getirecek ve uymayan şirketlere ağır cezalar verecek.

Bu, gevşek veri toplama düzenlemelerinden (ve uzun, sıkıcı ve belirsiz servis belgeleri şartlarından yararlanan) AI algoritmaları kullanan şirketler için kötü haber gibi gelebilir. Daha katı kuralların bazı uygulamalarda ve alanlarda yapay zekanın inovasyonunu ve konuşlandırılmasını engelleyeceğinden bazı korkular. Diğerleri yeni direktifin AI uygulamalarının daha güvenilir ve güvenilir olacağı bir temel oluşturacağına inanıyor.

Durum ne olursa olsun, AI endüstrisi GSYİH döneminde büyük bir değişim için var.

Veri Sahipliği ve Gizlilik

Digital Reasoning'in kurucusu ve başkanı Tim Estes, "GDPR AI için çok önemli, çünkü veri toplama ve kullanma şeklimiz hakkında farklı düşünmemizi gerektiriyor" diyor. "Çok uzun süredir, teknoloji şirketleri ürün ve hizmetlerinden değer elde etmek için verilerinizi bırakmak zorunda kalmanız konusunda ısrar ettiler."

Önceleri, şirketlerin her türden veriyi toplamaları için kullanıcılardan yalnızca belirsiz bir onay almaları gerekiyordu. Estes, "AI, büyük veri yutturucusunu canlı tutmaya yardımcı oldu - işletmelerin neden tüm kullanılabilir verileri toplamaları ve benimsemeleri için başka bir neden sağladı, " diyor. “Birçok şirket, kullanıcı gizliliği veya veri mülkiyeti üzerindeki etkisi düşünülmeden düşünmeleri gerektiği için verilerini analiz etmek için AI'yı uygulamaya başladı.”

GSYİH'nın en temel dayanağı, verilerin kullanıcılara ait olmasıdır. GSYİH’ye göre, şirketler topladıkları tüm bilgilerin kapsamını, nasıl kullandıklarını, nasıl koruyacaklarını ve yetkisiz erişimi önlediklerini açıklamak zorunda kalacaklar. Yeni kurallar AI şirketlerini, istifleme, işleme ve kullanıcı bilgilerinin paylaşılmasıyla meşgul olmalarının aksine topladıkları veriler konusunda daha titiz olmaya zorlayacaktır.

Unutulma Hakkı

GDPR, kullanıcılara bir şirketin tüm verilerini sunucularından silmesini talep etme gücü verir. Bu, eğilimleri ve kullanıcı davranışlarını öngörme gibi görevleri yerine getirmek için mümkün olduğunca fazla kullanıcı verisinin tutulmasına ilişkin bir ilgiye sahip olan AI şirketleriyle iyi oturmayacaktır.

GrowthChannel CEO'su Maryna Burushkina, “Günün sonunda, GDPR, verileri nasıl topladığınız ve yönettiğinizle ilgili olmak zorundadır, zorunlu olarak ne kadar veriniz olduğu hakkında değil” diyor. “Çoğu şirketin karşı karşıya kalacağı temel zorluk, katılım hakkı kazanma konusunda değil, verilerin yönetilmesi, verilerin kullanımını kullanıcılara iletilmesi ve kullanıcıların bu bilgileri silme olanağı sağlamasıdır.”

AI şirketlerinin, yine de bu kavrayışlara erişmek istiyorlarsa verilerini anonimleştirmek için ilave adımlar atması gerekecek. Ancak diğer zorluklar, halihazırda büyük kullanıcı verisi depolarına sahip şirketleri görmektedir.

Octopai CEO'su Amnon Drori, "GDPR uyarınca, bir şirket belirli bir kişisel bilgileri silmek istiyorsa, her yerde silinmesini sağlamak zorundadır" diyor. Verileriniz farklı sunucular arasında dağıtıldığında ve farklı yapılandırılmış ve yapılandırılmamış formatlarda depolandığında elle gerçekleştirilmesi göz korkutucu bir görev olabilir.

Örneğin, bir kullanıcının kredi kartı numarasını (kesinlikle hassas bir bilgi parçası) silerken, şirketler bilgilerin depolandığı her rapor, veritabanı, veritabanı nesnesi ve ETL'yi incelemelidir. "Bazen aynı öğe için farklı meta veri adları görüyoruz: örneğin, 'kredi kartı numarası', 'cc numarası', kredi c numarası ', ' kart numarası ', ' kredi kartı numarası. ' "diyor Drori. Drori, nereye bakılacağını bilmek ve sürecin haftalar hatta aylar alabileceğini bilmek pek mümkün değil ve birçok manuel süreç gibi insan hatalarına ve yanlışlıklarına da eğilimli olduğunu söylüyor.

GSYİH ayrıca verilerin ele alınmasında insan hatalarının maliyetini de artıracak. Drori, "Bu yüzden bugün birçok şirket meta verilerini doğru bir şekilde yönetmek için otomatik bir çözüm arıyor" diyor. Belki de ironik olarak, AI'nın kendisi bu konuda bir çözüm olabilir. AI destekli meta veri yönetimi araçları, bir kuruluş içindeki tüm veri kaynaklarını tarayabilir ve farklı araçlar ve veri kaynakları arasındaki ilişkileri birleştirebilir.

Açıklama Hakkı

GSYİH'nın AI ile ilgili en önemli kısımlarından biri "açıklama hakkı" olarak bilinen şeydir. Yönerge, şirketlerin kullanıcıları "otomatik karar vermenin varlığı" hakkında bilgilendirmeleri ve onlara "dahil olan mantık hakkında anlamlı bilgiler, ayrıca veri konusu için bu tür işlemlerin önemi ve öngörülen sonuçları" hakkında bilgi vermeleri gerektiğini belirtir.

Bu, temel olarak, kullanıcıların doğrudan veya dolaylı olarak AI algoritmalarına ne zaman maruz kaldıklarını bilmeleri ve bu algoritmaların aldığı kararlara itiraz edebilmeleri ve sonucun nasıl elde edildiğinin kanıtını talep edebilmeleri gerektiği anlamına gelir. Bu, AI endüstrisinin karşılaşacağı en büyük zorluklardan biri olacaktır.

Çağdaş yapay zeka algoritmalarının ardındaki ana teknoloji olan derin sinir ağları, büyük veri kümelerini analiz ederek ve korelasyon ve kalıpları bularak kendi işlevsellik kurallarını yaratan karmaşık yazılım yapılarıdır. Yapay sinir ağları daha karmaşıklaştıkça davranışları ayrıştığı için zorlaşır. Genellikle mühendisler bile AI algoritmalarının aldığı kararların arkasındaki nedenleri açıklayamazlar.

"Kara kutu" problemi olarak adlandırılan AI algoritmalarının anlaşılmazlığı, mahkeme kararlarında, yasa uygulamalarında, kredi ve kredi uygulamalarında, işe alımlarda, sağlık ve diğer kritik alanlarda bunların uygulanmasını zorlaştırdı. Ancak, herhangi bir yasal kaldıraç olmadan, AI şirketleri, özellikle ticari sırlarıyla yakından bağlantılı olduklarında, AI algoritmalarını daha şeffaf hale getirmek için çok az teşvik etti.

Şimdi, GDPR AI şirketlerini algoritmalarının aldığı kararları hesaba katacak.

Radware'deki güvenlik araştırmacısı Pascal Geenens, "GSYİH'nın bir parçası olarak, kuruluşların insan dilindeki işleme yöntemini açıkça ifade etmekten açıklamakla sorumlu olduklarını" söyledi. “Derin öğrenme geliştikçe ve veri bilimcileri sinir ağının gerekçesinin arkasındaki deterministik bir doğayı karakterize edemediklerinden, bu açıklama daha karmaşık ve açıklaması zor olabilir.”

Temel olarak, GDPR, verileri işleyen insanları hesap verebilir kılmakla ilgili olduğunu söylüyor. Dolayısıyla, işlemi yapmak için makine öğrenme algoritmaları kullanıyorsanız, bunları sizin adınıza vereceğiniz kararları açıklayabilecek şekilde tasarlamanız gerekir.

Bir avuç kuruluş AI'yı daha şeffaf hale getirmek için teknolojiler geliştirmeye çalışıyor. Bunlar arasında öne çıkanları, AI bazlı kararları anlaşılır hale getirmeyi amaçlayan bir araştırma projesi olan DARPA'nın Açıklanabilir AI (XAI) 'dır.

Dış Kaynak Kullanımı AI

GSYİH ayrıca, verilerini üçüncü şahıslar için erişilebilir kılan kuruluşları da etkileyecektir. Böyle bir şirketin öne çıkan bir örneği Facebook; Cambridge Analytica skandalında, sosyal medya devi, veri madenciliği şirketinin 87 milyon kullanıcının verilerini toplamasını ve kötüye kullanmasını engelleyemedi. Ancak GDPR ayrıca AI işlevselliklerini dış kaynaklardan temin eden ve verilerini AI sağlayıcıları için erişilebilir kılan şirketler için de sonuçlara sahip olacak.

"Birçoğu AI sağlayıcılarının diğer servis sağlayıcılar gibi olduklarını varsayıyor olsa da - sadece parasal tazminat karşılığında teknolojilerini teklif ediyorlar - gerçek şu ki, AI sağlayıcıları da kendi teknolojilerini geliştirmenin ve geliştirmenin bir yolu olarak iş ortaklıklarına giriyorlar" diyor. Digital Reasoning'den yönetici. Bu, bir AI sağlayıcısının, kendi algoritmalarını daha da geliştirmek ve başka alanlarda kullanmak için müşterinin verilerine bağlı kalmak isteyebileceği anlamına gelir.

Örneğin, bir sağlık kuruluşunun semptomlardaki kalıpları bulmasına ve teşhisleri iyileştirmesine yardımcı olan bir AI sağlayıcısı, tescilli algoritmalarını geliştiren bir veri setiyle karşılaşabilir. AI şirketi daha sonra diğer hasta bakımı türlerine yönelik algoritmalarını geliştirmek, diğer sağlık hizmeti sağlayıcılarına yardımcı olma yeteneklerini geliştirmek için verilerden yararlanmak isteyebilir. GSYİH uyarınca, verilerden sorumlu sağlık kuruluşu, AI sağlayıcı tarafından etik olmayan herhangi bir kullanımı hesaba katacaktır. Estes, anahtarın işletmelerin, verilere değil, algoritmalara sahip olduğuna inanan AI sağlayıcıları aramaları gerektiğine inanıyor.

Estes, "GSYİH, işletmeleri verilerinin nasıl ve ne zaman kullanıldığı, nerede depolandığı ve bir proje tamamlandıktan sonra ne olduğu konusunda daha fazla dikkat etmeye zorlayacak" dedi. “Bu, AI mülkiyet algoritmalarının başarısını geliştirmeye yardımcı olma yollarını engellememekle birlikte veri sahipliği hatlarını tanımlamaya yardımcı olan ve kullanıcı bilgilerini koruyan stratejiler uygulayan AI sağlayıcılarla çalışmak anlamına geliyor.”

GSYİH Engelleyici AI İnovasyonu Olacak mı?

Yeni düzenlemelerin, AI şirketlerinin kabul ettiği mevcut uygulamaları ve alışkanlıkları tehdit etmesine rağmen, aynı zamanda onları yenilikçiliğin yeni yollarını bulmaya ve aynı zamanda gizlilik ve etik standartlara saygı göstermeye zorlayacağına inandık.

GrowthChannel's Burushkina, "GDPR düzenlemesi yürürlüğe girdiğinde, tüm büyük yazılım şirketleri sadece uyum sağlamak için değil, aynı zamanda pazarda yeni fırsatlar bulmak için yenilikler yapmak ve kutudan çıkmak için gerekli önlemleri alıyorlar" diyor.

Octopai's Drori, "İnovasyon engellenmeyecek - ama yönetilecek ve motive olacak - GDPR" diyor. Bu arada, GSYİH ayrıca kuruluşların GDPR uyumluluğunu yakalamalarına ve sürdürmelerine yardımcı olacak yeni işlere ve teknolojilere de yol açacaktır.

Aslında GSYİH tarafından belirlenen standartlar, AI ile çalışan servislerin sağlayıcıları ve kullanıcıları arasındaki genişleyen güven açığının kapatılmasına yardımcı olabilir. Estes, GDPR'nin hem AI sağlayıcılarını hem de teknolojilerini uygulayanların veri kaynaklarını nasıl ve nereye kullandıklarından daha fazla sorumlu hale getireceğine ve kullanıcıları kardan önce kullanmaya zorlayacağına inanıyor. "Günün sonunda, " diyor, "AI sağlayıcıların yeteneklerini ve çözümlerini geliştirmek için yalnızca algoritmalara (verilere değil) sahip olmaları gerekir."