Ai neden ai olduğunu açıklamalıdır?

Google, son zamanlarda, restoran asistanlarına ve salon çalışanlarına Google Asistan ile konuştuklarını ve kaydedildiklerini açıkça ortaya çıkarmak için Duplex’i değiştirdi.

Google, Mayıs ayında I / O geliştirici konferansında Duplex'i ilk kez tanıtırken bu küçük ama önemli ayrıntıyı atladı. Bir medya boşluğu ortaya çıktı ve eleştirmenler, insanların davranışlarını ayırt edilemez şekillerde taklit edebilecek serbest bırakma ajanlarının serbest bırakılmasının etkileri hakkındaki eski korkuları yeniledi.

Duplex'i ayarlayarak, Google bu eleştirinin bir kısmını dinlemeye koyuyor. Ancak, şirketlerin AI temsilcilerinin kimlikleri konusunda şeffaf olmaları neden bu kadar önemlidir?

AI Asistanları Evil Amaçlar Sunabilir mi?

CEO'su Joshua March, “Bir işletmeyi mesajlaşırken AI ile çalışan bir chatbot ile etkileşime girebileceğinize dair artan bir beklenti var. Ama aslında bir insanın konuşmasını duyduğunuzda, bunun genellikle gerçek bir insan olmasını beklersiniz” diyor. Coversocial.

March, düzenli olarak AI ile anlamlı etkileşimlere sahip insanların başında olduğumuzu ve sahadaki ilerlemelerin, bilgisayar korsanlarının AI ajanlarını kötü amaçlı amaçlarla kullanabilecekleri korkusunu yarattığını söylüyor.

Cujo AI'daki Networks'ün SVP'si Marcio Avillez, “En iyi senaryoda, kötü niyetli niyetli AI botları insanları rahatsız edebilir” diyor. Ancak Marcio, daha fazla korkunç tehditle karşı karşıya kalacağımızı ekledi. Örneğin, AI, belirli dilsel kalıpları öğrenerek teknolojiyi insanları manipüle etmeyi, mağdurları taklit etmeyi ve sahne avı (sesli kimlik avı) saldırılarını ve benzeri etkinlikleri uyarlamayı kolaylaştırır.

Birçok uzman, tehdidin gerçek olduğu konusunda hemfikirdir. CIO'nun bir köşesinde, Steven Brykman, Duplex gibi bir teknolojiden yararlanmanın farklı yollarını ortaya koydu: "En azından insanları arayan insanlarla, hala sınırlayıcı bir faktör var - bir insan günde sadece bir saat, günde çok fazla çağrı yapabilir. İnsanlara para ödenmesi, ara vermesi ve bunun gibi şeyler yapılması gerekiyor. Ancak bir AI chatbotu sınırsız sayıda sınırsız sayıda kişiye sınırsız sayıda çağrı yapabilir! "

Bu aşamada duyduğumuz şeylerin çoğu spekülasyondur; Sesli asistanların ortaya çıkması ile ortaya çıkabilecek tehditlerin kapsamını ve ciddiyetini hala bilmiyoruz. Ancak, ses tabanlı yardımcıları içeren olası saldırıların birçoğu, teknolojiyi sağlayan şirket bir AI acentesiyle etkileşime girdiğinde kullanıcılara açıkça iletişim kurması durumunda etkisiz hale getirilebilir.

Mahremiyet kaygısı

Duplex gibi teknolojilerin kullanımını çevreleyen bir diğer sorun da gizlilik riski. AI destekli sistemler algoritmalarını geliştirmek ve geliştirmek için kullanıcı verilerine ihtiyaç duyar ve Duplex istisna değildir. Bu verileri nasıl saklayacağı, güvence altına alacağı ve kullanacağı çok önemlidir.

Şirketlerin, bilgilerini toplamak istediklerinde, kullanıcıların açık onaylarını almalarını gerektiren yeni düzenlemeler ortaya çıkıyor, ancak çoğunlukla kullanıcıların kasıtlı olarak etkileşime girdikleri teknolojileri kapsayacak şekilde tasarlandılar. Bu, kullanıcı tarafından etkinleştirilen Siri ve Alexa gibi AI asistanları için anlamlıdır. Ancak, yeni kuralların, tetiklenmeden kullanıcılara ulaşan AI asistanlarına nasıl uygulanacağı açık değildir.

Brykman, makalesinde, şirketlerin bir AI temsilcisinin varlığını ilan etmelerini gerektiren yasalar veya bir sohbetçiye bir sohbetçi olup olmadığını sormak için, "Evet, Ben bir chatbot'um. " Bu tür önlemler insan muhataplarına seslerini kaydeden bir AI sistemi ile etkileşime girmek isteyip istemediklerine karar vermeleri veya en azından karar vermeleri için bir şans sağlayacaktır.

Bu tür yasalarla bile, gizlilik endişeleri ortadan kalkmaz. “Teknolojinin şu anki enkarnasyonunda öngördüğüm en büyük risk Google’a henüz sahip olmadığı özel hayatlarımız hakkında daha fazla veri vermesi. Bu noktaya kadar, sadece çevrimiçi iletişimimizi biliyorlardı; Gerçek dünya görüşmelerimiz "diyor Xineoh'un kurucusu ve CEO'su Vian Chinner.

Kullanıcı verilerini kendi kazanımları için sorgulanabilir şekillerde kullandıkları büyük teknoloji şirketlerinin de dahil olduğu son gizlilik skandalları, onlara hayatlarımıza daha fazla pencere verme konusunda bir güvensizlik duygusu yarattı. Chinner, “Genel olarak insanlar, büyük Silikon Vadisi şirketlerinin onları müşteriler yerine envanter olarak gördüklerini ve ne kadar çığır açan ve hayat değiştirecekleri olursa olsun, yaptıkları neredeyse her şeye karşı büyük ölçüde güvensiz olduklarını hissediyorlar” diyor.

İşlevsel Arızalar

Doğal bir sese ve tona sahip olmasına ve "mmhm" ve "ummm" gibi insan benzeri sesleri kullanmasına rağmen, Dubleks diğer çağdaş AI teknolojilerinden farklı değildir ve aynı sınırlamalardan muzdariptir.

Ses veya metin arayüz olarak kullanılıyor olsa da, AI aracıları belirli sorunları çözmede iyidir. Bu yüzden onlara “dar AI” diyoruz (“genel AI” yerine - insan zihninde olduğu gibi genel problem çözme sürecine girebilecek yapay zeka türü). Dar AI, programlandığı görevlerin yerine getirilmesinde son derece iyi olsa da, problem alanından sapan bir senaryo verildiğinde olağanüstü başarısız olabilir.

Conversocial's March "Tüketici bir insanla konuştuğunu düşünüyorsa, AI'nın normal senaryosunun dışında bir şey soracak ve bot anlayamadığında sinir bozucu bir yanıt alacaktır" diyor.

Buna karşılık, bir kişi bir restoranda masa ayırtmak için eğitilmiş bir AI ile konuştuğunu bildiğinde, AI'yı şaşırtacak bir dili kullanmaktan kaçınmaya çalışacak ve özellikle de getiriyorsa beklenmedik şekillerde davranmasına neden olacak Onlara bir müşteri.

Avillez, "Dubleks'ten çağrı alan personel, bunun gerçek bir insan olmadığı konusunda basit bir giriş yapmalı. Bu, personel ve AI arasındaki iletişimin daha muhafazakar ve açık olması için yardımcı olacaktır" diyor.

Bu nedenle, insan zekası ile eşit performans gösterebilen AI'yı geliştirinceye kadar (ve eğer) AI'nın kullanımları konusunda şeffaf olmaları, şirketlerin kendi çıkarları içindir.

Günün sonunda, Dubleks gibi ses yardımcılarının korkusunun bir kısmı, yeni olmalarından kaynaklanıyor ve hala yeni ortamlarda karşılaşmaya ve davaları kullanmaya alışıyoruz. Chinner, “En azından bazı insanlar bilmeden bir robotla konuşma fikrinden çok rahatsız görünüyorlar, bu nedenle şu an için muhtemelen konuşmadaki meslektaşlara açıklanmalı” dedi.

• AI (Aynı zamanda) İyi Bir Güçtür AI (Aynı zamanda) İyi Bir Güçtür
• AI Gerçeklik ve Kurgu Arasındaki Çizgiyi Bulanıklaştırdığında AI, Gerçeklik ve Kurgu Arasındaki Çizgiyi Bulanıklaştırdığında
• Yapay Zeka Önyargı Sorunu Var ve Bu Bizim Hatamız Yapay Zeka Önyargı Sorunu Var ve Bu Bizim Bizim Hatamız

Ancak uzun vadede, daha önce insan operatörlerinin münhasır alanı olduğu düşünülen görevleri gerçekleştirme konusunda daha akıllı ve daha yetenekli AI ajanlarıyla etkileşime alışmaya alışacağız.

“Gelecek nesil, bir işletmeyle iletişim kurduğunda bir AI veya bir insanla konuşup konuşmamalarını önemsemez. Cevaplarını hızlı ve kolay bir şekilde almak isterler ve Alexa ile konuşarak büyürler. Conversocial's March, bir insanla konuşmaya devam etmenin bir botla etkileşime girmekten çok daha sinir bozucu olacağını söyledi.