Alexa'nın hatalarından öğrenmek

Bir Amazon Echo cihazı kısa bir süre önce bir kullanıcının özel sohbeti kaydetti ve bilgisi ve rızası olmadan bağlantılarından birine gönderdi. Bu (tekrar), akıllı konuşmacıların güvenliği ve mahremiyetine dair endişeleri artırıyor. Daha sonra ortaya çıktıkça, Alexa'nın tuhaf davranışı kötü bir casusluk komplosunun parçası değildi - bunun yerine akıllı konuşmacının çalışma biçimine bağlı bir dizi bağlantılı başarısızlıktan kaynaklanıyordu.

Amazon tarafından sağlanan bir hesaba göre: "Echo, arka plandaki konuşmasında 'Alexa' gibi konuşan bir sözcük yüzünden uyandı. Sonra, bir sonraki görüşme 'mesaj gönder' isteği olarak duyuldu. Alexa hangi noktada yüksek sesle 'Kime?' Dedi. Bu noktada, arka plan sohbeti müşterinin irtibat listesinde bir isim olarak yorumlandı Alexa sonra yüksek sesle sordu, 'değil mi?' Alexa daha sonra arka plandaki konuşmayı 'doğru' olarak yorumladı. Bu olay dizisinde olduğu gibi, bu olayı daha da az olası kılmak için seçenekleri değerlendiriyoruz. ”

Senaryo, nadiren meydana gelen olay türlerinden biri. Ancak, Yankı ve diğer "akıllı" cihazlara güç veren yapay zeka teknolojisinin sınırları konusunda da ilginç bir çalışma.

Çok Fazla Bulut Güven

Ses komutlarını anlamak için, Yankı ve Google Ana Sayfası gibi akıllı konuşmacılar kapsamlı bilgi işlem gücü gerektiren derin öğrenme algoritmalarına güvenir. Görevi yerel olarak gerçekleştirmek için bilgi işlem kaynaklarına sahip olmadıkları için, verileri AI algoritmasının konuşma verilerini metne dönüştürdüğü ve komutları işlediği üreticinin bulut sunucularına göndermeleri gerekir.

Ancak akıllı hoparlörler duydukları her şeyi bulut sunucularına gönderemezler; çünkü bu, üreticinin sunucuları üzerinde aşırı miktarda veri depolamasını gerektirir - çoğu yararsız olur. Yanlışlıkla kullanıcıların evlerinde gerçekleşen özel konuşmaların kaydedilmesi ve saklanması da bir gizlilik zorluğu doğuracak ve özellikle teknoloji şirketlerinin verileri nasıl sakladığı ve kullandığı konusunda ciddi kısıtlamalar getiren yeni veri gizliliği düzenlemeleriyle üreticilerin başını belaya sokabilir.

Bu nedenle akıllı hoparlörler, "Alexa" veya "Hey Google" gibi bir uyandırma sözcüğü girdikten sonra tetiklenecek şekilde tasarlanmıştır. Sadece uyandırma kelimesini duyduktan sonra, mikrofonların ses girişlerini analiz ve işleme için buluta göndermeye başlarlar.

Bu özellik gizliliği arttırırken, son Alexa olayının da vurguladığı gibi kendi zorluklarını sunuyor.

Conversocial CEO'su Joshua March, "Eğer kelime - ya da buna çok benzeyen bir şey - bir konuşmanın yarısına kadar gönderilirse, Alexa önceki bağlamlardan hiçbirine sahip olmaz" diyor. “Bu noktada, kurduğunuz becerilerle ilgili herhangi bir komut için son derece zor dinliyor (mesajlaşma uygulamaları gibi). Çoğunlukla, Alexa’nın dikkat ettiği bağlamı kısıtlayarak gizlilik büyük ölçüde artırılıyor. Bu, normal konuşmanızın hiçbirini kaydetmiyor veya dinlemiyor).

Kenar hesaplamadaki gelişmeler bu sorunun hafifletilmesine yardımcı olabilir. AI ve derin öğrenme gittikçe daha fazla cihaza ve uygulamaya girerken, bazı donanım üreticileri bulut kaynaklarına çok fazla güvenmeden AI görevlerini yerine getirmek için uzmanlaşmış işlemciler yarattı. Edge AI işlemciler, tüm verileri buluta göndererek, kullanıcıların gizliliğini ihlal etmeden konuşmaları daha iyi anlamalarına ve işlemelerine yardımcı olabilir.

Bağlam ve Amaç

Amazon'un yapay zihni, farklı ve parçalanmış ses parçaları almanın yanı sıra, insan konuşmasının nüanslarını anlamakta zorlanıyor.

March, “Son birkaç yılda derin öğrenme konusunda büyük gelişmeler olmasına rağmen, yazılımın konuşma ve görüntüleri daha önce hiç olmadığı kadar iyi anlamalarına olanak sağlamakla birlikte, hala çok fazla sınır var. “Sesli asistanlar söylediğiniz kelimeleri tanıyor olsalar da, arkasındaki anlamı ya da niyetle ilgili herhangi bir gerçek anlayışa sahip olmaları gerekmez. Dünya karmaşık bir yer, ancak bugün herhangi bir AI sistemi ancak çok şeyle başa çıkabiliyor. özel, dar kullanım durumları. "

Örneğin, insanlar bir cümlenin ses tonu gibi mi yoksa görsel ipuçlarını takip etme gibi - bize, konuşmacının bakmakta olduğu yönü belirleme şeklini belirlemenin birçok yolunu kullanıyor.

Buna karşılık Alexa, bunun "A" kelimesini içeren cümlenin alıcısı olduğunu varsayar. Bu nedenle kullanıcılar sıklıkla onu yanlışlıkla tetikler.

Sorunun bir kısmı, mevcut AI uygulamalarının yeteneklerini abarttığımızdan, çoğu zaman bunları insan zihniyle ya da üstünde aynı seviyeye getirerek onlara çok fazla güven duymaktır. Bu yüzden olağanüstü başarısız olduklarında şaşırıyoruz.

“Buradaki meselenin bir kısmı, 'AI' teriminin o kadar agresif bir şekilde pazarlandığı, tüketicilerin bu terime kendilerine bağlı ürünlere haksız bir inanç koymuş olmalarıdır, ” diyor Starmind sinirbilimci ve kurucusu Pascal Kaufmann. “Bu hikaye, Alexa'nın birçok yeteneğe ve nasıl ve ne zaman uygun şekilde uygulanmaları gerektiğine ilişkin göreceli olarak sınırlı bir anlayışa sahip olduğunu gösteriyor.”

Derin öğrenme algoritmaları, eğitim aldıkları verilerden ve senaryolardan sapan ayarlarla karşılaştıklarında başarısız olma eğilimindedir. Kaufmann, “İnsani seviyeli AI'nın tanımlayıcı özelliklerinden biri kendi kendine yetkin bir yeterlilik ve gerçek bir içerik anlayışı olacak” diyor. “Bu, AI'yı“ akıllı ”ve gerçekten gelişmesi için hayati bulmanın çok önemli bir parçası. İnsan doğasını tam anlamıyla anlatan, kendinden haberdar dijital asistanlar yaratmak, onların eğlenceli bir yenilikten gerçekliğe dönüşmelerini işaretleyecek. kullanışlı araç."

Ancak aynı zamanda genel AI olarak da adlandırılan insan seviyesindeki AI'yi oluşturmak, yapmaktan daha kolaydır. Yıllardır, sadece teknolojik gelişmelerin insan zihninin ne kadar karmaşık olduğunu gösterdiği gibi dehşete düşmek için köşeyi döndüğünü düşünüyoruz. Pek çok uzman, genel AI'ı kovalamanın boşuna olduğuna inanıyor.

Bu arada, dar yapay zeka (mevcut yapay zeka teknolojileri tanımlandığı gibi) hala pek çok fırsat sunuyor ve hataları tekrarlamaktan kaçınmak için düzeltilebilir. Açık olmak gerekirse, derin öğrenme ve makine öğrenmesi hala yenidir ve Amazon gibi şirketler her seferinde son durumları ele almak için AI algoritmalarını sürekli olarak güncellemektedir.

Ne yapmamız gerekiyor

Atomic X'in CTO'su Eric Moller, “Bu, genç ve gelişmekte olan bir alan. Doğal Dil Anlayışı özellikle başlangıç ​​aşamasında, bu yüzden burada yapabileceğimiz çok şey var” diyor.

Moller, ses analizi AI algoritmalarının tonlamayı ve yansımayı daha iyi anlamak için ayarlanabileceğine inanıyor. Moller, “'Alexa' kelimesini daha geniş bir cümle içinde kullanmak, bir suçlama veya emirden farklı bir ses gibi geliyor. Alexa, geçerken bu ismi söylediğiniz için uyanmamalıydı” diyor. Yeterince eğitimle, AI akıllı hoparlöre hangi tonların yönlendirildiğini ayırt edebilmelidir.

Teknoloji şirketleri, AI'ları doğrudan konuşulmasının aksine arka plan gürültüsü alırken ayırt edebilmeleri için eğitebilirler. Moller, “Arka plan konuşmacısı, insanların alıp almakta ve seçmeli bir şekilde ayar yapmakta çok iyi olduklarına dair benzersiz bir işitsel imzaya sahip.” AI modellerini aynı şekilde eğitmek için hiçbir nedenimiz yok ”diyor.

Bir önlem olarak, AI asistanları aldıkları kararların etkisini değerlendirmeli ve potansiyel olarak hassas bir şey yapmak istedikleri durumlarda insan kararını içermelidir. Üreticiler, hassas bilgilerin kullanıcının açık ve açık rızası olmadan gönderilmesini önlemek için teknolojilerine daha fazla güvence vermelidir.

Tonkean'ın CEO'su Sagi Eliyahi, “Amazon, Alexa'nın yorumladığı eylemi onaylamaya çalıştığını bildirmiş olsa da, bazı eylemlerin daha dikkatli bir şekilde yönetilmesi ve kullanıcının niyetinin daha yüksek bir onay standardına uyması gerekiyor” diyor. “İnsanların aynı konuşma tanıma sorunları var, bazen istekleri yok ediyorlar. Alexa'dan farklı olarak, bir insanın kesinlikle belirsiz bir talebi anladıklarını ve daha da önemlisi, geçmiş taleplere kıyasla bir isteğin gerçekleşme olasılığını ölçmesi daha olası.”

Bu arada…

Teknoloji şirketleri, hataları azaltmak için yapay zeka uygulamalarını ayarlarken, kullanıcılar, yapay zeka aygıtlarının yapabilecekleri olası hatalara ne kadar maruz kalmak istediklerine dair nihai kararı vermek zorunda kalacaklar.

Veri bilimi uzmanı ve AI ve yazılım üzerine birkaç kitap yazan Doug Rose, "Bu hikayeler, insanların yeni AI teknolojilerinin vaadiyle paylaşmaya istekli oldukları verilerle bir çelişki ortaya koyuyor" diyor. “Siri'yi yavaş olduğu için kızdırabilirsin. Ama onun daha fazla istihbarat elde etmesinin en iyi yolu özel konuşmalarımızı istila etmektir. Bu yüzden önümüzdeki on yıl boyunca önemli bir soru, bu AI ajanlarının davranışlarımıza ne kadar göz atmasına izin vereceğimizdir. ?"

“Hangi aile oturma odasına bir insan asistanı yerleştirir ve bu kişinin her zaman herhangi bir konuşmayı dinlemesine izin verir mi?” “Starmind'li sinirbilimci Kaufmann” diyor. “En azından gizlilik, gizlilik veya güvenilirlik söz konusu olduğunda insan zeki varlıklarına da uygulayacağımız“ AI ”cihazlarına (eğer daha yüksek değilse) aynı standartları uygulamalıyız.”