Bulut suya battığında, kurtarma için ai, kenar hesaplama

Avustralya'nın Yeni Güney Galler (NSW) eyaletinin kıyı şeridi boyunca, suların güvenliğini sağlamaya yardımcı olan bir dron filosu bulunuyor. Bu yılın başlarında, dronlar devletin Uzak Kuzey Kıyısı'ndaki cankurtaranlara ağır sörf yapmakta zorlanan iki çocuğu kurtarmalarına yardımcı oldu.

Uçağı, video beslemelerini sürekli olarak analiz eden ve dikkat etmesi gereken öğeleri vurgulayan yapay zeka (AI) ve makine görme algoritmaları tarafından destekleniyor: örneğin köpekbalıkları veya başıboş yüzücüler. Bu, Google Foto’nun resim sıralamasını, yabancıları algılamak için bir ev güvenlik kamerasını ve bozunabilirleriniz son kullanma tarihlerine yaklaştığında sizi uyaracak akıllı bir buzdolabıyla aynı tür bir teknolojidir.

Ancak, bu servisler ve cihazlar AI fonksiyonları için bulutla sürekli bir bağlantıya ihtiyaç duyarken, NSW dronları, yerel olarak derin öğrenme hesaplamaları yapmalarına olanak sağlayan sinirsel hesaplama yongaları sayesinde görüntü algılama görevlerini sağlam bir internet bağlantısıyla ya da olmadan gerçekleştirebilirler. .

Bu yongalar, yazılım destekli cihazlarımızın buluta sabit bir bağlantı olmadan en azından bazı kritik fonksiyonları yerine getirmelerini sağlayan, artan bir bilişim teknolojileri yenilikçiliğinin bir parçası. Kenar hesaplamanın yükselişi yeni ve eski sorunların çözülmesine yardımcı olmak ve gelecek nesil akıllı cihazların önünü açmaktır.

Bulutun Yükünü Kaldırmak

Geçtiğimiz yirmi yılda, bulut, iyi nedenlerle uygulamaları barındırmanın en önemli yolu haline geldi.

IBM Watson’ın CTO'su Rob High, “Bulutu bu kadar çekici kılan şey, gerçekleştirmek istediğiniz herhangi bir etkinliği başlatma maliyetini düşürme eğiliminde olmasıdır” diyor. "Bulut … insanların … altyapı oluşturma maliyetini denemek zorunda kalmadan bugünkü gerçek sorunları çözmelerini sağlıyor."

Her yerde internet bağlantısı ve sayısız bulut uygulamaları, hizmetleri ve geliştirme platformları sayesinde, uygulama oluşturma ve dağıtma konusundaki engeller önemli ölçüde azaldı. IBM, Google ve Amazon gibi bulut sağlayıcıların muazzam kaynakları yalnızca önemsiz ticari uygulamaların değil, aynı zamanda çok miktarda hesaplama ve depolama gerektiren karmaşık yazılımların da geliştirilmesini sağlamıştır - AI ve makine öğrenme algoritmaları, akış ve AR (artırılmış gerçeklik) uygulamaları.

Ancak bu gelişmeler aynı zamanda bir zorluk da yarattı: Kullandığımız uygulamaların çoğu, buluta bağlı olmadıkça çalışamaz. Buna bilgisayarlarda ve telefonlarda çalışan uygulamaların yanı sıra buzdolapları, termostatlar, kapı kilitleri, güvenlik kameraları, arabalar, dronlar, hava durumu sensörleri vb.

Nesnelerin İnterneti'nin (IoT) ortaya çıkmasıyla birlikte, artan sayıda cihaz yazılım kullanıyor ve veri üretiyor ve bunların çoğunun bu verileri depolamak ve işlemek için buluta bağlanması gerekecek. Bu verileri buluta göndermek için gereken güç ve bant genişliği çok büyüktür ve verileri depolamak için gereken alan, en güçlü bulut gruplarının bile kaynaklarını tehdit edecektir.

High, “Bu sistemlerde topladığımız, kenarda ya da bir IoT cihazı ya da başka bir yerde, umursamayacağınıza neredeyse karar verebileceğiniz neredeyse bir veri var” diyor. Ancak, her karar bulutta gerçekleşmesi gerekiyorsa, tüm bu veriler ağ üzerinden silinerek filtrelenmek üzere bulut sunucularına gönderilmelidir.

Örnek olarak, High, jet motorlarını izleyen ve her uçuş sırasında yüzlerce gigabaytlık durumu ve performans verisi toplayan yüzlerce sensör içeren modern uçakları adlandırıyor. High, “Bir toplam üzerinde analiz etmek istiyorsanız, bu verilerin ne kadarı gerçekten önemli? Muhtemelen sadece bir bölümü” diyor. “Yaptığın başka bir şey için gerekli olmadığında neden kaynağından kurtulmuyorsun?”

High'ın önerdiği şeyi bulutun dışında yapması daha önce hepsinden imkansızdı, ancak düşük güçlü, düşük maliyetli Çip Üzerine Sistem (SoC) işlemcilerindeki gelişmeler uç cihazlara daha fazla bilgi işlem gücü kazandırdı ve hesaplama yüklerinin bir kısmını omuzlarına bıraktılar. gerçek zamanlı analitik yapmak veya verileri filtrelemek gibi ekosistemler.

High, “Edge ortamında çok fazla veri var, bazı cloud computing yeteneklerini edge cihazının hesaplama kapasitesine getirmek mantıklı” diyor.

Mahremiyet kaygısı

Edge bilgi işlem avantajları, bulut kaynaklarını serbest bırakmakla sınırlı değildir.

Yeni Teknoloji Grubu ve Movidius (Intel) Genel Müdürü Remi El-Ouazzane, ticari güvenlik kameralarını, kenar hesaplamanın ne kadar büyük bir fark yaratabileceğinin bir başka örneği olarak gösteriyor. Bu kameraları trafik ışıklarında, havaalanlarında ve binaların girişinde, günün her saati ağ üzerinden yüksek kaliteli video kaydeder ve izlersiniz.

El-Ouazzane, "Bir sunucuya veya veri merkezine geri çekmek için ne kadar az veri gereksiniminiz olursa, yerel olarak daha fazla fırçalama ve ustalık kazanırsanız, toplam sahip olma maliyetiniz depolama ve transfer perspektifinden daha iyi olacaktır."

Bu, kameralara kendi video beslemelerini analiz etme gücü sağlamak, hangi video karelerinin veya uzunluklarının dikkat gerektirdiğini belirlemek ve yalnızca bu verileri sunucuya göndermek anlamına gelir.

Bu kameralar evinize, ofisinize veya herhangi bir özel yere kurulduğunda, buluta bağlanmak da olası bir güvenlik sorunudur. Bilgisayar korsanları ve güvenlik araştırmacıları, hassas video yayınlarını engellemek için ev aletleri ve bulut sunucuları arasındaki bağlantıyı tehlikeye atabildi. Verileri yerel olarak ayrıştırmak, eviniz, özel hayatınız ve bir servis sağlayıcı arasında bir video kanalı olması gereğini ortadan kaldırır.

2016 yılında Intel tarafından satın alınan Movidius, bilgisayar çiplerini konuşma tanıma ve bilgisayarlı görü gibi AI görevleri için özel hale getiren birkaç başlangıçtan biri. Şirket, Vizyon İşleme Üniteleri (VPU'lar) üretiyor - dijital görüntülerin bağlamını analiz eden ve "anlayan" sinir ağlarını çalıştıran düşük güç işlemcileri, onları buluta geri göndermeye ihtiyaç duymadan.

Movidius Myriad 2, güç kısıtlamalı ortamlar için üretilmiş, her zaman açık olan bir görüntü işlemcisidir.

El-Ouazzane, "Kamera, neye baktığını anlamını anladığı zaman, kameranın yapabileceklerini veya yapamadıklarını belirleme kuralları çok kolay bir iş haline geliyor" diyor. “Sadece 12 saat boyunca oturma odanızı yakalamanıza gerek yok, sadece belirli bir zamanda köpeğinizin kanepenin önündeki halıyı geçtiğini bilmek için.”

Diğer şirketler, kullanıcı gizliliğini korumak için özel AI destekli uç bilgisayar kullanımı kullanımını araştırıyor. Örneğin, Apple iPhone X, AI görevlerini yerel olarak çalıştırabilen A11 Bionic yongası tarafından destekleniyor ve kullanıcının bulut görüntüsünü göndermeden karmaşık yüz tanıma işlemini gerçekleştirmesini sağlıyor.

Kenarındaki daha fazla AI işleme, kullanıcıların AI uygulamalarını kullanmak için büyük şirketlerle daha az veri paylaşması gereken ademi merkeziyetçi yapay zekanın yolunu açabilir.

Gecikmeyi Azaltma

Büyük bulut sağlayıcıların bir diğer sorunu da veri merkezlerinin büyük şehirlerin dışında bulunması ve uygulamalarını kullanan insanlardan ve cihazlardan yüzlerce mil uzakta olacak şekilde konumlandırılması.

Birçok durumda, buluta gidip gelen verilerden kaynaklanan gecikme, düşük performansa ya da daha kötü ölümcül sonuçlara neden olabilir. Bu, düzensiz bir zemine çarpma veya iniş yapmamaya çalışan bir dron olabilir veya bir engel veya bir yayaya çarpıp akmayacağına karar vermeye çalışan kendi kendini süren bir araba olabilir.

Movidius'un hafif derin derin ağlar ve bilgisayar vizyonu uygulaması, cipslerini GPU'lar gibi güç tüketen donanımların uygun olmadığı uçağı gibi mobil uç cihazlar için uygun hale getiriyor. Dronlar özellikle ilginç bir çalışmadır, çünkü AI hesaplamaya düşük gecikmeli erişime ihtiyaç duyarlar ve çevrimdışı ortamlarda çalışmaya devam etmeleri gerekir.

Jest tespiti, uç bilişimin dron deneyimini geliştirmeye yardımcı olduğu başka bir alan olarak. El-Ouazzane, “Amaç, çoğu insan için uçağı erişilebilir kılmak ve jest, insanların bunları kullanması için iyi bir yol gibi görünüyor.

İşçileri ve ilk müdahalecileri kurtarmak için ağır hava uçağı hizmetleri sunan Skylift Global gibi yeni başlayanlar için AI'ya düşük gecikmeli erişim ve bilgi işlem kaynakları paradan ve hayattan tasarruf sağlayabilir. Skylift CEO'su ve kurucusu Amir Emadi, "Veri alım maliyetlerini önemli ölçüde azaltacak, ağ gecikmesini azaltacak, güvenliği artıracak ve akış verilerini gerçek zamanlı kararlara dönüştürmeye yardımcı olacak" diyor.

Sarf malzemelerini ilk yanıtlayanlara teslim etmek, ikincil kararlar gerektirir. “Bir orman yangınıyla mücadelede geçen zaman, durumu düzeltmek için daha pahalı hale geliyor. Dronlarımız, bağlantılarını kaybettikleri zaman bile, gerçek zamanlı kararlar alabildiklerinden, daha fazla tasarruf edebileceğiz. hayatlar, para ve zaman "diyor Emadi.

Gerçek zamanlı hesaplamaya ihtiyaç duyan diğer alanlar artırılmış ve sanal gerçeklik uygulamaları ve özerk araçlardır. “Bunların hepsi deneyim tabanlı bilgi işlem ortamları. İnsanların etrafında olacaklar” diyor New York merkezli bir geliştirici olan yüksek donanıma erişime odaklanan Packet CEO'su Zachary Smith.

Kullanıcının hareketlerine ayak uyduramayan bir AR veya VR uygulaması baş dönmesine neden olur veya deneyimin sürükleyici ve gerçek olmasını önler. Gecikme, bilgisayar vizyonu ve makine öğrenmesi algoritmalarına dayanan kendi kendini süren otomobiller ana akım haline geldiğinde gecikme daha da büyük bir sorun olacak.

Smith, “30 milisaniyelik bir gecikme, web sayfanızı yüklemek için önemli olmayacak ancak küçük bir kıza çarpmamak için sola veya sağa dönmesi gerekip gerekmediğini 60 mil / saat'te belirlemesi gerçekten önemli olacak” diyor.

Edge'in Zorluklarını Karşılamak

Bilgisayarı kenara yaklaştırmak gerekmese de, her cihaza özel donanım koymak son cevap olmayabilir. “Neden sadece tüm bilgisayarları arabaya koymuyorsunuz? Bunun yaşam döngüsünü ne kadar hızlı kontrol edebileceğinizin evrimi ile gerçekten ilgili olduğunu düşünüyorum” diyor.

Smith, “Donanımı dünyaya yerleştirdiğinizde, genellikle beş ila 10 yıl boyunca orada kalıyor” diyor Smith, bu deneyime dayalı kullanım durumlarını destekleyen teknoloji her altı ila 12 ayda bir değişiyor.

Karmaşık tedarik zincirleri olan çok büyük şirketler bile, donanımlarını güncellemek için sık sık mücadele ederler. 2015 yılında Fiat Chrysler, beş yıl önce ortaya çıkan bir güvenlik açığını gidermek için 1, 4 milyon aracı geri çağırmak zorunda kaldı. Ve dev yonga üreticisi Intel, yüz milyonlarca cihazı korsanlara maruz bırakan bir tasarım hatasıyla uğraşmaya devam ediyor.

Movidius'tan El-Ouazzane bu zorlukları kabul ediyor. “Her yıl bir dizi ürünü değiştirmek zorunda kalacağımızı biliyoruz, çünkü her yıl en üst düzeyde daha fazla istihbarat getireceğiz ve müşterilerimizden yükseltme yapmalarını isteyeceğiz” diyor.

Sürekli hatırlamalardan kaçınmak ve müşterilerin en son donanımlarını uzun süre kullanmasına izin vermek için Movidius işlemcilerini ekstra kaynaklar ve kapasite ile paketler. El-Ouazzane, “Gelecek birkaç yıl boyunca bu ürünler üzerinde yükseltme yapma yeteneğine ihtiyacımız var” diyor.

Smith'in şirketi olan Packet farklı bir yaklaşım kullanıyor: Şehirlere dağıtılabilen ve kullanıcılara daha yakın olabilecek mikro veri merkezleri yaratıyor. Böylece şirket, geliştiricilere çok düşük gecikmeli hesaplama kaynakları sağlayabilir - kullanıcılara en son donanımları kullanmadan alabildiğiniz kadar yakın.

Smith, “Tüm dünyadaki geliştiricilerin erişebileceği donanımları koymak için bir altyapı sağlama mekanizmasına ihtiyaç olacağına inancımız var” diyor. Şirket halihazırda 15 noktada faaliyet gösteriyor ve sonunda yüzlerce şehre doğru genişlemeyi planlıyor.

Ancak Packet'in hedefleri, Google ve Amazon'un beğenileriyle işletilen yayılma tesislerinin minyatür versiyonlarını oluşturmaktan ileri gidiyor. Smith'in açıkladığı gibi, özel donanımı dağıtmak ve güncellemek genel bulut ile mümkün değildir. Packet'in iş modelinde, üreticiler ve geliştiriciler, ihtiyaç duyduklarında hızlı bir şekilde güncellenebilecekleri ve yenilenebilecekleri ve aynı zamanda kullanıcılarının bilgi işlem kaynaklarına süper hızlı erişebilmelerini sağlayan, şirketin son veri merkezlerinde özel donanımlar kullanıyorlar.

Packet'in müşterilerinden olan Hatch, Angry Birds'ü kuran mobil oyun şirketi Rovio'dan bir ayrılıktır. Şirket, düşük teknolojili Android cihazlarına sahip kullanıcılara düşük gecikmeli çok oyunculu oyun yayın hizmetleri sağlamak için uç bilgisayar sunucularında Android kullanıyor.

Smith, "Dünyadaki tüm bu pazarlarda oldukça uzmanlaşmış ARM sunucularına ihtiyaç duyuyor" diyor. “Sunucumuzun sundukları özelleştirilmiş yapılandırmalara sahipler ve Avrupa'daki sekiz küresel pazara koyduk ve yakında 20 veya 25 pazar olacak. Amazon gibi kendilerine geliyor ama Avrupa'nın her pazarında özelleştirilmiş donanımlar kullanıyorlar. ."

Teorik olarak, Hatch aynı şeyi genel bulutta da yapabilirdi, ancak maliyetler onu verimsiz bir iş haline getirecekti. Smith, “Fark, CPU başına 100 kullanıcı koymakla CPU başına 10.000 kullanıcı koymak arasında” diyor.

Smith, bu modelin bir sonraki yazılım yeniliklerini yönlendirecek geliştirici nesline hitap edeceğine inanıyor. Smith, “Odaklandığımız şey, yazılım kuşağını, bulutta büyüyen insanları, özel donanım ilkelleriyle nasıl bağlayacağımız” diyor. “İçine bakmak için MacBook'larını bile açamayan kullanıcılardan bahsediyoruz ve bu donanım / yazılım yığınında yenilik yapacak olan kişi.”

Bulutlar Çözülecek mi?

Son aygıtlar karmaşık hesaplama işlemlerini gerçekleştirme yeteneğine sahipken, bulutun geleceği tehlike altında mı?

IBM Watson'ın Yüksek, “Bana göre, kenar bilişim, bulut bilişimin bir sonraki ilerlemesinde doğal ve mantıklı” diyor.

Aslında, 2016 yılında, IBM, geliştiricilerin, özellikle uç aygıtların yakın çevreleriyle ilgili çok fazla veri topladıkları IoT ekosistemlerinde, uç ve bulut arasında görevleri sorunsuz bir şekilde dağıtmalarına olanak veren bir dizi araç ortaya koydu. Ve 2016 yılının sonlarında, bir başka büyük bulut geliştirme platformu olan Amazon Web Servisleri, IoT geliştiricilerin bulut uygulamalarının bir kısmını en son cihazlarında çalıştırmalarını sağlayan bir servis olan Greengrass'ı duyurdu.

Bunların hiçbiri bulutun gittiği anlamına gelmez. High, “Çok daha fazla iş yapılsa bile, bulutta daha iyi yapılması gereken birçok şey var” diyor. Bu, birçok farklı kaynaktan gelen verilerin toplanması ve büyük veri kümeleriyle büyük ölçekli analitik yapılması gibi görevleri içerir.

“Bu uç aygıtlarda kullandığımız AI algoritmalarında modeller oluşturmamız gerekiyorsa, bu modelleri oluşturmak ve eğitmek hala çok büyük bir hesaplama yoğun bir sorundur ve çoğu zaman bu uç aygıtlarda bulunanların ötesinde bir hesaplama kapasitesi gerektirir” diyor.

El-Ouzzane de aynı fikirde. “AI modellerini yerel olarak eğitme yeteneği son derece sınırlı” diyor. “Eğitimin derinlemesine bir bakış açısından eğitimin oturması gereken tek bir yer var ve büyük veri kümeleriyle baş edebilmek için yeterli bilgi işlem kaynağı ve yeterli depolama alanı bulduğunuz bulutta.”

El-Ouazzane ayrıca, en son cihazların görev ve zaman açısından kritik görevlerle atandığı durumları da kullanırken, bulut gecikmeye bağlı olmayan daha gelişmiş çıkarımlarla ilgilenmektedir. “Bulut ile uç arasında bir devamlılık dünyasında yaşıyoruz.”

High, “Kenar bilişim ile bulut bilişim arasında simbiyotik ve sinerjik bir ilişki var” diyor.