Uber'in kendi kendini süren araba kazası: AI bize başarısız oldu mu?

12 Mart'ta, MIT Teknoloji İncelemesi şöyle başlayan bir hikaye yayınladı: "Bu, 2023 yılı ve kendi kendini süren otomobiller nihayet şehir sokaklarında dolaşıyor. İlk kez, bir tanesi bir yayaya çarptı ve bir yarayı öldürdü. Çok geniş medya kapsamı. Yüksek profilli bir dava muhtemeldir, ancak hangi yasalar uygulanmalı? ”

Tahmini ile ilgili her şey, tarih hariç, haklıydı. Makalenin yayınlanmasından tam olarak bir hafta sonra, kendi kendini süren bir Uber, özerk modda çalışırken, Arizona Tempe'de bir yayaya çarptı ve onu öldürdü.

Olay hala araştırılsa da, ortaya çıkan karmaşa yapay zekayı kritik görev ve kararlarımıza başarıyla entegre etmenin ne kadar uzakta olduğunun bir göstergesidir.

Çoğu durumda, sorun AI ile değil beklentilerimiz ve anlayışımızla olur. Wired'a göre, yalnızca ABD'de geçen yıl yol olaylarında yaklaşık 40.000 kişi öldü - bunların 6 bini yaya oldu. Ancak çok az kişi (varsa) Über olayının yaptığı gibi başlıklar yarattı.

Uber kazasının böyle bir kargaşaya neden olmasının sebeplerinden biri, hala gelişme aşamasında olsalar bile, genellikle yeni teknolojilerden yüksek beklentilerimizin olması. Saf matematiğin AI algoritmalarını yönettiği yanılsaması altında, kararlarına güvenme eğilimindeyiz ve hata yaptıklarında şok oluyoruz.

Kendi kendini süren otomobillerin tekerleğinin arkasındaki güvenlik sürücüleri bile güvenliklerini azaltıyor. Uber olayından alınan görüntüler sürücünün dikkatinin dağıldığını ve kazadan birkaç saniye önce dikkatini çekti.

2016 yılında, Autopilot modunda çalışan Tesla S Modelinin sürücüsü, araç bir kamyona çarptıktan sonra öldü. Bir araştırma, sürücünün çarpışma anında bir Harry Potter filmi izlediğini tespit etti.

Mükemmellik beklentileri yüksektir ve hayal kırıklıkları güçlüdür. Eleştirmenler, olaydan sonra Uber'in kendi kendini süren otomobil projesinin tamamını sorgulamaya başladı; Şirket, sonrasında otomobil sürüş testini geçici olarak askıya aldı.

AI İnsan Değil

Kazayı izleyen eleştiriler arasında, bir insan sürücünün olayı kolayca önleyebileceği de vardı.

Bir uzman CNN'ye verdiği demeçte, "çalılardan dışarı fırlamıyordu. Birden fazla trafik şeridi boyunca, ilerlemekte olan sistem neticesinde olması gereken net ilerleme kaydediliyordu" dedi.

O haklı. Tecrübeli bir insan sürücü muhtemelen onu fark ederdi. Ancak AI algoritmaları insan değildir.

Kendi kendini süren otomobillerde bulunan derin öğrenme algoritmaları, alanlarının kurallarını "öğrenmek" için çok sayıda örnek kullanır. Yolda zaman harcadıkça, topladıkları bilgileri sınıflandırır ve farklı durumlarla başa çıkmayı öğrenirler. Ancak bu, mutlaka insan itici güçleriyle aynı karar alma sürecini kullandıkları anlamına gelmez. Bu yüzden bazı durumlarda insanlardan daha iyi performans gösterebilirler ve insanlara önemsiz gelenlerde başarısız olabilirler.

Mükemmel bir örnek, milyonlarca etiketli fotoğrafı analiz ederek görüntüleri tanımayı öğrenen görüntü sınıflandırma algoritmasıdır. Yıllar geçtikçe, görüntü sınıflandırması süper verimli hale geldi ve birçok ortamda insanları geride bıraktı. Bu, algoritmaların görüntülerin bağlamını, insanların yaptığı gibi anlamadığı anlamına gelmez.

Örneğin, Microsoft ve Stanford Üniversitesi'ndeki uzmanlar tarafından yapılan araştırmalar, beyaz kedilerin görüntüleriyle eğitilen derin bir öğrenme algoritmasının, beyaz bir köpeğin bir fotoğrafının bir kediyi temsil ettiğine inanan yüksek derecede bir inançla inandığını, bir insanın kolayca kaçabileceği kanısında olduğunu buldu. Ve rezil bir durumda, Google’ın görüntü sınıflandırma algoritması yanlışlıkla koyu ten rengi olan insanları yanlışlıkla goriller olarak sınıflandırdı.

Bunlara "son durumlar" denir, AI algoritmalarının genellikle veri eksikliği nedeniyle ele almak için eğitilmediği durumlar. Uber kazası hala araştırılmaktadır, ancak bazı AI uzmanları bunun başka bir dava olabileceğini öne sürüyor.

Derin öğrenme, kritik durumlarda uygulanmadan önce aşılması gereken birçok zorluğa sahiptir. Ancak başarısızlıkları bizi caydırmamalıdır. Algılarımızı ve beklentilerimizi düzeltmeli ve her büyük teknolojinin evrimi sırasında başarısız olduğu gerçeğini benimsemeliyiz. AI farklı değil.