Dr. Bouzouraa, otomobillerin kendi kendilerini sürmesi ne kadar zaman sonra gerçekleşir?

Dr. Essayed Bouzouraa: Bu soruya kısaca cevap vermem mümkün değil. Teknolojinin kullanılacağı ortamı, yani alanları ve işlevsel kapsamını tanımlamamız gerekir. Bunu belirttikten sonra şöyle diyebilirim; önümüzdeki beş yıl içinde otoyollar gibi ortamlara kademeli olarak giriş yapılacağına eminim. 

Prof. Lütge, 2017 yılında Almanya'da otomatikleştirilmiş sürüşle ilgili yönergeler hazırlayan etik kurulunda yer aldınız ve bu konuyu araştırmaya devam ediyorsunuz. Toplum olarak bu teknolojiye hazır mıyız? Beş yıl nispeten kısa bir süre.

Prof. Christoph Lütge: Gördüğüm kadarıyla, konu otomatikleştirilmiş mobilite olduğunda Almanya'da yeterince insandan bu konuda bir talep almıyoruz. Birkaç yıldır bunu konuşuyoruz ve bence insanlar artık sonraki adımları atmaya hazır. Sadece zorlukları ve riskleri değil, bu işin avantajlarını da konuşmamız gerekiyor.

Otomasyondan bahsediyorsunuz, ancak “otonom” terimi sıklıkla kullanılıyor. 

Bouzouraa: Bu bağlamda hep otomatikleştirilmiş sürüşten bahsediyoruz. “Otoyol pilotu” sistemi 3. Seviyede devreye giriyor (Otomotiv Mühendisleri Derneği tarafından tanımlandığı gibi, SAE; ed.). Bu seviyede sürücüler, etki alanı olarak adlandırılan belirli bölgelerde, tanımlanmış sınırlar içinde sürüş görevini sisteme devretmeyi seçebiliyor. Belirli bir uyarı süresi sonrasında sürücünün direksiyonu tekrar devralması gerekiyor. Bu noktaya kadar her şey sistemin sorumluluğunda. 4. Seviyede (SAE tarafından tanımlandığı gibi; ed.) sürücünün direksiyonu devralması gerekmiyor. Sürüş görevi araca atandıktan sonra, aracın akla gelebilecek her durumla başa çıkabilmesi gerekiyor. 

Lütge: Etik kurulunda buna “bağlı” ve “otomatikleştirilmiş” sürüş adını verdik. Ancak biraz yanıltıcı olsa da, “otonom sürüş” teriminin yaygın bir şekilde yerleştiğini görüyorum. Yine de sürüş için “otomatikleştirilmiş” ve “yüksek düzeyde otomatikleştirilmiş” terimlerine bağlı kalmayı tercih ederim.

Dr. Thomas Dahlem: Benim için bir sistem, insan müdahalesine ihtiyaç duymadan tamamen bağımsız olarak çalıştığında otonomdur. Ama bizim peşinden gittiğimiz vizyon bu değil.

Bilim ve endüstri bu alanda ne kadar birlikte çalışıyor? 

Bouzouraa: Disiplinler arası ağ oluşturmanın çok önemli olduğu bir aşamadayız. Ortak bir anlayışa sahip olmak bizim için önemli. 

Lütge: Şimdiye kadar etik, genellikle sadece büyük bir sorun meydana geldikten sonra teknoloji sorunlarıyla bağlantılı olarak akla geliyordu. Ancak biz teknolojik yönlerin dışındaki soruların önceden sorulması gerektiğine inanıyoruz. Henüz yasal bir tanımı olmayan ve belki de asla olmayacak türden sorulardan bahsediyorum. 

Ne gibi sorular mesela?

Lütge: Örneğin, otomatikleştirilmiş bir otomobilin diğer yol kullanıcıları söz konusu olduğunda nasıl bir davranış göstereceği sorusu var: sürüşü aşırı derecede koruyucu bir şekilde mi gerçekleştiriyor, yasaların gerektirdiğinden daha fazla mesafe mi koyuyor gibi. Bu yeni teknolojiye güven duyulmasını sağlamak için tam da bu hassas etik konuların hesaba katılması gerekiyor. Bizim amacımız, geliştirme aşamasından itibaren girdi sağlamak.

Bouzouraa: Hem geliştirme sırasında hem de teknoloji seri üretime geçtikten sonra karşılıklı konuşmamız yani sürekli bir geri bildirim döngüsüne girmemiz gerekiyor. Çünkü aslında gelişim asla son bulmuyor.

Geleneksel otomotiv mühendisliği otomatikleştirilmiş sürüşe ne ölçüde uygulanabilir?

Bouzouraa: Bu, gelecekteki sürüş deneyimleri açısından hem müşterilerimizi hem de günümüz araç geliştirme ve tasarımı açısından üretici olarak bizleri etkileyen temel bir dönüşüm. Bu dönüşüm için çok sayıda sensör ve sistemin en uygun şekilde konumlandırılması ve ağa bağlanması gerekiyor. Elbette otomatikleştirilmiş bir Audi'nin içi ve dışı iyi görünecek, ancak geliştirme ihtiyaçları ve süreçleri farklı. 

Dahlem: Amacımız müşterilerimize araç içinde yepyeni deneyimler sunabilmek. İleriye bakarak bu deneyimler etrafında modeller geliştireceğiz. Bu daha önce yapılmadı. Bu, günümüz araçlarında aşina olduğumuz hemen hemen tüm bileşenleri etkileyecek, sonuçta yeni bir gözle bakılması gerekecek.

Ne gibi?

Bouzouraa: Örneğin, ön cam yıkayıcı hazneleri gibi yerleşmiş sistemlerden bahsediyorum; yepyeni bir anlam kazanacaklar. Gelecekte gövde üzerindeki sensörlerin, sürece hiçbir yolcu dahil olmadan bile her zaman temizlenebilmesini ve temiz tutulabilmesini sağlayacak koşullar yaratmamız gerekecek. 

Audi şu ana kadar ne kadar ilerleme kaydetti?

Bouzouraa: Veri toplamak ve öğrenmek için test araçlarımızla sürekli yollardayız. Otomobilin içindeki ve üzerindeki çeşitli sensörler, her gün çok miktarda bilgi topluyor. Devasa verileri analiz etmek için yapay zeka (AI) gibi yeni yöntemler belirlemek zorunda kaldık. Aynı zamanda gerekli süreçleri oluşturuyor ve teknolojinin seri üretime geçişinin önünü açıyoruz.

Dahlem: Ayrıca bir işlev programlanmadan önce bile, akla gelebilecek tüm senaryoları, diğer bir deyişle aracın belirli durumlarda nasıl davranacağını belirleme ve yorumlama gibi bir zorlukla karşı karşıyayız.

Muhtemel her senaryoyu nasıl tahmin edebilirsiniz? Olasılıklar sonsuz.

Bouzouraa: Doğru. Mevcut en son teknolojiye dayalı olarak, otobüslerin üzerindeki insanları hareket halinde gösteren reklam görüntülerinin yanlış yorumlandığına dair raporlar var elimizde. Mesela sistem bunu caddeye atlayan biri olarak yorumladı. Bazen kameraları kullanan görsel algı tıkanıyor. Bir süre önce internette parlayan ayı, sarı trafik ışığı olarak yorumlayan kamera sistemleriyle ilgili bir dava dolaşıyordu. Bu nedenle, radarlar ve lidarlar gibi görsel ve aktif olarak ölçüm yapan sensörlerden oluşan karma bir sisteme güveniyoruz.

Bunun gibi anormal durumlar ortaya çıktığında halkın güvenini nasıl kazanıyorsunuz?

Lütge: İnsanların avantajları gördüğüne inanıyorum. Günümüzün asistan sistemleri, mümkün olabilecek şeylere dair bazı ipuçları veriyor. Herkesi ikna edemezsiniz, ancak bu her zaman güven eksikliğinden kaynaklanmaz.

Bouzouraa: Güven en önemli şey. Yolcuların, herhangi bir durumda yapay zekanın davranış nedenini ne kadar kolay anladığı da bu açıdan önemli. Örneğin test katılımcıları, çok düzgün yapılan bir sürüşün kendilerini huzursuz hissetmelerine neden olduğu konusunda geri bildirimde bulundular. Sistemin gerçekten aktif olup olmadığını merak etmişler. Örneğin, otomatikleştirilmiş sürüş sırasında görsel geri bildirim sağlamak için direksiyon simidinin ne kadar hareket etmesi gerektiğini şu anda geliştirme aşamasında tartışıyoruz. 

Lütge: Bu aynı zamanda her şeyin mantık çerçevesinde açıklanamayacağını da gösteriyor. Duygular da devreye giriyor. Ancak endişelerin üzerinde gereğinden fazla durulmaması konusunda uyarıda bulunmak istiyorum. Bugün bile yol kullanıcıları teknolojiye güveniyor, mesela bazen çok yüksek hızlarda otomobil sürüyorlar. 

En önemli şey şeffaf davranış: Öncelikle otomatikleştirilmiş ve otomatikleştirilmemiş araçlar nasıl bir arada olabiliyor?

Bouzouraa: Bu, açıkçası bizim de üzerinde çokça durduğumuz bir konu. Sistemleri başlangıçta yalnızca belirlenen etki alanlarında kullanmak yararlı olabilir. Biz en azından bunu yapmayı düşünüyoruz. “Otoyol pilotu” ile zaten bu kastediliyor. Otoyol, net yapısal ve yasal çerçevelere sahip, nispeten kontrol edilebilir bir alan. Ancak elbette davranışlarla ilgili varsayımlarımızda tüm yol kullanıcılarını hesaba katmamız gerekiyor. 

Lütge: Karışık trafiğin o kadar sorun olacağını sanmıyorum. Diğer otomobil üreticileri de yüksek düzeyde iletişim ve farkındalık sunacak kendi sistemlerini geliştiriyor. Bence mantıklı olan önce otoyolda fikir sahibi olmak; ama diğer yerleri, özellikle şehirleri ihmal edemeyiz.

Şehir içi sürüş, daha büyük bir zorluk mu yaratıyor?

Bouzouraa: Aslında 360 derecelik bir yaklaşım benimsememiz gerekiyor, katılıyorum. Ancak yayalar ve bisikletlilerin olduğu “şehir” alanı, işleri daha karmaşık bir hale getiriyor. 

Dahlem: Otoyollar nasıl kentsel alanlarla iç içe giriyorsa, biz de bu zorluğu adım adım ele alacağız. Ancak teknolojinin öncelikle kafa karıştırıcı kavşaklar, döner kavşaklar, tepeler gibi sensörlerin kontrol etmede yetersiz kalabileceği sıkıntılarla başa çıkabilmesi gerekiyor.

Lütge: Tabi riskleri önceden hesaplamak gerekiyor. Hangi risklerin kabul edilebilir olduğunu nasıl belirleriz? Şu anda bununla ilgileniyoruz. Şeffaf olmalıyız: Konuya gerçekçi olmayan sıfır risk zihniyetiyle yaklaşamayız. 

Peki riskleri nasıl değerlendiriyorsunuz?

Dahlem: Kriterimiz insanlar. İnsanlar son milisaniyede tepki verme konusunda inanılmaz bir yeteneğe sahipler. Yapay zekaya sahip sistemle ilgili taleplerimiz de bu doğrultuda yüksek.

Lütge: Bununla birlikte insan sürücüden daha iyi olmak, kayda değer bir yorumlama kapasitesine sahip olmayı gerektiriyor. Standart ayarın çok yüksek, çok temkinli, çok sportif ve çok koruyucu olması ters etki yaratabilir.

Size ne yol gösteriyor?

Bouzouraa: Ortalama bir sürücüyü model alarak bir AI sürücü tasarlıyoruz. Otoyol pilotunun nispeten koruyucu bir sürücü olacağını zaten biliyoruz. Sonuç olarak, sürücü değil yolcu olmak aynı zamanda konforu artırmalı ve eğlenceli olmalıdır. Otomatikleştirilmiş araç çok agresif bir şekilde sürülürse bunu başarmakta zorlanırız. Yolcularını trafikte sıkıntı vermeden ve güvenli bir şekilde taşımalıdır. Cevabını bulmaya çalıştığımız soru, sistemin öğrenme eğrisinin kabul edilip edilmeyeceği ve nasıl kabul edileceğidir. 

Lütge: Bu iyi bir soru ve etik kurulunda da tartıştığımız bir soru. Öğrenen bireysel araç değil, tüm filo olmalıdır. En azından güvenlikle ilgili sorunlar söz konusu olduğunda. Birisi otoyolda bir başkasına göre biraz daha yavaş gitmeyi tercih ediyorsa, bu istenen şekilde yapılandırılabilir. Bunun temelde bir öğrenme süreci olduğu, aracı süren değil araçta taşınan olma deneyiminin zamanla değişeceği gerçeği var elimizde; insanlar bunu kabul edebilir. Toplumumuz uzun zamandır yapay zekanın deneyim topladığı ve uyum sağladığı fikrine alıştı.

Modellenen sürücüyle ilgili olarak; her ülkenin yolla ilgili kendine has özellikleri yok mu? 

Bouzouraa: Kesinlikle bireysel deneyim ve dolayısıyla kültürle bir bağlantı söz konusu. Otomatik sürüşlü bir araç, belirli bir bölgenin sürüş stiline nasıl adapte olur? En uygun diye bir şey var mı? Bunlar, şu anda üzerinde çalıştığımız konular.

Lütge: Avrupa'da insanlar sürekli sınırları geçerek seyahat ediyor. Ülke değiştiğinde algılar da bir dereceye kadar değişiyor. Çeşitli test araçlarını denedikten sonra, henüz bir standart olmadığını hissediyorum.

Dahlem: Her şeyin daha ayrıntılı olarak düşünülmesi gerekiyor: örneğin, Almanya'da satın alınan otomatikleştirilmiş bir otomobilin gelecekte bir İtalyan polis memurunu da tanıyabilmesi gerekecek. Hollanda'da otoyol işaretlerinin rengi Almanya'dakinden farklı, Portekiz'de ise anayolda farklı malzemeler kullanılıyor. Bu, sistemimizi her yerde kolayca kullanılabilir hale getiremeyeceğimiz veya yalnızca sınırlı bir ölçüde kullanabileceğimiz anlamına gelecek. Ancak daha önce de belirttiğimiz gibi, bu teknoloji bizim için sürekli bir öğrenme ve uyum sağlama süreci anlamına geliyor.

Bouzouraa: Otoyol pilotuyla birlikte, sadece Almanya'da yaklaşık 13.200 kilometrelik otoyolumuz olduğunu da unutmamalıyız. Otomatikleştirilmiş sürüşün avantajlarından yararlanabileceğimiz ve yepyeni deneyimler yaşayabileceğimiz çok fazla potansiyel var. İşte bundan eminim.