• Ana sayfa
  • Siber teknoloji mi insanlık mı?

Siber teknoloji mi insanlık mı?

Silikon Vadisi'nin vicdanı olarak hareket eden Tristan Harris, halkı sosyal medya ve yapay zeka ile etkileşim konusunda eğitmek için çalışıyor. Yaptığı açılış konuşması geçen yılki Audi MQ Zirvesi'nin en çok konuşulan olayıydı. Onunla dijital bir röportaj için bağlantı kurduk.

13.01.2022 Metin: Nadine Kaminski ― Fotoğraf: Shaughn and John, Stefan Boesl Okuma süresi: 5 min

Tristan Harris portrede, filtre "ekran titremesi" ile

Dünyanın en büyük İnternet şirketlerinden birinde tasarım etiği uzmanı olarak çalışmış Tristan Harris, şimdi bir dijitalleşme aktivisti ve kar amacı gütmeyen İnsani Teknoloji Merkezi'nin kurucu ortağı olarak kampanya yürütüyor. Görüntülü arama yoluyla akıllı telefonundan bizimle bağlantı kuruyor. Bunaltıcı bir ofise tıkılıp kalmadığı açıkça görülüyor. Harris rahat, hatta neşeli görünüyor. Verdiği selam her şeyi doğruluyor: “Keşke bu muhteşem manzarayı; Arizona dağlarını, gökyüzünü ve bulutları siz de görebilseydiniz. Pillerimin şu anda şarj olduğunu hissedebiliyorum.” Dijitalleşme büyük bir nimet olabilir. Bize daha fazla esneklik tanırken hayatımızı ve işimizi düzenlemek için yeni fırsatlar sunuyor. Ama (bu, Tristan Harris'in uğruna mücadele ettiği büyük "ama"dır) dikkatli olmazsak, ne kazandığımızı bile anlamadan tüm bu özgürlüğü kaybedeceğiz.

Gelecek zaten burada

Uzun yıllardır bilim kurgu eserlerinde, yapay zekanın (AI) toplumumuzu kontrol altına aldığı uzak bir geleceğe ait korkutucu senaryolar işleniyor. Harris, “Bu senaryoların üzerinde durduğu diğer bir konu, yapay zekanın bizi fethetmek için düşmanca bir güç kazanması" diyor. "Rakibimi belirli bir köşeye sıkıştırmak istiyorsam, onu alt etmeliyim.” Bununla birlikte Harris'in çocukluğunda eğlenmek için sihirbazlık numaraları yaparken farkına vardığı ve en geç Stanford Üniversitesi'nin İkna Edici Teknoloji Laboratuvarı'ndaki çalışmaları sırasında emin olduğu şey, bir şeyleri kontrol etmenin o kadar fazla çaba gerektirmemesiydi. “İllüzyonu nasıl yaratırsınız? Tek gereken, seyircinin psikolojisi hakkında kendilerinin bilmediği bir şey bilmek. Ve aynen bu şekilde, davranışlarını manipüle edebilirsiniz. Onlara en güçlü oldukları noktadan saldırmanıza hiç gerek yok. Tek yapmanız gereken zayıf yönlerinin üzerine gitmek.”

 

Harris'e göre, şu anda milyarlarca insanın günlük yaşamının ayrılmaz bir parçası olan çoğu sosyal medya arayüzünün, e-posta programının ve uygulamanın arkasındaki çalışma şekli tam olarak bu. “Gittiğimiz her yerde cebimizde taşıdığımız şey sadece akıllı telefon değil. Bunlar, nörolojik ödül sistemimiz üzerinde bir kumarhanedeki kumar makinelerine benzer etkiye sahip robotlar.”

Bilgi açığı büyüyor

Kullanıcı olarak bizler, beynimizin değişkenlik gösteren ödüllere salgılayacağı yüzde yüz kesin olan mutluluk hormonlarıyla tepki verdiğini bilmiyorsak o zaman elbette, devasa bilgi birikimine sahip siber teknoloji endüstrisi ile boy ölçüşemeyiz. Harris'in açıkladığı gibi, "Değişkenlik gösteren ödüllerin kullanıldığı durumlarda, bir kol çekiyorum ve bazen cazip bir ödül kazanıyorum (yaşasın, heyecan verici!) ve diğer zamanlar herhangi bir ödül almıyorum.” En ilkel beyin işlevlerimizin bize karşı nasıl kullanılabileceğine dair bir örnek inceleyelim. Birkaç dakikada bir e-posta gelen kutumuzu kontrol ederken, yenilemek için yukarı veya aşağı kaydırırken aslında hep bir “ödül” beklentisi içinde oluyoruz. Buna dürüstçe iletişim teknolojisinin bilinçli kullanımı diyebilir misiniz? Ve gerçekten zamanımızı nasıl geçireceğimize kendimiz mi karar veriyoruz? Tristan Harris'e ve diğer birçok araştırmacıya sorarsanız, cevap kesinlikle hayır.

 

Harris, "Video yayın hizmetleri, ağ oluşturma uygulamaları ve haber portallarının tümü dikkatimizi çekmek için yarışıyor" diyor. Sorunun düğümlendiği nokta burası. Sonuçta teknoloji rastgele gelişmiyor. Her yenilik, bir rakibin diğerinin yaptığı yeniliğe verdiği yanıt sonucu ortaya çıkıyor. Yalan haberlerin hızla yayılması bu kısır döngünün talihsiz yan etkilerinden biri. Harris, “Öfke, ekran süresini memnuniyet duygusundan çok daha etkili bir şekilde artırıyor” diyor. Bizi üzen şeyleri daha çok arkadaşla paylaşıyor, daha çok kanalda araştırıyor ve saplantılı bir şekilde tüketmeye devam ediyoruz. İlgili algoritmalar bunu fark ediyor. Ve bizi daha üzücü içeriklerle beslemeye devam ediyor. Her zaman yalan haber olmak zorunda değil ama kesin olan bir şey var: Panolarımızda ve zaman tünellerimizde neyin görüneceğini, içeriğin doğruluğu belirlemiyor. Harris, “Kişiselleştirilmiş bir haber akışının insanlar tarafından değil, algoritmalar tarafından oluşturulduğunu unutmayın” diye ekliyor. "Ve bunlar bizim için doğru veya sağlıklı olan şeyleri sunmak üzere değil, dikkatimizi daha uzun süre çeken şeyleri sunmak üzere programlanıyorlar.”

Dijital bir Aydınlanma Çağına ihtiyacımız var.”

Buradan nereye varacağız?

Bu zor ikilemin bir çözümü var mı? Harris olduğuna inanıyor. “Öncelikle sağlıksız dürtülere daha etkili bir şekilde direnebilmemiz için hepimizin zihnimizin zayıf noktalarını daha iyi anlaması gerekiyor.” Tasarım etiği uzmanı, aslında ikinci bir Aydınlanma Çağı çağrısı yapıyor; bu seferki dijital bir çağrı. Harris, “Üstelik, yeni sorumluluk modellerine ihtiyacımız var,” diye devam ediyor. "Yani büyük teknoloji şirketlerinin kontrol odalarında oturan karar verici kişilerin, sorumluluklarının farkında olması gerekiyor. Ve yaptıklarının hesabını verebilmeleri gerekiyor.” “Gerçek bir tasarım rönesansını” savunan Harris, giderek daha fazla Vadi CEO'sunu yanına çekiyor. Bu, tüketicinin korunmasının en büyük öncelik olması gerektiği anlamına gelse de aynı zamanda kullanıcılara yetki vermeyi veya onlara zamanlarını daha anlamlı bir şekilde geçirmelerini sağlamayı gerektiriyor. Ortak hedeflerimiz olmalı. Kullanıcılar sosyal medya ile günlük etkileşimlerinde aslında ne istiyorlar? Durmadan video izleme ve harareti gittikçe artan forum tartışmalarına katılma girdabına sürüklenmek mi? Yoksa kıymetli vakitlerini ekranlardan uzak geçirecekleri şekilde düzenlemelerine yardımcı olunmasını mı? “Örneğin, plansız bir akşam yemeği partisi düzenlemenizi teşvik etme, davetli listesi için önerilerde bulunma ve LCV'lerin toplanmasına yardımcı olma biçiminde olabilir” diyor Harris.

Tristan Harris'in 2020 Audi MQ Zirvesi'nde canlı yayınlanan açılış konuşmasına ait bir ekran görüntüsü.
Harris, 2020 yılında sanal Audi MQ Zirvesi'ndeki açılış konuşmasında “beyin sapının dibine kadar bir yarış” diyerek dinleyicilerini şaşkına çevirdi.

Sorumluluklar ve fırsatlar

Öyle ya da böyle, yapay zeka davranışlarımızı “en iyi şekilde kullanır”, psikolojimizi anlar, arzularımızı tahmin eder ve yönlendirir. Harris, bizi çoktan geride bıraktığına dair hiçbir şüphe taşımıyor. Ve geçmişe dönmek imkansız. Artık en yüksek teklifte bulunan reklam verene kullanıcıların maksimum dikkat süresini satmaya çalışmak yerine daha sağlıklı değerler uygulamaya odaklanmalıyız. Harris, bunu şöyle ifade ediyor: “Doktorlar ve avukatlar aldıkları eğitim ve edindikleri tecrübeler sayesinde, hastalarından veya müvekkillerinden daha üstün bilgiye sahipler. Ancak mesleki etik doğrultusunda, hastalarının veya müşterilerinin yararına olacak şekilde hareket etmeyi taahhüt etmeleri gerekiyor.” Harris, teknoloji endüstrisinde köklü bir değişiklik yapılması gerektiğinin kaçınılmaz olduğuna inanıyor. Elbette sorumlu, dikkatli kullanıcı davranışı edindirmek de bu değişimin bir parçası. Bunu akılda tutarak, Harris bize değişiklik yapma konusunda pratik bir ipucu veriyor: “Sosyal medya konusunda kendini inkar, doğru bir yaklaşım değil. Bunun yerine, kendinize bilinçli şekilde gün içinde çeşitli aralıklarla çevrim dışı olma izni verin. Eğlenceli, heyecan verici, rahatlatıcı şeyler yaparak zaman geçirin.” Bu da, ödül sistemimizi harekete geçirmenin yollarından biri.

Präsentation eines Vortrags

Yarını konuşuyoruz

Audi, disiplinler arasında ilerici diyaloglar geliştirmeyi hedefliyor. Sonuç? Zamana uygun olmakla kalmayıp aynı zamanda işlerin nereye gittiğine dair fikir veren konuşmalar.

Daha fazla bilgi

Tarayıcınız güncel değil. Bu nedenle web sitemiz uygun şekilde çalışmıyor olabilir. Çoğu tarayıcı (ancak MS Internet Explorer 11 ve önceki sürümleri hariç) hala sorunsuz bir şekilde çalışıyor. Web tarayıcınızı güncellemenizi öneririz! En son sürüm internetin her yerinde iyi bir sonuç sağlayabilir. Ziyaretiniz için teşekkür eder, iyi eğlenceler dileriz. Audi ekibiniz