Yapay zekânın ahlakı hakkında ne düşünmeliyiz?

Yapay zekânın ahlakı hakkında ne düşünmeliyiz?

Şimdi hiç olmadığı kadar, günlük teknoloji müşteri psikolojisine bakan emsalsiz bir bakış açısıyla markalar ve reklamlar temin ediyor. Ahlak, tüketici hakları, şeffaflık ve veri gizliliği dikkatli bir düşünme ve üzerine düşme gerektiriyor.

Bu konular; Kaliforniya’da yapay zekâ ahlak yazarı, araştırmacı ve konuşmacı olan Fiona McEvoy’un çalışmalarının merkezini oluşturuyor. RE•WORK tarafından San Francisco’da Yapay Zekâyı Etkileyen 30 Kadın ve Yapay Zekâ Ahlakında 100 Parlak Kadın’dan birisi olmuştu.

Diğer iş endüstrilerinin aksine teknoloji sektörü neden benzersiz ahlaki mücadeleler sunuyor?

FM: Son zamanlarda ve yeni ortaya çıkan teknolojik ürünler şimdi neredeyse her endüstrinin içine yerleşmiş durumda. Bu yüzden yapay zekâ gibi teknolojinin ahlaki mücadele verdiği alanlar, üretildiği sektör ile sınırlı kalmıyor. Ayrıca tüketici endüstrilerini de ilgilendiriyor. Temelde, ahlak ve toplumsal sonuçlarla ilgili endişeler doğmasına yol açan bu inanılmaz derecedeki teknoloji nüfuzudur.

İnsanlar olarak, şimdi iş yerleri, marketler, arabalar ve evlerimiz gibi birçok farklı çevrede teknoloji ile görülmemiş bir derece etkileşimdeyiz. Bu kötü bir şey değil ama teknoloji dağıtıcılarının bizi güvende tutmak gibi bir sorumluluğu var. Teknoloji karar verme eylemimizi baskıladığında bunu fark edip platformları bir silah olarak kullanmak veya ağları kesmek isteyen kötücül oyuncuları durduran beklenen sistemik önyargılar ya da istekli bir gözetimden taraf olmak olsun, teknolojinin bize hizmet etmekten başka bir şey yapmadığından emin olalım.

Kullanıcılar ürünlerle kendi isteğiyle ilgilenmeyi seçtiği için bazıları şirketlerin hiçbir sorumluluk almaması gerektiğini söyleyecektir. Bu konuya sizin bakış açınız nedir?

FM: Hiç katılmıyorum. Gerçek şu ki teknoloji kullanıcıları ve şirketlerin arasında inanılmaz bir bilgi dengesizliği var. Kullanıcılar olarak neyi bilmediğimizi bilmiyoruz ve bu yüzden gerçekten bilinçli bir karar vermemiz imkânsız. Sistemlerin kendi çalışmalarından veri toplama ve paylaşmaya, tüketici davranışını gasp etmek ve bilişsel kusurlarımızdan faydalanmak için yollar arayan algoritmalara kadar kullanıcılar kaçınılmaz olarak savunmada.

Örneğin; sadece tek bir Nest termostatı indirerek tüm bağlı uygulamalar ve cihazlarıyla Nest ekosistemine giriş yapmak isterseniz üçüncül taraf veri paylaşımı ve gizlilik anlaşmalarını anlamak için bin civarında sözleşme okumanız gerekeceğini son zamanlarda öğrendim. Bu çok bunaltıcı ve açıkça mantıksız bir şey.

Ayrıca bu şirketlerin çok zeki olduklarını da unutmayalım. Bizim kendi hakkımızda bildiklerimizden çok daha fazlasını biliyorlar. Bizi nasıl ikna edeceklerini, hareketlerimizi nasıl tahmin edeceklerini, düşüncelerimizi ve alışkanlıklarımızı, neyin ilgimizi çekip çekmeyeceğini, hangi makaleleri sonuna kadar okuyacağımızı, hobilerimizin ve hatta tutkularımızın neler olduklarını biliyorlar. Gerçekten bilinçli, razı olacağımız bir şekilde bizi ikna etmenin bir yolunu bulacaklarına eminim.

Teknolojiyle ilgili olmayan dinleyicilerle yaptığınız konuşmalarda, insanlar teknoloji endüstrisi ve kullanıcılar üstündeki etkisiyle ilgili en çok neye şaşırıyor?

FM: Genellikle makinelerin karar verme eylemi üzerine oluşan endişe verici önyargılarla ya da gözetleme ve izlemenin kapsamıyla ilgili şaşırıyorlar. Son zamanlarda sunduğum bir örnek orta ve büyük ölçekli şirketlerin %50 kadarının çalışanlarının etkileşimlerinden veri topladığıyla ilgili bir Gartner çalışmasındandı. Gelecek yıla bunun %80’e yükseleceği tahmin ediliyordu. Sözü edilen gözetleme e-postalarımızdaki dilimizi ve uyumunu incelemeyi, takvimlerimizde kimle, neden ve ne kadar süreliğine buluştuğumuzu ve binalara giriş ve çıkışlarımızdaki hareketlerimizi içeriyor. Bazı durumlarda şirketler uzaktan bilgisayar kameralarına bile ulaşıyor ve çalışanın kızgınlık, sinirlenme veya baskı altında hissetme gibi duygularını belirlemek için yüz ifadelerini inceliyor.

İşverenler bunu çalışanlara kendi bildirmelerine dayanan araştırmalar göndermeden çalışanların memnuniyetini anlamaya çalıştıklarını söyleyerek savunuyorlar. Gerçekte birçok insan bu tür yöntemleri son derece kullanışsız ve anonim buluyor.

Artırılmış gerçeklik ve sanal gerçeklik heyecan verici teknolojiler. Bu teknolojilerin sunduğu zorluklar sizce nedir?

FM: Bunlar gerçekten heyecan verici teknolojiler ve pek çok gerçekten kullanışlı bir yayılımları zaten var. Fakat diğer tüm teknolojilerdeki gibi gözden geçirmemiz gereken bazı senaryolar var. Artırılmış gerçeklik açısından, nerede arttırabileceğimiz ve ne tür bir artış yapılabileceği konusunda henüz bir uzlaşma yok.

Birçok insan “Artırılmış gerçeklik gerçek değil! Sadece gerçek mekanlara aktarılmış grafiklerdir.” diyecektir ve bu doğru olabilir. Fakat bir okulu pornografik bir yer olarak canlandırmak veya kırmızı et ile yapılan hamburger reklamları için bir Hint tapınağını kullanmak gibi kulak tırmalayan fikirler de var.

Benzer şekilde; sanal gerçeklik alanında, sanal bir çevreyle sınırlı kaldığı sürece hoş olmayan, küfürlü senaryolarda oynamanın sorun olup olmayacağı net değil. Ayrıca duyarsızlaşma ve gerçeklik arttıkça bazı kullanıcıların gerçek hayatı sanal olandan ayırmada zorluk çekebileceği gibi bazı psikolojik endişeler var.

Teknolojiyle ilgili olmayan dinleyicilerle yaptığınız konuşmalarda yapay zekâyla ilgili en büyük yanlış anlaşılma nedir?

FM: Bence insanların çoğu yapay zekânın gerçekten ne olduğunu anlamakta güçlük çekiyor ve bu gayet anlaşılabilir bir durum. Son zamanlarda yapay zekâya büyük bir akın oldu ve asıl teknoloji gömülü kaldı. Aynı zamanda yeni yapay zekâ çağı hakkında bize hükmedeceği ve bizi çağ dışı bırakacağı gibi büyük bir korku oluştu. Bu akın ve korku sadece gerçeği ve halk arasında hak ettiği değeri alması gereken, daha az apokaliptik endişeleri maskelemekte başarılı oldu.

Ufukta görünen ahlaki değişikliklerden hangileri kimsenin dikkatini çekmiyor ve yeterince konuşulmuyor? Hangi konu veya belirli teknolojinin hak ettiği değeri görmüyor?

FM: Eminim ki pek çoğu benim de dikkatimi çekmiyordur ama odağımın çoğu olması gereken yerde. Yine de karar verme eyleminde ve seçimlerimizde çok silik bir etki bırakıyor. Teknoloji şirketleri çevrimiçi ve çevrimdışı şekilde bizimle ilgili tüm bilgileri, çoğunlukla bizi kendi çıkarlarına yönlendirecek şekilde kullanabilir ve kullanıyor. Daha kapsamlı ve daha ikna edici çevrimiçi mekanlara ilerledikçe ve şirketlere kavrama gücümüzü, hareketlerimizi sınırlayacak fırsatlar verildikçe bu tür yönlendirmelerin ne zaman bir itip kakmaya dönüştüğüne karar vermemiz gerekecek.

Aynı doğrultuda, duygularımızı okuyabilen ve yorumlayabilen teknoloji ürünleri hakkında derin çekincelerimiz olmalı. Bir teknoloji ürününün, bir çocuğu ya da zayıf bir yetişkini gerçekten anladığına inanmaları için kandırması fikri, özellikle de neden olabileceği etkilere gelince son derece endişe verici.

Teknolojiyle ilişkileri konusunda halkı bir tavsiyeyle bilgilendirebilecek olsaydınız bu tavsiye ne olurdu?

FM: Teknoloji şirketleri şu anda güven inşa etmekle ilgileniyor ve bu iyi bir hedef ama aynı zamanda ben halkı buna karşı çıkmasına teşvik ederdim. Daha şüpheci olmalılar, hayatlarına aldıkları ürünleri irdelemeliler ve bu ürünlerin bilgiyi nasıl elde ettiklerini, ne kadar fazla bildiklerini öğrenip karşılığında aldıklarıyla adil bir alışveriş olup olmadığına karar vermeliler.

Saflıkla, bedava e-posta, arama motorları ve sosyal medyada kendimizle ilgili çok bilgi veriyoruz. Öngörülemeyen sonuçların ilerisini düşünebilmek için gelişen yeni yapay zekâ çağındaki bu gelişmeyi desteklememiz önemlidir.

İş ahlakı veya teknoloji alanında çalışmakla ilgilenen insanlar için ne tavsiye edersiniz?

FM: Ahlak konusuyla başlamalarını tavsiye ediyorum. Benim temelim felsefe ve felsefi ahlak. Bu bana çeşitli teknolojileri irdeleyebileceğim inanılmaz bir çerçeve oluşturuyor. Keşfedilmiş olan bazı sorunlarla ilgili heyecana kapılmak kolay ve saygıdeğer bir durum ama bizim ihtiyacımız olan halkın dışa vurumu gerçekleşmeden önce onları yatıştırabilecek, yeni sorunları sezebilecek becerilere sahip insanlardır.

Yazar: Matt Johnson

Kaynak: Psychology Today

Çeviren: Aslı Dobruca

Düzenleyen: Ceren Berk

Leave a comment