İnsanların Reklamları Tıklaması İçin Bir Distopya Kuruyoruz

George Orwell’in ”1984” adlı eseri okuduğum en iyi distopya romanları arasında. Harika bir kitap ama 21. yüzyıl için doğru distopya bu değil diyor Zeynep Tüfekçi.

“En çok korkmamız gereken şey yapay zekanın kendi başına bize ne yapacağı değil,güç sahibi insanların bizi kontrol ve manipüle etmek adına yeni, bazen saklı, bazen de belirsiz ve beklenmeyen şekilde bunu nasıl kullanacakları diyor. Yakın gelecekteki bağımsızlığımızı ve itibarımızı tehdit eden teknolojinin büyük kısmı verilerimizi ve dikkatimizi toplayıp reklamcı ve benzerlerine satan şirketler tarafından geliştiriliyor: Facebook, Google, Amazon, Alibaba, Tencent.

Şimdi büyük veri ve makine öğrenimi ile işler nasıl yürüyor ? Bunu anlamak için Facebook’un sizinle ilgili sahip olduğu tüm verileri düşünün: Yazdığınız her durum bildirisi, her bir Messenger sohbeti, oturum açtığınız her konum,yüklediğiniz tüm fotoğraflar. Bir şey yazmaya başlayıp sonra vazgeçip silerseniz Facebook bu silinenleri de saklayıp analiz ediyor. Çevrimdışı verilerinizle sizi gitgide eşleştirmeye çalışıyor. Ayrıca veri acentalarından da çok fazla veri satın alıyor. Finansal kayıtlarınızdan tarama geçmişinize kadar her şey bu veri setinde olabilir. ABD’de bu tür veriler rutin olarak toplanıyor, karşılaştırılıyor ve satılıyor. Avrupa’da daha sıkı kurallar var.

Yani aslında olan şey, tüm bu veriler harmanlanarak bu makine öğrenimli algoritmalar – onlara bu yüzden öğrenen algoritmalar deniyor – daha önce Las Vegas’a gitmek için uçak bileti alan insanların özelliklerini nasıl ayrıştıracaklarını öğreniyorlar. Var olan verilerden bunu öğrendiklerinde bunu yeni insanlara uygulamayı da öğreniyorlar. Böylece, yeni bir bireyle karşılaştıklarında onun Vegas’a bilet alıp almayacağını sınıflandırabiliyorlar. Olsun diye düşünüyorsunuz, alt tarafı Vegas’a uçak bileti teklifi. Görmezden gelebilirim.Ancak asıl sorun bu değil.Asıl sorun şu kibiz bu karmaşık algoritmaların nasıl çalıştığını artık anlamıyoruz.Bu sınıflandırmayı nasıl yaptıklarını artık anlamıyoruz.Dev matematik matrisleri, binlerce sıra ve sütun,belki de milyonlarcası… Ve tüm verilere sahip olsalar bile,ne programcılar,ne de bunları inceleyen biribunun tam olarak nasıl işlediğini anlayabiliyor.Tıpkı size beynimden bir kesit göstersemne düşündüğümü anlayamayacağınız gibi.Sanki artık programlama yapmıyoruz,tam olarak anlayamadığımız bir bilinç geliştiriyoruz.”

2016’da Trump’ın sosyal medya yetkilisi gizli Facebook paylaşımları kullandıklarını açıkladı, insanları ikna için değil, hiç oy vermemelerini sağlamak için. Bunu yapmak için özel olarak hedef belirlediler,mesela önemli Philadelphia kentlerindeki Afro Amerikalı erkekler, hatta tam olarak ne dediğini okuyacağım. Alıntı yapıyorum.

”Görülebilirliğini siyasi kampanyanın kontrol ettiği böylece sadece görmesini istediğimiz insanların görebileceği herkese açık olmayan paylaşımlar. Bunu biz tasarladık. Bu, onun söz konusu insanları kazanma yetisini önemli ölçüde etkileyecektir.”

Bu gizli paylaşımlarda ne var peki? Hiçbir fikrimiz yok. Facebook bize açıklamıyor.

Facebook ayrıca algoritmik bir şekilde arkadaşlarınızın paylaşımlarını ve takip ettiğiniz sayfaları düzenliyor. Size her şeyi kronolojik olarak göstermiyor. Algoritmanın, sitede daha fazla kalmanızı sağlayacak şekilde kurduğu düzeni uyguluyor.