ABD ve Çin'deki sadece dokuz dev teknoloji şirketi, dünya çapında yapay zeka alanındaki ilerlemelerin büyük çoğunluğunun arkasında. Yeni kitabında, Büyük Dokuz: Teknoloji Devleri ve Düşünen Makineleri İnsanlığı Nasıl Saptırabilir? (PublicAffairs, 5 Mart), Amy Webb, AI'nın gelişimini kontrol etmek için aldığımız veya almadığımız eylemlerden kaynaklanabilecek iyimserden kıyamete kadar değişen üç olası gelecek öngörüyor. ve küresel etkisini şekillendirir. Bu alıntıda, insanların yapay zekayı inşa ettiği bir dizi zorlu etik soruyu ortaya koyuyor. sistemleri çalışmalarını yönlendirmek için kullanmalıdır.
Her kültürün, toplumun ve ulusun yaşadığı ve yaşamış olduğu kurallar -algoritma- her zaman sadece birkaç kişi tarafından yaratılmıştır. Demokrasi, komünizm, sosyalizm, din, veganizm, yerlicilik, sömürgecilik - bunlar, kararlarımızı yönlendirmeye yardımcı olmak için tarih boyunca geliştirdiğimiz yapılardır. En iyi durumlarda bile, geleceğe yönelik değildirler. Teknolojik, sosyal ve ekonomik güçler her zaman müdahale eder ve uyum sağlamamıza neden olur.
On Emir, 5000 yıldan daha uzun bir süre önce yaşayan insanlar için daha iyi bir toplum yaratmayı amaçlayan bir algoritma oluşturuyor. Emirlerden biri, haftada tam gün dinlenmek ve o gün hiç iş yapmamaktır. Modern zamanlarda, çoğu insan haftadan haftaya tam olarak aynı gün veya saatlerde çalışmaz, bu yüzden kuralı çiğnememek imkansız olurdu. Sonuç olarak, yol gösterici bir ilke olarak On Emri izleyen insanlar, daha uzun iş günlerinin, futbol antrenmanlarının ve e-postanın gerçekleri göz önüne alındığında, yorumlamalarında esnektir. Uyum iyidir - bizim için ve toplumlarımız için gerçekten iyi çalışıyor, yolda kalmamıza izin veriyor. Temel bir kurallar dizisi üzerinde anlaşmak, kendimiz için optimizasyon yapmamızı sağlar.
AI için bir dizi emir yaratmanın hiçbir yolu olmazdı. İnsanlık için doğru şekilde optimize etmek için tüm kuralları yazamadık ve bunun nedeni düşünen makineler hızlı ve güçlü olsa da esneklikten yoksun olmalarıdır. İstisnaları simüle etmenin veya her olasılığı önceden düşünmenin kolay bir yolu yoktur. Kurallar ne olursa olsun, gelecekte bazı kişilerin kuralları farklı yorumlamak veya tamamen görmezden gelmek veya öngörülemeyen bir durumu yönetmek için değişiklikler oluşturmak isteyebilecekleri bir durum her zaman olacaktır.
Uyulması gereken bir dizi katı emir yazamayacağımızı bilerek, bunun yerine dikkatimizi sistemleri inşa eden insanlara odaklamalı mıyız? Bu insanlar - AI'nın kabileleri - aşağıdakilerle başlayarak kendilerine rahatsız edici sorular sormalılar:
- AI için motivasyonumuz nedir? İnsanlığın en iyi uzun vadeli çıkarlarıyla uyumlu mu?
- Kendi önyargılarımız nelerdir? Kabilemize hangi fikirleri, deneyimleri ve değerleri dahil edemedik? Kimi gözden kaçırdık?
- AI'nın geleceğini yapmak amacıyla kendimizden farklı insanları dahil ettik mi? daha iyi - yoksa belirli kotaları karşılamak için ekibimize çeşitlilik ekledik mi?
- Davranışımızın kapsayıcı olduğundan nasıl emin olabiliriz?
- Yapay zekanın teknolojik, ekonomik ve sosyal etkileri nasıldır? yaratılmasına dahil olanlar tarafından anlaşıldı mı?
- Bizim adımıza karar vermek için kullanılan veri kümelerini, algoritmaları ve süreçleri sorgulamak için hangi temel haklara sahip olmalıyız?
- İnsan hayatının değerini kim tanımlayacak? Bu değer neye karşı tartılıyor?
- Yapay zekanın kabilelerindekiler, yapay zekanın sosyal etkilerini ele almanın kendi sorumlulukları olduğunu ne zaman ve neden hissediyor?
- Kuruluşumuzun liderliği ve A.I. kabileler birçok farklı insanı yansıtır mı?
- Yapay zekayı ticarileştirenlerin rolü nedir? AI'nın sosyal etkilerini ele almada oynamak mı?
- Yapay zekayı karşılaştırmaya devam etmeli miyiz? insan düşüncesine göre mi yoksa onu farklı bir şey olarak kategorize etmemiz mi daha iyi?
- AI inşa etmek uygun mudur? insan duygularını tanıyan ve bunlara yanıt veren?
- A.I. yapmak uygun mudur? insan duygularını taklit edebilen sistemler, özellikle de bizden gerçek zamanlı olarak öğreniyorsa?
- AI ile hepimizin iyi olduğu kabul edilebilir nokta nedir? doğrudan döngüde insanlar olmadan evrimleşiyor mu?
- Bir A.I. hangi koşullar altında olabilir? ortak insan duygularını simüle etmek ve deneyimlemek? Peki ya acı, kayıp ve yalnızlık? Bu acıya neden olan biz miyiz?
- Yapay zeka geliştiriyor muyuz? kendimizi daha derinden anlamak için mi? AI kullanabilir miyiz? insanlığın daha incelenmiş bir yaşam sürmesine yardımcı olmak için mi?
Yapay zekanın geleceğinden büyük ölçüde sorumlu olan altısı Amerikan ve üçü Çinli dokuz büyük teknoloji şirketi var. ABD'de bunlar Google, Microsoft, Amazon, Facebook, IBM ve Apple'dır ('G-MAFIA'). Çin'de BAT: Baidu, Alibaba ve Tencent.
G-MAFIA, çeşitli araştırma ve çalışma grupları aracılığıyla yol gösterici ilkeler sorununu ele almaya başlamıştır. Microsoft içinde, AI'da Adalet, Hesap Verebilirlik, Şeffaflık ve Etik için FATE adlı bir ekip vardır. Cambridge Analytica skandalının ardından Facebook, yapay zekasının güvenli olduğundan emin olmak için yazılım geliştiren bir etik ekibi kurdu. Sistemler önyargıdan kaçındı. (Facebook, yapay zeka odaklı bir etik kurul oluşturacak kadar ileri gitmedi) DeepMind bir etik ve toplum ekibi oluşturdu. IBM, etik ve yapay zeka hakkında düzenli olarak yayınlar yapar. Baidu'daki bir skandalın ardından - arama motoru, bir tedavinin 21 yaşındaki bir öğrencinin ölümüyle sonuçlandığı askeri bir hastaneden gelen yanıltıcı tıbbi iddialara öncelik verdi - Baidu CEO'su Robin Li, çalışanların Baidu'nun kazanç artışı uğruna taviz verdi ve gelecekte etik konularına odaklanma sözü verdi.
The Big Nine, etik çalışmaları ve teknik incelemeler üretir, etiği tartışmak için uzmanları bir araya getirir ve etik hakkında panellere ev sahipliği yapar - ancak bu çaba, yapay zeka üzerinde çalışan çeşitli ekiplerin günlük operasyonlarıyla yeterince iç içe değildir.
Big Nine'ın A.I. sistemleri, ticari değer gösteren ürünler oluşturmak için gerçek dünyadaki verilerimize giderek daha fazla erişiyor. Geliştirme döngüleri, yatırımcıların beklentilerine ayak uydurmak için hızlanıyor. Aceleyle ve ilk önce tüm bu soruları yanıtlamadan yaratılan bir geleceğin katılımcıları - farkında olmadan - istekli olduk. A.I. sistemler ilerler ve günlük hayatın çoğu otomatikleşir, bizim hakkımızda ve bizim için verilen kararlar üzerinde aslında o kadar az kontrolümüz olur.
Amy Webb ekranda görünecek. Inc. Kurucular Evi 11 Mart'ta Austin'de.
