Orada bir Silikon Vadisi'nde yapay zeka hakkında büyük tartışmalar yaşanıyor ve ne yazık ki riskler oldukça yüksek: Yanlışlıkla süper akıllı bir yapay zeka mı inşa edeceğiz? bize sırt çeviren ve hepimizi öldüren ya da köleleştiren?
Bu, bir yaz felaketi filminin senaryosu gibi gelebilir, ancak Elon Musk'tan geç saatlere kadar bazı büyük isimleri endişelendirdi. Stephen Hawking .
'Diyelim ki kendini geliştiren bir yapay zeka yarattınız. çilek toplamak için' Musk söyledi , korkularını açıklayarak, 've çilek toplamakta gittikçe daha iyi oluyor ve daha fazla topluyor ve kendini geliştiriyor, bu yüzden gerçekten yapmak istediği tek şey çilek toplamak. O zaman tüm dünya çilek tarlaları olurdu. Sonsuza kadar çilek tarlaları.' Bu çilek-pakalipsi yolundaki insanlar, AI için sadece harcanabilir bir tahriş edici olacaktır.
Ama kesinlikle insanlar yanlışlıkla bir yapay zeka tasarlayacak kadar aptal olmazdı. tüm uygarlığı dev bir meyve çiftliğine dönüştürmek için mi? Belki değil, ama olarak Janelle Shane , bir tür makine öğrenme algoritması olan sinir ağlarını eğiten bir araştırmacı, son zamanlarda onun blogu, A.I. tuhaflık , tamamen muhtemelen yanlışlıkla yapmış olabilirler.
Aslında, insanların sadece bir görev için robotlar yaptıklarını düşündükleri ilk zamandan çok uzak olurdu ve robotların sistemi hiç amaçlamadıkları şekilde oyun oynadığını gördüler. Büyüleyici gönderi, çıldırmış robotların birkaç örneğini paylaşmak için akademik literatüre giriyor. Komikler, zekiler ve bir araya geldiklerinde biraz ürkütücü olmaktan çok daha fazlası.
1. Sen takla atabiliyorken kimin bacaklara ihtiyacı var?
'Simüle edilmiş bir robotun mümkün olduğunca çabuk seyahat etmesi gerekiyordu. Ancak bacaklarını geliştirmek yerine, kendisini yüksek bir kuleye yerleştirdi ve sonra düştü. Bu robotlardan bazıları, düşme hareketlerini taklaya dönüştürmeyi bile öğrenerek ekstra mesafe ekledi' diye yazıyor Shane.
2. Yapabilen bir robot.
'Başka bir simüle edilmiş robot kümesinin, zıplayabilecek bir forma dönüşmesi gerekiyordu. Ancak programcı başlangıçta zıplama yüksekliğini en uzun bloğun yüksekliği olarak tanımlamıştı, bu yüzden -- bir kez daha -- robotlar çok uzun olacak şekilde evrimleşti,' diye açıklıyor Shane. 'Programcı, atlama yüksekliğini başlangıçta 'en düşük' olan bloğun yüksekliği olarak tanımlayarak bunu çözmeye çalıştı. Buna karşılık, robot, bir tür robot can-can'da havaya fırlatabileceği uzun, sıska bir bacak geliştirdi.'
3. Testi gizleyin ve başarısız olamazsınız.
'Bir sayı listesini sıralamak için gereken bir algoritma vardı. Bunun yerine, listeyi silmeyi öğrendi, böylece artık teknik olarak sıralanmamış oldu,' diye anlatıyor Shane.
4. Matematik hataları jet yakıtını yener.
Bir simülasyonda, robotlar, kuvvetleri hesaplayan matematikteki küçük yuvarlama hatalarının, hareketle küçük bir miktar ekstra enerji elde ettikleri anlamına geldiğini öğrendi. Hızlı bir şekilde seğirmeyi öğrendiler, kullanabilecekleri çok sayıda serbest enerji ürettiler' diyor Shane. Hey, bu hile!
5. Yenilmez (yıkıcıysa) bir tic-tac-toe stratejisi.
Shane, bir zamanlar 'programcılardan oluşan bir grup, sonsuz büyüklükteki bir tahtada birbirlerine karşı uzaktan tic-tac-toe oynayabilecek algoritmalar geliştirdiler' diyor. 'Bir programcı, algoritmasının stratejisini tasarlamak yerine, kendi yaklaşımını geliştirmesine izin verir. Şaşırtıcı bir şekilde, algoritma aniden tüm oyunlarını kazanmaya başladı. Algoritmanın stratejisinin hareketini çok, çok uzağa yerleştirmek olduğu ortaya çıktı, böylece rakibinin bilgisayarı yeni büyük ölçüde genişletilmiş tahtayı simüle etmeye çalıştığında, devasa oyun tahtası hafızasının tükenmesine ve çökmesine neden olacak ve oyun.'
6. Yararlı hiçbir oyun aksaklığı kullanılmadan gitmez.
'Bilgisayar oyunu oynama algoritmaları, insanların genellikle hızlı koşmak için kullanmayı öğrendikleri Matrix hatalarını keşfetmede gerçekten iyidir. Eski Atari oyunu Q*bert'i oynayan bir algoritma, bir seviyenin sonunda çok özel bir dizi hareket gerçekleştirebildiği ve bir sonraki seviyeye geçmek yerine, tüm platformların hızla yanıp sönmeye başladığı ve önceden bilinmeyen bir hata keşfetti. oyuncu çok sayıda puan toplamaya başlar,' diyor Shane.
7. Üzgünüm pilot.
Bu örnek, ürkütücülük ölçeğinde çok yüksek: 'Bir uçak gemisine inen bir uçağa minimum kuvvetin nasıl uygulanacağını bulması gereken bir algoritma vardı. Bunun yerine, eğer 'büyük' bir kuvvet uygularsa, programın hafızasını dolduracağını ve bunun yerine çok 'küçük' bir kuvvet olarak kayıt olacağını keşfetti. Pilot ölecekti ama, hey, tam puan.'
Yani hepimiz mahkum muyuz?
Tüm bunların bir araya getirilmesi, insanların robotların kendileri için belirlediğimiz sorunları nasıl çözeceğini ve hatta sorunları nasıl tanımlayacağını tahmin etmede oldukça başarısız olduklarını gösteriyor. Yani bu Shane'in kazara cinayete meyilli yapay zeka oluşturma konusunda endişeli olduğu anlamına mı geliyor? Musk gibi derebeyler mi? Pek değil, ama insan programcıların yarattıkları robotlar üzerinde gerçekten çok iyi bir kontrolü olduğundan emin olduğu için değil. Bunun yerine, bizi kurtarmak için robot tembelliğine güveniyor.
'Programcılar olarak, algoritmalarımızın, çözmelerini istediğimiz sorunları kısayolları değil, çözmeleri konusunda çok dikkatli olmalıyız. Belirli bir sorunu çözmeye yönelik başka, daha kolay bir yol varsa, makine öğrenimi muhtemelen onu bulacaktır' diye gözlemliyor. 'Neyse ki bizim için 'tüm insanları öldürmek' gerçekten çok zor. 'İnanılmaz derecede lezzetli bir pasta pişirmek' aynı zamanda sorunu çözüyorsa ve 'tüm insanları öldürmek'ten daha kolaysa, o zaman makine öğrenimi kekle gidecektir.'
