Teknoloji ilerledikçe insanlar gibi düşünen makinelerin insanlığın sonunu getirebileceği senaryosu gerçekleşmeye doğru ilerliyor.
Cambridge Üniversitesi Öğretim Üyesi Dr. Shahar Avin, raporu kaleme alan isimlerden biri. Avin’e göre yapay zekâ insanlığın sonunu getirebilir.
‘’60’larda insanların yapmakta zorlandığı şeyleri makinelere yaptırabileceğimizi anladık. Mesela mantık, planlama… Fakat 10 yıl öncesine kadar makinelerin, insanların yaptığı şeyleri “anında” yapabilme kapasitesi yoktu. Örneğin etrafa bakıp “Bu bir bilgisayar, çiçek” diyebiliyoruz, artık bilgisayarlarda da bu teknoloji var. Bilgisayarlar, yüklenen milyonlarca fotoğraf ve veri sayesinde bilgiyi, görseli ayırt edebiliyor. Yani artık bir makinenin yüzde 99 doğruluk oranıyla kediyle köpek arasındaki farkı anlayabildiği bir noktadayız,’’ değerlendirmesinde bulunan Avin, yapay zekânın en önemli uygulama alanlarından biri de trafik olacağını düşünüyor: ‘’Eğer bilgisayar sistemlerine trafiğin akışını, yayaların nereden geçtiğini, ışıkların kaç dakikada bir yeşile döndüğünü öğretebilirsek, sürücüsüz araçları trafiğe sokabiliriz.’’
Raporda yapay zekânın üç alanda tehlikelerini sıralanıyor: Dijital, fiziksel ve siyasi. Bu noktalardaki tehlikeleri anlatan Avin, her güvenlik sisteminin en zayıf yanının insan olduğunu kaydediyor.
Avin’e göre eğer bir kişiyi email şifresini vermesi için kandırırsanız, kurduğunuz tüm güvenlik duvarı da çöker. Bu sebeple bütün hacker sistemleri sosyal mühendislik içermekte.
Uzamana göre yapay zekâ bir şirketteki önemli bir çalışanı internet üzerinden aylarca takip edip neler yaptığını tespit ediyor ve nihayetinde bu bilgilere göre tuzağa düşürebiliyor.
‘’Facebook’un kullandığı yüz tanıma sistemini bir terörist kullanırsa ne olur?’’ sorusunu soruyor Avin ve anlatıyor:
‘’Ucuz bir İHA alabilir, üzerine ucuz bir kamera yerleştirebilir ve makineye öldürmek istediği kişinin yüzünü öğretebilir, İHA da hedefi bulup öldürebilir. Bu açıdan bakınca yapay zekâ korkunç görünüyor. Fakat bir yandan da çok yararlı tarafları var. Mesela aynı yüz tanıma sistemini sürücüsüz araçlara yüklediğiniz zaman daha güvenli sürüş teknikleri geliştirebilirsiniz. Ya da ev temizleyen robotlar… Fakat burada da bir başka tehlike ortaya çıkıyor, eğer bu robotların sistemlerini hack’lerseniz, o robotlara istediğiniz her şeyi yaptırabilirsiniz.’’
Avin’e göre öyle günler gelecek ki bir otomobil içinde sadece bilgisayar sistemi olan bir araca dönüşecek ya da bir hastanın tedavisi saatte bir ilaç enjekte eden makineler aracılığıyla yapılacak ve biz siber güvenlik açısından hazır olmalıyız.
Cambridge öğretim üyesine göre yapay zeka siyaseti de etkileyecek. Avin, Rus hackerların Amerikan kamuoyunu yönlendirmek için nasıl bot hesapları kullandığına dair haberleri hatırlatıyor.
Avin, bir ülkenin diğer bir ülkenin kamuoyunu yönlendirmek için dijital bilgi enjekte edebileceğini, güvensizlik ve kutuplaşma yaratabileceğini ve seçmenlerin kararlarını etkileyebileceğini paylaşıyor. Tüm bunlar daha çok insanlar aracılığıyla yapılıyor.
‘’Bir binaya yüzlerce trol dolduruyorsunuz, onlar da sahte sosyal medya hesaplarından videolar paylaşıyor, yorumlar yapıyor. Fakat ileride bunu yapmak için de daha çok yapay zekâ kullanılacak. Yüzlerce trolün yaptığını, bir evde 4 kişi -yeterince teknik altyapısı varsa- becerebilir,’’ diyor Avin.
Hükümetler vatandaşlarını izleme-takip etmede yapay zekâ kullanımları üzerine değerlendirmede bulunan Avin, bazı ülkelerde “vatandaş kredi sistemi” olduğunun altını çiziyor. Buna göre halk, geçmişteki davranışlarına göre puanlanıyor.
‘’Gelecekte hakkınızdaki tüm verilere erişebilen merkezi yapılar vatandaşları hakkında da kararlar verecek. Tüm dünyaya casusluk yapan, bir askeri üsten dünyanın diğer ucundaki yerleri bombalamaktan imtina etmeyen ülkeler tabii ki, yapay zekâ kullanarak size sağlık sigortası yapıp yapmayacağına da karar verecektir. Sadece hükümetler değil şirketler için de geçerli. Anlattıklarımın hepsi mahremiyeti, açık piyasayı, demokratik süreçleri olumsuz yönde etkileyecek. Çünkü bilgiye erişebilen daha güçlü olacak,’’ diyor Avin.
Avin, gittiği bir şirkette kendisine: “Facebook’ta beğendiğiniz şeylerden evli misiniz değil misiniz, cinsel tercihiniz ne, nelerden hoşlanırsınız… Tüm bunları tahmin edebiliriz. Çektiğiniz tüm fotoğrafların sadece yüzde 2’sini internete yüklüyorsunuz ama bizim için yeterli değil. Çünkü tüm tüketim alışkanlıklarınızı tespit etmek istiyoruz. Biz de telefonununa yerleştirebilceğimiz bir program geliştirdik, galerinizdeki tüm fotoğraflara erişebiliyoruz. Eğer kullanıcı izin verirse, fotoğraflardan bir analiz çıkarıp şirketlerle paylaşıyoruz,” dendiğini paylaşıyor.
Cambridge öğretim görevlisi en iyi hackerların bir kısmının hükümetler için çalıştığını kaydediyor, fakat en iyileri büyük teknoloji şirketlerinde ya da kendi danışmanlık şirketlerini kurmuş vaziyette.
Avin, fiziksel güvenliğimiz artık bilgisayarlara bağımlı olduğunu kaydediyor ve bunun da teröristlerin gelecekte hacker’lara daha bağımlı olacağı anlamına geldiğini paylaşıyor.
Herkesin merak ettiği soru ise ‘Yapay zekâ insanlığın sonunu getirebilir mi?’ Avin’e göre bu sorunun yanıtı evet. ‘’Eğer böyle bir tehdit görmeseydim “varoluşsal tehdit” üzerine çalışmazdım. Yapay zekânın amacı insanların yapabildiği şeyleri makinelere yaptırmak değil mi? Bunu başardığımızda kendimizden daha zeki makineler yaratabiliriz. Tabii ki onlar da bu gezegenin kontrolünü bizler ve hayvanların elinden alabilir,’’ değerlendirmesinde bulunuyor Avin.
