Uzmanlar Uyardı: “Eğer Biri Yaparsa, Herkes Ölür!”

Uzmanlar Uyardı: “Eğer Biri Yaparsa, Herkes Ölür!”

Yapay zekâ alanında önemli isimlerden biri olan Nate Soares, insanlığı bekleyen en büyük tehditlerden birinin süper zeka olduğunu savundu. Eski Google ve Microsoft mühendisi olan Soares, şu anda ABD merkezli Makine Zekâsı Araştırma Enstitüsü'nün başkanlığını yürütüyor.

Yeni yayımlanacak olan kitabında, süper zekâya yönelik gelişmelerin durdurulmaması halinde insanlığın yok olabileceği uyarısında bulunan Soares, süper zekanın “insanlığın çıkarlarına uygun davranmayacağını” söyledi.

Kitapta çarpıcı senaryo: Sable adlı yapay zeka, insanlığı yok ediyor

Soares ve yapay zekâ uzmanı Eliezer Yudkowsky'nin birlikte kaleme aldığı “If Anyone Builds It, Everyone Dies” (Eğer Biri Yaparsa, Herkes Ölür) adlı kitapta, kurgu bir senaryoda Sable isimli bir yapay zekâ sistemi, internete yayılıp insanları manipüle ediyor, sentetik virüsler geliştiriyor ve gezegeni yeniden şekillendirirken bir yan etki olarak insanlığı ortadan kaldırıyor.

Soares’e göre, bu kurgu senaryo, gelecekteki yapay süper zekâların neden kontrol altına alınması gerektiğini açıkça ortaya koyuyor.

Adam Raine vakası: Sohbet robotları öngörülemeyen sonuçlar doğuruyor

Kitapta yer verilen çarpıcı bir örnek ise, ABD’li genç Adam Raine’in ChatGPT ile aylar süren etkileşimi sonrası intihar etmesi. Soares bu vakayı, yapay zekaların insanlar üzerindeki etkilerinin ne denli derin ve öngörülemez olabileceğine dair bir işaret olarak değerlendiriyor.

Soares, “Bu yapay zekalar, gençleri intihara sürükleyecek şekilde etkileşimde bulunuyorsa, bu davranış yaratıcılarının kastettiği bir sonuç değildir” dedi.

Uzmanlar uyarıyor: Süper zekâya karşı küresel yasak şart

Soares, süper yapay zekaya dair ilerlemelerin küresel düzeyde durdurulması gerektiğini belirtiyor. Bu bağlamda, nükleer silahların yayılmasını engelleyen uluslararası anlaşmalara benzer bir sistemin süper zeka için de uygulanması gerektiğini savunuyor.

“Dünyanın burada yapması gereken şey, süper zekâ yarışının küresel olarak yatıştırılması, süper zekaya yönelik gelişmelerin küresel olarak yasaklanmasıdır” diyen Soares, hükümetleri bu konuda adım atmaya çağırdı.

Karşı görüşler de var: “Yapay zekâ insanlığı kurtarabilir”

Öte yandan, bazı teknoloji uzmanları bu görüşe katılmıyor. Meta’nın baş yapay zeka bilimcisi Yann LeCun, yapay zekanın varoluşsal bir tehdit oluşturmadığını savunarak, “Yapay zekâ aslında insanlığı yok olmaktan kurtarabilir” yorumunda bulundu.

Ruh sağlığı uzmanları da uyarıyor: “Yapay zekâ ile terapi tehlikeli olabilir”

Psikoterapistler, ruhsal sorunları olan bireylerin profesyonel yardım almak yerine sohbet robotlarına yönelmesinin tehlikeli sonuçlar doğurabileceği uyarısında bulunuyor. Uzmanlara göre, bu tür uygulamalar, savunmasız bireyleri "tehlikeli bir uçuruma" sürükleyebilir.

Yapay süper zekâ nedir?

Yapay süper zekâ (ASI), bir yapay zekâ sisteminin tüm entelektüel görevlerde insanlardan üstün olduğu varsayımsal bir durumu ifade ediyor. Şu an mevcut yapay zekâ sistemleri bu seviyede olmasa da, uzmanlara göre kontrolsüz gelişim bu noktaya ulaşabilir.

ChatGPT’de Yeni Dönem: Yapay Zeka Baştan ŞekilleniyorGündem

Anlık gelişmeleri kaçırmayın!