Yapay zekanın insanlık için bir tehdit oluşturup oluşturmadığı tartışması Anthropic'ten gelen yeni açıklamalarla yeniden gündem oldu. Yapay zeka araştırmacısı Jacob Coxon, sektördeki şirketlerin "insan hayatıyla kumar oynadığı" endişesiyle Anthropic'ten istifa ettiğini açıkladı.
Tartışmayı büyüten açıklama ise Anthropic'in uyum ekibinden geldi. Şirketin uyum sorumlusu, "Yapay zekanın tüm insanları öldürebileceğine gerçekten inanıyoruz" ifadesini kullanırken, kişisel olarak bunun 10 yıl içinde gerçekleşme ihtimalini yüzde 10'un üzerinde gördü.
Tehlike söylemi şirketlerin değerini artırabilir mi?
Açıklamalar teknoloji dünyasında iki ayrı tartışmayı beraberinde getirdi. İlki, yapay zeka şirketlerinin geliştirdikleri modeller üzerindeki kontrolü kaybedip kaybetmediği. İkincisi ise şirketlerin teknolojinin taşıdığı riskleri vurgularken aynı zamanda giderek daha güçlü modeller geliştirmeyi sürdürmesi.
Yapay zeka modellerinin gücü ve olası tehlikelerinin sürekli vurgulanması, şirketlerin teknolojik kapasitesinin dolaylı bir gövde gösterisine dönüşebileceği tartışmasını da beraberinde getiriyor.
Asıl riskler gözden mi kaçıyor?
Öte yandan yapay zekanın önümüzdeki 10 yılda insanlığı yok edebileceğine ilişkin olasılık hesaplarının bilimsel temelinin belirsiz olduğuna dikkat çekilirken, kıyamet senaryolarının daha yakın riskleri gölgede bırakabileceği savunuluyor.
Bu yaklaşımı savunanlara göre yapay zekanın istihdam, enerji tüketimi, çevre ve iklim üzerindeki mevcut etkileri, süper zeka ve insanlığın yok oluşu gibi senaryoların yarattığı yoğun tartışma nedeniyle ikinci planda kalma riski taşıyor.
Dünya