OpenAI Baş Bilim İnsanı Jakub Pachocki, yapay zeka modellerinin yeteneklerinin insanların anlamasını ve kontrol etmesini zorlaştıracak kadar hızlı ilerlediğine dikkat çekti.
Pachocki, yapay zeka sistemlerinin yakın gelecekte bilgisayarları kullanabilen, insanlarla ve diğer yapay zekalarla işbirliği yapabilen ve araştırma projelerini kendi başına yürütebilen sistemlere dönüşebileceğini belirtti.
Daha kritik aşamanın ise modellerin insan müdahalesi olmadan kendi yeteneklerini geliştirmeye başlaması olabileceğini söyledi. "Bu, son derece dikkatli olunması gereken bir dönem" diyen Pachocki, makine zekasındaki hızlı yükselişin sonuçlarına kimsenin tam olarak hazırlıklı olmadığı konusunda endişeli olduğunu ifade etti.
Yapay zeka şirketlerine "yavaşlama" çağrısı
Pachocki'ye göre geliştiriciler ya yapay zekayı insan çıkarlarıyla daha uyumlu hale getirecek ya da risklerin arttığı noktada gelişimi yavaşlatacak.
Pachocki, "Ortak güvenlik standartları belirlenene kadar gönüllü yavaşlamaların yaygınlaşmasını bekliyor ve umuyorum" dedi.
Uyarı, şirketlerin daha güçlü modeller geliştirme yarışının hızlandığı bir dönemde geldi. Sektörde özellikle yapay zekanın kendi araştırmasını yapması ve zamanla kendi yeteneklerini geliştirmesi üzerine çalışmalar yoğunlaşıyor. OpenAI de iki yıldan kısa süre içinde insan müdahalesine çok daha az ihtiyaç duyan "gerçek bir otomatik yapay zeka araştırmacısı" geliştirmeyi hedefliyor.
Pachocki'nin mesajı ise bu yarışın hız kadar güvenlik sorununu da beraberinde getireceğine işaret ederken yapay zeka kendi gelişimini hızlandırabilecek noktaya ulaştığında, şirketlerin gönüllü olarak frene basması gerekebilir.
Dünya