Çok düzgün konuşması, doğru söylediği anlamına gelmez.
Seyahat planı yaptırıyor, sağlık tahlilimizi yorumlatıyor, yatırım veya hukuk sorusu soruyoruz. Sözleşme özetletiyor, teklif hazırlatıyoruz.
Sorulara özgüvenle cevap veriyor. Yanlış restoran önerisi küçük bir hayal kırıklığıyken yanlış sağlık, yatırım veya hukuk bilgisi ağır sonuçlar doğurabilir.
Ekran aynı olabilir; risk ve sorumluluk aynı değildir.
Kişisel kullanımda kendi verimizi, paramızı ve kararlarımızı; şirkette ise müşteri verilerini, ticari sırları, üretimi ve kurumsal itibarı etkileyebiliriz.
Kişisel kullanımda son karar sizde
YZ düzgün ve kendinden emin konuşur. İnsan zihni ise akıcı anlatımı bilgiyle, özgüveni doğrulukla karıştırabilir.
Tereddütsüz cevap, doğru veya güncel cevap demek değildir.
Belirleyici olan sistemin gücü değil, hangi iş için kullanıldığıdır. YZ fikir, taslak ve özet için güçlü bir yardımcıdır. Ancak sağlık, hukuk, para, güvenlik veya başkasının hakkı söz konusuysa karar mercii değildir.
Önemli sonuçlar kaynak ve uzmanla doğrulanmalıdır.
YZ ekranı kapalı bir oda değildir. Kimlik, banka ve sağlık bilgileri, özel yazışmalar, parolalar ve doğrulama kodları genel sistemlere yüklenmemelidir.
İnternette paylaşmayacağınız bilgiyi YZ’ya da vermeyin. YZ sırdaşınız değildir.
Gördüğümüz, duyduğumuz artık kanıt olmayabilir. Tanıdığımız kişinin sesiyle gelen para talebini, kayıtlı gerçek numarayı arayarak ikinci bir kanaldan doğrulamalı.
Bir bağlantının görünmesi kaynağın var olduğu, bir rakamın kesin söylenmesi güncel olduğu anlamına gelmez.
Kaynağı açmadan karar vermeyin.
Şirketlerde güven: Sorumluluk çalışana bırakılamaz
Çalışan müşteri listesini, sözleşmeyi, fiyat formülünü veya kaynak kodu kişisel hesabına yükleyebilir. Niyeti zarar vermek değildir; fakat kurumsal veri şirketin denetiminden çıkar.
“Gölge Yapay Zekâ” başlıklı köşe yazımı okumanızı tavsiye ederim.
Şirketinizde kim, hangi aracı, hangi veriyle, hangi amaçla ve kimin sorumluluğunda kullanıyor?
Şirketler, araçları görünür hâle getirmeli ve veri sınırlarını açıklamalı. İş amaçlı kullanım kurumsal hesaplara taşınmalı, yetkiler sınırlandırılmalı ve kritik çıktılar insan kontrolünden geçmelidir. Verinin nerede işlendiği ve nasıl silineceği bilinmelidir.
Güvenli alternatif sunulmazsa kullanım kişisel hesaplara kayar. Sınırsız serbestlik ise güvenliği çalışanın dikkatine bırakır.
Yanlış cevap ile yanlış işlem aynı şey değil
Yeni ajan tabanlı sistemler e-posta gönderebiliyor, dosya silebiliyor, sipariş oluşturabiliyor ve ödemeye aracılık edebiliyor. Yanlış cümle ekranda kalabilir; yanlış işlem ise para kaybına veya geri alınamayacak bir taahhüde dönüşebilir.
Bir YZ ajanına erişim verirken “Benim adıma en fazla ne yapabilir?” diye sorun. Yetki; amaç, süre, tutar ve işlem türüyle sınırlandırılmalı; ödeme, bağlayıcı teklif ve dosya silme insan onayı olmadan tamamlanmamalıdır.
Hata olduğunda kimin müdahale edeceği ve işlemin nasıl durdurulacağı da önceden belirlenmelidir.
Her şirketin riski farklıdır
KOBİ’ler için sorumlu kişi, birkaç onaylı araç, kurumsal hesap, veri sınırları ve kritik çıktıda insan kontrolü güçlü bir başlangıçtır.
Sanayici için fiyat formülleri, üretim reçeteleri, teknik çizimler, kaynak kod ve ERP bağlantıları özel koruma ister. YZ doğrudan üretim hattına komut vermemelidir.
İhracatçı için; pazar araştırması, müşteri bulma ve teklif hazırlamada fırsat sunar. Yanlış beyan, hatalı çeviri, sınır ötesi veri ve yaptırım kuralları şirketi başka bir ülkenin hukukuyla karşı karşıya bırakabilir. Bağlayıcı işlem insan onayı olmadan yapılmamalıdır.
Savunmada hassas veri genel YZ’ya verilmemeli; denetlenmiş model güvenli ortamda veriye götürülmelidir. Altyapı, yetki ve denetim belirleyicidir.
Güvenilen model değil, kullanım düzenidir
Bu veriyi paylaşmaya yetkim var mı? Araç güvenli mi? Cevabı doğrulayabilir miyim? Sonuçtan kim sorumlu? Hata olursa geri alabilir miyim?
Birine “hayır” veya “bilmiyorum” diyorsanız sorun YZ’nın gücü değil, kontrolünüzün zayıflığıdır.
YZ kaçınılmaz. Ancak kontrolsüz kullanım ilerlemek değil, ertelenmiş bir krizdir.
YZ’ya güvensenizde hata yapacağını unutmayın. Güven; sınır koymak, bilgiyi doğrulamak, yetkiyi ölçülü vermek ve son sorumluluğu insanda tutmaktır.
Asıl güven, insanın muhakemesinde ve kurumun yönetim gücünde başlar.
Ertan Barut-Dünya