Yapay Zekâ Nelerdir, Standart Nasıl Tanımlıyor?

---

Yapay zekâ bugün her ürün tanıtımında geçiyor ama tanımı çoğu zaman belirsiz kalıyor. Standart kurumlarının kullandığı tanım ise dar ve işlevsel: belirli hedefler için çıktı üreten, farklı özerklik düzeylerinde çalışan sistemler.

Aşağıda yapay zekâ sisteminin standarttaki tanımını, güvenilirlik özelliklerinin neler olduğunu, riskinin geleneksel yazılımdan nerede ayrıldığını ve risk yönetiminin hangi işlevlere bölündüğünü ABD standart kurumunun çerçevesine bakarak topluyoruz.

Standarttaki tanım​

NIST Yapay Zekâ Risk Yönetimi Çerçevesi tanımı şöyle veriyor: yapay zekâ sistemi, belirli bir hedefler kümesi için gerçek ya da sanal ortamları etkileyen tahminler, öneriler veya kararlar gibi çıktılar üretebilen, mühendislik ürünü ya da makine tabanlı bir sistem.

Tanımın devamı özerkliğe bakıyor: yapay zekâ sistemleri farklı özerklik düzeylerinde çalışacak biçimde tasarlanıyor.

Belge tanımı kendi icadı olarak sunmuyor; OECD'nin 2019 tarihli tavsiyesi ile bir uluslararası standarttan uyarlandığını belirtiyor.

• Ne üretiyor: Tahmin, öneri veya karar.
• Neyi etkiliyor: Gerçek ya da sanal ortamlar.
• Nasıl çalışıyor: Farklı özerklik düzeylerinde.

Güvenilir sistemin özellikleri​

Çerçeve, güvenilir yapay zekâ sistemlerinin özelliklerini ayrı başlıklar hâlinde sayıyor.

Listede şunlar yer alıyor: geçerli ve güvenilir olmak, güvenli olmak, emniyetli ve dayanıklı olmak, hesap verebilir ve şeffaf olmak, açıklanabilir ve yorumlanabilir olmak, gizliliği güçlendirilmiş olmak ve zararlı önyargısı yönetilmiş biçimde adil olmak.

Belge bunlar arasında bir hiyerarşi de kuruyor: geçerli ve güvenilir olmak, güvenilirliğin zorunlu koşulu ve diğer özelliklerin temeli.

Hesap verebilirlik ile şeffaflık ise diğer bütün özelliklerle ilişkili olduğu için ayrı bir konumda ele alınıyor.

Püf nokta' Alıntı:

Çerçeveye göre bir sistem doğru sonuç üretmiyorsa, diğer güvenilirlik özelliklerini tartışmanın zemini de kalmıyor.

Genişletmek için tıkla ...

Riski neden farklı?​

Belge, geleneksel yazılım için geliştirilmiş standartların bu alanda yetersiz kalabildiğini söylüyor: yapay zekâ sistemlerinin doğurduğu riskler birçok yönden kendine özgü.

İlk fark veride. Bu sistemler zamanla değişebilen veriyle eğitilebiliyor; değişim bazen belirgin ve beklenmedik oluyor ve sistemin işlevselliğini ile güvenilirliğini anlaşılması zor biçimlerde etkiliyor.

İkinci fark karmaşıklıkta. Belgeye göre sistemler ve konuşlandırıldıkları bağlamlar sıklıkla karmaşık; bu da arızaları tespit etmeyi ve bunlara yanıt vermeyi zorlaştırıyor.

Belge risklerin niteliğini de tarif ediyor: diğer teknoloji türlerinde olduğu gibi bu riskler çeşitli biçimlerde ortaya çıkabiliyor ve uzun ya da kısa vadeli, yüksek ya da düşük olasılıklı, sistemik ya da yerel, yüksek ya da düşük etkili olarak nitelenebiliyor.

Önceliklendirme neye göre yapılıyor?​

Çerçeve bütün sistemleri aynı kefeye koymuyor. İnsanlarla doğrudan etkileşecek biçimde tasarlanan ya da konuşlandırılan sistemlerle etkileşmeyenler arasında öncelik farkı olabiliyor.

Daha yüksek başlangıç önceliği gerektiren durumlar da sayılıyor: sistemin kişisel olarak tanımlanabilir bilgi gibi hassas veya korunan verilerden oluşan büyük veri kümeleriyle eğitilmesi ya da çıktılarının insanlar üzerinde doğrudan veya dolaylı etkisi olması.

Yalnız hesaplama sistemleriyle etkileşen ve hassas olmayan veri kümeleriyle eğitilen sistemler için daha düşük başlangıç önceliği söz konusu olabiliyor.

Belge yine de bir uyarı ekliyor: insana dönük olmayan sistemlerin de sonraki aşamalarda güvenlik ya da toplumsal etkileri olabildiği için riskin bağlama göre düzenli olarak değerlendirilmesi önemini koruyor.

Kalan risk kavramı​

Çerçeve, risk işlemesinden sonra geriye kalan riski ayrı bir kavram olarak tanımlıyor ve bunun doğrudan son kullanıcıları ile etkilenen bireyleri ve toplulukları etkilediğini belirtiyor.

Belgeye göre bu riskin belgelenmesi, sistemi sunan tarafın ürünü konuşlandırmanın risklerini tam olarak değerlendirmesini gerektiriyor.

Aynı belgeleme, son kullanıcıları olası riskler konusunda bilgilendirme işlevi de görüyor.

Risk yönetimi nasıl bölünüyor?​

Çerçeve, risk yönetimi etkinliklerini en üst düzeyde dört işleve ayırıyor: yönetişim, haritalama, ölçme ve yönetme.

Yönetişim, diğer üç işlevi besleyen ve onların içine işleyen kesişen bir işlev olarak tasarlanmış.

Bu yapı, yapay zekâ tartışmasını "iyi mi kötü mü" ekseninden çıkarıp yönetilebilir bir sürece dönüştürüyor.

Kavramın temelini oluşturan adım adım yordamı algoritma yazımızda ele almıştık. Yazılım katmanlarının nasıl ayrıldığını yazılım yazımızda, istem yazmanın nasıl çalıştığını ise prompt yazımızda anlatmıştık.

Sık Sorulan Sorular​

Yapay zekâ nedir?
Belirli hedefler için ortamları etkileyen tahmin, öneri veya karar gibi çıktılar üreten mühendislik ürünü ya da makine tabanlı sistem.

Hepsi aynı özerklikte mi?
Hayır. Çerçeve, sistemlerin farklı özerklik düzeylerinde çalışacak biçimde tasarlandığını belirtiyor.

Güvenilirlik neyle ölçülüyor?
Geçerlilik, güvenlik, dayanıklılık, hesap verebilirlik, açıklanabilirlik, gizlilik ve adalet gibi özelliklerle.

Riski neden farklı?
Zamanla değişen veriyle eğitilebiliyor ve konuşlandırıldığı bağlamlar arızayı tespit etmeyi zorlaştıracak kadar karmaşık olabiliyor.

Risk yönetimi nasıl kurgulanıyor?
Yönetişim, haritalama, ölçme ve yönetme olmak üzere dört işlevle.

Özetle​

Yapay zekâ sistemi, standart tanımıyla belirli hedefler için çıktı üreten ve farklı özerklik düzeylerinde çalışan bir sistem. Güvenilirlik tek bir ölçüte değil, geçerlilikten adalete uzanan bir özellikler kümesine bağlanıyor. Riskin geleneksel yazılımdan farkı, verinin değişebilmesi ve bağlamın karmaşıklığı. Yönetim ise dört işleve bölünmüş bir süreç olarak tanımlanıyor.

Kullandığınız yapay zekâ aracının hangi veriyle eğitildiğini biliyor musunuz?

Güncelleme: 3 Eylül 2026. NIST AI 100-1 (AI Risk Management Framework 1.0) kontrol edildi.

---