CROA

Detaylı İnceleme

Geçen gün kendi kendine çalışan yapay zeka ajanlarını incelerken aklıma şu takıldı: Bu sistemler harika kararlar veriyor ama ya bir gün yetkilerini aşıp veritabanınızı silmeye kalkarlarsa? İşte tam bu noktada zeka ile yetkiyi birbirinden ayırma fikri devreye giriyor. Çoğu zaman yapay zekanın kendi koyduğumuz kurallara sadık kalacağına güveniriz ama bu durum her zaman güvenli değildir. Bu yeni yaklaşım ise güvenmek yerine denetlemeyi seçiyor. Sistemin mantığı aslında oldukça yalın ama bir o kadar da etkili. Yapay zeka ne kadar akıllı olursa olsun, bir sistemde kalıcı bir değişiklik yapmadan önce kayıtlı sarsılmaz kurallara takılıyor. Yani aracın akıllı kararlar alma yeteneği ile bu kararları uygulama yetkisi iki ayrı katmana bölünüyor. Karar ne olursa olsun, son işlem güvenlik mimarisinden geçmek zorunda kalıyor. Açık kaynaklı olarak sunulan bu mimariyi kendi sisteminizde deneyip sınırlarını zorlamanız da mümkün. Geliştiriciler herkese açık bir deneysel sürüm sunarak sistemin güvenilirliğini sınamaya çağırıyor. Eğer yazılım projelerinizde yapay zeka ajanları kullanıyor ve bu araçların kontrol dışına çıkmasından endişe ediyorsanız, bu bağımsız mimariye mutlaka göz atmalısınız.