Kurumsal yapay zeka ajanlarını denetlenebilir hale getiren platform: XRack
Bilişsel çalışma ortamı standardı sunan XRack , kurumların tercih ettikleri büyük dil modellerini, yalnızca soru yanıtlayan yazılımlar olmaktan çıkararak, kendi hafızası, yetkileri, sorumluluk sınırları ve gözlem/denetim mekanizmaları tanımlanmış yapay zeka sistemlerine dönüştüren kurumsal bir işletim sistemi geliştiriyor.
Girişimin belirttiğine göre; günümüzde dil modelleri oldukça güçlü analizler yapabiliyor ve farklı görevler için çeşitli araçları kullanabiliyor. Ancak bir modelin belirli bir eylemi önermesi, o eylemi gerçekleştirmeye yetkili olduğu anlamına gelmiyor. Benzer şekilde, bir aracın “işlem başarılı” yanıtı vermesi de beklenen sonucun gerçek dünyada kesin olarak meydana geldiğini tek başına kanıtlayamıyor. XRack ise tam olarak bu boşluğu yönetmeye odaklanıyor.
XRack'in sistemi, yapay zekanın karar alırken hangi bilgilere ve kaynaklara dayandığını, hangi varsayımları kullandığını, geçmişteki hangi deneyimlerden yararlandığını ve neden belirli bir eylemi seçtiğini yapılandırılmış biçimde takip ediyor. Eyleme geçilmesi gerektiğinde kimlik, rol, kurumsal politika, risk seviyesi ve yetki kapsamı kontrol ediliyor. İşlem gerçekleştirildikten sonra da mümkün olan durumlarda dış sistem yeniden gözlemlenerek beklenen sonucun gerçekten oluşup oluşmadığı doğrulanıyor.
Örneğin yapay zeka bir müşteriye iade sözü verdiğinde, ödeme başlattığında veya kurumsal bir belge üzerinde değişiklik yaptığında, modelin “işlem tamamlandı” demesi yeterli kabul edilmiyor. Önce bu işlemin kim adına ve hangi yetkiyle yapılabileceği belirleniyor, gerekli ön koşullar kontrol ediliyor, işlem kayıtlı ve sınırlandırılmış bir eylem olarak yürütülüyor, ardından gerçek sonuç beklentiyle karşılaştırılıyor ve bu sayede sistem kendini kalibre edebiliyor.
Tüm bu süreçte oluşan kararlar, iddialar, varsayımlar, taahhütler, yetki kontrolleri, eylem girişimleri ve doğrulanmış sonuçlar geriye dönük olarak birebir olarak incelenebilen bir kanıt zincirine, blockchain teknolojisi kullanılarak bağlanıyor.