Açıklanabilir yapay zeka hakkında konuşmadan önce sizlere yapay zeka hakkında biraz bilgi vermek istiyorum. Yapay zeka, bir çıktı elde etmek için insan zekası gibi davranan ve elde ettiği bilgilere göre sürekli olarak kendisini geliştirebilen sistem veya makinedir. Yapay zekanın en önemli özelliği, kendini diğer sistemlerden ve makinelerden ayıran özelliği bağımsız öğrenme ve kendini geliştirebilme yeteneğidir diyebiliriz.
Örneğin: Aşağıda görmüş olduğunuz görselde önceden eğitilmiş bir yapay zekaya girdi olarak verilen bir görselin analiz süreci yer almaktadır.Görseldeki Black Box (kara kutu) kısmında yapay zekanın oluşturmuş olduğu,yapay zekayı oluşturan mühendisin bile bilmediği bir algoritma yer almaktadır.
Nuance yöneticisi Nils Lenk, Yapay Zekanın kara kutusu hakkında şu sözleri söylüyor;
İçeride ne olduğu her zaman açık değildir, siz Yapay Zekanın kendi kendini düzenlemesini sağlarsanız.Ancak bu durum, kendi geliştiriken size bunu nasıl yaptığını söyleyeceği demek değildir.
Nils LENK
Bu sözden sonra Açıklanabilir Yapay Zeka Nedir? sorusuna yanıt vermeye geçebiliriz.
aÇIKLANABİLİR YAPAY ZEKA NEDİR ?
Açıklanabilir Yapay Zeka -AYz(Explainable Artifical Intelligence-XAI),son yıllarda birçok tartışma ve kontrastlar barındıran bir konu olmak birlikte gerçekten nedir ve insan olarak buna ihtiyacımız var mı?
Amerika Savunma Bakanlığı (Department of Defense — DoD), her geçen gün daha akıllı hale gelen, otonom ve simbiyotik sistemlerin getirdiği zorluklarla karşı karşıya olduğunu açıklamaktadır.
Bildiğiniz üzere yapay zeka günümüzde her alanda farklı amaçlar doğrultusunda kullanılmakta, işimize bu kadar çok yarayan ve her alanda kullandığımız yapay zekayı anlayabilmemiz için Açıklanabilir Yapay Zeka konusu ortaya çıkarılmıştır.
Yeni yapay öğrenme sistemlerinin açıklama, güçlü ve zayıf yönlerinin belirlenmesi ve gelcekte nasıl davranacağını ön görmesi hedeflenmektedir. Bu amaca ulaşmak için daha kolay açıklanabilir modeller oluşturmak veya hali hazırda oluşturulmuş yapay öğrenme tekniklerini geliştirmektir. Bu modellerin, son kullanıcı için kolay anlaşılır ve kullanışlı açıklama diyologlarına çevirebilen son teknoloji ürünü insan ve bilgisayar arasında oluşan arayüzü belirli teknikler ile birleştirilmesi hedeflenmektedir.
Üç temel ilke ile sisteme yaklaşılması istenmektedir:
-Sistemi tasarlayan ve kullanan tarafları nasıl etkilediği
-Kullanılan veri kaynaklarını ve sonuçlarını nasıl etkilediği
-Bir Yapay Zeka modelindeki girdilerin çıktıları nasıl ortaya çıkardığını açıklamak
Savunma İleri Araştırma Projeleri Ajansı (Defense Advanced Research Projects Agency) DARPA; “Açıklanabilir YZ, makinelerin içinde çalıştıkları bağlamı ve çevreyi anladıkları ve zaman içinde gerçek dünya fenomenini karakterize etmelerini sağlayan açıklayıcı modeller inşa ettikleri “üçüncü dalga YZ sistemlerini” etkinleştirmesi beklenen bir avuç DARPA programından biridir.” olarak raporlamaktadır.
Sonuç olarak Açıklanabilir Yapay Zeka bizlere günümüzde kullandığımız yapay zekaların girdilerini çıktılara nasıl dönüştürdüğünü açıklayan benzetme yapacak olursak Yapay Zekanın sözlüğüdür diyebiliriz.Yapay zekanın nasıl çalıştığını belirten böylece kafamızda oluşan “ acaba nasıl oldu?,şimdi niye olmadı?, nasıl çalıştı?,şimdi niye çalışmadı?” gibi soruları cevaplamamıza yardımcı olan sistemdir.
