Güvenilir Otonom Robotlara Doğru: Açıklanabilir Yapay Zeka Tabanlı Bir Karar Çerçevesi

TRACE, Transparent Reasoning Architecture for Credible Execution.

C. Temel, “Towards Trustworthy Autonomous Robots: An Explainable AI-Based Decision Framework,” SoutheastCon 2026, IEEE, Şubat 2026, s. 1–6, doi: 10.1109/SoutheastCon63549.2026.11476455.

IEEE Xplore DOI

BibTeX

@inproceedings{Temel2026TRACE,
  title     = {Towards Trustworthy Autonomous Robots: An Explainable AI-Based
               Decision Framework},
  author    = {Temel, Cagri},
  booktitle = {SoutheastCon 2026},
  pages     = {1--6},
  year      = {2026},
  month     = feb,
  publisher = {IEEE},
  doi       = {10.1109/SoutheastCon63549.2026.11476455}
}

Problem

Bir depo robotu beklenmedik şekilde duruyor ve bir çalışan ona çarpıyor. Müfettişler robotun o eylemi neden seçtiğini bilmek istiyor. Ağ, sensör verisini milyonlarca parametreden geçirip bir dur komutu üretti, ama o karara götüren kanıt zinciri hiç saklanmadı; dolayısıyla cevap ancak tahminle kurulabiliyor. Bu boşluğun üç pratik sonucu var: olay incelemesi tahmine dönüşüyor, ISO 13482 gibi standartlar altında güvenlik sertifikasyonu zorlaşıyor çünkü opak sistemler belgelenmiş risk değerlendirmesi üretemiyor ve EU AI Act'in yüksek riskli sistemler için istediği "işleyişin izlenmesini sağlayan kayıt" şartı sahadaki çoğu robotik sistemin karşılayamadığı bir şart.

Yaklaşım

Sonradan açıklama (post-hoc) bu problem için yanlış biçim. LIME ve SHAP tek tek tahminleri açıklıyor ama bir olaya götüren zamansal karar dizisini yeniden kuramıyor; dikkat ağırlıklarının da nedensel etkinin güvenilir bir göstergesi olmadığı biliniyor. TRACE bu yüzden opak bir modelden açıklama çıkarmaya çalışmıyor. Denetim gereksinimini doğrudan karar mimarisinin içine gömüyor; böylece her eylem zaten belgelenmiş nedensel zincirlerle belirli sensör kanıtına kadar izlenebilir oluyor. Çerçeve modelden bağımsız kalıyor: CNN'ler, transformerlar ve gelecekteki mimariler katmanların içinde durabiliyor, denetlenebilirlik karar seviyesinde korunuyor.

Katman	İşlev	Açıklama artefaktı
1. Anlamsal Algı	Sensör füzyonundan varlık tanımaya; her varlık, kendisini destekleyen sensör kanıtına açık bağlar tutuyor	Kanıt Toplama Kaydı
2. İnanç Akıl Yürütme	Sahne grafiğinden olasılıksal durum kestirimine	Nedensel grafik
3. Eylem Sentezi	Kısıt farkındalıklı planlama ve karar seçimi; bir eylemin alternatiflerine karşı neden seçildiğini belgeliyor	Karşıolgusal Karar Ağacı
4. Yürütme Doğrulama	Komut çıkışı ve uyum izleme	Denetim izi

Artefaktlar [0, 1] aralığında bir Güven Bileşik Skoru'nda birleşiyor. Karşıolgusal Karar Ağaçları, olay incelemesinde "ya şöyle olsaydı" analizini mümkün kılan katkı; müfettişin gerçekten ihtiyaç duyduğu da bu ve öznitelik ataması bunu veremiyor.

Sonuçlar

Depo robotu navigasyonunda 500 simüle karar döngüsü üzerinde değerlendirildi.

Metrik	Ne ölçüyor	Sonuç
Kanıt İzlenebilirliği	Sensörden karara bağ	%98,6
Zamansal Süreklilik	Denetim izinin eksiksizliği	%99,0
Karar Yeniden Kurulabilirliği	Sonradan analiz kabiliyeti	%98,1
Hesaplama yükü	Denetim yapısını sürdürmenin maliyeti	milisaniyenin altında

Üç metrik katkının kendisinin parçası: bir kararın bağımsız bir müfettiş tarafından yeniden kurulabilir olmasının ne demek olduğunu tanımlıyorlar. Açıklanabilir yapay zeka yazını bunu genellikle gayriresmî bırakıyor.

Bağlantılı kendi çalışmam

TRACE, olaydan sonraki denetlenebilirliği kapsıyor. CT-SAFR ise planı bir dil modelinden gelen robotlar için eylemden önceki doğrulamayı. İkisi aynı taahhüdün iki yarısı: otonom bir eylem önceden denetlenebilir, sonradan yeniden kurulabilir olmalı.

← Tüm yayınlar CT-SAFR →