Yayınlar / CT-SAFR
CT-SAFR: Otonom Robotlar için Güvenli ve Yorumlanabilir Chain-of-Thought Akıl Yürütme
Güvenilir yapay zeka tabanlı robotik karar verme için çok katmanlı bir doğrulama çerçevesi.
, “CT-SAFR: Safe and Interpretable Chain-of-Thought Reasoning for Autonomous Robots: A Multi-Layered Verification Framework for Trustworthy AI-Driven Robotic Decision Making,” 2026 IEEE Conference on Artificial Intelligence (CAI), IEEE, Mayıs 2026, s. 598–603, doi: 10.1109/CAI68641.2026.11536646.
BibTeX
@inproceedings{Temel2026CTSAFR,
title = {CT-SAFR: Safe and Interpretable Chain-of-Thought Reasoning for
Autonomous Robots: A Multi-Layered Verification Framework for
Trustworthy AI-Driven Robotic Decision Making},
author = {Temel, Cagri},
booktitle = {2026 IEEE Conference on Artificial Intelligence (CAI)},
pages = {598--603},
year = {2026},
month = may,
publisher = {IEEE},
doi = {10.1109/CAI68641.2026.11536646}
}
Problem
Chain-of-Thought yönlendirmesi, bir dil modelinin robot görevini açık adımlarla planlamasını sağlıyor ve bu adımlar modelin ne yaptığının açıklaması gibi duruyor. Son çalışmalar çoğu zaman öyle olmadığını gösteriyor: akıl yürütme modelleri gerçek karar süreçlerini yalnızca %25 ila %39 oranında sözelleştiriyor ve zor görevlerde sadakat %44 daha düşüyor, yani tam da robotun denetime en çok ihtiyaç duyduğu yerde. Sadakatsiz bir akıl yürütme zincirine göre hareket eden bir robot ekipmana, çevreye veya bir insana zarar verebilir; mevcut doğrulama yöntemleri bu hata tipini yakalamıyor.
Yaklaşım
CT-SAFR, akıl yürütme zincirini güvenilecek bir açıklama olarak değil, denetlenecek bir artefakt olarak ele alıyor. Hiçbir tek tekniğin güvenliği garanti edemeyeceğini varsayıyor: dört bağımsız katman sırayla çalışıyor ve herhangi biri robotu geri çekilme moduna gönderebiliyor (muhafazakâr çalışma, düşürülmüş otonomi, güvenli duruma geçiş veya insana devretme).
| Katman | Ne denetliyor | Ölçülen maliyet |
|---|---|---|
| 1. Yapısal doğrulama | Anlamdan bağımsız mantıksal tutarlılık: döngüsel bağımlılıklar, dayanaksız iddialar, kopan çıkarım, bozuk akıl yürütme biçimi | 12 ms medyan, sorunlu zincirlerin ~%15'ini yakalıyor |
| 2. Fiziksel kısıt doğrulama | Eklem limitleri, hızlar, ivmeler, çarpışma sınırları, kuvvet eşikleri, çalışma zarfı; dil modelinin dışında denetleniyor, böylece ikna edici ama yanlış bir zincir bu sınırı geçemiyor | p95'te 45 ms, %99,8 tespit doğruluğu |
| 3. Anlamsal tutarlılık | k = 5 farklı akıl yürütme yolu üzerinde öz-tutarlılık kod çözme; %80 üzeri uzlaşma yürütülüyor, %50-80 muhafazakâr davranışı tetikliyor, %50 altı insana çıkıyor | 500 ms altı bütçenin içinde |
| 4. Yorumlanabilirlik arayüzü | Karar görselleştirmesi, güven raporlaması ve insan operatör için denetim kaydı | gerçek zamanlı izleme ve müdahale |
Tasarımın kilit noktası 2. katman: akıl yürütme sürecinden kasıtlı olarak bağımsız. Yani fiziksel güvenlik, akıl yürütme zincirinin sadık olmasına hiç bağlı değil. Çerçeve sadakat problemini çözmek zorunda kalmadan böyle karşılıyor.
Sonuçlar
| Ölçüm | Sonuç |
|---|---|
| Güvensiz akıl yürütme tespiti (n = 500) | %94,2 (%95 GA 91,8–96,6) |
| Yanlış pozitif oranı | %3,1 |
| Doğrulama gecikmesi | 500 ms altı |
| Depo robotu senaryosunda güvensiz çıktı azalması | %87 (p < 0,001) |
| 1.000 çalışma saati boyunca görev tamamlama oranı | +%3,5 |
Ablasyon çalışması her katmanın katkısını ayrı ayrı ölçüyor ve her katmanın diğerlerinin sağlamadığı bir güvenlik faydası getirdiğini gösteriyor. Tek bir güçlü denetleyici yerine derinlemesine savunma kurmanın deneysel gerekçesi bu.
Bağlantılı kendi çalışmam
CT-SAFR, LLM destekli yazılım testi için yazdığım çok katmanlı doğrulama çerçevesi CogniTest'in tekniklerini robotiğin fiziksel dayanak ve gerçek zaman kısıtlarına uyarlıyor. Aynı problemin denetlenebilirlik tarafı TRACE'te ele alınıyor.