Araştırma & Projeler
Gerçek sistemlere uygulanan açıklanabilir, güvenli ve güvenilir yapay zeka geliştiriyorum.
Araştırma Beyanı
Çalışmam tek bir taahhütten başlıyor: bir yapay zeka sisteminin kendisi hakkında ürettiği iddia, bir başkası tarafından denetlenebilir olmalı.
Bu taahhüt pratik bir problemden çıktı. Chain-of-Thought akıl yürütmesi dil modellerini incelenebilir gösterdi, sonra ölçüm şunu gösterdi: izler gerçek karar sürecini yalnızca %25 ila %39 oranında sözelleştiriyor ve tam da görev zorlaştıkça daha da bozuluyor. CT-SAFR'da tavrım şu oldu: bu, açıklamaları daha dürüst yaparak çözülecek bir problem değil, etrafından dolaşılacak bir problem; yani akıl yürütmenin sadık olmasına hiç bağlı olmayan güvenlik katmanları. TRACE'te diğer yarısını aldım: denetim gereksinimini karar mimarisinin içine kurup bir olayın tahmin edilmek yerine sensör kanıtından yeniden kurulabilmesini sağladım. Yumuşak karar ağaçları üzerine çalışmamda aynı taahhüt model seçimi olarak beliriyor: beş yorumlanabilir parametre, on yedi opak bölünmenin ulaştığı yere ulaştı ve bu karşılaştırma ancak 5×2cv F-testi farkın gerçek olduğunu söylediği için sayıldı.
Buradan üç soru çıkıyor.
Bir: Bir akıl yürütme sisteminin açıklamasına güvenmeden onun hakkında ne doğrulanabilir? Sadakatsiz bir izin altında hangi güvenlik özelliklerinin ayakta kaldığını, hangilerinin sessizce çöktüğünü karakterize etmek istiyorum.
İki: Denetlenebilirliğin maliyeti nedir? TRACE simülasyonda milisaniye altı yük raporluyor; bu bir başlangıç, cevap değil. Asıl soru sınır: bir sistem, izlediği davranışı değiştirmeye başlamadan önce ne kadar izlenebilirlik taşıyabilir.
Üç: Bir güvenlik iddiasının doğru olduğunu nereden biliyoruz? Güvenlik sonuçları, doğruluk sonuçlarının yirmi yıl önce raporlandığı gibi raporlanıyor: tek koşuda tek sayı. 500 örnekte %94 tespit ile 50 örnekte %94 aynı iddia değil, ama alanımız ikisini çoğunlukla aynı şekilde yazıyor. Kurduğum eğitim platformunun istatistiksel kanıtı sona değil merkeze koymasının sebebi de bu.
Odak Alanları
Açıklanabilir & Güvenilir Yapay Zeka
Yapay zeka kararlarını izlenebilir ve denetlenebilir kılan, EU AI Act ve ISO 13482 gibi yeni yönetişim gereksinimlerine göre tasarlanmış çerçeveler.
Güvenli Chain-of-Thought Akıl Yürütme
Yapısal, fiziksel, anlamsal ve yorumlanabilirlik katmanları boyunca, robot hareket etmeden önce halüsinasyon veya güvensiz akıl yürütmeyi tespit eden derinlemesine doğrulama.
Yorumlanabilir Makine Öğrenmesi
Sensör gürültüsü ve eksik veri altında sağlam, açıklanabilir tahmin için neural-tree toplulukları ve diğer hibrit mimariler.
Uygulamalı LLM Sistemleri (PropTech / LegalTech)
Atıfla desteklenen açıklamalar ve yargı yetkisine duyarlı güvenlik korumaları içeren, kaynağa dayalı ve uyumluluk farkındalıklı LLM sistemleri.
Seçilmiş Projeler
-
2026–
safecot-ros2: Kayma Farkındalıklı Durum Kestirimi ve Güvenlik İzleme
Tekerlek kayması için bir ölçüm düzeneği. ROS 1 Noetic ve Gazebo Classic yığınından taşındı, her koşum tekrarlanabilir olsun diye kapsayıcıya alındı; 22 birim testi ve betikle koşan deney taramaları var. İlk sonucu ayakta kalmadı: sonradan bulunan bir düzenek hatası yüzünden robot ön kenarına dayanmış 13.3 derece eğik duruyordu, gövde zemine sürtüyordu ve ölçülen kaymayı aslında bu üretiyordu. Robot düzeltildikten sonra kayma, denetimli düşük sürtünmeli bir rampada yeniden kuruldu: robot 2.79 m ilerlerken odometri 9.65 m rapor ediyor, aynı eğimi tırmanan yüksek sürtünmeli kontrol rampasında ise hata %0.34. IMU'yu tekerlek odometrisiyle
robot_localizationüzerinden kaynaştırmak bu 6.85 m'lik hatanın 9 mm'sini kurtarıyor. Her iddia, raporlanmadan önce en basit alternatife karşı ölçülüyor. -
2020–
Vardenus: Yapay Zeka Destekli PropTech & LegalTech Platformu
Kiracı, mülk sahibi ve müteahhitleri buluşturan yapay zeka destekli bir kiralama platformunun teknik vizyonunu yönetiyorum: atıfa dayalı, yargı yetkisine duyarlı rehberlik veren LLM ve geri getirim modülü, uyumluluk farkındalıklı güvenlik korumaları, ölçeklenebilir bulut ve MLOps altyapısı. Tokenize mülkiyet ve emanet otomasyonu iş akışları tasarlandı ve bir ABD patent başvurusuna konu oldu. 2025 Global Recognition Award (Gayrimenkul Teknolojisi) ile ödüllendirildi.
-
2025–
OrthoAtlas: Ortodonti için Klinik RAG Asistanı
Halüsinasyonu en aza indirmek için her yanıtı klinik kaynaklara dayandıran, vaka analizi akışı olan ve hekimi döngüde tutan bir ortodonti/diş hekimliği asistanı: araç kararı destekler, kararı hekim verir. Render, Supabase, Qdrant vektör arama ve Voyage AI gömme üzerine kurulu; Türkçe ve İngilizce çalışıyor. Sistem AlimGPT adıyla GPT-4o, Gemini ve Llama'ya karşı kör bir karşılaştırmada değerlendirildi ve sonuçlar Dentistry Journal'da yayımlandı.
-
2026
CT-SAFR: Robotlar için Güvenli & Yorumlanabilir Chain-of-Thought
Chain-of-Thought destekli otonom robotlardaki sadakat sorununu ele alan, çok katmanlı, derinlemesine bir doğrulama çerçevesi. Bir depo robotu senaryosunda 500 ms altı gecikmeyle halüsinasyonların %94,2'sini, dört katman birlikte güvensiz akıl yürütmenin %96,4'ünü tespit etti ve beklemede olan bir ABD geçici patenti kapsamında.
-
2026
TRACE: Otonom Robotlar için Şeffaf Akıl Yürütme Mimarisi
Her otonom eylemi belgelenmiş nedensel zincirler aracılığıyla sensör kanıtına geri bağlayan, modelden bağımsız dört katmanlı bir karar çerçevesi; simüle edilmiş karar döngülerinde yüksek kanıt izlenebilirliği ve karar yeniden kurulabilirliği sağlar.
-
2026
ML Academy: öğrenciye öğrendiğini kanıtlatan interaktif müfredat
Makine öğrenmesi, derin öğrenme ve büyük dil modelleri üzerine, tamamen tarayıcıda kurulum gerektirmeden çalışan 123 interaktif dersten oluşan ücretsiz müfredat. Mevcut görsel kaynaklar modelleri gösteriyor; bu müfredat öğrenciden görmeden önce tahmin etmesini, araç tanıtılmadan önce ona duyulan ihtiyacı hissetmesini ve iddiayı algoritmayı çalıştırarak kanıtlamasını istiyor. Bütün algoritma motorları (CART, rastgele orman, boosting, geri yayılımlı MLP, SVM, yumuşak karar ağaçları, PCA, BPE, word2vec) sıfırdan yazıldı ve bir doğrulama betiği derslerde geçen her sayıyı yeniden hesaplıyor.
-
2025
Kalan Faydalı Ömür Tahmini için Açıklanabilir Neural Trees
Sensör gürültüsü ve eksik veri altında sağlam kalan-faydalı-ömür tahmini için "sensör-dropout artırımı" kullanan açıklanabilir bir neural-tree topluluğu. Gradyan tabanlı öznitelik-önemi açıklamalarıyla birlikte yüksek doğruluk ve hata toleransında büyük kazanımlar sağlar.
Açık Kaynak Yazılım
-
Web
ml-academy
mltraining.org'un arkasındaki motor ve içerik. İçerik koddan ayrı, veri olarak saklanıyor; yeni ders eklemek bir bileşen değil bir nesne yazmak demek. Her sayısal iddiayı yeniden hesaplayan, ders yapısını denetleyen ve bütün görselleri sahte tuval üzerinde çizen bir doğrulama betiğiyle geliyor.
-
PyPI
reasongate
Bir LLM'e giren ve çıkan metni inceleyip her çağrı için makine okunur denetim kaydıyla birlikte açıklanabilir izin ver / işaretle / engelle kararı döndüren, kendi sunucunuzda çalıştırabileceğiniz bir kapı. Eşleştirmeden önce yaygın gizleme tekniklerini çözüyor, dolaylı enjeksiyona karşı getirilen bağlamı ve araç çıktısını tarıyor, çıktıda sızan sırları ve yerleştirilmiş kanarya belirtecini kontrol ediyor. Her engelleme bir gerekçe taşıyor. Kurulum:
pip install reasongate. -
PyPI
neural-trees
Yumuşak karar ağaçları ve hiyerarşik uzman karışımlarının (HMoE) PyTorch implementasyonlarını ve istatistiksel model karşılaştırma testlerini içeren, scikit-learn uyumlu bir kütüphane. Kurulum:
pip install neural-trees. -
GitHub
cognitest-framework
Yazılım testine bilişsel yaklaşımları araştıran, LLM destekli bir test otomasyon çerçevesi; CT-SAFR'ın ardındaki doğrulama fikirleriyle ilişkili.
-
GitHub
ml-playground
scikit-learn, XGBoost, LightGBM, CatBoost, TabNet ve neural-trees'i yan yana karşılaştıran, 5×2cv anlamlılık testleri içeren etkileşimli bir oyun alanı.
-
GitHub
turbofan-explainable-neural-trees
NASA C-MAPSS karşılaştırma kümesinde kalan-faydalı-ömür tahmini için açıklanabilir neural-tree modellerinin referans uygulaması.
