Kısa cevap: Yapay zekâ muayene kanıtını sınıflandırmalı, eksikleri göstermeli ve uzmana öneri sunmalıdır. Uygunluk kararı, kritik bulgunun yorumu, istisna kabulü ve rapor yayını ise yetkin insanın izlenebilir onayı olmadan tamamlanmamalıdır.
Doğru sınır neden görev bazında çizilmeli?
“Yapay zekâ kullanıyor muyuz?” sorusu tek başına yeterli değildir. Asıl soru, sistemin hangi görevi yaptığı ve hatalı çıktının neye yol açtığıdır. Fotoğrafı doğru iş emriyle eşleştirmek ile ekipmanın kullanıma uygun olduğuna karar vermek aynı risk sınıfında değildir.
ISO’nun Mart 2026’da yayımladığı ISO/IEC 17020:2026, muayene kuruluşları için yetkinlik, tarafsızlık ve tutarlı işletimi temel alır; yeni baskıda risk temelli düşünme ile veri ve bilgi kontrolü de öne çıkar. Bu çerçeveden çıkan teknik sonuç şudur: YZ çıktısı, muayene yönteminin ve yetkin personelin yerine geçen bağımsız bir karar değil, kontrollü süreç girdisi olarak tasarlanmalıdır.
Yapay zekâ nerede güvenli değer üretir?
En uygun alanlar, geri alınabilir çıktısı olan ve uzmanın asıl kanıta kolayca dönebildiği destek görevleridir. Sistem önerisinin kabul edilmemesi iş akışını bozmamalı; düşük güven, veri kayması veya eksik kanıt otomatik olarak inceleme kuyruğu oluşturmalıdır.
- Kayıt tamlık kontrolü: Zorunlu alan, fotoğraf, cihaz kaydı, personel yetkinliği ve zaman damgasındaki eksikleri rapor yayınından önce işaretlemek.
- Anomali önceliklendirme: Çok sayıdaki ölçüm veya görüntü içinde uzmanın önce bakacağı şüpheli kayıtları sıralamak; “kusur vardır” hükmü vermemek.
- Belge ve kanıt eşleştirme: Saha fotoğrafını ekipman, kontrol noktası ve iş emriyle ilişkilendirmek; belirsiz eşleşmeyi insan kuyruğuna bırakmak.
- Taslak üretimi: Onaylı alanlardan rapor özeti veya bulgu taslağı oluşturmak; kaynağı gösteremediği cümleyi yayımlamamak.
- Planlama desteği: İş yükü, konum ve süre verileriyle rota veya sıra önermek; yetkinlik, bağımsızlık ve cihaz uygunluğu gibi sert kuralları aşmamak.
NIST AI RMF 1.0’ın güncel çevrimiçi çekirdeği, insan–YZ rollerinin ayrılmasını, sistemin bilgi sınırlarının belgelenmesini, insan gözetimi süreçlerinin tanımlanmasını ve sistemlerin devreye alma öncesi ile kullanım sırasında test edilmesini ister. VizyonTech iş akışında bunun karşılığı; model sürümü, girdi kanıtı, güven/istisna durumu ve insan işleminin aynı denetim izinde tutulmasıdır.
Hangi adımlarda insan onayı zorunlu kalmalı?
Çıktı güvenlik, mevzuata uygunluk, akreditasyon kapsamı, müşteri hakkı veya raporun resmî niteliği üzerinde etkiliyse insan yalnız sembolik bir “onayla” düğmesi olmamalıdır. Yetkin kişi asıl kanıta erişebilmeli, öneriyi reddedebilmeli, gerekçeyi kaydedebilmeli ve süreci durdurabilmelidir.
| Görev | YZ rolü | İnsan kapısı | Fail-closed davranış |
|---|---|---|---|
| Fotoğraf ve kayıt sınıflandırma | Öneri | Düşük güvenli eşleşmeyi doğrulama | Eşleşme belirsizse kayıt kapanmaz |
| Anomali tarama | Önceliklendirme | Ham kanıtı yorumlama ve bulguyu kurma | Model sonucu tek başına kusur sayılmaz |
| Ölçüm kabulü | Tutarlılık/limit uyarısı | Yöntem, cihaz ve koşul uygunluğunu değerlendirme | Eksik izlenebilirlikte sonuç kullanılamaz |
| Uygunluk kararı | Kanıt özeti | Yetkin teknik karar | İnsan onayı olmadan karar oluşmaz |
| İstisna veya sapma | Risk sinyali | Yetkili gerekçeli kabul/ret | Süreli ve kayıtlı onay yoksa süreç durur |
| Rapor yayını | Taslak ve tamlık kontrolü | Teknik onay ve gerekiyorsa imza | Onaysız sürüm dışarı açılamaz |
AB Yapay Zekâ Tüzüğü 2024/1689 Madde 14, yüksek riskli sistemlerde gözetim görevlisinin kapasite ve sınırlamaları anlayabilmesini, otomasyon yanlılığına karşı dikkatli olmasını, çıktıyı yorumlayıp geçersiz kılabilmesini ve sistemi durdurabilmesini öngörür. Bu yazı her muayene YZ kullanımının hukuken “yüksek riskli” olduğunu iddia etmez; bu yetenekleri kritik muayene kararları için güçlü bir tasarım kontrol listesi olarak kullanır.
İnsan onayı nasıl gerçek bir kontrol olur?
Onay ekranına bir isim yazmak yeterli değildir. Etkili kontrol için görev, yetki ve kanıt aynı yerde birleşmelidir:
- Rolü önceden tanımlayın: Hangi yöntemde, kapsamda ve karar türünde kimin onay verebildiğini yetkinlik kaydıyla bağlayın.
- Asıl kanıtı gösterin: Uzman yalnız YZ özetini değil fotoğrafı, ham ölçümü, cihazı, yöntemi ve geçmiş revizyonları görebilsin.
- Belirsizliği saklamayın: Model sürümü, değerlendirme zamanı, başarım eşiği ve düşük güven nedeni denetim izinde bulunsun.
- Reddetmeyi mümkün kılın: Öneriyi değiştirme, reddetme, ikinci incelemeye gönderme ve acil durdurma yetkileri gerçek olmalı.
- Otomasyon yanlılığını ölçün: İnsanların öneriyi ne sıklıkla kanıtsız kabul ettiği, kaçırılan bulgular ve yanlış alarm örnekleri periyodik olarak incelensin.
Muayene kuruluşlarına yönelik ILAC P15:05/2020, ISO/IEC 17020:2012’nin akreditasyon uygulamasını açıklayan yürürlükteki ILAC belgesidir. ISO’nun 2026 baskısı yayımlanmış olsa da kuruluşun geçiş planı ve kendi akreditasyon otoritesinin güncel düzenlemeleri ayrıca doğrulanmalıdır. Bu nedenle yazılım, standart sürümünü sabit varsaymamalı; yöntem, kapsam ve geçiş kuralını yapılandırılabilir tutmalıdır.
Veri güvenliği ve mahremiyet nasıl korunur?
Saha fotoğrafları, müşteri bilgileri, personel kayıtları ve rapor içerikleri genel amaçlı bir modele kontrolsüz gönderilmemelidir. KVKK’nın 24 Kasım 2025 tarihli Üretken Yapay Zekâ ve Kişisel Verilerin Korunması Rehberi, insan merkezli, şeffaf ve denetlenebilir yaklaşımı; kişisel veri işlemenin tüm yaşam döngüsü boyunca değerlendirilmesini vurgular.
Teknik uygulamada veri minimizasyonu, rol bazlı erişim, aktarım hedefinin kaydı, saklama süresi, üçüncü taraf sağlayıcı değerlendirmesi ve silme/anonimleştirme akışı birlikte kurulmalıdır. Model girdisi ile çıktısı erişim kontrolünden kaçan ayrı bir gölge arşiv oluşturmamalıdır.
VizyonTech iş akışında örnek kontrol mimarisi
Vizyon Periyodik gibi saha odaklı bir akışta YZ katmanı; iş emrinden, yetkinlik ve cihaz kapılarından sonra kanıt tamlığı ile anomali önceliği üretebilir. Ancak teknik karar, sürüm kilidi ve rapor yayını mevcut yetkili onay zincirinde kalmalıdır. Benzer biçimde NDT rapor yönetiminde yöntem özelindeki ham kanıt, YZ özetinden bağımsız korunmalıdır.
Asgari denetim izi; iş emri kimliği, veri kaynağı, model ve kural sürümü, zaman, öneri, güven/istisna bilgisi, insanın görüntülediği kanıt, kabul/ret işlemi, gerekçe ve yayımlanan rapor sürümünü içermelidir. Model erişilemezse kritik karar yolu manuel ve güvenli biçimde devam etmeli; eksik kanıtla otomatik yayın yapılmamalıdır.
Kanıt matrisi
| İddia | Kaynak | Tarih / sürüm | VizyonTech karşılığı | Teknik sonuç |
|---|---|---|---|---|
| Muayene güveni yetkinlik, tarafsızlık ve tutarlı işletime dayanır | ISO, ISO/IEC 17020 | 2026, 3. baskı; düzeltilmiş sürüm 2026-06 | YZ destek katmanıdır | Uygunluk kararı yetkin rolde kilitlenir |
| İnsan–YZ rolleri, sınırlar ve gözetim belgelenmelidir | NIST AI RMF Core | AI RMF 1.0, 2023; çevrimiçi kaynak erişimi 2026 | Rol, model, girdi ve işlem izi | Öneri reddedilebilir ve test edilebilir olur |
| Kritik gözetimde insan çıktıyı geçersiz kılabilmeli ve sistemi durdurabilmelidir | AB 2024/1689 Madde 14 | 2024; uygulama takvimi kullanım/kapsama göre değişir | Override, stop ve ikinci inceleme | Sembolik onay yerine etkili kontrol kurulur |
| ISO/IEC 17020 akreditasyon uygulaması ayrıca yorumlanır | ILAC P15 | 05/2020 | Sürüm ve geçiş kuralları yapılandırılır | Eski/yeni standart geçişi varsayılmaz |
| Kişisel veri etkileri YZ yaşam döngüsü boyunca değerlendirilmelidir | KVKK Üretken YZ Rehberi | 24.11.2025 | Minimizasyon, erişim ve saklama kontrolleri | Saha verisi modele kontrolsüz aktarılmaz |
Son karar
Muayenede iyi YZ tasarımı “insanı döngüde tutmak” sloganından daha somuttur: düşük riskli hazırlık işlerini hızlandırır, kritik kararı yetkin kişiye bırakır ve ikisinin yaptığı her işlemi kanıtla bağlar. İlk pilotta tek bir görev seçin; hata maliyetini, kaçış koşulunu, insan yetkisini ve başarı ölçütünü üretime geçmeden yazılı hale getirin.
Kaynaklar
- ISO — ISO/IEC 17020:2026, Conformity assessment — Requirements for bodies performing inspection (Mart 2026; düzeltilmiş İngilizce sürüm Haziran 2026).
- ILAC — ILAC P15:05/2020, Application of ISO/IEC 17020:2012 for the Accreditation of Inspection Bodies.
- NIST — Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1 (26 Ocak 2023).
- NIST AIRC — AI RMF Core: Govern, Map, Measure, Manage.
- EUR-Lex — Regulation (EU) 2024/1689, özellikle Madde 14 (13 Haziran 2024).
- Kişisel Verileri Koruma Kurumu — Üretken Yapay Zekâ ve Kişisel Verilerin Korunması Rehberi (15 Soruda) (24 Kasım 2025).