AI chatbot ile AI otomasyonu aynı şey değildir
- USE CASE
- DATA
- RISK
- AI / MODEL
- HUMAN REVIEW
- ACTION
- MONITORING
Birçok işletme AI projesini chatbot olarak düşünüyor.
Oysa kullanım alanı daha geniştir.
Örneğin:
CLASSIFICATION
Gelen mesajın:
- hizmet,
- dil,
- intent
olarak sınıflandırılması.
SUMMARY
Uzun WhatsApp veya çağrı notlarının operasyon özeti.
INFORMATION RETRIEVAL
Personelin kurum içi prosedür veya dokümanlardan bilgi bulması.
QUALITY ASSURANCE
Lead konuşmalarında eksik süreç veya kalite risklerinin işaretlenmesi.
DOCUMENT EXTRACTION
Belirli belgelerden gerekli alanların çıkarılması.
REPORTING
KPI değişikliklerinin özetlenmesi.
Hangi işlerde AI kullanılmamalı?
AI her sağlık kararının yerine geçmez.
Özellikle:
- tanı,
- reçete,
- kişiye özel tedavi kararı,
- acil tıbbi karar
gibi alanlarda sistem rolü ayrı klinik, mevzuat ve güvenlik değerlendirmesi gerektirir.
Bu hizmetin ana kapsamı:
işletme ve operasyon otomasyonudur.
Tıbbi karar desteği ayrı yüksek riskli proje olarak değerlendirilmelidir.
Lead sınıflandırma
Örnek:
Yeni WhatsApp mesajı ↓ AI sınıflandırma ↓ Dil: Almanca Hizmet: dental implant Intent: fiyat + randevu ↓ CRM routing
AI karar vermez.
Operasyonu hızlandıracak metadata üretir.
Konuşma özetleme
Hasta danışmanı uzun konuşma yaptıysa sistem:
- ana talep,
- iletişim durumu,
- next action
gibi operasyonel özet oluşturabilir.
Ancak sağlık verisinin hangi sisteme gönderildiği mutlaka değerlendirilmelidir.
AI taslak cevap
AI:
cevap taslağı
oluşturabilir.
Ancak özellikle sağlık iletişiminde:
insan onayı
kullanılabilir.
Tam otomatik gönderim her kullanım için doğru değildir.
Knowledge assistant
Klinik içinde personel şu soruları sürekli sorabilir:
- yabancı hasta prosedürü ne?
- şu form nerede?
- bu hizmetin standart bilgi dosyası hangisi?
- hangi durumda yönetici onayı gerekiyor?
Onaylanmış kurum içi kaynaklar kullanılarak kontrollü bir bilgi asistanı kurulabilir.
RAG
Retrieval-Augmented Generation yaklaşımında model cevap vermeden önce kurumun izin verilen dokümanlarından ilgili bilgiyi getirir.
Bu:
modelin her cevabı doğru olacak
anlamına gelmez.
Ama genel model bilgisinden ziyade kurumun kontrollü dokümanlarına dayalı cevap üretmeyi kolaylaştırabilir.
Human in the loop
Sağlık operasyonlarında AI için en önemli tasarım prensiplerinden biri:
insanın kritik kararda sistemden çıkarılmamasıdır.
Örneğin:
AI → öneri → personel kontrolü → işlem.
Risk düzeyi arttıkça insan kontrolü de artmalıdır.
Confidence
Model:
“emin değilse”
ne olacak?
Sistem:
- insana yönlendirebilir,
- cevap üretmeyebilir,
- ek bilgi isteyebilir.
AI’nın mutlaka bir şey söylemesi gerekmiyor.
Hallucination
Üretken AI yanlış veya uydurma bilgi oluşturabilir.
Bu nedenle:
- kaynak,
- retrieval,
- validation,
- restricted output,
- human review
tasarımı önemlidir.
Hasta verisi
AI kullanımında en kritik sorulardan biri:
Sisteme hangi veri gönderiliyor?
Her kullanım senaryosunda:
- kişisel veri var mı?
- sağlık verisi var mı?
- gerçekten gerekli mi?
- anonimleştirilebilir mi?
- minimize edilebilir mi?
- hangi hizmet sağlayıcı işliyor?
- nerede tutuluyor?
incelenmelidir.
KVKK ve üretken AI
Kişisel Verileri Koruma Kurumu üretken yapay zekâ ve kişisel veriler konusunda ayrı rehber yayımladı.
Bu nedenle:
“AI aracına giriyoruz, zaten güvenlidir.”
yaklaşımı yeterli değildir.
Her kurum kendi veri işleme rolünü ve hukuki dayanağını değerlendirmelidir.
Gerektiğinde ilgili KVKK/hukuk uzmanıyla koordinasyon sağlanır.
OpenAI API / kurumsal AI
Bir proje OpenAI API veya başka bir kurumsal AI altyapısı kullanabilir.
OpenAI güncel kurumsal gizlilik belgelerinde API ve kurumsal ürünlerde iş verilerinin varsayılan olarak model eğitiminde kullanılmadığını belirtmektedir.
Ayrıca uygun API müşterileri için veri saklama kontrolü ve belirli koşullarda Zero Data Retention seçenekleri bulunabilir.
Ancak:
bir sağlayıcının gizlilik özelliği tek başına projenin KVKK uyumunu garanti etmez.
Mimari ayrıca değerlendirilmelidir.
Local model / private deployment
Bazı projelerde:
- şirket içi,
- özel cloud,
- lokal model
alternatifleri değerlendirilebilir.
Ancak local model:
otomatik olarak daha güvenli
demek değildir.
Şunlar da kurumun sorumluluğuna geçer:
- sunucu güvenliği,
- model güncelleme,
- erişim,
- logging,
- backup.
AI agent
Agent sistemleri:
- tool kullanabilir,
- API çağırabilir,
- workflow başlatabilir.
Bu nedenle klasik chatbot’tan daha fazla yetkiye sahip olabilir.
Örneğin:
AI → CRM kaydı bul → görev oluştur → teklif taslağı hazırla.
Yetki arttıkça:
- permission,
- audit,
- approval,
- rollback
daha kritik hale gelir.
AI’nin otomatik işlem yetkisi
Risk seviyesine göre üç model kullanılabilir.
LEVEL 1 — READ ONLY
Sadece bilgi getirir.
LEVEL 2 — DRAFT
İşlem taslağı oluşturur, insan onaylar.
LEVEL 3 — CONTROLLED ACTION
Belirli düşük riskli işlemleri otomatik yapabilir.
Sağlık kuruluşlarında her use-case Level 3 yapılmamalıdır.
Call / conversation analytics
Uygun hukuki ve teknik çerçeve varsa konuşmalar:
- konu,
- intent,
- kalite,
- tekrar eden itiraz,
- eğitim ihtiyacı
açısından analiz edilebilir.
Kayıt/işleme ve bilgilendirme yükümlülükleri ayrıca değerlendirilmelidir.
AI ile lead skorlama
AI:
“yüksek ihtimal satın alır”
gibi tek puana indirgenmemelidir.
Sağlık hizmetinde ekonomik değer ile tıbbi öncelik birbirine karıştırılmamalıdır.
Lead scoring yalnız operasyon önceliklendirmesinde dikkatle kullanılabilir.
Çok dilli hasta operasyonu
AI:
- language detection,
- translation draft,
- summary
konularında yardımcı olabilir.
Ancak tıbbi anlam taşıyan kritik metinlerde yalnız makine çevirisine güvenilmemelidir.
Yönetim raporları
AI yöneticiye:
“bu hafta no-show neden yükselmiş olabilir?”
gibi analiz taslağı verebilir.
Ancak:
correlation ≠ causation.
AI gözlemi yöneticinin kararını destekler; gerçeğin kendisi değildir.
Başarı nasıl ölçülür?
AI projesinin KPI’ı:
“AI kullanıyoruz”
değildir.
Örnek:
- işlem süresi,
- cevap süresi,
- manuel iş miktarı,
- hata oranı,
- personel zamanı,
- QA coverage,
- kullanıcı memnuniyeti.
AI projesi sırası
- Use-case.
- Risk.
- Veri.
- Provider/model.
- Prompt/system design.
- Retrieval gerekiyorsa.
- Integration.
- Human review.
- Evaluation.
- Pilot.
- Monitoring.
- Scale.
Neleri yapmıyorum?
- sağlık verisini consumer chatbotlara kontrolsüz göndermiyorum,
- AI’yı hekim yerine konumlandırmıyorum,
- hallucination riskini gizlemiyorum,
- her işlemi autonomous agent’a vermiyorum,
- “AI %100 doğru” iddiası kullanmıyorum,
- vendor güvenlik belgesini tek başına KVKK uyumu saymıyorum,
- proof-of-concept’i production sistemi gibi bırakmıyorum.
AI kullanmak istediğiniz için değil, çözmek istediğiniz problem olduğu için başlayalım.
Kullanım senaryosu, veri, risk ve entegrasyonu birlikte değerlendirelim.