Kısa cevap
İşletmelerde yapay zekâ en çok metin ve belgeyle yoğun işlerde fayda sağlar: müşteri sorularını yanıtlama ve yönlendirme, fatura ve form gibi belgelerden bilgi çıkarma, şirket içi belgelerde arama, içerik taslakları ve rapor özetleri. Sınırları da nettir: modeller hata yapabilir, kişisel veri gönderimi KVKK yükümlülükleri doğurur ve kullanım arttıkça maliyet yükselir. Bu yüzden yapay zekâ, insan kontrolü olan dar ve ölçülebilir bir işle başlatılmalıdır.
Yapay zekâ konusu son yıllarda iki uçta konuşuluyor: ya her şeyi değiştirecek bir sihirli değnek ya da abartılmış bir moda. Sahada gördüğümüz tablo ikisinin ortasında. Doğru seçilmiş bir işte yapay zekâ gerçekten zaman kazandırıyor; yanlış seçilmiş bir işte ise hata düzeltmeye harcanan emek kazancı siliyor.
Bu yazıda işletmelerde yapay zekânın gerçekçi kullanım alanlarını, teknik yaklaşımları ve dikkat edilmesi gereken sınırları anlatıyoruz.
Büyük dil modeli (LLM) nedir?
Büyük dil modeli (LLM), çok büyük miktarda metin üzerinde eğitilmiş ve verilen bir metne en olası devamı üreterek soru yanıtlama, özetleme, sınıflandırma ve metin üretme gibi işleri yapabilen yapay zekâ modeli demektir. ChatGPT, Gemini ve Claude gibi ürünlerin arkasında bu tür modeller vardır.
LLM'lerin işletme açısından önemli üç özelliği:
- Doğal dili anlarlar: Serbest yazılmış e-postayı, müşteri mesajını ya da belgeyi yorumlayabilirler.
- Bilgileri kesin değildir: Eğitim verilerinde olmayan ya da güncel olmayan konularda kendinden emin ama yanlış cevap üretebilirler. Buna halüsinasyon denir.
- Bağlam ile yönlendirilirler: Modele şirketinize ait belge ve verileri istek sırasında vererek cevaplarını bu kaynaklara dayandırabilirsiniz.
Yapay zekâ işletmede nerelerde işe yarar?
Aşağıdaki tablo, işletmelerde sık karşılaşılan kullanım alanlarını ve her birinde dikkat edilmesi gereken noktayı özetliyor.
| Kullanım alanı | Yapay zekânın rolü | Dikkat edilecek nokta |
|---|---|---|
| Müşteri desteği | Sık soruları yanıtlama, talebi doğru ekibe yönlendirme | Yanıtlar şirket belgelerine dayanmalı, insana devir yolu açık olmalı |
| Belge işleme | Fatura, irsaliye, form ve sözleşmelerden alan çıkarma | Kritik alanlar doğrulama kuralıyla kontrol edilmeli |
| Şirket içi arama | Prosedür, teklif ve ürün belgelerinde soru-cevap | Erişim yetkileri belge düzeyinde korunmalı |
| İçerik üretimi | Ürün açıklaması, e-posta ve sosyal medya taslakları | Son metin insan tarafından kontrol edilmeli |
| Satış ve CRM | Görüşme notlarını özetleme, takip e-postası taslağı | Müşteri verisinin nereye gittiği bilinmeli |
| Raporlama | Verileri doğal dille sorgulama, rapor özeti | Sayısal sonuçlar veri kaynağından doğrulanmalı |
| Görüntü işleme | Kamera görüntüsünde olay ve nesne tespiti | Kişisel veri ve aydınlatma yükümlülüğü |
Görüntü işleme tarafında biz de kameraları POS kayıtlarıyla eşleştirip kasa olaylarını gösteren Assisto Vision'ı geliştiriyoruz. Bu tür sistemlerde kamera görüntüsü kişisel veri sayıldığından aydınlatma ve saklama kurallarının tasarımın parçası olması gerekir.
Yapay zekâ projesi hangi teknik yaklaşımla kurulur?
Bir işletme için yapay zekâ çözümü genellikle üç yaklaşımdan biriyle ya da bunların birleşimiyle kurulur.
Hazır model ve iyi yazılmış talimat
Bir LLM'e API üzerinden net talimatlar ve örneklerle görev verilir. Sınıflandırma, özetleme ve taslak üretme gibi işlerde çoğu zaman bu yeterlidir. En hızlı ve en ucuz başlangıç yoludur.
RAG: şirket belgeleriyle desteklenen yanıtlar
RAG (Retrieval-Augmented Generation), soruya cevap üretmeden önce şirketin belgelerinden ilgili parçaların bulunup modele bağlam olarak verilmesidir. Böylece model genel bilgisi yerine sizin ürün kataloğunuza, prosedürlerinize ya da sözleşmelerinize dayanarak cevap verir ve kaynak gösterebilir. Müşteri desteği ve şirket içi arama için en yaygın yaklaşımdır.
Ajanlar ve araç kullanımı
Model yalnızca metin üretmekle kalmaz, tanımlı araçları çağırarak sipariş durumunu sorgulamak ya da randevu oluşturmak gibi işlemler yapar. Bu yaklaşım güçlüdür ama yetki ve hata yönetimi en dikkatli tasarlanması gereken alandır. Modelin yapabileceği işlemler sınırlandırılmalı, geri alınamaz işlemler insan onayına bağlanmalıdır.
Yapay zekânın sınırları nelerdir?
Sınırları baştan konuşmak, yapay zekâ projesinde beklentiyi doğru kurmanın en kolay yoludur.
- Hata payı: LLM'ler aynı soruya farklı zamanlarda farklı cevap verebilir ve yanlış bilgi üretebilir. Kritik kararlarda çıktı doğrulanmalıdır.
- Güncellik: Modelin bilgisi eğitim tarihine kadardır. Güncel bilgi gerekiyorsa RAG ya da araç kullanımı şarttır.
- Maliyet: API kullanımı genellikle işlenen metin miktarına göre ücretlendirilir. Uzun belgeler ve yüksek hacim maliyeti hızla artırabilir, bu yüzden pilot aşamada gerçek kullanım ölçülmelidir.
- Güvenlik: Kullanıcının ya da belgenin içine gizlenmiş talimatlarla modelin yönlendirilmesi (prompt injection) bilinen bir risktir. OWASP'ın LLM uygulamaları için yayımladığı risk listesi bu konuda iyi bir başlangıçtır.
- Açıklanabilirlik: Modelin bir cevaba nasıl ulaştığını açıklamak zordur; bu yüzden kaynak gösteren tasarımlar tercih edilmelidir.
Hangi işlerde yapay zekâ ilk tercih olmamalı?
Bazı işler kural tabanlı klasik yazılımla daha doğru ve daha ucuz çözülür. Fatura toplamı hesaplamak, stok düşmek, vergi oranı uygulamak gibi kesin sonuç gerektiren hesaplamalar bunların başında gelir. Aynı şekilde, hatanın telafisi zor olan hukuki, tıbbi ya da finansal kararlar insan sorumluluğunda kalmalı; yapay zekâ burada en fazla taslak hazırlayan ya da bilgi toparlayan bir yardımcı olabilir.
Yapay zekâ kullanırken KVKK'da nelere dikkat edilmeli?
Bir yapay zekâ servisine müşteri ya da çalışan bilgisi gönderdiğinizde, bu veri servisi sağlayan şirketin sunucularında işlenir. Bu sunucular yurt dışındaysa 6698 sayılı KVKK'nın 9. maddesindeki yurt dışı aktarım şartları değerlendirilmelidir. Mart 2024'te 7499 sayılı Kanun'la yapılan değişiklikle bu madde yeniden düzenlenmiş; yeterlilik kararı, standart sözleşme gibi uygun güvenceler ve arızi aktarım halleri tanımlanmıştır.
Pratikte alınabilecek önlemler:
- Modele yalnızca işin gerektirdiği veriyi gönderin; mümkünse kimlik bilgilerini maskeleyin.
- Servis sağlayıcının veriyi model eğitimi için kullanıp kullanmadığını ve saklama süresini sözleşmeden kontrol edin.
- Hassas işler için verinin Türkiye'de ya da kendi sunucunuzda kalabileceği seçenekleri (açık kaynak modelleri kendi altyapınızda çalıştırmak gibi) değerlendirin.
- Aydınlatma metninizi yapay zekâ kullanımını kapsayacak şekilde güncelleyin.
Konunun yazılım tarafını KVKK uyumlu yazılım geliştirme kontrol listemizde daha ayrıntılı ele aldık.
Yapay zekâ projesine nasıl başlanmalı?
- Dar bir iş seçin. "Müşteri hizmetlerini yapay zekâya devretmek" yerine "sipariş durumu sorularını yanıtlamak" gibi ölçülebilir bir iş belirleyin.
- Başarı ölçütünü tanımlayın. Doğru cevap oranı, insana devredilen talep oranı ya da işlem süresi gibi bir ölçüt seçin.
- Test seti hazırlayın. Gerçek örneklerden oluşan, doğru cevabı bilinen bir soru ve belge seti hazırlayın; her değişiklikte bu setle ölçün.
- İnsanı döngüde tutun. İlk aşamada yapay zekâ taslak hazırlasın, insan onaylasın.
- Maliyeti izleyin. Pilot süresince istek sayısını ve maliyeti kayıt altına alın.
- Kademeli genişletin. Ölçütler tutarlı şekilde karşılandıkça otomasyon oranını artırın.
Yapay zekâ, mevcut süreçlerin içine eklenen bir adım olduğunda en çok fayda sağlar. Bu yüzden iş süreci otomasyonu ile birlikte düşünülmesi faydalıdır. Yapay zekâ entegrasyonu yaklaşımımızı yapay zekâ hizmet sayfamızda bulabilirsiniz.
Sık sorulan sorular
Küçük bir işletme yapay zekâdan nasıl faydalanabilir?
En kolay başlangıç, hazır bir modeli API üzerinden tek bir işe bağlamaktır: e-postaları sınıflandırmak, ürün açıklaması taslağı hazırlamak ya da sık sorulan soruları yanıtlamak gibi. Büyük bir altyapı yatırımı gerekmez. Önemli olan işi dar tutmak ve sonucu insanın kontrol etmesidir.
Yapay zekâ sohbet botu yanlış bilgi verirse ne olur?
Bu risk gerçektir ve tamamen ortadan kaldırılamaz, ama azaltılabilir. Botun cevaplarını şirket belgelerine dayandırmak, emin olmadığı durumlarda insana devretmesini sağlamak ve kritik konularda (fiyat, sözleşme, sağlık) kesin taahhüt vermesini engellemek temel önlemlerdir. Botun cevapları düzenli olarak örneklem alınarak incelenmelidir.
Şirket verilerimizi yapay zekâ servislerine göndermek güvenli mi?
Servis sağlayıcının sözleşme ve gizlilik koşullarına, verinin nerede işlendiğine ve ne kadar süre saklandığına bağlıdır. Kurumsal API'lerin bir kısmı gönderilen veriyi model eğitiminde kullanmadığını taahhüt eder, ama bu koşullar sağlayıcıya göre değişir. Kişisel veri gönderilecekse KVKK'nın yurt dışı aktarım şartları ayrıca değerlendirilmelidir.
RAG ile modeli kendi verimizle eğitmek arasındaki fark nedir?
RAG'de model değişmez; her soruda ilgili belgeler bulunup modele bağlam olarak verilir. Belgeler güncellendiğinde cevaplar da hemen güncellenir. Modeli kendi verinizle ince ayar yapmak (fine-tuning) ise modelin davranışını ya da üslubunu değiştirmek için kullanılır ve güncel bilgi aktarımı için genellikle RAG kadar pratik değildir.
Yapay zekâ projesinin maliyeti neye bağlıdır?
Maliyet; seçilen modele, işlenen metin miktarına, istek sayısına ve gereken entegrasyonların kapsamına bağlıdır. Belge arama gibi çözümlerde belgelerin hazırlanması ve indekslenmesi ayrıca emek ister. Gerçekçi bir tahmin için kısa bir pilotla gerçek kullanım verisi toplamak en doğru yoldur.
Kaynaklar
AssistoTech Ekibi
İstanbul'da web, mobil, masaüstü, oyun, SaaS ve kurumsal yazılım geliştiren ekibiz. Bu yazı, kendi ürünlerimizde ve müşteri projelerinde edindiğimiz deneyime dayanır. Projeniz için bize yazın.
