Kurumlarda yapay zekâ entegrasyonu: nereden başlamalı, neye dikkat etmeli

Kurumlarda yapay zekâ entegrasyonuna, tekrar eden, metin ağırlıklı ve hata maliyeti düşük tek bir süreçle başlamak en güvenli yoldur. Bu süreçte hangi verinin kullanılacağı KVKK açısından baştan değerlendirilmeli, yapay zekânın önerdiği her çıktı bir insan tarafından onaylanmalı ve sonuç, başlangıçta belirlenen ölçütlerle ölçülmelidir. Küçük ve sınırlı bir pilot, kurumun hem teknolojiyi hem de kendi hazırlığını gerçek koşullarda görmesini sağlar.

Yapay zekâ entegrasyonu için hangi süreç seçilmeli?

Yapay zekâ projelerinin önemli bir kısmı, teknoloji yetersiz olduğu için değil, yanlış süreç seçildiği için beklentiyi karşılamaz. «Yapay zekâyı nerede kullanabiliriz?» sorusu yerine «Hangi işimiz tekrar eden, zaman alan ve kuralları açık?» sorusuyla başlamak, gerçek bir ihtiyaca dayanan bir başlangıç noktası verir. İlk proje, kurumun en kritik kararlarını değil, çalışanların zamanını en çok alan rutin işleri hedeflemelidir.

Dernekler, eğitim kurumları, dergi ve kongre sekreteryaları ve KOBİ'ler için uygun başlangıç örnekleri benzerdir: gelen e-postaların konuya göre sınıflandırılması, sık sorulan sorulara taslak yanıt hazırlanması, uzun belgelerin özetlenmesi, başvuru dosyalarının biçim kurallarına uygunluğunun ön kontrolü, toplantı notlarından görev listesi çıkarılması ya da kurum içi arşivde arama. Bu işlerin ortak özelliği, çıktının bir insan tarafından hızla kontrol edilebilmesidir.

Bir süreci seçerken aşağıdaki ölçütler birlikte değerlendirilmelidir.

• İş sık tekrar eder ve bugün çalışanların zamanının belirgin bir kısmını alır.
• Doğru sonucun ne olduğu tanımlanabilir ve bir insan tarafından hızla kontrol edilebilir.
• Hatalı bir çıktı, fark edilmeden kişilere ya da kurumun itibarına zarar vermez.
• Süreç, mümkünse özel nitelikli kişisel veri içermez ya da bu veri ayıklanabilir.
• Sürecin bugünkü performansı, karşılaştırma yapılabilecek kadar ölçülebilir durumdadır.

Veri gizliliği ve KVKK açısından nelere dikkat edilmeli?

Bir yapay zekâ aracına gönderilen her metin, bir veri aktarımıdır. Üye kayıtları, öğrenci bilgileri, başvuru dosyaları, sağlık bilgisi içeren belgeler ya da bağışçı listeleri gibi kişisel veri içeren içeriğin bir dış servise gönderilmesi, KVKK kapsamında değerlendirilmesi gereken bir işlemdir. Hizmetin verileri nerede işlediği ve sakladığı, modelin eğitiminde kullanıp kullanmadığı ve ne kadar süre tuttuğu, bir araç seçilmeden önce yanıtlanması gereken sorulardır.

Pratikte en etkili önlem, veriyi gerekmediği sürece hiç göndermemektir. Kişisel bilgilerin ayıklanması ya da takma adla değiştirilmesi, yalnızca işin gerektirdiği alanların paylaşılması ve kurumun hangi verinin hangi araca asla girilmeyeceğini yazılı olarak belirlemesi, riskin büyük bölümünü azaltır. Yurt dışında veri işleyen servislerin kullanılması, aydınlatma metinleri ve veri işleyenle yapılan sözleşmeler ise ayrıca hukuki değerlendirme gerektirir.

Bu yazı hukuki danışmanlık değildir; mevzuat ve kurum kararları zaman içinde değişebilir. Güncel yükümlülükleri Kişisel Verileri Koruma Kurumu'nun resmi kaynaklarından ve kurumun kendi hukuk danışmanından kontrol etmek gerekir. Teknik ekipten beklenen ise alınan kararların sistemde gerçekten uygulanmasıdır: erişim yetkileri, kayıt tutma ve verinin yalnızca izin verilen yere gitmesi.

Yapay zekâ aracı yalnızca metin üretmekle kalmayıp kurumun sistemlerine bağlandığında, örneğin bir belge arşivinde arama yaptığında ya da kayıtları okuduğunda, yetki konusu da önem kazanır. Araç, onu kullanan kişinin göremeyeceği hiçbir veriye erişmemeli ve kayıtları değiştirebilecek işlemler insan onayı olmadan yapılmamalıdır. Dışarıdan gelen bir belgenin ya da e-postanın içine gizlenmiş yönergelerin aracı yönlendirmeye çalışabileceği de hesaba katılmalı; bu nedenle araçların yetkisi en düşük düzeyde tutulmalıdır.

İnsan onayı neden vazgeçilmezdir?

Büyük dil modelleri, son derece akıcı ve ikna edici metinler üretebilir; ancak bu metinler zaman zaman yanlış, eksik ya da bağlamdan kopuk olabilir. Model, emin olmadığı bir bilgiyi de aynı kendinden emin dille yazabilir. Bu nedenle kurumsal kullanımda yapay zekânın rolü karar vermek değil, öneri ve taslak hazırlamak olmalıdır.

Özellikle kişileri doğrudan etkileyen kararlar, örneğin bir üyelik başvurusunun kabulü, bir burs değerlendirmesi, bir bildiri ya da makale hakkındaki editoryal karar veya bir ihtiyaç sahibine yapılacak yardım, hiçbir zaman yalnızca yapay zekânın çıktısına bırakılmamalıdır. Yapay zekâ bu süreçlerde eksik belgeyi işaretleyebilir, bir kontrol listesi hazırlayabilir ya da uzun bir dosyayı özetleyebilir; kararı ise yetkili kişi verir.

İnsan onayının işe yaraması için sistemde görünür olması gerekir. Hangi metnin yapay zekâ tarafından önerildiği, kim tarafından onaylandığı ya da değiştirildiği ve ne zaman gönderildiği kayıt altında tutulmalıdır. Bu kayıt, hem bir hata olduğunda nedenini anlamayı hem de kurumun hesap verebilirliğini korumayı sağlar.

Kurumsal yapay zekâda doğru rol dağılımı basittir: Yapay zekâ önerir, insan karar verir, sistem kaydını tutar.

Yapay zekâ projesinin başarısı nasıl ölçülür?

Ölçüm, proje başlamadan önce başlar. Seçilen sürecin bugün ne kadar sürdüğü, ne sıklıkla hata yapıldığı ve ne kadar düzeltme gerektirdiği kaydedilmezse, pilotun sonunda bir iyileşme olup olmadığını söylemek mümkün olmaz. «Daha hızlı oldu gibi» izlenimi, bütçe ve kapsam kararları için yeterli bir dayanak değildir.

Kullanışlı ölçütler genellikle şunlardır: iş başına harcanan süre, insan onayında düzeltilen çıktıların oranı, gözden kaçan hata sayısı, çalışanların ve hizmet alanların memnuniyeti ve aracın toplam maliyeti. Sayısal ölçütlerin yanında, çalışanların araçla ilgili gözlemlerini düzenli olarak toplamak da önemlidir; çünkü bir aracın hangi durumda yanıldığını en iyi onu her gün kullanan kişi görür.

Düzeltme oranı özellikle öğreticidir. İnsan onayında çıktıların çok büyük kısmı baştan yazılıyorsa, araç zaman kazandırmıyor, yalnızca işi başka bir adıma taşıyor demektir. Bu durumda yönergeleri iyileştirmek, süreci daraltmak ya da o işten vazgeçmek, yatırımı büyütmekten daha doğru olabilir.

Maliyet ölçümünde yalnızca aracın abonelik ya da kullanım bedeli değil, onay için harcanan insan zamanı, eğitim ve kurulum emeği ve olası hataların düzeltilme maliyeti de hesaba katılmalıdır. Böylece pilotun sonunda «araç ne kadar tuttu» sorusu yerine «süreç toplamda ne kadar daha iyi işledi» sorusu yanıtlanmış olur.

Küçük bir pilot proje nasıl kurgulanır?

Pilot, kurumun tamamına yayılmadan önce yapay zekânın gerçek iş koşullarında denendiği sınırlı bir çalışmadır. Kapsamı dar, süresi belli ve başarı ölçütleri baştan yazılmış olmalıdır. Pilotun amacı yalnızca teknolojinin çalışıp çalışmadığını görmek değil, kurumun süreçlerinin, verisinin ve ekibinin bu değişikliğe ne kadar hazır olduğunu da anlamaktır.

İyi kurgulanmış bir pilot şu adımlarla ilerler.

• Tek bir süreç ve o süreçten sorumlu küçük bir ekip seçilir.
• Sürecin bugünkü süresi, hata oranı ve maliyeti kayıt altına alınır.
• Hangi verinin kullanılacağı ve hangisinin asla kullanılmayacağı yazılı olarak belirlenir.
• Yapay zekânın yalnızca öneri ürettiği, onayın insanda kaldığı bir akış kurulur.
• Belirlenen süre sonunda sonuçlar başlangıç ölçümleriyle karşılaştırılır.
• Genişletme, düzeltme ya da durdurma kararı bu karşılaştırmaya göre verilir.

Durdurma seçeneğinin baştan meşru kabul edilmesi önemlidir. Bir pilotun beklenen sonucu vermemesi başarısızlık değil, kurumun daha büyük bir yanlış yatırımdan korunmasıdır. Pilot sonunda ortaya çıkan öğrenimler, bir sonraki süreç seçiminde de yol gösterir.

Kurum içinde kullanım kuralları nasıl belirlenir?

Kurum resmi bir karar vermeden önce bile çalışanların bir kısmı yapay zekâ asistanlarını kişisel hesaplarıyla kullanıyor olabilir. Bu kayıt dışı kullanım, kurum verisinin denetimsiz biçimde dış servislere gitmesi anlamına gelebilir. Yasaklamak çoğu zaman sorunu yalnızca görünmez kılar; açık ve uygulanabilir kurallar koymak daha etkilidir.

Kısa bir kullanım yönergesi; hangi araçların kurum işlerinde kullanılabileceğini, hangi veri türlerinin hiçbir koşulda bu araçlara girilmeyeceğini, yapay zekâ ile hazırlanan içeriğin hangi durumlarda belirtileceğini ve onay sorumluluğunun kimde olduğunu tanımlamalıdır. Yönergenin kısa bir eğitimle birlikte paylaşılması ve somut örneklerle anlatılması, kuralların gerçekten uygulanma ihtimalini artırır.

• Kurum işlerinde yalnızca kurumun onayladığı araçlar ve kurum hesapları kullanılır.
• Kimlik bilgileri, sağlık verisi, finansal bilgiler ve parolalar hiçbir yapay zekâ aracına girilmez.
• Yapay zekâ ile hazırlanan dış yazışmalar, gönderilmeden önce sorumlu kişi tarafından okunur.
• Araçların ürettiği bilgi, kaynağı doğrulanmadan resmi belgeye ya da yayına aktarılmaz.
• Kuralların ne zaman gözden geçirileceği ve sorulara kimin yanıt vereceği bellidir.

Kuralların yanında yetkinlik de gelişmelidir. Çalışanların yapay zekânın neyi iyi, neyi kötü yaptığını deneyerek öğrenebileceği, hatalı çıktıların açıkça konuşulabildiği bir ortam, hem verimliliği hem de güvenliği artırır. Aracı en iyi kullanan çalışanların deneyimlerini ekip içinde paylaşması, kurumun kendi iyi uygulama örneklerini oluşturmasının en hızlı yoludur.

Sık sorulan sorular

Yapay zekâ entegrasyonu için büyük bir veri altyapısı gerekir mi?

İlk adımlar için gerekmez. Belge özetleme, taslak yanıt ya da sınıflandırma gibi işler mevcut belgeler ve e-postalarla başlayabilir. Ancak verinin düzenli, güncel ve erişim yetkileri tanımlı olması, hangi ölçekte olursa olsun sonucun kalitesini doğrudan etkiler.

Büyük dil modelleri kurumun kendi sunucusunda çalıştırılabilir mi?

Evet, açık ağırlıklı bazı modeller kurumun kendi altyapısında çalıştırılabilir. Bu yaklaşım verinin kurum dışına çıkmamasını sağlar, ancak donanım, bakım ve güncelleme sorumluluğunu da kuruma yükler. Seçim, verinin hassasiyeti ile işletme maliyeti arasındaki dengeye göre yapılmalıdır.

Yapay zekâ çıktısındaki bir hatadan kim sorumludur?

Kurum açısından sorumluluk, çıktıyı onaylayan ve kullanan taraftadır. Bu nedenle onay adımının sistemde kayıt altında olması ve kişileri etkileyen kararların yalnızca yapay zekâya bırakılmaması gerekir. Sözleşmesel ve hukuki sorumluluk konuları ise ayrıca hukuk danışmanıyla değerlendirilmelidir.

Pilot proje ne kadar sürmeli?

Kesin bir süre yoktur; sürecin doğal döngüsünü en az bir kez tamamlayacak kadar uzun, ama kararı geciktirmeyecek kadar kısa olmalıdır. Örneğin aylık tekrarlanan bir iş için birkaç döngü gözlemlemek, tek seferlik bir denemeden çok daha güvenilir sonuç verir.

İlk adım ne olmalı?

İlk adım bir araç seçmek değil, tek bir süreci seçip bugünkü durumunu ölçmek ve hangi verinin kullanılamayacağını yazmaktır. Bu üç karar netleştiğinde, araç seçimi ve pilot tasarımı çok daha kısa ve isabetli olur. Bir Web Ajans olarak kuruma özel sistem projelerinde yapay zekâ destekli adımları da süreç analiziyle başlayıp son kararı insana bırakacak biçimde kurguluyoruz.