Artık Open AI’ın ChatGPT’sinin neden olduğu genel bir aldatmacanın ortasında olduğumuza veya umarız sonuna yaklaştığımıza göre, neyin mümkün olup neyin olmadığını yeniden incelemenin zamanı geldi; ne yapılmalı ne yapılmamalı. Aldatmacanın ötesinde olan ve gerçek iş sonuçlarına ve iş değerine bağlanabilen iş kullanım durumlarına bakmanın zamanı geldi.

Platformunuzun güçlü yanlarını ve sınırlamalarını bilmenin önemini vurgulamak için kişinin Google Bard’a kadar geri gitmesi yeterlidir. Google’ın yapay zeka sohbet robotu yayın demosunda gerçeğe dayalı olarak yanlış bir yanıt verdi ve bu, Google’ın değerlemesinden 100 milyar dolardan fazlasını sildi – kesinlikle tüm zamanların en pahalı demosu olarak geçmesi gereken şey.

Bunu herhangi bir övünmeden söylüyorum. Yine de bu olay, büyük dil modelleri (LLM’ler) söz konusu olduğunda risklerin ne kadar yüksek olduğunu gösteriyor. Ayrıca işletmelerin, onların yardımıyla hangi sorunları anlamlı bir şekilde çözebileceklerine iyi ve derinlemesine bakmaları gerektiğini gösteriyor. Buna hızlı kazanımlar kadar stratejik çözümler de dahildir.

İş açısından bakıldığında, LLM’leri içeren çözümlerin kullanışlılığını değerlendirirken bakılması gereken en az iki boyut vardır.

Elbette bir boyut, sistemin muktedir olduğu dil akıcılığının derecesidir. Sohbet robotları veya ses botları ve dijital asistanlar, akıllı hoparlörler vb. Bu sistemler yazılı veya sözlü kelimeleri yorumlayabilir ve buna göre yanıt verebilir. Bu yanıt ya yazılı/sözlü ya da istenen eylemi başlatarak verilir.

Bu daha geleneksel konuşmalı AI sistemlerinin ana sınırlamalarından biri, kendilerini ifade etmekten daha iyi anlamalarıdır – daha iyi bir kelime olmadığı için – kendilerini ifade etmekten daha iyidir. İyi eğitilmiş makine öğrenimi modellerine dayanarak, genellikle önceden eğitilmiş niyetlere dayalı olarak çalıştıkları gerçeğinden dolayı, eğitildikleri problem alanındaki problemler için oldukça düzenli bir şekilde doğru çözümü ortaya çıkarabilirler.

Eğitim verilerine dayanarak, genellikle kendi alanlarındaki sorulara oldukça doğru yanıtlar verirler. Sorun: genellikle oldukça az sayıda alanla sınırlıdırlar.

LLM’ler ise genellikle “bir dildeki kelimeler, deyimler ve cümleler arasındaki ilişkileri anlamak için eğitilirler. Amaç, LLM’nin anlamsal olarak anlamlı ve girdinin bağlamını yansıtan çıktılar üretmesini sağlamaktır.”

Bu, ChatGPT’nin şu soruya verdiği yanıtın bir parçasıdır: LLM’nin amacı nedir? Bir LLM’nin eğitim seti genellikle halka açık kaynaklardan – yani internetten – gelme eğiliminde olan çok miktarda “gerçek dünya” bilgisidir. Çıktının kendisi yazılı, grafiksel veya diğer formatlarda olabilir.

LLM’lerin üstün olduğu şey, sorulara insani bir şekilde yanıtlar üretmektir. Ve çok çeşitli konulara yanıt verebilirler. Metne odaklanırken, tutarlı ve anlamlı yanıtlar üretmek için oluşturulurlar.

Sorun: Bazen doğruluktan yoksundurlar ve tam bir güvenle yanlış çıktılar verirler. Daha da kötüsü, yanlış veya yanlış çıktılar, gerekli bilgiye sahip olmayan bir kullanıcı tarafından kolayca tanımlanamaz.

Yine, (en azından geçici olarak) 100 milyar ABD dolarını Google’ın değerlemesinden silen Google Bard örneğine bakın. Ve bu sadece Google değil; diğer araçların yanı sıra ChatGPT veya You.com’u çağıran pek çok örnek var.

LLM’ler ne kadar doğru?

Soru, her iki boyutun da her zaman eşit derecede önemli olup olmadığıdır. Ticari anlamda, doğruluğun her zaman önemli olduğu iddia edilebilir. Bir iş görüşmesinde gerçeğe dayalı hatalar almak, yalnızca zayıf müşteri deneyimine bir örnek olmakla kalmaz, aşırı durumlarda yasal sorunlara bile yol açabilir.

Anlaşılması gereken önemli bir nokta da, daha fazla doğruluk gerekli olduğunda, LLM’yi artırmak için ek sistemlerin entegre edilmesi gerekliliğinin daha fazla arttığıdır.

Kendi başına bir LLM, bir tür eğlenceden çok daha fazlası değildir. Arama motorlarında bile, LLM’ler yalnızca doğal dil sorgularını etkinleştirerek ve sonuçların yalnızca bir bağlantı listesi yerine insan dilinde sunulmasını sağlayarak aramayı artırır.

En azından yapmaları gereken bu.

Tüm bunların söylenmesiyle birlikte, bir LLM’yi içeren ticari kullanım durumları nelerdir? Söylendiği gibi, makul bir doğruluk olması gerekir. Açıkçası, akıcılık bir LLM’nin temel farklılaştırıcısı olduğundan, akıcılık da bir ön koşul olarak gereklidir.

Belirli bir öncelik sırası olmaksızın bazı kullanım durumlarına bakalım.

LLM ticari kullanım durumlarına örnekler

hikaye anlatımı

“Hikaye anlatımı” dediğim bir şeyle başlardım. Bu, temel olarak bir ürünün, çözümün veya hizmetin yeteneklerini ve ayırt edici faktörlerini tanımlayan pazarla ilgili belgelerin oluşturulmasıdır.

Bir şekilde pazarlamayla ilgili (alınma amacı yoktur) ve müşteriler için ilk temas noktası olduğundan, çok fazla teknik doğruluk gerektirmeden anlaşılması kolay olmalıdır. Aynı zamanda, yanlış olmamalıdır. Bunun sadeleştirilmiş bir versiyonu, tweet’ler gibi sosyal medya içeriğinin (geliştirilmiş) oluşturulması olabilir.

Bunun faydaları, genel web siteleri için ve ayrıca daha spesifik olarak ABM senaryoları ve açılış sayfaları için daha hızlı üst düzey içerik oluşturulmasıdır. Bu metni oluşturabilmek için, bir LLM’nin ilgili kişiler arasındaki gereklilikleri, özellikleri ve iletişimleri içeren dahili sistemlere bağlanması gerekir. Bu aynı zamanda yakın vadede uygulanması gereken bir kullanım durumudur.

E-postalar

İnsanların temel görevlerinden biri, e-postaları yazmak ve daha da önemlisi, e-postaları yanıtlamaktır. Özellikle, müşteri sorgularının önceki e-postalara ve CRM sistemi tarafından verilen bağlama (ör. yapılan teklifler hakkında) dayalı olarak formüle edilebildiği ve önerilebildiği satış senaryolarında.

Bu senaryo, yasal olarak bağlayıcı olabilecek hatalı bilgilerin gönderilmesini önlemek için zaten oldukça yüksek bir doğruluk gerektirecektir. Bu senaryonun avantajı, e-posta göndermek için gereken sürenin önemli ölçüde kısalması ve bunun sonucunda üretkenliğin artmasıdır. Bu, Microsoft’un Viva Sales çözümünde zaten uygulamış olduğu bir senaryodur.

Belgeler oluşturuluyor

Dokümantasyon üretimi, akıcılık gereksinimi açısından biraz farklılık gösteren bir senaryodur. Temel olarak teknik ve kullanıcı belgelerine ayrılabilir. Kullanıcı belgelerinin son derece okunabilir olması gerekirken, teknik belgeler için yazma stili biraz daha az önemlidir.

Tersine, teknik dokümantasyonun, kullanıcı dokümantasyonunda gerekli olmayan yüksek derecede teknik doğruluğa sahip olması gerekir; bu, metinleri ve potansiyel olarak diyagramları ve görüntüleri oluşturmak için farklı havuzların veya kaynak dokümanların farklı bölümlerinin kullanılması gerektiği anlamına gelir.

Müşteri servisi

Kısa vadede en umut verici kullanım durumlarından biri, kurumsal arama da dahil olmak üzere müşteri hizmetleridir.

Burada kullanıcılar, yalnızca bağlantıların veya eyleme geçirilmiş bir şeyin değil, sorularının yanıtlarını da isterler. Bunu başarmak için, bir şey ararken doğru yanıtlar üretmeye yardımcı olan bir konuşma yapay zekasına, iş sistemlerine ve iyi işleyen bir bilgi tabanına bağlanmak gerekir.

Sorunların işlenmesi, konuşmalı yapay zekaların hâlihazırda yaptıklarına çok benzer. Farklılıklar, LLM’nin bunun için gereğinden fazla eğitim seti oluşturabilmesi ve sistem tarafından verilen yanıtların çok daha akıcı olması nedeniyle, niyet tespitinin çok daha iyi olabilmesidir. Aynısı bir sorgulama senaryosu için de geçerlidir.

Ancak, bir uyarı olarak, sorgulara verilen yanıtların doğruluğu büyük ölçüde kurumsal arama tarafından aranan bilgi bankası (KB) içeriğine bağlıdır.

Bu nedenle bilgi bankasının sürekli ve titiz bir incelemeye ihtiyacı vardır. Düzgün bir şekilde uygulandığında, faydalar, sistem tarafından daha fazla vaka ele alınabileceğinden gelişmiş çağrı yönlendirmeyi içerir ve sorun yönetimi müşteri için oldukça kolay ve verimli hale gelebileceğinden artan müşteri memnuniyeti ile birleşir. Cognigy son zamanlarda ses giriş ve çıkışını da içeren bazı çok iyi örnekler (burada ve burada) sunmuştur.

Temsilci yardımı

Aracı yardımının uygulanması biraz daha kolaydır, çünkü çoğunlukla sohbet geçmişi de dahil olmak üzere müşteri hizmetleri uygulamasına bağlanması gerekir. Elbette satış ve pazarlama verilerine tam erişime sahip olmak da faydalıdır.

Duyarlılık analiziyle birlikte LLM, aracının kullanması için metin blokları önerebilir. Metin blokları, LLM olmadan oluşturulan metinlere göre müşterinin durumuyla daha fazla empati gösterdiğinden, bunun faydaları artan aracı verimliliği ve büyük olasılıkla daha yüksek müşteri memnuniyetidir.

Çözüm

Özet olarak, bu beş senaryo, yutturmaca ötesinde bir LLM içeren kullanım durumlarını göstermektedir. Kısa sürede hayata geçirilebilirler ve iş sonuçlarına kolayca bağlanabilirler. Bu şekilde, faydaları ölçülebilir.

Başka hangi kullanım durumlarını görüyorsunuz? Ve bunları iş değerine nasıl bağlarsınız?