Yapay Zeka Özelliklerinde Kapsam Kararı: Model Değil Arayüz Meselesi
Yapay zeka özelliklerinde kapsam tartışması genelde geniş mi dar mı diye kurulur ve dar kapsam kazanır. Oysa Spotify'ın oynatma listesi oluşturucusu da Photoshop'un düzenleme asistanı da altta geniş kapsamlı modeller çalıştırıyor. Dar olan model değil, kullanıcıya açılan kapı. Kapsam kararını doğru katmana taşıdığınızda soru da değişiyor.
Dar kapsam dediğimiz şey nerede duruyor
Bir yapay zeka özelliğinin kapsamı üç ayrı katmanda belirlenir: modelin kendisi, modele verilen sistem talimatı ve kullanıcının gördüğü arayüz. Tartışma genelde birinci katmanda yapılır, karar ise neredeyse her zaman üçüncüde alınır.
Oynatma listesi üreten bir özellik, dar kapsamlı bir model kullandığı için dar değildir. Altında aynı genel amaçlı model durur; dar olan, kullanıcıya sunulan giriş alanı ve çıktının biçimidir. Bu ayrım işe yarıyor, çünkü kapsamı daraltmak için model değiştirmeniz gerekmiyor: çoğu zaman üç alan ve sabit bir çıktı şablonu yetiyor.
Bir projede tam olarak bunu yaptık: model aynı kaldı, serbest metin kutusunun yerine üç hazır görev düğmesi geldi, sistem talimatı o üç görevin dışına çıkmayacak şekilde sabitlendi.
Geniş kapsamın sorunu esneklik değil
Geniş kapsamlı araçların öğrenme maliyeti yüksektir denir. Genelde de doğrudur, ama sebebi yanlış yere konur. Kullanıcıyı yoran işlev sayısı değil, karşısında ne yazacağına dair hiçbir ipucu vermeyen boş bir kutu bulması.
O kutunun altına beş örnek istem koyduğunuzda aracın kapsamı bir milim daralmaz, ilk temas tamamen değişir. Kullanıcı ne yapabileceğini örnek üzerinden okur ve kendi cümlesini genelde o örneklerden birini bozarak kurar. Yani geniş kapsam bir kullanılabilirlik sorunundan önce bir keşfedilebilirlik sorunu üretiyor, ikisinin çözümü de aynı değil.
Rehberli akış bedava değil
Dar kapsamın en sevilen biçimi adım adım ilerleyen sihirbaz. Kullanıcıya nereye gitmek istediğini, ne tür bir tatil aradığını, hangi tarihleri düşündüğünü sırayla sorarsınız; karşılığında düzenli, değerlendirilebilir bir çıktı alırsınız. Doğru. Ama sorduğunuz her ek soru aynı zamanda bir bırakma noktası.
Diyelim ki dört adımlı bir akışta kullanıcıların yüzde 90'ı her adımı tamamlıyor. Sona ulaşan oran yüzde 90 değil, yüzde 66 olur (0,9 x 0,9 x 0,9 x 0,9). Yüzdeler varsayım, mekanizma değil: adım eklemek çarpan ekler, kayıp toplanarak değil çarpılarak büyür.
Bu yüzden sihirbazı serbest metne tercih etmenin savunulabilir tek gerekçesi, sorduğunuz soruların kullanıcının düşünmeden cevaplayabileceği sorular olması. Tarih aralığı böyle bir sorudur. Ne tür bir tatil istiyorsunuz değildir; o soru kullanıcıyı yine boş kutunun başına getirir, sadece kutu daralmıştır.
Hangi durumda hangisi
Varsayılanım dar giriş, geniş altyapı. Kullanıcıya açtığınız ilk kapı tek bir işi adıyla söylesin, arkadaki model olabildiğince yetenekli kalsın. Kapıyı sonradan genişletmek kolaydır; kullanıcının kafasındaki bu araç ne yapar cevabını sonradan değiştirmek zordur.
Bunun pratik bir testi var: özelliğin düğmesine yazacağınız etiketi bir fiille kuramıyorsanız ortada henüz bir özellik yok, bir model erişimi var. Özet çıkar bir özelliktir, yapay zeka asistanı değildir.
Geniş kapsam ne zaman doğru? Kullanıcının ne isteyeceğini önceden listeleyemediğiniz yerlerde. İç araçlarda, uzman kullanıcıların kendi akışını kurduğu ortamlarda, taleplerin uzun kuyruklu ve birbirine benzemediği durumlarda dar kapsam sizi sürekli yeni özellik yazmaya mahkum eder. Orada serbest metin kutusu tembellik değil, maliyeti doğru okumaktır.