ELIZA Etkisi: İnsanlaştırmayı Yapan Sistem Değil, Kullanıcı

ELIZA, anahtar kelime eşleştiren birkaç yüz satırlık bir programdı ve kullanıcıları onun kendilerini anladığını düşündü. Bundan çıkarılan ders genelde şu oluyor: arayüzler daha insansı olsun. Oysa ELIZA’nın işe yaramasının nedeni söyledikleri değil, söylemedikleriydi.

ELIZA aslında ne yapıyordu

Joseph Weizenbaum’un MIT’de yazdığı ELIZA bir betik ailesiydi; ünlü olan DOCTOR betiği Rogerscı bir psikoterapisti taklit ediyordu. Mekanizma kısa: girdideki anahtar kelimeyi bul, kalıba göre cümleyi yeniden kur, zamirleri çevir, elde bir şey yoksa nötr bir soru sor. “Kendimi yalnız hissediyorum” cümlesi böylece “Neden kendinizi yalnız hissediyorsunuz?” oluyordu.

Psikoterapist rolü estetik bir tercih değildi. Weizenbaum bu rolü, hiçbir şey bilmemeyi meşrulaştıran tek konuşma biçimi olduğu için seçti: soruyu soruyla karşılayan bir muhataptan dünya hakkında bilgi beklemezsin. Program, cehaletini kılık değiştirmeden taşıyabileceği bir bağlam bulmuştu.

Hikâye genelde yanlış anlatılıyor

Yaygın anlatıma göre kullanıcılar kandırıldı, karşılarında bir insan olduğunu sandılar. Weizenbaum’u rahatsız eden bu değildi. Onu asıl şaşırtan, programın nasıl çalıştığını bilen insanların bile ekranla baş başa kaldıklarında ona açılmasıydı. Yani illüzyon bilgi eksikliğinden doğmuyor, bilgi tamken de sürüyor.

Bugün gösterilen kanıtlar da benzer biçimde zayıf. Kullanıcıların sohbet botuna teşekkür etmesi sık sık duygusal bağın delili sayılıyor. Teşekkür büyük ölçüde konuşma alışkanlığıdır; arabasına ad veren biri, arabasının kendisini tanıdığını düşünmüyor. İnsanlaştırma dilde çok kolay olur, inançta değil, ve tasarım kararı verirken hangisiyle uğraştığını bilmen gerekir.

Boşluğu kullanıcı dolduruyor

ELIZA etkisinin motoru sistemin zenginliği değil, bıraktığı boşluk. Program doğrulanabilir neredeyse hiçbir şey söylemiyordu: bir iddiada bulunmuyor, bir olgu ileri sürmüyor, bir vaatte bulunmuyordu. Yanılabileceği bir yüzey yoktu. Anlamı kullanıcı getiriyor, tutarlılığı kullanıcı kuruyordu.

Buradan çıkan tasarım dersi alışıldık olanın tersi. Sistem ne kadar çok konuşursa iddiaları o kadar sınanabilir hale gelir, illüzyon da o kadar çabuk çatlar. Sohbet arayüzünü daha insansı yapmak, kullanıcının güvenini artırmaz; sadece o güvenin kırılacağı yüzeyi genişletir.

Arayüzdeki iddianın kodda karşılığı var mı

“Seni hatırlıyorum”, “anlıyorum”, “senin için hallediyorum” cümleleri birer yetenek beyanıdır. Sorulacak soru basit: arkasında ne var? Hatırlama iddiasının arkasında kalıcı bir kayıt mı duruyor, yoksa aynı oturumun bağlam penceresi mi? Kullanıcı üç gün sonra döndüğünde sistem gerçekten hatırlayacak mı? Karşılığı olmayan her cümle, kullanıcının bir sonraki oturumda yaşayacağı hayal kırıklığının borç senedidir.

Bu yüzden asistan arayüzlerinde güveni üsluptan değil, geri alınabilirlikten kurarım. Ne yaptığını gösteren ve yaptığını geri aldırabilen bir sistem, hata yapınca nazikçe özür dileyen bir sistemden daha güvenilir çıkıyor. Üslup sadece ilk dakikayı kurtarır.

Ölçerken neyi soruyorsun

Sohbet arayüzü testlerinde en sık sorulan şey memnuniyettir ve memnuniyet burada tam olarak yanlış sorudur, çünkü ölçtüğü şey faydadan çok ELIZA etkisinin kendisidir. Akıcı ve nazik bir sistem, işi görüp görmediğinden bağımsız olarak yüksek puan alır. Beğeni ile başarı arasındaki bu kopukluk sohbet arayüzlerinde diğer arayüz türlerinden daha geniştir.

Daha az yanıltıcı olan ölçüler görevin kendi içinden gelir. Görev tamamlandı mı? Kaç turda tamamlandı? Kullanıcı kaç kez ifadesini yeniden kurmak zorunda kaldı? Çıktı doğru muydu, üstelik doğruluğu kullanıcının kanaatiyle değil görevin ölçütüyle bakıldığında? Bu sorular sistemin sevimli olup olmadığını hiç sormaz ve iyi ki sormaz.

İnsansılık nerede işe yarar

Taraf tutmak gerekirse: düşük riskli, kısa ve sık tekrarlanan etkileşimlerde insansı üslup neredeyse bedavadır. Bir kargo takip botunun “merhaba” demesi kimseye zarar vermez, akışı yumuşatır.

Riskin yükseldiği yerlerde, yani sağlık, para, hukuk ve geri alınamayan silme işlemlerinde tersi doğru. Orada üslubun soğuması bir kusur değil, koruma. Kullanıcının sisteme duyduğu yakınlık, sistemin yetkinliğine dair delil olarak okunmaya başladığı anda tasarım hata yapmış demektir.