Pazarlama dili her yazılımı ajan ilan ettiği için ajanın tanımı bulanıklaştı. Gerçekte ajan, bir dil modelinin etrafına kurulmuş araç seti ve karar döngüsünden ibarettir. Model tek başına yalnızca metin üretir; ajan ise bu metni eyleme çevirir, sonucu okur ve sıradaki adıma karar verir. Yani sihir, modelin kafasında değil, ona verilen takım çantada saklıdır.

Döngü nasıl işliyor?

Tipik bir ajan döngüsü üç adımdan kurulu çalışır. Önce model, verilen görevi parçalara böler ve sıradaki hamleyi seçer; sonra o hamleyi, erişimi olan bir aracı çağırarak uygular: dosya okumak, veritabanına sorgu göndermek, takvimde randevu açmak ya da kod çalıştırmak. Ardından aracın döndürdüğü sonucu okur; hedefe ulaşılmamışsa planı güncelleyip tekrar dener. Bu planla, çağır, düzelt döngüsü onlarca tur dönebilir. Önemli ayrıntı şudur: araç tanımları ne kadar netse, ajan o kadar isabetli davranır. Belirsiz araç açıklamaları, modelin hayali parametreler üretmesine yol açar; hayali parametreler de gerçek dünyada hatalı e-postalar ya da yanlış siparişler olarak karşınıza çıkar. Bu yüzden ajan geliştirmenin yarısı model seçmek, yarısı araç arayüzlerini titizlikle yazmaktır.

Ajanın hafızası ve sınırları

Ajanlar iki tür hafıza kullanır: görev boyunca tutulan kısa süreli bağlam ve oturumlar arasında saklanan uzun süreli kayıt. Kısa süreli hafızanın bir sınırı vardır; pencere dolduğunda eski adımlar özetlenir ya da atılır, bu da bazı görevlerin ortasında unutkanlık olarak hissedilir. Uzun süreli hafıza ise vektör veritabanlarıyla kurulur; geçmiş kararların not edilmesi ajanı kişiselleştirir ama yanlış bir kayıt, hatayı kalıcılaştırır. Sınırlar da gerçekçidir: ajan, aracına bağladığı yetkiye kadar güçlüdür ve o yetkiyi kötü kullanma riski taşır. Yetkilendirme küçük tutulursa faydası sınırlı, büyük tutulursa riski artar; mühendisliğin asıl sanatı bu ikisi arasındaki dengeyi kurmaktır. Bu yüzden ciddi projelerde ajanın kritik eylemleri insan onayına sunması standart uygulamadır.

Gerçek projelerde ne değişiyor?

Ajanların gerçek katkısı, insanın sürekli bağlam değiştirmesini gerektiren işlerde kendini gösterir: oniki farklı panelden bilgi toplamak, uyarıları ayıklamak, form doldurmak, belgeleri karşılaştırmak. Bu işlerde ajan, köy bekçisi gibi gece nöbeti tutar; sabah insanı özetle buluşturur. Ama aynı ajanlar, yaratıcı tasarım ya da stratejik karar gibi belirsiz ölçütlü işlerde hâlâ zayıftır. Doğru kurgu şudur: ajan ön bilgiyi toplar, insan kararı verir, ajan sonucu kaydeder. Bu paylaşımda iki taraf da kendi güçlü yönünü kullanır. Kısacası ajanı bir asistanın yaptığı gibi büyülü bir zihin değil, kalabalık bir ekipte disiplinli stajyer gibi düşünmek en sağlıklısıdır: hızlıdır, yorulmaz, ama gözetimsiz bırakılmamalıdır.

Son bir uyarı: ajan değerlendirmesi, klasik birim testinden daha zordur; çünkü aynı girdi farklı yollarda çözülebilir. Bu yüzden ekipler, ajanın davranışını senaryolarla, yani uçtan uca görev listeleriyle ölçer. Başarı oranı, ortalama adım sayısı ve harcanan token, üç temel göstergedir. Bu üçünü haftalık izlemeyen bir ekip, ajanın mı yoksa sürecin mi kötüye gittiğini bilemez.