Sohbet botu soruya cevap verir. Ajan ise bir hedef alır, hangi adımların gerektiğine karar verir ve işi araçları kullanarak kendisi yapar.
Sohbet botu ile ajan arasındaki fark
Bir sohbet botuna "geçen ayın satış raporu nerede?" diye sorarsanız size bir cevap yazar. Bir ajana aynı işi verdiğinizde raporu bulur, rakamları çeker, özetler ve ilgili kişiye e-postayla gönderir.
Fark, dil modelinin yalnızca metin üretmesi ile araç kullanabilmesi arasındadır. Ajan; veritabanı sorgusu, API çağrısı ya da dosya okuma gibi araçlara erişir ve hangi sırayla kullanacağına kendisi karar verir.
Bir ajanın parçaları
- Dil modeli: Planı yapan ve karar veren kısım
- Araçlar: Ajanın dış dünyada iş yapmasını sağlayan bağlantılar
- Bellek: Önceki adımları ve konuşmayı hatırlaması
- Sınırlar: Neye yetkisi olduğu ve nerede insana soracağı
Nerede işe yarar?
Adımları belli ama her seferinde küçük kararlar gerektiren işler ajanlar için uygundur: gelen talepleri sınıflandırıp ilgili ekibe yönlendirmek, teklif hazırlamak, fatura bilgilerini sisteme işlemek, haftalık raporu derlemek gibi.
Dikkat edilmesi gerekenler
Ajan hata yaptığında bunu bir sohbet cevabı gibi görmezsiniz; yanlış bir e-posta gitmiş ya da yanlış bir kayıt değişmiş olur. Bu yüzden yetkileri dar tutmak, geri alınamayan adımlardan önce insan onayı istemek ve her adımı kayıt altına almak gerekir.
İyi tasarlanmış bir ajan her şeyi kendi başına yapan değil, neyi yapıp neyi soracağını bilen ajandır.