Kodlash agentlari qanday vositalarni tanlashini tushunish uchun men grep va LSP-bazali semantik navigatsiya o'rtasidagi taqqoslash o'tkazdim. Natijalar shuni ko'rsatdiki, vosita LLM-dostiga qanchalik mos kelishi, uning qobiliyatidan ham muhim bo'lishi mumkin.
Grep va LSP: Qanday Taqqoslash O'tkazildi?
Men bu savolni hal qilish uchun grep va LSP-bazali semantik navigatsiya o'rtasidagi taqqoslash o'tkazdim. Men semantik navigatsiya shovqinni kamaytiradi va tokenlarni tejaydi deb umid qildim. Biroq, agentlar ko'pincha grep bilan qolishdi. Men agentlarni birinchi navbatda semantik yo'lni ishlatishga majbur qildim, natijada vazifalar muvaffaqiyati ba'zan kamaydi.
Bu savol LLM-dostilikka bog'liq. Vosita faqat natijalari aniq bo'lsa ham, modelga do'stona bo'lmaydi. U modelning keyingi qadam uchun yetarli kontekstni qaytarishi va shu kontekstni model tomonidan to'g'ridan-to'g'ri foydalaniladigan interfeys va chiqish shaklida taqdim etishi kerak. Modelning o'qitilishi davomida o'rgangan harakat yo'llari bilan tanishlik ham muhim bo'lishi mumkin.
Taqqoslash Natijalari
Men uchta Claude modeli, bir nechta Python va TypeScript repositoriyalari va turli vazifa turlarini o'z ichiga olgan pilot tadqiqot o'tkazdim. Men faqat ikkala usul ham vazifani muvaffaqiyatli bajarganda token foydalanishini o'lchadim. Bu umumiy baholash xatosini nazorat qilish uchun muhim bo'lib, muvaffaqiyatsiz ish bajarish tezroq to'xtab qolishi sababli samarali bo'lishi mumkin.
Oddiy kod joylashuv vazifalarida, uchta model ham ikkalasi mavjud bo'lsa, semantik vositani 0% dan 6% gacha tanladilar. Semantik yo'lni birinchi navbatda majbur qilish muvaffaqiyatni 100% dan 89% gacha kamaytirdi.
Referensiya to'liqligi vazifalari boshqa natijalar berdi. Modelga barcha chaqiruvchilarni topishni so'rashganda, ular semantik navigatsiyani 45% dan 57% gacha tanladilar. LSP-bazali yo'l 1.00 aniqlikka erishdi, grep uchun esa 0.76 aniqlik bo'lib, noto'g'ri moslashuvlarni olib tashladi. Biroq, qayta olish ikkalasi uchun ham 0.66 atrofida qoldi. Semantik navigatsiya haqiqiy chaqiruvlarni topmadi. Qolgan cheklov agentning qanday chidamliligiga bog'liq edi, emas qidiruv aniqligiga.
Modelning Tanlovi: Qanday Ishlaydi?
Model grepni beparvo tanlamaydi — u vazifaga qarab yo'naladi. Semantik (LSP) vosita chaqiruvlarining ulushi, agar ikkalasi ham mavjud bo'lsa va agent erkin tanlashsa.
Kod bazasi ham muhim edi. Toza TypeScript repositoriyasida, LSP-bazali navigatsiya F1 o'zgarishini keltirmadi va 16% ko'proq tokenlarni ishlatdi. Shovqinli TypeScript repositoriyasida, u F1 ni 0.246 ga oshirdi va 12% kam tokenlarni ishlatdi. Foydali bashorat leksik shovqin edi, emas tilning kuchli statik turlari.
Semantik Navigatsiyaning Qanday Qo'shimcha Qilishi
Men semantik navigatsiya javobini manba matnini o'z ichiga olgan shaklda o'zgartirdim. Semantik backend va referensiyalar to'plami o'zgarishsiz qoldi; faqat modelga qaytarilgan ma'lumot o'zgartirildi. Pass@1 rename vazifalarida 0.67 dan 0.83 gacha oshdi, keyingi fayl o'qishlari esa 15.2 dan 3.2 gacha kamaydi.
Bu natija vositalar interfeysi uchun muhim tamoyilni tasdiqlaydi: vositalar aniq bo'lsa ham, har bir natijani tahlil qilish uchun bir nechta qo'shimcha harakatlar talab qiladigan yomon agent ish oqimini yaratishi mumkin.
Chiqish o'zgarishi post-training ma'lumotlari sabab bo'lgan yaxshilanishni isbotlamaydi. U shunchaki har bir javobni tahlil qilish uchun kamroq harakatlar talab qilishi sababli yaxshilanishga yordam bergan bo'lishi mumkin.
Asl manba: agentconnect.md