AI ඒජන්ට් එකක් දිගු කතාබස් අතරේ context window එකේ සීමාවට වැටෙන්න, පරණ පණිවුඩ සාරාංශ කරලා පද්ධතියේ පූර්ණ පණිවුඩ ගණන අඩු කරන ක්රියාවලියක් භාවිතා කරනවා. නමුත්, සමහර අවස්ථාවල මේ සාරාංශ කිරීම අඩු ප්රතිඵලයක් දෙනවා, ඒත් ඒක තවමත් නැවත නැවත ක්රියාත්මක වෙලා ටෝකන වියදම වැඩි කරනවා.
ලිඛකයා පෙනවූයේ, ඒජන්ට් එකේ process restart වුනාම, එය එකම සංවාදය නැවත නැවත සාරාංශ කරන බවයි. පසුගිය පංතියේ සාරාංශ 5 වරක් අඩු ප්රයෝජනයක් නොදෙයි, එත් පද්ධතියේ system prompt සහ tool schemas එකතුව 30K ටෝකනවලින් අඩු නොකරයි. එම නිසා, සාරාංශ කිරීමේ ලූප් එක නැවත නැවත පණිවුඩ ඉතිරිය අඩු කරනවා, නමුත් මුළු ප්රොම්ප්ට් එක තවමත් සීමා ඉක්මවා යයි.
මෙම ගැටලුවට මූලික හේතුව, මතකයේ පමණක් පවතින counter එකක් restart වීමත් සමඟ නැති වීමයි. ඒක ineffective compression count කියලා කියලා, සාරාංශය ප්රයෝජනවත් නොවූ විට ගණනය කරයි, දෙවරක් අසාර්ථක වීමෙන් පසු සාරාංශය නතර කරයි. නමුත් ඒ counter එක මතකයේ පමණක් තිබූ නිසා, සේවාය restart වුනාම නැවත 0 වෙලා, ඒජන්ට් එක අලුත්ම සාරාංශයක් කරයි.
මෙම ගැටලුවට විසඳුම් ලෙස, ලේඛකයා SQLite දත්ත ගබඩාව භාවිතා කර, counter එක දීර්ඝකාලීනව සුරකින්න තීරණය කළා. ඒ සඳහා ත්රි-පියවර ක්රියාමාර්ගයක් ගත්තා:
- සැසියට අදාළ compression_ineffective_count තීරුවක් sessions වගුවට එක් කළා.
- දත්ත ගබඩාවෙන් counter එක ලබාගෙන, සකස් කර, මතකයේ සහ දත්ත ගබඩාවේ එකවර යාවත්කාලීන කිරීමේ පද්ධතියක් සකස් කළා.
- අප්ඩේට් කිරීමේදී
_record_ineffective_compression_verdictමාර්ගයෙන්, අසාර්ථක සාරාංශය හෝ සාර්ථක සාරාංශය අනුව counter එක වැඩි හෝ පහල කර, එය දත්ත ගබඩාවේ සුරකිලා.
ඉතින්, සේවාය නැවත ආරම්භ කළාමත්, counter එක අතුරුදන් නොවෙයි, ඒජන්ට් එක අනිසි සාරාංශය නැවත නොකරයි. මෙය AI ඒජන්ට් වල token efficiency වැඩි කර, කාලය හා වියදම අඩු කරන ප්රයෝජනවත් යෝජනා වේ.
ශ්රී ලංකාවට ඇති වැදගත්කම
ශ්රී ලංකාවේ AI සංවර්ධකයින්, startups, සහ විද්යාලීය සිසුන් සඳහා මෙම නවීන ගැටළු විසඳුම වැදගත්. ප්රථමයෙන්, token පරිභෝජනය අඩු වීම නිසා cloud සේවා වියදම් අඩු වේ – මෙය සීමිත සම්පත් ඇති ආයතනවලට විශාල ආරක්ෂාවක්.
දෙවැනි, පද්ධතියේ restart හෝ crash recovery සිදු වූ විට, එම ගැටළුව නැවත නොපැමිණීම නිසා, AI chatbot, virtual assistant, හෝ automated customer support සේවාවන්ගේ විශ්වාසනීයතාව වැඩි වේ.
අවසන් වශයෙන්, SQLite පදනම්ගත දීර්ඝකාලීන counter එකක් භාවිතා කිරීම, ශ්රී ලංකාවේ developers ලට open‑source ආකාරයෙන් data persistence පදනම් කරගැනීමට උදව් කරයි, එමඟින් තවත් AI‑related bugs සකස් කිරීමේ අත්දැකීම් ගොඩනැගීමට පදනමක් සපයයි.
මෙම නවීන පරිසරය, AI ක්ෂේත්රයේ ශ්රී ලංකාවේ තාක්ෂණික ප්රගතියට නව පියවරක් බවට පත්වේ.
