Microsoft සපයන AutoGen බහු-ඇජන්ට් ප්රවණතාවය, වැඩ බෙදා ගැනීමට ඉතා සුදුසු වුවද, එහි මූලික මතක සැකසුම නිසා නිෂ්පාදන පරිසරයේ බජට් අභියෝගයක් ඉදිරිපත් කරයි.
උදාහරණයක් ලෙස, RoundRobinGroupChat නමින් 3 ඇජන්ට් (Planner, Coder, Reviewer) එක්ක 10 පාර (සමස්ත 3-4 පාරක් එක් එක් ඇජන්ට්ට) ක්රියාත්මක කළහොත්, සාමාන්යයෙන් අඩු වියදමක් බවක් අපේක්ෂා කරයි. නමුත් AutoGen හි පරිපාලකය එක් එක් ඇජන්ට්ට UnboundedChatCompletionContext නමැති සීමාවකින් තොර මතකයක් ලබා දේ.
මෙම සීමාවකින් තොර මතකය යනු, සංවාදයේ සියලු පණිවිඩයන් කැමතිම පරිදි එකතු කර තබා ගැනීමයි. ඒ නිසා, එක් ඇජන්ට්ට පළමු වරට පණිවිඩයක් ලැබුනත්, දෙවන වරට එයට පෙර ඇති සියලු පණිවිඩයන්ම එක් කරලා LLM (Large Language Model) වෙත යවයි. ප්රතිඵලයක් ලෙස, එක් වාරයකට t‑1 පණිවිඩයන්ගේ ටෝකන් ගණන එකතු වේ.
ගණිතමය විශ්ලේෂණය කිරීමේදී, සංවාදයේ සම්පූර්ණ ටෝකන් භාවිතය O(N × T²) ලෙස පෙන්වයි. මෙහි N = ඇජන්ට් ගණන, T = සංවාද පාර ගණන, m = පණිවිඩයක සාමාන්ය ටෝකන් ගණන (කෝඩ් වැඩකට 300 ටෝකන් වැනි). 3 ඇජන්ට් 10 පාරක් (T=10) ක්රියාත්මක කළහොත්, අවසන් වාරයේ එක් ඇජන්ට්ට 9×m ටෝකන්, මොට්ටම 3×(1+2+…+9)×m ≈ 135m ටෝකන් භාවිත වේ. එනම්, අපේක්ෂිත වියදමට 15 ගුණයක් පමණ වැඩිවීමක්.
ශ්රී ලංකාවට ඇති වැදගත්කම
- ඉගෙනුම් ව්යාපාරිකයින් – AutoGen භාවිතා කරන විශ්වවිද්යාල සිසුන්ට, ටෝකන් වියදම කළමනාකරණය කිරීමේ වැදගත්කම පෙන්වයි. සීමාවකින් තොර මතකය භාවිතා කරන්නේ නම්, ව්යාපෘති පරිසරයේ අයවැය ඉතා ඉහළ යයි.
- ඩෙවලොපර්ලා – ප්රොජෙක්ට් සැලසුම් කරමින් AutoGen සමඟ කේත සෑදීමේදී, සැලසුම්, කේත, සමාලෝචන ඇජන්ට් තුළ පාර ගණන වැඩි වීමේදී API ගාස්තු අධිකව ඉහළ යාම වැලැක්වීමට, පාර-සීමා කළ Context හෝ BufferedChatCompletionContext භාවිතය අත්යවශ්ය වේ.
- ව්යාපාරිකයන් – AutoGen මත AI‑සහයෝගී සේවාවන් ගොඩනඟන සමාගම් සඳහා, අසීමිත මතකය නිසා සිදු වන ‘token tax’ හඳුනා ගැනීම, බජට් සැලසුම් සහ සේවා ගාස්තු පාලනයේ වැදගත් තොරතුරක් වේ.
ඉදිරියේදී, AutoGen සංවර්ධකයින්ට Context Size සීමා කිරීමේ විකල්පයක් හෝ Token‑Optimization උපකරණයක් එක් කරන්නේ නම්, මෙම ගැටලුව විසඳා, AI‑ඇජන්ට් සමග වැඩ කිරීම වඩාත් පරිසර හිතකාමී හා ආර්ථිකමය වනු ඇත.
අවසානයේ, AutoGen හි ‘hidden token tax’ ගැන අවධානය යොමු කර, නිවැරදි සැකසුම් සහ මිතුරන් සමඟ සාකච්ඡා කිරීම, AI‑ප්රොජෙක්ට් වියදම නියම ලෙස පාලනය කිරීමට මූලික පියවර වේ.
