CrewAI, GitHub හි අති ජනප්රිය AI ඇජන්ට් සංවිධානය කිරීමේ ෆ්රේම්වර්ක් එක, නවතම පරීක්ෂණයක් අනුව Token පිරිවැය ගැන අපේක්ෂා කළේට වඩා බරපතල බව හෙළි කරයි. මෙහි මුල් අදහස “ඇජන්ට් කණ්ඩායමක් නිර්මාණය කර, කාර්ය පවරා, ඒවා එකට වැඩ කරනවා බලන්න” යන්නයි, නමුත් පසුබැසීමේ ප්රතිපත්තියට සලකුණු ගණනේ ඝනත්වය (quadratic) ඇති බව නොපෙන්වයි.
CrewAI හි කාර්යයන් පෙළපාලියෙන් (sequential) ක්රියාත්මක වේ. එක් එක් කාර්යයට ‘context list’ එකක් තිබේ; එය නිශ්චිතව නියම නොකළහොත්, පසුගිය සියලු කාර්යයන්ගේ ප්රතිඵල පවතින කාර්යයට එක් කරයි. එම නිසා කාර්ය 1 හි ප්රතිඵලය කාර්ය 2 රේ Prompt එකට, කාර්ය 1 + 2 හි ප්රතිඵලය කාර්ය 3 ට, මේ ආකාරයෙන් ගොඩක් වැඩි වෙයි. ප්රතිඵලය සාරාංශ කිරීම, කපනවා, හෝ පනස් කිරීම නොකෙරේ – සම්පූර්ණ පෙළම එක් කරයි. එම නිසා Token ගණන රේඛීයව (linear) එකතු වීමේ වෙනුවට සමස්ත පරිමාණයට වර්ගීය (quadratic) ලෙස වැඩි වේ.
උදාහරණයක් ලෙස, 5 කාර්ය (සමහර විද්යාව + ලේඛන කණ්ඩායම) එකක් සලකා බැලූ විට, එක් එක් කාර්යයේ ප්රතිඵලය 500 Token වශයෙන් ගණනාවක් වන අතර, සමාන්ය System Prompt එක 800 Token වේ. එවිට මුළු Input Token ගණන 9,000 වන අතර, නියමිත 4,000 Token පමණට වඩා 2.25 ගුණයක් වැඩි වේ. වැඩි ප්රතිඵල (2,000 Token) සමඟ ගණන 24,000 Token දක්වා ඉහළ යයි – එනම්, නියමිත අගයට 6 ගුණයක් වැඩිවීමකි.
ශ්රී ලංකාවට ඇති වැදගත්කම
ශ්රී ලංකාවේ තාක්ෂණික සමාජයට මෙම ගැටළුව බොහොම වැදගත්. ඉන්දීය, පකිස්ථාන, චීනයේ වැනි පදනම් වෙළඳපොලවල වඩාත්ම ඉක්මනින් LLM API භාවිතා කරන සිසුන්, නිර්මාතෘන්, ව්යාපාරිකයින්ට Token පිරිවැය අධික වීම අර්ථවත් අඩුපාඩු ගෙන එයි.
- සිසුන් – පර්යේෂණ, කේත ලිවීම, ලේඛන නිර්මාණය සඳහා AI භාවිතා කරන විට, අධික Token පිරිවැය නිසා පරිගණක පිරිවැය ඉහළ යයි.
- නිර්මාතෘන් – ප්රොජෙක්ට් වල ප්රෝටොටයිප් පරීක්ෂා කිරීමේදී, අතිරේක Token ගණන වැඩිවීම නිසා බජට් පාලනය අභියෝගයකට පත් වේ.
- ව්යාපාර – AI‑කේන්ද්රිත සේවාවන් (චැට්බොට්, ලේඛන ස්වයංක්රීය කිරීම) සපයන සමාගම්ට, Token පිරිවැය අධික වීම සේවා මිල ඉහළ දැමීමට හේතුවක් වේ.
ඒ නිසා, CrewAI භාවිතා කරන සංවර්ධකයන්ට Context සැකසුම නිවැරදිව සකස් කිරීම, අවශ්ය නොවන ප්රතිඵල සංක්ෂේප කිරීම, Prompt Caching භාවිතා කිරීම වැනි ක්රියාමාර්ග ගැනීමට අවශ්ය වේ. මෙය Token පිරිවැය අඩු කර, AI සැලසුම් වඩා කාර්යක්ෂම කරයි.
අවසානයේ, CrewAI හි ඝනත්වය (quadratic) ගුණය නිසා Token පිරිවැය ඉහළ යන බව දැක්කාම, පරිශීලකයින්ට මෙය හඳුනා ගනිමින්, සැලසුම් පරිච්ඡේදනය කර ගැනීම අත්යවශ්ය වේ. ඉදිරි කාලයේ, මෙම ගැටළුව සම්බන්ධයෙන් සංවර්ධක සමාජය විසින් නව විසඳුම් හඳුන්වාදීම අපේක්ෂා කරමු.
