AI ආධාරක ඇප්පලිකේෂන් වල LLM (Large Language Model) භාවිතය වැඩි වීමත් සමඟ බිල් අධිකවෙයි. බිල් වැඩි වීමේ හේතුව හඳුනා ගැනීමට බොහෝ සංවර්ධකයින් මොඩලයක් පමණක් බලනවා, නමුත් ඒකෙන් ප්රශ්නයට පිළිතුරක් ලැබෙන්නේ නැත.
මෙම ගැටලුව විසඳීමට, ලේඛකයා සියලු LLM ඇමතුම් වලට "feature" සහ "operation" වැනි තොරතුරු එක් කරමින්, එක් එක් ඉල්ලීමේ ටෝකන් ගණන සටහන් කරගත්තා. ඒ අනුව, එකම මොඩලයක් භාවිතා කරත්, කොහොමද කුමන විශේෂාංගය වැඩි ටෝකන් ගෙවන්නේ කියා දැකගත හැකි වුණා.
උදාහරණයක් ලෙස, චැට්, ලේඛන සාරාංශ, ටිකට් වර්ගීකරණ, සතිපතා වාර්තා සැකසීම යන නාලිකා හතරක් තිබේ. බිල් 30% කින් වැඩි වූවක් දැකූ විට, මොඩලයේ නාමය පමණක් බැලීමෙන් ප්රශ්නය කුමක්දැයි හඳුනාගත නොහැක. එය චැට් ගනුදෙනු වැඩි වීමද, සාරාංශය සඳහා සම්පූර්ණ ලේඛන යැවීමද, හෝ වර්ගීකරණයේ ප්රොම්ප්ට් දිගුවද, වාර්තා එජෙන්ට් එකේ ප්රතිපත්ති ගැටළුවද විය හැක.
මෙවැනි විස්තර සටහන් කිරීමේ ක්රමයක් Node.js භාවිතයෙන් සරලව සකස් කළා. ඉල්ලීමේ දත්ත JSONL ගොනුවකට ලියයි; මෙහි timestamp, feature, operation, model, input_tokens, output_tokens, total_tokens, latency_ms, status වැනි ක්ෂේත්ර ඇතුළත් වේ. ඒ අනුව, පහත ප්රශ්න වලට සෘජු පිළිතුරු ලැබේ:
- කොහොමද විශේෂාංගයක් වැඩි ටෝකන් භාවිත කරනවා?
- ඉන්පූට් ටෝකන් ප්රතිදානයට වඩා වේගයෙන් වැඩි වෙලාද?
- අවශ්ය නොවන මොඩලයක් භාවිතා කරමින් වියදම වැඩි වෙලාද?
ඉතින්, මොඩලය වෙනස් කිරීම පමණක් නොව, වැරදි විශේෂාංග හෝ ප්රොම්ප්ට් සැකසීමද වියදම අඩු කිරීමේ ප්රධාන ක්රමය බව පැහැදිලි වුණා.
ශ්රී ලංකාවට ඇති වැදගත්කම
ශ්රී ලංකාවේ තාක්ෂණික සමාජය, AI-ආධාරිත සේවාවන් නිර්මාණය කරන සංවර්ධකයින්ට මෙම පදනම ඉතා ප්රයෝජනවත්. විශේෂාංග අනුව ටෝකන් මිනුම් කිරීමෙන්, පරිසර හිතකාමී cloud වියදම පාලනය කර ගත හැකි අතර, ආරක්ෂාකාරීව දත්ත පාලනය කර ගැනීමටත් උපකාරී වේ. මෙය startup කම්පැනි, SaaS සේවා, සහ විශ්වවිද්යාල සිසුන්ට AI ප්රොජෙක්ට් වල කාර්යක්ෂමතාව වැඩි කිරීමට මාර්ගයක්.
ඉන්පසු, සමාජීය වශයෙන් AI-චලිත නිෂ්පාදන වල ගුණාත්මක පාලනය, පාරිභෝගික විශ්වාසය වැඩි කිරීම, සහ දේශීය තාක්ෂණික නිපුණතා වර්ධනයට දායක වේ.
අවසානයේ, ටෝකන්-පදනම්වූ මිනුම් පද්ධතියක් සකස් කර, LLM වියදම පාලනය කරගත හැකි බව තේරුම් ගන්නා ලදි. මේ ක්රමය අනුගමනය කර, ශ්රී ලංකාවේ AI පදනම් පරිසරය තවත් ශක්තිමත් කරගත හැක.
