LLM (Large Language Model) භාවිතා කරමින් නිෂ්පාදන හෝ සේවාවක් නිකුත් කළ පසු මාස තුනකට පසු බොහෝ සංවර්ධන කණ්ඩායම් "අපි තවද token පදනම්ව ගෙවන්නේද, නැත්නම් ස්වයං-හෝස්ට් කරගන්නද?" යන ප්රශ්නයට මුහුණ දෙයි. බොහොමයක් විමසුම අනුමාන මත පදනම්ව පවතින අතර, සැබෑ ගණිතය කවදාද ලාභය වෙනස් වනුයේ කියා කිසිවක් නොදේ.
API එකේ ප්රධාන වාසිය වන්නේ ඔබ භාවිතා කරන පමණට ගෙවන බවයි. GPU එකක් රාත්රී 3ටත් නිශ්ශබ්දව වැඩ කරන අවස්ථාවක් නැත, සේවා පද්ධතියක් නඩත්තු කිරීමේ ගාණත් නැත. ඔබගේ token භාවිතය අඩු හෝ ඉදිරිපත් වීමේ රූපය අස්ථිර නම්, API එක අත්යවශ්යයි.
ස්වයං-හෝස්ට් කිරීමේදී ඔබට නිශ්චල ගාණයක් (GPU මිල, අමෝට්රිසේශන්, මෙහෙයුම් කාර්ය මණ්ඩලය) ගෙවීමට සිදු වේ. එම ගාණය ගෙවා අවසන් වූ පසු, එක් එක් token එකට අමතර ගාණයක් අඩුය. ඒ නිසා තීරණය සරලයි: ඔබගේ මාසික token ප්රමාණය, ඒ නිශ්චල ගාණයට වඩා අඩුද? එය break-even ලක්ෂ්යයයි.
Break-even තීරණයට බලපාන හය ප්රධාන කරුණු:
- මාසික token ප්රමාණය – වැඩි වශයෙන් භාවිතා කළහොත් ස්වයං-හෝස්ට් වඩා සාර්ථකයි.
- ආදාන-ප්රතිදාන අනුපාතය – ප්රතිදාන (output) token ගාණය API ගාණයට වඩා වැඩිවීම GPU කාලය වැඩි කරයි.
- තත්ත්ව මට්ටම – 30B මෝඩලයක් භාවිතා කරන්නේ නම් API එකේ අති උසස් තත්ත්වය සමඟ සමාන නොවිය හැක.
- GPU මිල සහ අමෝට්රිසේශන් – හෝස්ට් කරන උපකරණයේ වියදම කෙලින්ම බලපායි.
- ඉදිරිපත් කිරීමේ ප්රතිශතය – GPU එක දිනයේ 8% පමණ භාවිතා කරනවා නම්, ඒක විදුලි ගාණයක් පමණයි.
- මෙහෙයුම් පිරිවැය – 2am දී ඇලර්ට් ලැබීම, පච්ච්රිකා, නවීකරණය වැනි කාර්යයන්.
අතුරු ගාණයන් පිළිබඳවත් අමතක නොකළ යුතුයි. ස්වයං-හෝස්ට් කිරීමේදී fine‑tuning, data storage, evaluation infrastructure, engineers’ time වැනි වියදම් එකතු වේ. API භාවිතයේදී මිල වෙනස්වීම, rate limits, සහ ඔබගේ දත්ත තෙවන පාර්ශ්වයට යන ගැටලුවක් ඇත.
ශ්රී ලංකාවට ඇති වැදගත්කම
ශ්රී ලංකාවේ තාක්ෂණික ආරම්භකයන්, විශ්වවිද්යාල සිසුන්, සහ ස්ථාපිත ව්යාපාර සඳහා මෙම ගණිතය විශේෂ වැදගත්කමක් ගනී. කුඩා startup එකක් token පරිභෝගය අඩු නම්, API එකේ ගාණය අඩුවීම නිසා මුලික වියදම අඩු වේ. නමුත්, බ්රහත් scale එකකට යන ආයතනයක්, උදාහරණයක් ලෙස AI‑driven chatbots හෝ summarisation services, ස්වයං-හෝස්ට් කිරීමේදී GPU වියදම අඩු කර, දත්ත රහස්යතාවය රැකගත හැක.
එසේම, ශ්රී ලංකාවේ රජයේ නීති හෝ ආරක්ෂක ප්රතිපත්ති අනුව රහස්ය දත්ත තෙවන පාර්ශ්ව API වෙත යැවීම අනුමත නොවිය හැක. එවැනි අවස්ථාවල ස්වයං-හෝස්ට් කිරීම අනිවාර්ය විසඳුමක් වේ. තවද, LLM Cost Calculator වැනි නිදහස් උපකරණ භාවිතයෙන් ව්යාපාරිකයන්ට තමන්ගේ break‑even ලකුණ සරලව ගණනය කළ හැකිය.
අවසන් වශයෙන්, ඔබගේ AI ව්යාපෘතියේ token භාවිතය, අවශ්ය තත්ත්වය, සහ ආරක්ෂක අවශ්යතා සැලකිල්ලට ගෙන, API හෝ ස්වයං-හෝස්ට් තීරණය ගත යුතුය. ගණිතය පරීක්ෂා කර, ඉදිරියට යාමට සුදුසු මාර්ගය තෝරන්න.
