AI ක්ෂේත්රයේ විශාල භාෂා ආකෘති (LLM) වර්ධනය වෙමින්, ඒවායෙහි සැබැවින්ම භාවිතා කිරීමේ අවශ්යතාවය දැන් වඩාත් ඉහළට පැන නැඟී ඇත. නමුත් LLM‑වලට අදාළ ප්රතිචාර වේගය, පිරිවැය සහ ආරක්ෂාව යන ගැටළු නිවැරදිව කළමනාකරණය නොකළහොත්, පාරිභෝගික අත්දැකීම අඩු වීමක් සහිතව පෙනෙයි.
LLM නිෂ්පාදනයේ ප්රායෝගික ආකෘතිය
developerz.ai සමාගම තම AI‑සහයෝගී SaaS සේවාවන් සඳහා සකස් කළ පද්ධතියේ පියවර 5ක් ඉදිරිපත් කර ඇත. මෙහි ප්රධාන කොටස් පහත පරිදි වේ:
- ආගන්තුක API: ඉල්ලීම් පිළිගැනීම, රේට්‑ලීමට් සහ ඉක්මන් පිළිතුරු ලබා දීම.
- ඉල්ලීම් පෝලිම: RabbitMQ හෝ SQS වැනි පද්ධති භාවිතා කර, භාරකාරක වැඩකාරක (Celery) වෙත ඉල්ලීම් බෙදා හරිනු ලැබේ.
- අසින්ක් වර්කර්: ඉල්ලීම් රැස් කර, RAG (Retrieval‑Augmented Generation) ලේඛන එක්කර, LLM වෙත යොමු කරයි.
- LLM සේවාව: OpenAI, Anthropic වැනි සත්කාරක API හෝ ස්වයං පාලනය කරන FastAPI wrapper එකක්.
- කැෂ් සහ මැනුම්: Redis කැෂ්, Prometheus, Grafana භාවිතයෙන් කාර්යක්ෂමතාවය පාලනය කරයි.
මෙම වෙන් කිරීමෙන් පරිශීලක‑මුහුණත <200 ms> වේගයෙන් පිළිතුරු ලබා දෙන අතර, බරපතල ගණනය කිරීම පසුබැසී සිදු වේ.
වේගය, පිරිවැය හා ආරක්ෂාව කළමනාකරණය
LLM සපයන්නන්ට ටෝකන් අනුව ගාස්තුව ගෙවිය යුතු බැවින්, ඉල්ලීම් කෙටි කිරීම (MAX_TOKENS = 256) හා ප්රාථමික සංක්ෂේපනය කර පරිභෝගය පාලනය කළ යුතුය. ඒ සම්බන්ධයෙන් Redis කැෂ් භාවිතයෙන් නැවත නැවත එම ප්රශ්නවලට වේගවත් පිළිතුරු ලබා දිය හැකිය. ස්වයං පාලිත ආකෘති සඳහා බහු‑ප්රොම්ප්ට් එකට එකවර GPU කෝඩ් එකක් භාවිතා කිරීමෙන් කාර්යක්ෂමතාව වැඩිවේ.
ආරක්ෂාත්මක පියවර ලෙස, ඇතුළත් දත්ත පිරිසිදු කිරීම, ප්රතිඵල විශ්ලේෂණය (BERT‑මොඩලයක්) සහ මනුෂ්ය‑සහයෝගිතාව (code generation වැනි ඉහළ අවදානම් ක්රියා) අත්යවශ්ය වේ.
ශ්රී ලංකාවට ඇති වැදගත්කම
ශ්රී ලංකාවේ තරුණ සංවර්ධකයින්, ව්යාපාරිකයින් සහ විද්යාල/විශ්වවිද්යාල සිසුන්ට LLM‑වල නිෂ්පාදනයේ එක් කිරීමේ මේ පියවරයන් ගැඹුරු අවස්ථා ලබා දේ.
- වෙබ් අඩවි, මාර්කට් පණිවිඩ, කේත උදාහරණ වැනි ද්රව්ය ඉක්මනින් ජනනය කර, නිෂ්පාදන වේගය වැඩි කරයි.
- RAG ආකෘතියෙන් ද්රව්ය සෙවීමේ නව පරිසරයක් ගොඩනඟා, දැනුම තරුණයින්ට තත්විකව ලබා ගත හැකිය.
- අඩු පිරිවැය, කැෂ් සහ බච් ප්රතිකාරයන් මඟින් AI සේවා ස්ථාපනය කිරීමේ මුලික පූර්ව‑වියදම අඩු කරයි.
- ආරක්ෂාකාරී පිරික්සුම් මාර්ගයන් නිසා, සිසුන්ගේ පෞද්ගලික තොරතුරු හෝ ව්යාපාරික රහස් තොරතුරු රැකගත හැකිය.
එමනිසා, ශ්රී ලංකාවේ තාක්ෂණික ආරම්භකයන්ට AI‑චලිත සේවාවන් ඉක්මනින් නියෝජනය කර, ගෝලීය වෙළඳපලේ තරඟශීලිත්වය ලබා ගැනීමට ඉඩ සැලසේ.
අවසානයේ, LLM‑වල නිෂ්පාදනයේ එක් කිරීමේ සැලසුම් නිවැරදිව අනුගමනය කර, පිරිවැය, වේගය හා ආරක්ෂාව අතර සමබරතාවයක් රඳවා ගත හැකිය. මෙය ශ්රී ලංකාවේ AI‑පදනම් ව්යාපාර සඳහා අනාගතයේ මූලික පදනමක් වේ.
