AI යෙදුම් නිර්මාණය කිරීමේදී පණිවිඩයක් යවා පිළිතුරක් ලබා ගැනීම පමණක් නොව, එම සේවාවන් නිරන්තරයෙන් ක්රියාත්මක වීමේ විශ්වාසයද වැදගත් වේ. OpenAI SDK භාවිතා කරන සංවර්ධකයින්ට මෙය අභියෝගයක් වන අතර, නවතම විසඳුම VernLLM ලෙස හඳුන්වා දෙනු ලැබේ.
VernLLM යනු OpenAI‑compatible chat completion API සඳහා නිර්මාණය කර ඇති ලෙඩ් (lightweight) විශ්වාසනීය ලේයරයක් වන අතර, එක් අතුරින් retry, timeout, circuit‑breaker, caching, structured output, usage tracking වැනි ක්රියාකාරකම් සියල්ලම සපයයි. ඒ නිසා ඔබට එක් වරක් කේතයක් ලියලා, සියලු LLM ව්යාපෘති සඳහා ඒකම API එක භාවිතා කර හැක.
VernLLM හි ප්රධාන ලක්ෂණ:
- ස්වයංක්රීය retry සහ back‑off – තාවකාලික දෝෂවලදී පද්ධතිය ස්වයංක්රීයව නැවත උත්සාහ කරයි.
- Timeout & cancellation – ඉල්ලීම් අත්හිටුවීමට සහ අධික කාලය ගතවීමෙන් වළකින්න.
- Circuit breaker – සේවාදායකය අසාර්ථක වූ විට ඉල්ලීම් නවතා, පද්ධතිය සුවදෙන තෙක් රැඳී සිටී.
- Structured output with Zod schema – ප්රතිඵලවලට වර්ග-ආරක්ෂාව සහ තත්ත්ව පරීක්ෂාව.
- Provider‑native JSON schema – මොඩලයටම නිර්මාණය කරන JSON සැකසුම.
- Built‑in caching – ඔබේම cache adapter එකක් භාවිතා කර ප්රතිඵල සුරකින්න.
- එක් API, බහු providers – OpenAI, Groq, Mistral, DeepSeek, Cerebras, Together AI, Fireworks AI, Ollama, Anthropic, Gemini, AWS Bedrock, හා ඕනෑම HTTP‑compatible provider එකක් සමඟ කටයුතු කළ හැක.
මෙම සියලුම විශේෂාංග එකට එකතු කර තිබීම නිසා, සංවර්ධකයින්ට ඉන්ෆ්රාස්ට්රක්චර් නඩත්තු කිරීමේ බර අඩු කර, AI විශේෂාංග නිර්මාණයට කේන්ද්රවත්වීමට හැකියාව ලැබේ. නිෂ්පාදන පරිසරයේ අවශ්යතා—උදාහරණයක් ලෙස token භාවිතය නිරීක්ෂණය, අධික රේට් ලිමිට්, සහ අස්ථිර ප්රතිඵල—සියල්ල VernLLM මඟින් සරලව කළමනාකරණය කළ හැක.
ශ්රී ලංකාවට ඇති වැදගත්කම
ශ්රී ලංකාවේ තාක්ෂණික සමාජය සඳහා VernLLM එකඟතාවය විශාල වාසි ලබා දේ:
- සිසුන් – AI පාඨමාලා, රොබෝට් ප්රොජෙක්ට්, හා LLM‑චැට්බොට් නිර්මාණය කරන විද්යාර්ථීන්ට නවතම විශ්වාසනීය API පදනමක් ලබා දේ.
- සංවර්ධකයින් – කේතය ලියන වේලාව අඩුවී, retry, timeout වැනි පදනම් ලොජික් එකවරම ඇතුළත් කරගත හැකිය.
- ව්යාපාර – AI‑චැට්, ලේඛන විශ්ලේෂණ, හෝ පාරිභෝගික සේවා වැනි නිෂ්පාදනවල අඩු downtime සහ token tracking මගින් වියදම අඩු කරයි.
VernLLM MIT බලපත්රයකින් නිකුත් කර ඇති නිසා, ශ්රී ලංකාවේ ආරම්භක හා මධ්යම මට්ටමේ සංවර්ධකයින්ට ගාණු අඩුවෙන් භාවිතා කිරීමට හැක. ඔබේ AI ව්යාපෘතියේ විශ්වාසනීයතාවය උසස් කර ගැනීමට අදම VernLLM අත්හදා බලන්න.
