VernLLM v1.0.0 නව සංස්කරණය එළිදැක්වුණි – කෑෂ් පද්ධතියේ වැදගත් වෙනස්කම් සමඟ

දැනටමත් 1,000 කට අධික බාගත කිරීම් ලැබූ VernLLM, දැන් v1.0.0 සංස්කරණය සමඟ නව ගුණාංග සහ වැදගත් බිඳවැටුම් (breaking) වෙනස්කම් හඳුන්වා දී ඇත. LLM (Large Language Model) සංවාද වල රීට්‍රයි, ටයිම්ඕට්, කෑෂ්, සර්කට් බ්‍රේකර්, සන්රචිත ප්‍රතිඵල සහ භාවිතය පිරික්සුම වැනි කාර්යයන් එකම typed interface එකක් තුළ සපයන VernLLM, OpenAI‑compatible සපයන්නන්, Anthropic, Gemini, AWS Bedrock වැනි බහු ප්‍රොවයිඩර්‌වලට ඇඩැප්ටර් ලබා දේ.

මෙම නව සංස්කරණයේ ප්‍රධාන බිඳවැටුම් වෙනස්කම CacheAdapter.get() ක්‍රියාවලියයි. පෙරදී එය Promise වශයෙන් ප්‍රතිඵල දෙන්නේ, ඒ නිසා කීයක්ද කෑෂ් නොමැතිද, හෝ කෑෂ් තුළ null අගයක් තිබේද කියා වෙන්ව නොදැනගන්නා ලදී. v1.0.0 හි get() දැන් Promise<{ hit: boolean; value: T | null }> ලෙස ආපසු දෙයි. hit:true යනු කීයක් කෑෂ් තුළ තිබෙන බව, value:null වුවත් එය කෑෂ් කරුණු බවයි; hit:false නම් කිසිදු කෑෂ් නොමැති බවයි. InMemoryCacheAdapter භාවිතා කරන අය වෙනස්කමක් අවශ්‍ය නැත, නමුත් Redis, Upstash වැනි අභිරුචි ඇඩැප්ටර් ලියන දෙනාට get() ක්‍රියාවලිය ඉහත ආකාරයට යාවත්කාලීන කළ යුතුය.

අනෙකුත් සුළු නවතාපන අතර, systemPrompt දැන් විකල්ප (optional) බවට පත් විය. එය ඉවත් කළහොත් පද්ධතියට පණිවිඩයක් යැවීමේ අවශ්‍යතාව නැත. AnthropicClient, GeminiClient, BedrockConverseClient දැන් පොදු (public) වර්ග ලෙස නිකුත් කර ඇති නිසා, ඔබේ කෝඩ් එකේ ඒවාට type සකස් කිරීම පහසුය. නව ඇඩැප්ටර් barrel export එකත් එක්ක fromAnthropic, fromGemini, fromBedrock, fromFetch, fromOpenAICompatible වැනි නාමයන්ගෙන් import කිරීම සරල කර ඇත.

In‑memory කෑෂ් එකට දැන් size limit එකක් යෙදෙන බැවින්, අති විශාල දත්ත එකතු වීමෙන් පසු පැරණි ඇතුළත් කරුණු ඉවත් කරයි. අභ්‍යන්තර වර්ග (internal types) නව මොඩියුලයන්ගෙන් වෙන් කර, පරීක්ෂණ ආවරණය (test coverage) systemPrompt, ඇඩැප්ටර් payload, කෑෂ් ඇඩැප්ටර් edge case වැනි තත්ත්වයන්ට වැඩි කර ඇත.

ශ්‍රී ලංකාවට ඇති වැදගත්කම

ශ්‍රී ලංකාවේ සිසුන්, නිර්මාණකරුවන්, ව්‍යාපාරිකයින් සඳහා VernLLM නවතම සංස්කරණය බොහෝ ප්‍රයෝජන ලබා දෙයි. ප්‍රථමයෙන්, කෑෂ් අගය null වීමත් non‑null වීමත් වෙනස්කම් නිසා, එකම LLM ඇමතුම නැවත නැවත සිදු නොවීමෙන් API පාවිච්චිය අඩු කර, වියදම ඉතිරි කරයි. දෙවැනිව, systemPrompt විකල්ප කිරීමෙන් අඩු latency සහ අඩු පණිවිඩ ප්‍රමාණයක් සමඟ API call එකක් කළ හැකි වීම, සිසුන්ට ඉගෙන ගැනීමේ වේගය වැඩි කරයි. තෙවැනිව, නව ඇඩැප්ටර් export සහ public client type ගණනාවක් නිසා, OpenAI, Gemini, Anthropic වැනි ගෝලීය AI සේවා සමඟ ඉක්මනින් ඒකාබද්ධ වීමේ හැකියාව ලැබේ. එමඟින් ශ්‍රී ලංකාවේ තාක්ෂණික ආරම්භකයන්ට ලොව පුරා AI‑based සේවා නිර්මාණය, SaaS පදනම්ව ව්‍යාපාර ආරම්භ කිරීම, හෝ පර්යේෂණ කටයුතු සඳහා වේගවත් පදනමක් සැපයේ.

ඉදිරියට npm install vern-llm@latest කමාන්ඩ් එකෙන් නවතම සංස්කරණය ස්ථාපනය කර, ඔබේ කෝඩ් එකේ custom cache adapter එකේ get() ක්‍රියාවලිය උපුටා ගැනීම මත, production පරිසරයට ගෙන යා හැකිය. මෙයින් ඔබේ AI‑driven chat application එක තවත් ස්ථාවර, වේගවත්, ආරක්ෂිත වේ.

VernLLM v1.0.0 නව ගුණාංග, වැඩිදියුණු කළ error handling සහ කෑෂ් කළමනාකරණය සමඟ, ශ්‍රී ලංකාවේ AI සංවර්ධනයේ නව මට්ටමකට පියවර තබයි.