OpenSquilla නව AI රවුටරය, ඔබේ විශාල LLM මොඩලයන් ඉදිරියේ කුඩා මැෂින් ලර්නින් ගැලපීමක් තබා, ඉල්ලුමක් පැමිණෙන වාරයකට අඩුම වියදමෙන් ඒක හසුරවන්න පුළුවන් මොඩලය තෝරයි. මෙය SquillaRouter කියන ස්ථානීය ක්ලැසිෆයර් එකේ මූලිකත්වයයි.
මෙම රවුටරය මයික්රොකර්නෙල් ආකෘතියක් අතුරින් ක්රියා කරයි. රවුටරය, පර්සස්ටිං මැමරි, සෙට්-ලෙයර් සෑන්ඩ්බොක්ස්, වෙබ් සෙර්ච්, උපාංග-අභ්යන්තර embeddings වැනි සියලුම කොටස් එකම තිරය තුළ සම්බන්ධ වේ. ඒ නිසා වෙබ් UI, CLI, හෝ චැට් චැනලයක් හෝ එකම ක්රමයෙනි ඉල්ලුම පරිච්ඡේදනය, මෙවලම් ඇණවුම්, නැවත උත්සාහ කිරීම සහ තීරණ ලොග් කිරීම සිදු වේ.
OpenSquilla එකම ස්ථානයෙන් Feishu, Telegram, DingTalk, QQ, WeCom, Slack, Discord වැනි බොහෝ පණිවිඩ සේවා සමඟ සම්බන්ධ කර ගත හැක. Matrix සඳහා විකල්ප පළකිරීමක් අවශ්ය වුවත්, ප්රධාන LLM සැපයුම්කරුවන් – TokenRhythm, OpenRouter, OpenAI, Anthropic, Ollama, DeepSeek, Gemini, Qwen/DashScope සහ තවත් විස්තීර්ණයක් – සමඟ සෘජුව සම්බන්ධ විය හැක. එමනිසා රවුටරය එක් සැපයුම්කරුගේ මොඩල පිරිමැස්මක් පමණක් නොව, සියලුම සැපයුම්කරුවන් අතර තේරීම කළ හැක.
SquillaRouter යනු API ඇමතුමක් නොව, ඔබේ පරිගණකයේ ස්ථාපිත ONNX Runtime, LightGBM, NumPy, Tokenizers ආදිය සමඟ ක්රියා කරන ස්ථානීය මොඩලයක්. Windows හි Visual C++ redistributable, macOS හි OpenMP පුස්තකාලය වැනි ස්වාභාවික අවශ්යතා තිබේ; එවා නොමැති නම් රවුටරය අක්රිය වීමේ තැනැත්තුවක් නොවේ, ඒ වෙනුවට ඒකක මොඩලයක් භාවිතා කරයි.
ශ්රී ලංකාවට ඇති වැදගත්කම
ශ්රී ලංකාවේ ඩෙවලපර්, ආරම්භක ව්යාපාරිකයන් සහ විශ්වවිද්යාල සිසුන්ට OpenSquilla ගෙනෙන ප්රධාන වාසිය වන්නේ වියදම අඩු කිරීමයි. බාහිර AI සේවා වලට අධික ගාස්තු ගෙවීමේ අවශ්යතාවයක් නැතිව, ස්ථානීය රවුටරයක් භාවිතා කරමින් බොහෝ LLM සැපයුම්කරුවන් අතර මිල අඩු මොඩලය තෝරාගත හැක. මෙය token‑efficiency ලෙස හැඳින්වෙන අතර, සීමිත බජට් එකක් තිබෙන ස්ථානයකට “එකම බජට්, වැඩි හැකියාව, හොඳ ප්රතිඵල” කියන අදහසට සෘජු සම්බන්ධයක් වේ.
තවද, රවුටරය ස්වයංක්රීයව තම traffic‑වලින් ලේබල් කරන දත්ත එකතු කර, එම දත්ත මත ඉගෙන ගැනීමේ හැකියාව ඇත. එම නිසා ශ්රී ලංකාවේ කුඩා කණ්ඩායම්ද, පර්යේෂණ කණ්ඩායම්ද, තමන්ගේ AI යෙදුම් දිගටම හදාරා, කාලයත් සමඟ තීරණ ගුණාත්මකව වැඩි කර ගත හැක.
OpenSquilla නවතම 0.5.0 Preview 4 සංස්කරණය ලෙස GitHub හි 6,000 කට අධික තාරකාවන් (stars) ගෙන තිබේ; මෙය ප්රායෝගිකව පරීක්ෂා කරන සංඛ්යාලේඛන පදනම්ව, අඩු මිලට AI ක්රියාත්මක කිරීමට බලාපොරොත්තුවෙන් සිටින සංවර්ධකයින්ට ආශාවක් දෙනවා.
ඔබත් ඔබේ ව්යාපාරය හෝ පර්යේෂණය සඳහා AI වියදම පාලනය කරගැනීමට, OpenSquilla රවුටරය උත්සාහ කර බලන්න. එය ඔබේ AI පද්ධතියේ “ඇතුළත් දොර” වශයෙන් ක්රියා කර, අනාගතයේදී වඩාත් පිරිවැය‑මිතුරුවේ AI පරිසරයක් ගොඩනැගීමට මඟ පෙන්වයි.
