සමහර දිනක, සංවර්ධකයෙක් “ghost” නමින් නව වෙබ් යෙදුමක් සකසා, බ්රවුසරයක් තුළම පූර්ණ AI භාෂා ආදර්ශයක් (LLM) ධාවනය කළේය. කිසිදු සර්වර, GPU හෝ ස්ථාපනය අවශ්ය නොවී, පළමු වරට පූර්ණයෙන්ම වෙබ් අඩවියට පිවිසීමේදී මොඩලයක් බාගත කර, පසුදා සෑම විටම කේෂේ (cache) එකෙන් පමණක් ක්රියා කරයි.
මෙම පද්ධතිය wllama නම් WebAssembly බැඳීමක් භාවිතා කරයි; එය llama.cpp හි GGUF ප්රමාණවත් කරන ලද මොඩලයන් බ්රවුසරයේ WASM SIMD තාක්ෂණය සමඟ සෘජුව ධාවනය කරයි. පළමු පිවිසුමේදී HuggingFace වෙතින් මොඩලය බාගත කර, Cache API මඟින් සුරකිමින්, ඊළඟ පැමිණිලි සියල්ල තත්ක්ෂණයෙන් ලෝඩ් වේ. තේරීමට Qwen2.5 1.5B, Qwen2 0.5B, TinyLlama යන ත්රිත්වයක් ඇත, ඒ අතර Markdown පරිවර්තනය, RAG (ආදාන ලේඛන) සහ කණ්ණාඩි (voice) ඇතුළත් වේ.
මෙය වැදගත් වන්නේ, AI සේවා සඳහා අන්තර්ජාල සම්බන්ධතාවය, API යතුරු හෝ වියදම් අවශ්ය නොවීමයි. පරිශීලකගේ සියලු ටෝකන තමාගේ උපාංගයේම රඳා පවතින බැවින් දත්ත රහස්යතාවය ඉහළ යයි. CPU මත 3‑8 ටෝකන/තත්පර වේගයක් තිබුණද, පෞද්ගලික පරිසරයක AI කතාබස් කිරීමේ හැකියාව ලබා දේ.
ශ්රී ලංකාවට ඇති වැදගත්කම
ශ්රී ලංකාවේ සිසුන්, සංවර්ධකයින් සහ ව්යාපාරිකයින්ට මෙම තාක්ෂණය විශාල අවස්ථාවක්. මොඩලයක් බාගත කර, ඉන්ටර්නෙට් නොමැතිවත් AI සමඟ කතාබස් කළ හැකි බැවින්, ගුරුවරුන්ට පන්ති කාලීන AI උපකරණයක් ලෙස, සංවර්ධකයින්ට පරීක්ෂණ හා ප්රෝටෝටයිප් සෑදීමට, ව්යාපාරිකයින්ට පාරිභෝගික සේවාවන්ට අඩු වියදමින් AI භාවිතා කිරීමට අවස්ථාව ලැබේ.
- සිසුන් – ප්රායෝගික AI කේතන අත්හදා බැලීම, පර්යේෂණ ව්යාපෘති සඳහා මොඩල භාවිතය.
- සංවර්ධකයින් – සර්වරයකින් තොරව AI ඇප්ලිකේෂන් පරීක්ෂා කිරීම, වේගවත් ප්රෝටෝටයිප් නිර්මාණය.
- ව්යාපාර – ගුප්ත දත්ත රහස්යතාවය රැකගෙන, කාර්ය මණ්ඩලයට AI උපකරණ ලබා දීම, පාරිභෝගික අන්තර්ක්රියා පද්ධති සාදීම.
ඉදිරියට, මෙම වගේ බ්රවුසර-අඩංගු AI තාක්ෂණය ශ්රී ලංකාවේ තාක්ෂණික පදනම ශක්තිමත් කර, ගෝලීය AI ප්රවණතාවයට අනුගත වීමට මඟ පෙන්වයි.
