අද කාලයේ AI වැඩසටහන් බොහෝ විට cloud සේවා මත රඳා පවතිනවා. එය වාරික ගාස්තු, ප්රතිචාර වේගය අඩු වීම සහ දත්ත රහස්යතාවය ගැන ගැටළු ගෙන එනවා. මේ තත්ත්වය වෙනස් කරගන්න, LM Studio, Ollama, TormentNexus යන ත්රිත්වයක් සමඟ පූර්ණ offline AI සංවර්ධන පද්ධතියක් සකස් කළ හැකිය.
LM Studio යනු GUI‑මූලික මොඩල හබ් එකක්. මෙහිදී ඔබට GGUF ආකාරයේ quantized මොඩල බාගත කර, එය localhost හි API අන්තර්ගතයක් ලෙස සකස් කළ හැකිය. මොඩල එකතු කිරීම, GPU‑offloading සැකසීම, context length වෙනස් කිරීම වගේ සැකසුම් සියල්ල මෙහිම සිදු වේ.
Ollama යනු CLI‑පදනම් වූ මොඩල කළමනාකරණ මෙවලම. ollama run නියෝගය මගින් මොඩල ක්රියාත්මක කර, හෝ Modelfile සෑදීමෙන් විශේෂිත පරිසරයක් (උදා: Python docstring assistant) සකස් කළ හැකිය. මෙය ස්ක්රිප්ට්‑මය වැඩපිළිවෙළට ඉතා සුදුසුය.
TormentNexus පද්ධතියේ මධ්යස්ථ ස්ථානයක් වශයෙන් LM Studio හා Ollama අතර සම්බන්ධතා සකස් කරයි. එමඟින් බහු මොඩල එකවර ක්රියාත්මක කර, ප්රතිචාර වේගය 100ms කට අඩු කරයි. පළමු සැකසුම අවසන් වූ පසු, අන්තර්ජාල සම්බන්ධතාවයක් නොමැතිවම සියලු AI කාර්යයන් සිදු කළ හැකිය.
ශ්රී ලංකාවට ඇති වැදගත්කම
ශ්රී ලංකාවේ තොරතුරු තාක්ෂණය, විද්යාල හා පශ්චාත්‑පාඨමාලා සිසුන්, සහ ස්ථානීය ව්යාපාර සඳහා මෙය විශාල අවස්ථාවක් වේ.
- දත්ත රහස්යතාවය – රහසිගත සොෆ්ට්වෙයාර්, පෞද්ගලික දත්ත හෝ රජයේ ව්යාපාරික ගොනු cloud වෙත යැවීමට අවශ්ය නැත.
- නැවත-නැවත ගාස්තු නැතිවීම – API ගාස්තු, සබ්ස්ක්රිප්ෂන් ගාස්තු නොමැතිව, දෘඩාංගයක් මතම AI භාවිතා කළ හැකිය.
- වේගවත් පිළිතුරු – 100ms පමණ ප්රතිචාර වේගය නිසා කේත ලියන, දෝෂ හඳුනා ගැනීම, සහ ලොකු පරිමාණයේ මොඩල පුහුණුවීම් වේගවත් වේ.
- දේශීය නිර්මාණය – ශ්රී ලංකා සංවර්ධකයන්ට open‑source මෙවලම් භාවිතා කර, තමන්ගේම AI උපකරණ නිර්මාණය කළ හැකිය.
මෙම පද්ධතිය සකස් කිරීම සඳහා අවශ්ය ද්රව්යයන් (LM Studio, Ollama, TormentNexus) ප්රධානතම OS (Windows, macOS, Linux) තුළ සරලයෙන් ස්ථාපනය කළ හැකිය. පළමු වරට මොඩල බාගත කිරීමේදී අන්තර්ජාල සම්බන්ධතාවයක් අවශ්ය වුවත්, ඒ පසු සම්පූර්ණයෙන්ම offline ලෙස ක්රියා කරයි.
අවසන් වශයෙන්, cloud‑මත රඳා නොසිටින AI සංවර්ධනය, ඔබේ කේත ලියන වේගය වැඩි කරයි, ආරක්ෂාව ශක්තිමත් කරයි, සහ වියදම් අඩු කරයි. ඔබත් මේ ත්රිත්වය සමඟ ඔබේ පරිසරය offline කරගැනීමට අදම ඇරඹුමක් කරන්න.
