AI ක්ෂේත්රයේ නවතම ප්රවණතාවයක් වන ලාර්ජ් ලැංග්වෙජ් මොඩල (LLM) ගණනාවක්, දැන් ඔබේ පරිගණකයෙහිම, අන්තර්ජාල සම්බන්ධතාවයක් නොමැතිව ධාවනය කළ හැකිය. එම අරමුණ සපුරාලන Ollama යනු, Llama 3, DeepSeek R1, Mistral, Phi‑4, Gemma 2 වැනි නවතම මොඩලයන්ට පූර්ණ ප්රවේශයක් ලබා දෙන විවෘත‑මූලාශ්ර (open‑source) වේදිකාවකි.
Ollama භාවිතා කිරීමෙන් පළමුව මොඩලයක් ස්ථාපනය කර, පද්ධතියේ සම්පත් (CPU, GPU) අනුව පරිසරය සකස් කර ගත හැක. Linux, macOS, Windows යන සියලුම ප්රධාන මෙහෙයුම් පද්ධති සඳහා ස්ක්රිප්ට්, .zip, .exe ආකාරයෙන් ඉන්ස්ටෝල් කිරීමේ ක්රම සපයයි. ඉන්ස්ටෝල් කිරීමෙන් පසු ollama list නියෝගයෙන් ස්ථාපිත මොඩලයන් පරීක්ෂා කර, ollama pull <model_name> නියෝගයෙන් අවශ්ය මොඩලය බාගත කළ හැක.
මෙම ක්රියාවලියෙන් ලැබෙන ප්රධාන වාසිය තිළිණ ත්රිත්වයකි: පළමුද, දත්ත රහස්යතාවය. මොඩලය ඔබේ යන්ත්රයේම ධාවනය වීම නිසා, ඔබේ තොරතුරු කිසිදු වාහක සේවාදායකයකට යන්නේ නැත. දෙවැනිය, ආරක්ෂාව. අන්තර්ජාලයට සම්බන්ධ නොවීම හේතුවෙන්, බාහිර ආක්රමණයන්ගෙන් රැකවරණයක් ලැබේ. තුන්වැනිය, කාර්ය සාධනය. ඔබේ පරිසරයට අනුව GPU, CPU සම්පත් භාවිතා කර, මොඩලයේ වේගය සහ ප්රතිචාර කාලය ඔබටම සකස් කළ හැක.
Ollama සවි කරගැනීමේ මූලික පියවරයන් සරලයි. Linux හි curl -fsSL https://ollama.com/install.sh | sh නියෝගයෙන් ස්ක්රිප්ට් ධාවනය කර, systemd සේවාවක් ලෙස ක්රියාත්මක වනු ඇත. macOS සඳහා .zip ගොනුව බාගෙන, Ollama.app ෆෝල්ඩරය Applications වෙත ඇද දමන්න. Windows පරිශීලකයින් .exe ගොනුව ධාවනය කිරීමෙන් ඉක්මනින් ස්ථාපනය කර ගත හැක. ඉන්පසු ollama serve නියෝගයෙන් සේවාදායකය ආරම්භ කර, ollama run <model> මඟින් ප්රශ්න ඇසිය හැක.
මොඩල කළමනාකරණය සඳහා ollama list, ollama show <model>, ollama stop, ollama rm වැනි නියෝග භාවිතා වේ. පරිසර විචල්ය (environment variables) මගින් සේවාදායකයේ පෝර්ට්, GPU මත වෙන් කර ඇති VRAM, මොඩල සංග්රහය, මොඩලය මතකයේ රඳවා තැබීමේ කාලය වැනි සැකසුම් ඉතා ලේසියෙන් වෙනස් කළ හැක.
ශ්රී ලංකාවට ඇති වැදගත්කම
- ඉගෙනුම් අවස්ථා: විශ්වවිද්යාල සහ තාක්ෂණික පාඨමාලා සිසුන්ට LLMs ස්ථාපනය කර, AI පර්යේෂණ හා ව්යාපෘති සෘජුවම පරිගණකයේම පරීක්ෂා කිරීමේ හැකියාව ලැබේ.
- දේශීය සංවර්ධකයින්: API ගාස්තු, වලාකුළු (cloud) සම්බන්ධතා නොමැතිව, දේශීය ව්යාපාරික යෙදුම්, චැට්බොට්, ලේඛන සාධක යනාදිය සංවර්ධනය කිරීමේදී වේගවත් හා ආරක්ෂිත පරිසරයක් ලබා ගත හැක.
- ව්යාපාරික ආයෝජන: දත්ත රහස්යතාවය සහ පිරිවැය අඩු කිරීමෙන්, මූල්ය ආයතන, රජයේ අංශ, තොරතුරු තාක්ෂණ සමාගම් ආදියට AI විසඳුම් ඉක්මනින් හා ආරක්ෂිතව ක්රියාත්මක කිරීමේ අවස්ථාව ලැබේ.
Ollama මඟින් LLMs ස්ථානීයව ධාවනය කිරීම, තාක්ෂණික සීමා ඉක්මවා, ශ්රී ලංකාවේ AI පරිසරය නව මට්ටමකට ගෙන යාමට මාර්ගයක් සපයයි. ඔබේ පරිගණකයක්, තරුණ තාක්ෂණවේදියාගේ උනන්දුව, සහ Ollama වේදිකාව – මේ සියල්ල එකට බැඳෙලා, දේශීය නවෝත්පාදනයේ ඉදිරි පියවරක් ගත හැක.