Moonshot AI, AI ක්ෂේත්රයේ නව නායකයෙකු ලෙස, Kimi K3 මොඩලය සඳහා විවෘත බර (open weights) නිකුත් කර ඇත. මේ මොඩලය 2.8 ට්රිලියන් පරාමිතීන් සහිත Mixture‑of‑Experts (MoE) ආකෘතියක් වන අතර, දැන් සංස්ථා හෝ සංවර්ධකයින්ට තමන්ගේ පද්ධති තුළ එය ක්රියාත්මක කර ගැනීමට අවස්ථාව ලැබේ.
විවෘත බර නිකුත් කිරීමෙන් අරමුණ වන්නේ, බාහිර API භාවිතා නොකර, සෘජුවම Kimi K3 හි උසස් තර්කශීලී හැකියාවන් ලබා ගැනීමයි. බර ගොනු Hugging Face හි Moonshot AI සංවිධානයේ Apache 2.0 බලපත්රයෙන් ලබාගත හැකි අතර, MXFP4 4‑bit ප්රමාණයෙන් සම්පූර්ණ 594 GB බර ගොනු, ටෝකනයිසර්, KDA (Kimi Delta Attention) යොදාගත් අවධානයේ සැලසුම්, vLLM හා SGLang සඳහා උදාහරණ කේතයන් ඇතුළත් වේ.
ඉන්ෆ්රාස්ට්රක්චර් අවශ්යතා ගැන කතා කරනවා නම්, මෙම මොඩලය ඉතා බරපතළ වේ. 4‑bit quantization සහ MoE ස්පාර්සිතිය නිසාත්, GPU මත සම්පූර්ණ මතකය 700 GB‑1.4 TB පමණ අවශ්ය වේ. සාමාන්යයෙන් 8× H100 (80 GB) හෝ 8× H200 (141 GB) GPU සමඟින්, 1 TB‑2 TB RAM සහ 1‑2 TB NVMe ඩිස්ක් අවශ්ය වේ. තවත් වේගවත් සම්බන්ධතා (400‑800 Gbps NVLINK/InfiniBand) ටෙන්සර් පරාල්ලෙල් පරිසරයට අත්යවශ්යය.
මෙම උපකරණ අවශ්යතා අධිකයයි කියා සිතෙනවා නම්, කළමනාකරණ API භාවිතය වඩා ප්රායෝගික වේ. නමුත්, තාක්ෂණික සම්පත් තිබේ නම්, පහත පියවර අනුගමනය කර Kimi K3 ස්වයං-හෝස්ට් කරගත හැක.
ශ්රී ලංකාවට ඇති වැදගත්කම
- ඉගෙනුම් පරිසරය: විශ්වවිද්යාල සහ තාක්ෂණික පාඨමාලා සඳහා, උසස් AI මොඩලයක් අන්තර්ගත කරගෙන, සිසුන්ට නවතම AI තාක්ෂණය අත්හදා බලන්න පුළුවන්.
- ස්ථානික සංවර්ධනය: ශ්රී ලංකාවේ ස්ටාට්ඨ්ය ආයතන, ස්ටාර්ට්‑අප්ස් සහ මධ්යම පරිමාණ ව්යාපාරයන්ට, විදේශීය API වලට අධික පිරිවැය නොමැතිව AI සේවා සපයන්න හැකියාව ලැබේ.
- දත්ත ආරක්ෂාව: බර ගොනු දේශීය සේවාදායකයකට ස්ථාපනය කිරීමෙන්, දත්ත රහස්යතාවය සහ නීතිමය අනුවාදයන් පිළිපැදීම පහසු වේ.
- ඉන්ෆ්රාස්ට්රක්චර් ආයෝජනය: උසස් GPU පද්ධති මිලදී ගැනීමට අවශ්යතා පවතින සමාගම් සඳහා, මෙය නව ව්යාපාරික අවස්ථාවක් සපයයි.
කියවීමට අවශ්ය පියවර සරලයි: Hugging Face CLI ස්ථාපනය කර, බලපත්රය පිළිගත් පසු, MXFP4 බර ගොනු බාගත කර, vLLM හෝ SGLang සමඟ සකස් කිරීම. සම්පූර්ණ ක්රියාවලිය 10 Gbps සම්බන්ධතාවයක් තිබේ නම්, 10 මිනිත්තු පමණ වේ. අඩු වේගයකින් බාගත කිරීම 80‑90 මිනිත්තු ගත විය හැක.
අවසානයේ, Kimi K3 විවෘත බර නිකුත් කිරීම AI තාක්ෂණයේ නව මට්ටමක් තැබූ අතර, ශ්රී ලංකාවේ AI පර්යේෂකයින්, සංවර්ධකයින් සහ ව්යාපාරිකයින්ට විශාල අවස්ථාවක් ලබා දේ.
