ආදර්ශයක් ලෙස, මෑතකදී එක් සංවර්ධකයෙකු MoE (Mixture‑of‑Experts) මොඩලයක් තුළ විශේෂඥ බර ගොනු පිළිවෙල නැවත සකස් කිරීමේ පරීක්ෂාවක් කළේය. එහි ප්රථම ප්රතිඵලය වන්නේ එක් ටෝකනයකට ගොනු කියවීම් 2.23 ගුණයකින් අඩුවීමයි. නමුත් එය තනිව පරික්ෂා කරන ලද්දේය; ඉන් පසු එම ගොනු සැකසීම විශේෂයෙන් නිර්මාණය කරන ලද ඉන්ෆරෙන්ස් එන්ජින් සමඟ පරීක්ෂා කළ විට, 235 බිලියන් පරාමිතීන්ගෙන් යුත් මොඩලයක් 48 GB මැක්බුක් එකක 32.3% decode throughput වැඩිවීමක් සහ 26.3% time‑to‑first‑token අඩු වීමක් ලබා ගත්තා.
මෙම සාර්ථකත්වය පසුබැසීමේදී, සංවර්ධකයා පළමු වරට පළ කළ ත්රිත්ව යෝජනා තුනක් (උච්ච තාප්ප විශේෂඥයන් RAM තුළ රඳවා තබා ගැනීම, සම්බන්ධිත ලේයර්වල විශේෂඥයන් පෙර‑ලෝඩ් කිරීම, ගොනු පිළිවෙල නැවත සකස් කිරීම) එම එන්ජින්හි නිරීක්ෂණාත්මක දත්ත මත රදවා පරීක්ෂා කළ අතර, පළමු දෙකම අසාර්ථක විය. ඒත් ගොනු පිළිවෙල නැවත සකස් කිරීමේ අදහස සාර්ථක වීම නිසා, පරීක්ෂණය තවත් මඟකට මාරු විය – තවත් කියවීම් සිදුවන කොටස් (උදා: කෝල්‑ප්රි‑ෆිල්) වෙත යොමු විය.
මෙම ක්රියාවලිය පසුබැසීමේදී, පර්යේෂකයා පසුබැසීමක් ලෙස නොලකුණු කර, දත්ත‑මත පදනම් වූ සංවාදයක් ලෙස ප්රතිචාර ලබා ගත්තා. එමඟින් ගොනු පිළිවෙල වෙනස් කිරීමේ තාක්ෂණය තවත් විවිධ ඉන්ෆරෙන්ස් පරිසරයන්හි ප්රයෝජනවත් බව තහවුරු විය.
ශ්රී ලංකාවට ඇති වැදගත්කම
ශ්රී ලාංකීය සිසුන්, සංවර්ධකයන් සහ ව්යාපාරිකයන් සඳහා මේ නවෝත්පාදනයේ අරුත විශාලය:
- වඩාත් කාර්යක්ෂම AI පරිසරය: විශාල MoE මොඩලයන් දැඩි ගණනක GPU/CPU අවශ්ය නොවී, සාමාන්ය ලැප්ටොප් හෝ මැක්බුක් මත ධාවනය කළ හැකිය.
- වියදම් අඩු කිරීම: ගොනු කියවීම් අඩුවීම නිසා SSD/NVMe භාරකාරකයන්ගේ භාරකාරක පරිභෝජනය අඩුවේ, එමඟින් ක්ලවුඩ් සේවා ගාස්තු බොහෝ අඩු වේ.
- දේශීය AI පර්යේෂණයට උද්දීපනය: පර්යේෂකයන්ට අඩු පරිසරයකදී විශාල මොඩලයන් පරීක්ෂා කිරීමට හැකිවීම, නව නව්යතා සහ නිපුණතා සංවර්ධනයට හොඳ අවකාශයක් සලසයි.
මෙම ප්රගතිය ශ්රී ලංකාවේ AI ඉංජිනේරු හැකියාවන් වර්ධනය කර, ගෝලීය තරඟකාරීත්වයට පියවරක් තබා දීමට මඟ පෙන්වයි.
අවසන් වශයෙන්, නව ගොනු පිළිවෙල සැකසීමේ ක්රමය තාක්ෂණික සමාජය තුළ පරීක්ෂාකාරී පරිසරයක් ලෙස ඉදිරියට ගෙන යාමට අවශ්යයි; එය ඉන්ෆරෙන්ස් එන්ජින් නිර්මාතෘන්, විශ්ලේෂකයන් සහ අන්තර්ජාල පරිශීලකයන් අතර සම්බන්ධතාවය ශක්තිමත් කරයි.
