ශ්‍රී ලංකාවේ නවතම තාක්ෂණික පුවත් 2026-07-23, Thursday
🤖 කෘත්‍රිම බුද්ධිය · 🕒 කියවීමට විනාඩි 2 · 👁 1

Retort Framework මගින් AI කෝඩ් ස්ටැක් විශ්ලේෂණය – oMLX, llama.cpp, Hermes සහ නවතම ආකෘති

Retort Framework මගින් AI කෝඩ් ස්ටැක් විශ්ලේෂණය – oMLX, llama.cpp, Hermes සහ නවතම ආකෘති

Retort යනු AI කෝඩ් කිරීමේ කාර්ය සාධන වර්ගීකරණය සඳහා නිර්මාණය කළ නව පද්ධතියකි. Claude AI මගින් එය නිර්මාණය කර ඇති අතර, 64 GB M5Pro මැෂින් එකේ බහු භාෂා පරීක්ෂණයන්ගෙන් ලැබුණු ප්‍රතිඵලයන් පදනම් කරගෙන, කොඩ් ස්ටැක් එකේ සෑම අංශයක්ම කෙළින්ම බලන්න හැකියාව ලබා දේ.

Retort පෙන්වන්නේ “කොඩ් කිරීමේ ප්‍රතිඵලය” යනු එක් මොඩලයක් මත පමණක් පදනම් නොව, වඩාත් සංකීර්ණ ස්ටැක් එකකින් ගොඩනැගී ඇති බවයි. එම ස්ටැක් එකේ අන්තර්ගතය වන්නේ භාෂාව, මොඩලය, බර (weights) ආකෘතිය, සේවක එන්ජින්, ඒජන්ට්/හාර්නස්, කන්ට්‍රෙක්ස්ට් එන්ජින්, සාම්පලන ක්‍රම, ප්‍රෝම්ප්ට් ආදී බහු-ස්තරයක්. එක් ස්තරයක් වෙනස් කළාම, අංක පූර්ණයෙන්ම වෙනස් වේ.

බර සහ ආකෘති – මොඩලයක් යනු ගණනාවක අංක (weights) එකතුවකි. මේ අංක ගොනු සුරකින ආකාරය වඩාත් වැදගත්. safetensors යනු ප්‍රධාන, පළාත්‍රහිත ආකෘතිය; GGUF llama.cpp සඳහා නිර්මාණය කර ඇති එකම ගොනුවේ බර, ටෝකනයිසර් හා මැටාදත්ත ඇතුළත් කරයි; MLX ඇපල් සිලිකොන් සඳහා විශේෂිත, එකම මතක (Unified Memory) භාවිතා කරනුයේ 64 GB Mac එකක 42 GB මොඩලයක් රැගෙන යාමට ඉඩ සලසයි. කුඬුකරණ (quantization) මට්ටම 4‑bit, 16‑bit වශයෙන් වෙනස් වීමත්, ප්‍රමාණය හා වේගය අතර ගැලපුමක් ඇති කරයි.

සේවක එන්ජින් – බර ගොනුවන්ට token පරිවර්තනය කරන මෘදුකාංගය. oMLX, llama.cpp, Ollama හා වලාකුළු API වැනි විකල්ප ඇත. එක් එන්ජින් එකක් තෝරාගැනීමෙන්, CPU, GPU, Apple Silicon වැනි හාර්ඩ්වෙයාර් පරිසරයට අනුව ක්‍රියාකාරිත්වය වෙනස් වේ.

කන්ට්‍රෙක්ස්ට් එන්ජින් සහ ඒජන්ට්/හාර්නස් – මොඩලය “කියන” දේ තීරණය කරන ස්තරය. lcm (compaction) වැනි කන්ට්‍රෙක්ස්ට් සංග්‍රහක, sampling knobs වැනි පරාමිතීන් මෙහි අන්තර්ගතය. ඒජන්ට්/හාර්නස් ස්තරය ReAct ලූප් (read → edit → run → repeat) මත පදනම්ව, Claude‑code, Hermes, Gemini වැනි මෙවලම් මෙහි පවතී.

මෙම සියලුම ස්තර එකට එකතු වීම නිසා, “කොඩ් කිරීමේ හොඳම මොඩලය කුමක්ද?” යන ප්‍රශ්නය තනිව පිළිතුරක් ලබා නොදේ. Retort මගින් සම්පූර්ණ ස්ටැක් එකේ අගය මැනීමට හැකි වන අතර, එකම මොඩලයක්, එකම බර, වෙනත් ස්තරයක් වෙනස් කිරීමෙන් ප්‍රතිඵලය කෙලින්ම වෙනස් වීම දැකිය හැක.

ශ්‍රී ලංකාවට ඇති වැදගත්කම

  • සිසුන් – AI කෝඩ් කිරීමේ පූර්ණ පද්ධතියේ හැඩය අවබෝධ කරගැනීමෙන්, පාඨමාලා සැලසුම් සකස් කර ගැනීමට සහ පරිපූර්ණ AI මොඩල පරික්ෂා කිරීමට අවස්ථාව ලැබේ.
  • ඩෙවලොපර් – oMLX, llama.cpp වැනි එන්ජින් භාවිතා කර, මැකිනුම් පරිසරයක (Apple Silicon, Linux) වඩාත් කාර්යක්ෂම ලෙස මොඩල ධාවනය කළ හැකිය. එයින් වේගවත් ප්‍රෝට්ටෝකෝල සංවර්ධනය සහ පරික්ෂණය සිදු වේ.
  • ව්‍යාපාර – Retort මඟින් පිරිවැය-දායක සේවා සැපයුම් (cloud vs on‑premise) තේරීමට, AI‑ආශ්‍රිත නිෂ්පාදනවල ගුණාත්මකතාවය මැනීමට සහ ස්කේලබල් විසඳුම් නිර්මාණයට මාර්ගෝපදේශයක් ලැබේ.

කෙටි සාරාංශයක් ලෙස, Retort පද්ධතිය AI කෝඩ් කිරීමේ “ස්ටැක්” එකේ සෑම ස්තරයක්ම පාරදර්ශී කර, නිවැරදි තේරීම් ගැනීමට මග පෙන්වයි. මෙය ලංකාවේ තාක්ෂණික පරිසරයට නව අවස්ථා සලසන, ඉගෙනීමේ හා ව්‍යාපාරික ප්‍රයෝජන ගොඩනැගීමට උපකාරී වේ.

💡 Retort Framework සමඟ AI කෝඩ් කිරීමේ නව තලය අත්හදා බලන්න!
මූලාශ්‍රය මෙම ලිපිය AI මගින් රචිත මුල් සාරාංශයකි. සම්පූර්ණ වාර්තාව කියවන්න:
Dev.to ↗
#Retort #AI #Coding Stack #Model Formats #Developers