ශ්‍රී ලංකාවේ නවතම තාක්ෂණික පුවත් 2026-07-22, Wednesday
🤖 කෘත්‍රිම බුද්ධිය · 🕒 කියවීමට විනාඩි 2 · 👁 1

VIDRAFT නව Aether-7B-5Attn මොඩලය – සම්පූර්ණ විවෘත MoE LLM එක

VIDRAFT නව Aether-7B-5Attn මොඩලය – සම්පූර්ණ විවෘත MoE LLM එක

කොරියානු AI ස්ටාට්අප් VIDRAFT, AI ක්ෂේත්‍රයට නව තාක්ෂණයක් ගෙනා. Hugging Face හි Apache‑2.0 බලපත්‍රයෙන් Aether-7B-5Attn නමැති 6.59 බිලියන පරාමිතීන්ගෙන් සමන්විත MoE (Mixture‑of‑Experts) මූලික මොඩලයක් නිකුත් කර ඇත.

මෙම මොඩලය සම්පූර්ණයෙන්ම විවෘතව ඇත – බර (weights) පමණක් නොව, පුහුණු දත්ත රෙසිපී, පුහුණු කේත, හයිපර්පරාමිතීන්, ලොග් ගොනු, මැද මොහොතේ සොයාගත් චෙක්පොයින්ට් සහ ඇගයීමේ කේතයත් එක්ක. 49 ට්‍රාන්ස්ෆෝමර් ලේයර් වලට වෙන්වූ පස් වර්ගයේ විවිධ attention ක්‍රම (Full, Differential, Sliding Window, NSA‑family Sparse, Hybrid) එකම නෙට්වර්ක් එකේ එකතු කර, 7×7 ලතින් චතුරස්‍ර (Latin Square) සැලසුමක් මගින් සමාන ලෙස පිහිටුවා ඇත.

විශේෂයෙන් මෙය “bilingual” ලෙස නිර්මාණය කර ඇත; සම්පූර්ණ දත්ත කෝෂය 144.2 බිලියන ටෝකන් අතරින් 37.8% ගණිත, 21.6% කොරියානු, 21.6% ඉංග්‍රීසි යන අනුපාතයන්ගෙන් සමන්විත. ඒ නිසා ඉංග්‍රීසි‑පළමු මොඩලයක් නොව, කොරියානු භාෂාවට සම්පූර්ණයෙන්ම සූදානම් කර ඇති LLM එකක් ලෙස සැලකිය හැක.

ශ්‍රී ලංකාවට ඇති වැදගත්කම

  • ශ්‍රේණිගත AI පර්යේෂණය – සිංහල සහ ඉංග්‍රීසි දෙභාෂා දත්ත සමඟ වැඩ කරන විවිධ attention ක්‍රමය, ලංකාවේ විශ්වවිද්‍යාල සිසුන්ට නව පර්යේෂණ පදනමක් සපයයි.
  • විකසිතකරුන්ගේ නිදහස – සම්පූර්ණ කේත සහ දත්ත රෙසිපී නිසා, ශ්‍රී ලාංකීය සංවර්ධකයන්ට මොඩලය වෙනස් කර, ස්ථානික API හෝ cloud සේවාවලට ඒකාබද්ධ කිරීමේ හැකියාව ලැබේ.
  • ව්‍යාපාරික නවෝත්පාදනය – MoE වාස්තුකලාව මඟින් පරාමිතීන් 2.98 බිලියනක් පමණක් සක්‍රිය කර ඉන්ෆරන්ස් වේගය තබා, ගණනික වියදම් අඩු කර, ස්ථානික AI ආරම්භක ව්‍යාපාර වලට වාසිදායක වේ.

විවෘත-මූලාශ්‍ර ප්‍රතිපත්තිය නිසා, වෙනත් රටවල් හෝ සමාජයන්ට අත්‍යවශ්‍ය AI තාක්ෂණය ස්වයංක්‍රීයව අනුකරණය කරගැනීමට අවස්ථාව ලැබේ. ශ්‍රී ලංකාවේ AI කලාපය මේ මොඩලයෙන් නව පියවරක් ගෙන යාමට සූදානම්.

ඔබටත් Aether‑7B‑5Attn මොඩලය Hugging Face හි ලැබේ – බේස් සහ ඉන්ස්ට්‍රක්ට් වර්ෂන්, සජීවී ඩෙමෝ සහ සම්පූර්ණ ලොග් ගොනු සමඟ. දැන්ම පරීක්ෂා කර, ඔබේ ව්‍යාපාර හෝ පර්යේෂණයට අලුත් ගතිකතා එක්කරන්න.

💡 අදම Aether-7B-5Attn පරීක්ෂා කරමු!
මූලාශ්‍රය මෙම ලිපිය AI මගින් රචිත මුල් සාරාංශයකි. සම්පූර්ණ වාර්තාව කියවන්න:
Dev.to ↗
#AI #OpenSource #LLM #MoE #TechNews