AI තාක්ෂණය වේගයෙන් වෙනස් වෙමින්, නව පදයන් ගැන දැනගැනීම අත්යවශ්ය වෙලා තියෙනවා. මේ ලිපියෙන් ඔබට ‘කොන්ටෙක්ස්ට් වින්ඩෝ’ කියන සංකල්පය සරළව, සිංහලෙන් පැහැදිළි කරලා දෙනවා.
කොන්ටෙක්ස්ට් වින්ඩෝ කියන්නේ LLM (Large Language Model) එකක් ප්රතිචාරයක් සකස් කරන විට එකවර සැලකිල්ලට ගන්න පුළුවන් ඉන්පුට් සහ ආඥා ටෝකන් (token) ගණන. ඔබේ ප්රශ්නය, පසුගිය සංවාද ඉතිහාසය, සහ මොඩලේ පිළිතුර සියල්ල එකම “බජට්” එකේ අයත්.
ඇයි සීමා තියෙන්නේ? තවත් ටෝකන වැඩිවීමෙන් මතකය, ගණනය, සහ සම්පත් වැඩි අවශ්යතාවක් වේ. එමනිසා ඉල්ලීමක් සලස්වීමට වේලාව වැඩි වෙලා, වියදමත් ඉහළ යයි. තවද, වර්තමාන මොඩලයන් දිගු කොන්ටෙක්ස්ට් සාර්ථකව භාවිතා කිරීමේදී මැදපෙළ අමතක වීම (lost in the middle) වැනි ගැටලුවක් පවතී.
මොඩලය අතරමැදි මතකයක් නොරැඳී, “ස්ලයිඩින් වින්ඩෝ” වගේ ක්රියා කරයි. නව පණිවුඩයක් ඇතුළත් වීමත් සමඟ පරණ පණිවුඩයන් වින්ඩෝවෙන් පිටවී, මොඩලය ඒ ගැන දැකීමට නොහැක. ඒ නිසා දිගු සංවාදයක් අතර ඔබ පළමු කතාබස් අමතක වුණා වැනි හැඟීමක් ඇතිවෙයි.
RAG (Retrieval‑Augmented Generation) ක්රමය මේ ගැටලුවට විසඳුමක්. මොඩලයට පිළිතුරක් ලබා දීමට පෙර, අවශ්ය තොරතුරු සෙවීමෙන් පසු ඒවා ප්රෝම්ප්ට් එකට එක් කරයි. එවිට මොඩලයට සම්පුර්ණ විකී එකක් දමන්නේ නැතිව, අවශ්ය කොටසක් පමණක් ලැබෙයි. මෙයින් “බහුතර තොරතුරු” ප්රශ්න හා “පුද්ගලික ලේඛන” අඩංගු නොමැති බවත් විසඳෙයි. නමුත් සෙවුම් පියවර වැරදි නම්, පිළිතුරත් වැරදි වේ.
දැන් නව මොඩලයන් “හායිඩ්රො” කොන්ටෙක්ස්ට් වින්ඩෝ (සියලූවට ලක්ෂ ගණනක්) ප්රචාරය කරනවා. එය හුඟාක් තොරතුරු එකවර දාන්න හැකි බව පෙනෙනවාද? නමුත් ඒකත් සීමා රහිත නොවේ. වැඩි ටෝකන එකතු කිරීමෙන් ගණනයේ බර වැඩිවීම, ප්රතිචාරය අස්ථිර වීම, සහ මැදපෙළ අමතක වීමේ අවදානම වැඩි වෙයි.
ශ්රී ලංකාවට ඇති වැදගත්කම
- සිසුන්: AI මූලික සංකල්පය – කොන්ටෙක්ස්ට් වින්ඩෝ – ඉගෙන ගැනීමෙන් පර්යේෂණ, ලේඛන ලේඛනය, සහ කේත ලිවීමේදී වැඩි කාර්යක්ෂමතාවක් ලැබේ.
- ඩෙවලපර්වරුන්: RAG ක්රමය භාවිතා කර ඔබේ ආයතනික දත්ත, API ලේඛන, සහ පාරිභෝගික ගැටළු සොයාගැනීමට පහසුකම් ලැබේ. එමඟින් මොඩලයේ “අමතක වීම” ගැටලුව අඩු කරගත හැක.
- ව්යාපාරිකයන්: දිගු කොන්ටෙක්ස්ට් වින්ඩෝවට පමණක් පිරිවැය නොව, කාර්යක්ෂමතාවයත් වැඩි වේ. RAG මගින් නව නිෂ්පාදන, සේවා, සහ ගනුදෙනුකරු සම්බන්ධතා වඩාත් නියමිතව කළමනාකරණය කළ හැක.
ඉදිරියේදී AI මොඩලයන්ගේ කොන්ටෙක්ස්ට් වින්ඩෝ තවත් විශාල වුවත්, ඒකේ ප්රයෝජන සහ සීමා දෙකම සැලකිල්ලට ගෙන, නිවැරදිව භාවිතා කිරීම ඉතා වැදගත්.
