LLM (Large Language Model) භාවිතයෙන් API ඇමතුම් ගණන අඩු කරගත හැකි නව පද්ධතියක් ඉදිරිපත් කර ඇත. Kmemo කියන්නේ ප්රතිපත්ති-මූලික කැෂ් එකක් වන අතර, එය සමාන ප්රශ්නවලට අලුත් පිළිතුරක් ලබාදීමේ බද්ධතාවය ඉවත් කරයි. සම්පූර්ණයෙන්ම සමාන වාක්ය නොවූවත්, අර්ථය එකසේ ඇති ප්රශ්නවලට එම කැෂ් එකෙන් පළමු වරටම පිළිතුරක් ලබා දේ.
සාමාන්ය exact‑match කැෂ් එක “python list reverse” කියන ප්රශ්නයට “list reverse in Python” යන අයුරින් පිළිතුරු සොයයි, නමුත් “how do I reverse a list in Python” වැනි වෙනස් වාක්යයක් එනවිට අලුත් API ඇමතුමක් සිදු වේ. Kmemo එම වාක්යය එහි embedding (වෙක්ටර්) ගණනය කර, සමානත්වය මත පදනම්ව අතීත ප්රශ්නයක් සොයා ගනී. නමුත් සමානත්වය පමණක් විශ්වාස නොකර, ගණනාවක් guard (රක්ෂක) පරීක්ෂණයන්ගෙන් පසු පමණක් පිළිතුර තහවුරු කරයි.
මෙම guard පද්ධතිය සංඛ්යාත, ඒකක, කාලය, නකල, ප්රතිපත්ති වර්ගය වැනි විස්තරයන් පරීක්ෂා කරයි. උදාහරණයක් ලෙස “Convert 100 USD to EUR” සහ “Convert 250 USD to EUR” යන ප්රශ්නවල cosine similarity 0.99 ක් පමණ වන අතර, සාමාන්ය සීමාකරණයක් එම දෙකම එකම පිළිතුරක් (වෙනස් මුදල) ලබා දිය හැක. Kmemo ඒවා අතර සංඛ්යාත වෙනස්කම් හඳුනා guard මගින් තොරතුරු වැරදි නොවන බව තහවුරු කරයි.
ශ්රී ලංකාවට ඇති වැදගත්කම
ශ්රී ලංකාවේ සංවර්ධනකරුවන්, විශ්වවිද්යාල සිසුන්, තාක්ෂණික ව්යාපාරිකයින් සඳහා Kmemo ගුණාත්මක වාසියක් ගෙන එයි. පළමු වරට, API ගාස්තු අඩු වීම නිසා AI‑ඇපි සොෆ්ට්වෙයා නිර්මාණය කරමින් වියදම් බර අඩු වේ. දෙවනුව, latency (ප්රතිචාර වේගය) අඩු වීම නිසා real‑time chat‑bot, දත්ත විශ්ලේෂණ වැනි සේවා තත්ත්වය වැඩි වෙයි.
එසේම, guard‑පදනම්වූ සෙමැන්ටික් කැෂ් භාවිතයෙන් වැරදි පිළිතුරක් ලබා දීමේ අවදානම අඩු කරයි. මෙය විද්යාත්මක පර්යේෂණ, මූල්ය සේවා, රජයේ e‑services වැනි ඉතා නිරවද්යතාව අත්යවශ්ය ක්ෂේත්රවල විශාල වැදගත්කමක් ඇත. තවද, Kmemo නව භාෂා (ඉතාලි, ස්පානී, ජර්මන්, ප්රංශ) සඳහා guard පූර්ව-සකස් කර ඇති බැවින්, අපේ සිංහල AI‑ප්රොජෙක්ට් වලටද ඉක්මනින් අනුගත කරගැනීමට හැකි වේ.
අවසන් වශයෙන්, Kmemo එකේ “cache.explain” සහ “lookup reason” වැනි විස්තරාත්මක debug හැකියාවන් නිසා සංවර්ධකයන්ට කැෂ් miss හේතුව ඉක්මනින් හඳුනා ගත හැක, එමඟින් සකස් කිරීමේ කාලය කෙටි කරයි. ශ්රී ලංකාවේ AI‑ඇපි ඉදිරිපත් කිරීමේදී මේ තාක්ෂණය භාවිතා කිරීම, ගෝලීය තරඟකාරිත්වයට පියවරක් වේ.
