ලොකු භාෂා ආකෘති (LLM) වගේ ChatGPT, Bard වැනි ඒවා, ඔබට ලියන වචන පුරාම එකවරම සැලසුම් කරන්නේ නැහැ. ඒ වෙනුවට, "ඔට්ටු පුරාම" කියලා හඳුන්වන ක්රමයකින්, තවත් අක්ෂරයක්, තවත් වචනයක්, තවත් ටෝකනයක් එකෙන් එකට නවතා තනයි.
ටෝකන් කියන්නේ මොකද? පෙළක වචන, උපවචන, හෝ වචන කොටස් කුඩා කුඩා ඒකකවලට බෙදා ගන්නා ක්රියාවයි. ඒ ටෝකන්වලට අංකයක් (ID) දීලා, පරිගණකයට තේරුම් ගත හැකි ආකාරයට embed කරනවා. ඒකෙන් ලැබෙන වෙක්ටරය, ඒ ටෝකනයේ අර්ථය, තැන, සම්බන්ධතාවය කියා දෙයි.
ඉන්පසු attention යන මොඩියුලය, සියලු ටෝකන එකිනෙකට බැලී, "මේකෙ අලුත් ටෝකනය තෝරන්න කවදාද?" කියලා තීරණය කරයි. ඒ අනුව, මොඩලය ඉදිරි ටෝකනයට ඇති හැකියාවන් සියල්ලටම probability (සම්භාව්ය) දෙයි. අපි temperature සහ top‑p වැනි පරාමිතීන් භාවිතා කර, එකක් තෝරාගෙන, පෙළට එක් කරලා, පද්ධතියට නැවත ආහාරයක් (input) දෙයි. මේ ක්රියාව පවා නැවත නැවත සිදු වේ.
කොහොමද මේක තාරුණ්යමය පෙනුමක් දෙනව කියලා? Context window කියන සීමාව තුළ, මොඩලය දශක ගණනාවකට පසු වූ ටෝකන 4,000‑5,000 ක් දක්වා බලන්න පුළුවන්. ඒ නිසා, පෙළේ ප්රවහය, තේමාව, පසුබැසි තොරතුරු සම්පූර්ණයෙන්ම තබාගෙන, නව ටෝකන නිර්මාණය කරයි. පුළුල් පුහුණුව (training) මඟින් ලොකු පෙළ සංඛ්යාතයෙන් පෙනෙන රූප රටා, වාක්ය රීති, වත්මන් තොරතුරු වැනි විවිධ දේ අරගෙන, එම රීති අනුගමනය කරයි. නමුත්, මෙය තොරතුරු “lookup” නොව, “prediction” එකක් පමණයි; ඒ නිසා, ඒක විශ්වාසදායක වාක්ය ගොඩක් කියලා හෝ, වැරදි තොරතුරුද දෙනවා.
ශ්රී ලංකාවට ඇති වැදගත්කම
ශ්රී ලංකාවේ සිසුන්, විශ්වවිද්යාල ශිෂ්යයන්ට LLM වලට පදනම් වූ autocomplete ක්රමය ඉගෙනගැනීම, AI පාඨමාලා, පර්යේෂණ ව්යාපෘති සඳහා ඉතා ප්රයෝජනවත්. කේත ලිවීමේදී, කේත සම්පූර්ණකරණ (code completion) හෝ දෝෂ සොයා ගැනීමේ (debug) මෙවලම් ලෙස භාවිතා කළ හැක.
- ඩිවෙලොපර්ලා API, SDK, cloud සේවාවන් සමඟ ඒකාබද්ධ කර, ස්වයංක්රීය ලේඛන, ගිවිසුම්, වාර්තා සකස් කිරීමේ වේගය වැඩි කරගන්න.
- ව්යාපාරිකයන්ට පාරිභෝගික සේවාවේ chatbot, අභ්යන්තර දත්ත විශ්ලේෂණය, අන්තර්ගත නිර්මාණය වැනි කාර්යයන් සඳහා පිරිවැය අඩු කර, කාලය ඉතිරි කරගත හැක.
- සිසුන්ට පරිගණක විද්යාව, භාෂා විද්යාව, න්යාය විද්යාව ආදී විෂයන්හි “කියුනු” (simulation) පරිසරයක් ලබා දී, සංකීර්ණ සංකල්ප තේරුම් ගැනීම සරල කරයි.
එම නිසා, LLM තාක්ෂණය ශ්රී ලංකාවේ තාක්ෂණික සම්පත් වර්ධනයට, අන්තර්ජාල-ආශ්රිත ආර්ථිකයට නව මාර්ගයක් ගොඩනැගීමට උපකාරී වේ.
අවසන් වශයෙන්, LLM කෙරෙහි පෙළ තැනීමේ “එක‑එක ටෝකන්” ක්රමය, AI තාක්ෂණයේ මූලික නීතියක් වන අතර, එය හොඳින් අවබෝධ කරගත් පසු, අපේ දේශීය තාක්ෂණික පරිසරය නව උසස් මට්ටමකට ගෙන යා හැක.
