කලින් මා පසුගිය මාසයේදී ගනුදෙනුකරුවකුගේ නව RAG (Retrieval‑Augmented Generation) යෙදුම දර්ශනය කළෙමි. තුන් මාසයක් පුරා නිර්මාණය කළ මෙම පද්ධතියේ මුහුණත අලංකාරය, LLM පිළිතුරු සුලභ හා පිරිසිදු වුවත්, බොහෝ පිළිතුරු සැඟවුණු වැරදි සමඟ පැමිණුණි.
ගනුදෙනුකරුවා පවසුවේ, “මොඩලය හාලුසිනේෂන් කරයි” කියා. ඔවුන් විවිධ LLM, උෂ්ණත්ව (temperature) සැකසුම්, ප්රෝම්ප්ට් සංස්කරණය ආදිය අත්හදා බැලුවත්, ප්රශ්නයේ මූලික හේතුව සෙවීමේ ස්තරය බව හඳුනාගත නොහැකි විය.
ඇත්තෙන්ම ගැටලුව Retrieval (සෙවීම) අංශයයි. AI මොඩලය ලබා දෙන තොරතුරු වැරදියෙන් පිරුණු විට, එය ඒ තොරතුරු මත පදනම්ව සිංහල හෝ ඉංග්රීසි වචන ගොඩනැගීමට පටන් ගනී. එනම් “Garbage in, eloquent garbage out”. නිෂ්පාදන පරිසරයක, සවිස්තරාත්මක ප්රශ්නයක් (උදා: XJ‑447 කොටස් අංකය) සහ සාමාන්ය ප්රශ්නයක් (උදා: නලකරණ ක්රමය) අතර වෙනස්කම් හඳුනා ගැනීමට සෙවීමේ යන්ත්රය සමත් විය යුතුය.
බොහෝ සංවිධාන “512‑token chunk” යන යාන්ත්රික ක්රමය භාවිතා කරයි. එය ලේඛනයේ මැදින් වැදගත් පැහැදිලි කිරීමක කපනයක් සිදු කරයි, හෝ සම්බන්ධ නොවන අදහස් එකට ගොඩනැගේ. ඒ නිසා පද්ධතිය ලබා දෙන “chunk” එකක්, සත්ය පිළිතුරක් වශයෙන් පෙන්වයි, නමුත් ඒ chunk එක වැරදි තොරතුරු අඩංගු වේ.
ශ්රී ලංකාවට ඇති වැදගත්කම
ශ්රී ලංකාවේ තාක්ෂණික සමාජයට මේ සටහන අතිශය වැදගත්:
- අධ්යාපනික වශයෙන් – සිසුන්ට AI පදනම් පද්ධති නිර්මාණය කරන විට, සෙවීමේ ස්තරය කෙලින්ම නිවැරදි දත්ත ලබා දීමට කෙරෙයි. එය වැරදි තොරතුරු මත පදනම්ව ලේඛන ලේඛන නිර්මාණය නොකරයි.
- ඩිවෙලපර් සමාජයට – Semantic chunking, තේමාව අනුව වගුවේ “valley detection” වැනි තාක්ෂණය භාවිතා කිරීමෙන්, කේතය අඩු කර, පද්ධතියේ කාර්ය සාධනය වැඩි කර ගත හැක.
- ව්යාපාරික පරිසරයට – ගනුදෙනුකරුවන්ගේ ප්රශ්න වලට නිරවද්ය පිළිතුරු ලබා දීම, සේවා ගුණාත්මකභාවය උසස් කර, ගනුදෙනුකරුවන්ගේ විශ්වාසය වැඩි කරයි.
ඉතින්, Chunking ක්රියාවලිය “semantic” ලෙස සිදු කිරීම, ලේඛන ව්යුහය ගෞරවයෙන් ගත කිරීම, සහ “parent‑child” සබඳතා භාවිතා කිරීම මගින් RAG පද්ධතියේ ගුණාත්මකභාවය ගුණාත්මක ලෙස වැඩි කළ හැක. LangChain, LlamaIndex වැනි මෙවලම් මේ ක්රමයන් දැනටමත් අනුගමනය කරයි.
අවසන් වශයෙන්, සෙවීමේ ස්තරය අමතක නොකර, නිවැරදි chunking ක්රමය අනුගමනය කිරීමෙන්, AI විසින් “hallucination” ගැටලුව අඩු කර, ඔබේ RAG යෙදුමට විශ්වාසදායී, නිරවද්ය පිළිතුරු ලබා ගත හැක.