කාලීනව AI ඇජන්ට්වලට මතකයක් එක් කිරීම තාක්ෂණික ප්රවණතාවයක් බවට පත්ව තිබේ. පසුගිය දෙවසරකදී බොහෝ ඇජන්ට්වලට මතක නොතිබුණද, අද දිනයේ ප්රධාන ප්රවේශයන් සියල්ලම පරිශීලක‑සැසිය අතර මතකය තබා, එය පවත්වාගෙන යන ව්යාපාරික ආරම්භකයන්ට මහත් ආයෝජන ලැබේ. එම මතකය, නමුත්, සැලකිල්ලෙන් පරීක්ෂා නොකළ දත්ත සමුදායක් ලෙස ක්රියා කරයි.
මතකය දත්ත සමුදායක් බවට පත්වීමේ ප්රධාන ගැටළුව යනු, ඒ මතකයට ලියාපදිංචි වන තොරතුරු කිසිදු QA (quality assurance) පරීක්ෂාවකින් ගත නොවීමයි. ඒ කියන්නේ, ඇජන්ට් එක තමම ලියන, පරීක්ෂා නොකළ පාඨයන් මත පදනම්ව අනාගත හැසිරීම අධ්යයනය කරයි. මෙය අයත් නොවන පදනමක් මත මොඩලයක් fine‑tune කිරීම වැනි අධිකාරී නොකළ ක්රියාවක් ලෙස සැලකිය හැක.
මෙම ප්රශ්නය ත්රිත්වයක් ලෙස පෙනේ:
- සංයුක්ත කිරීමෙන් විශ්වාසය නිර්මාණය වීම – මතකය සම්පූර්ණ සංවාද ලේඛන තබා නොගෙන, සාරාංශ, අනුකරණ, සංකුචනය කරයි. එම ක්රියාවලියෙන් “හේජ්” (අනීතික) සහ “ප්රමාණය” (source) අඩු වෙයි. “පරිශීලකයා වසරේ පළමු මස ගෙවීම් වෙනස් කරනු ඇත” වැනි වාක්ය “පරිශීලක ගෙවීම්: වසරේ” ලෙස පරිවර්තනය වීමෙන්, අනිසි විශ්වාසයක් උදා වේ.
- සාරාංශය මඟින් අර්ථ විකෘතිය – මතකය එකවර නොව, නිතරම සාරාංශ කරමින් අලුත් කරයි. මේ ලෝසියු ක්රියාවලිය “තෙලිපැන්” (telephone) ක්රීඩාව වගේ දෝෂ එකතු කරයි. පසුපසදී, ඇජන්ට් පූර්ව වාරයක් තුළ සකස් කළ වැරදි තොරතුරු අතින් “තථ්ය” ලෙස ගනී.
- ලේඛන මාර්ගය ආක්රමණීය බින්දුවක් – මතක විෂබීජනය (memory poisoning) නව තාක්ෂණික අවදානමක්. AgentPoison පර්යේෂණය 0.1% විෂබීජන අනුපාතයකින් 80% අධිකාරී සාර්ථකත්වයක් පෙන්වීය. නමුත් එය පාලනය කළ නොහැකි බැවින්, දෝෂය සකස් කිරීමේදීද එම විෂබීජිත තොරතුරු ඒම මතකයටම ඇතුළත් වේ.
මෙම ගැටළුවන් මතකයේ ලියන පාර (write path) අධිකාරී නොවන බව පෙන්වා දෙයි. වර්තමානයේ LoCoMo, LongMemEval, BEAM වැනි benchmark‑වලින් පසුපසින් පරිශීලක‑සැසියක මතකය කෙරෙහි පරීක්ෂණය කරන නමුත්, ඒවා ලියන පාරේ ගුණාත්මක පාලනය නොකොටයි. ඒ නිසා, උසස් ලකුණු ලැබූ ඇජන්ට් එකක්වත්, නිෂ්පාදනයේ “විශ්වාසය පිරුණු වැරදි” සෑදීමට ඉඩ ඇත.
ශ්රී ලංකාවට ඇති වැදගත්කම
ශ්රී ලංකාවේ තාක්ෂණික සමාජයට මේ ප්රශ්නයේ විශාල අර්ථයක් ඇත. ප්රථමයෙන්, දේශීය AI සංවර්ධකයන්ට මතක කළමනාකරණයේ ගුණාත්මක පරීක්ෂාවන් ඇතුළත් කරන නව උපකරණ අවශ්ය වේ. දෙවැනි වශයෙන්, සිසුන්ට මතක‑දත්ත සමුදාය කෙරෙහි විවේචනාත්මක සිතුවිලි ගොඩනැගීමට, ආරක්ෂිත AI පද්ධති නිර්මාණය සඳහා අවස්ථා ලැබේ. තෙවැනි වශයෙන්, ව්යාපාරිකයන්ට මතක‑විෂබීජන ආකාරයෙන් පාරිභෝගික තොරතුරු හෝ තීරණාත්මක දත්ත අහිමි වීමේ අවදානම වැලැක්වීමට, නව QA ක්රමලේඛන සහ මතක‑සංරක්ෂණ ප්රතිපත්ති යොදාගැනීමට අවශ්යතාවයක් පවතී.
ඉදිරියේදී, මතකය “දත්ත සමුදායක්” ලෙස සැලකීම, එය QA, සාරාංශ, ආරක්ෂාව යන සියලු මට්ටමින් පරීක්ෂා කිරීම, ශ්රී ලංකාවේ AI පරිසරය තිරසාරව, විශ්වාසනීයව වර්ධනය වීමට මූලික පියවර වේ.
