AI ඇජන්ට් එකක් ක්රියා කරන විට, එයට ලබා දෙන "state view" (තොරතුරු දර්ශනය) කෙතරම් නිවැරදිද කියා සැලකිල්ලට ගැනීම ඉතා වැදගත්. ඇජන්ට් එක පටන්ගැනීමට පෙර කියවූ දත්ත මත පදනම්ව තීරණයක් ගනී, ඒ තීරණය පසුකාලීනව වෙනස් වුනාම, අනික් ඉල්ලීමක් එළඹෙන විට එය දෝෂයක් වශයෙන් පෙනේ.
මේ ලිපියෙහි මුල් අරමුණ වන්නේ, "read" ක්රියාව පසුබැසීමක් නොව, ඒක සක්රිය ක්රියාවක් බව පිළිගැනීමයි. ඊමේල් එකක් විවෘත කිරීමෙන් පසු "read" වුනා ලෙස ලේබලය දැනෙයි, දත්ත ගොනුවක් ලබා ගැනීමෙන් ගණකයක් වැඩිවෙයි, හෝ ලොග් එකක් ලියවෙයි – මේ සියල්ල “දැකීම” මගින් සිදුවන වෙනස්කම්. එමෙන්ම, එක් එක් “read” අනුමතිය එකම නොවේ; රිපොසිටරියක් කියවීම, ඩිප්ලොයිමන්ට් රහස් කියවීම, ඊමේල් විෂය පේළිය කියවීම – මේ සියල්ල “read” කියා එකට සංග්රහ කර ඇත.
Prompt injection (ඉල්ලීමේ ආකාරය වෙනස් කිරීම) නාස්තිකාරී ලෙස පෙනේ, නමුත් ඇජන්ට් එකට මුලින්ම මොන තොරතුරු කියවීමට අවසර දීලා තියෙන්නේද යන්නද ප්රධාන ගැටළුව. තොරතුරු එකක් “පැරණි” වුවත්, එය ඇජන්ට් එකට උපදෙස් ලෙස ක්රියා කරයි. ඒ නිසා, ඇජන්ට් එකට නිදහස්ව තමන්ට අවශ්ය දත්ත එකතු කිරීමට ඉඩ දෙන්නේ නම්, කවුරුන් හෝ ඉල්ලීමේ පාරිභෝගිකයාට අධිකාරියක් ලැබේ.
ශ්රී ලංකාවට ඇති වැදගත්කම
ශ්රී ලංකාවේ සංවර්ධනකරුවන්, ව්යාපාරිකයින්, සහ විද්යාර්ථීන්ට මෙම අදහස තේරුම් ගැනීම අත්යවශ්යයි. ඒකෙන්:
- දත්ත ආරක්ෂාව: ස්ථානීය සොෆ්ට්වෙයා නිර්මාණය කරන කෙනෙක්, API හරහා හෝ ගිට් රිපොසිටරියක් තුළින් ලබා ගන්නා තොරතුරු මූලිකව පරීක්ෂා කර, අනවසර ප්රවේශය වැළැක්විය හැක.
- AI මෝඩල පාලනය: AI මෝඩලයක් භාවිතා කරන ආයතන, “read” අවසරයන් සීමා කර, අදාළ ක්ෂේත්රය පමණක් ඇතුළත් කර, පසුබැසීමේ අවදානම අඩු කරගත හැක.
- සයිබර් ආරක්ෂාව: Prompt injection වැනි තර්ජන වලට මුහුණ දීමට, සංවර්ධකයින්ට sandbox පද්ධතියක් හරහා ප්රවේශය සීමා කිරීම, ද්රව්යමය හා අඩංගු දත්තවලට අධිකාරි පාලනයක් ලබා දීමට උපකාරී වේ.
ඇජන්ට් එකට “state view” එකක් සපයන විට, එය කුමන ආකාරයෙන්, කාගේ අනුමතියෙන්, කුමන සංස්කරණයෙන් ලබා ගත්තාද යන්න පැහැදිලිව ලියා තබා ගැනීම, පසුකාලීන ආකාරයේ දෝෂ හෝ ආක්රමණික ක්රියා වලට වැළැක්වීමේ පළමු පියවර වේ.
අවසන් වශයෙන්, “read” ක්රියාව සරල නොවන, එය සම්පූර්ණ පද්ධතියේ ආරක්ෂාවට බලපාන ගැඹුරු ක්රියාවකි. එය නිවැරදිව පාලනය කරන්නේ නම්, AI ඇජන්ට් මඟින් ලබා දෙන වටිනාකම වැඩිදුරටත් උපයෝගී කරගත හැකි වනු ඇත.
