AI ඒජන්ට් මතකයෙහි "වিষබ්ධිය" (memory poisoning) කියන නවතම අනතුර, එක්වර ඉන්ජෙක්ශන් එකක් පමණක් නොව, එය පසු සැසිවලද පවත්නා තත්වයක් බවට පත් වෙලා පෙනෙනවා. සාමාන්යයෙන් ප්රොම්ප්ට්-ඉන්ජෙක්ශන් එකක් සිදුවෙන්නේ වැරදි වෙබ් පිටුවක් හෝ ලේඛනයක් මොඩලේ සන්දර්භයට ආදෙස් එක්කරලා, ඒක කරාම අවසන් වෙනවා. මතකය පවත්නා විට, ඒ ආදෙස් ඉවත් නොවෙයි, ඒක නැවත නැවත පෙන්වෙයි.
2024 දී සයිබර් ආරක්ෂක පර්යේෂක ජොහාන් රෙහ්බර්ගර් (Embrace The Red) විසින් SPAIware නමින් පෙන්වූ පරීක්ෂණයක්, අනිශ්චිත වෙබ් අඩවියකින් ChatGPT ලොංග්‑ටර්ම් මතකයට අක්රමික උපදෙස් ලිවීමට හැකි බව හෙළි කළා. ඒ උපදෙස් පසු සැසිවලත්, වෙනත් උපාංගවලත්, සංවාද නැවත සකස් කිරීමෙන් පසුත් ක්රියාත්මක වුණා. ඒ මගින් අතුරුදන් නොවන පරිදි සංවාද දත්ත අක්රමිකව අයත් සේවාදායකයකට යවමින්, රහස්ය දත්ත ගොනු කිරීම සිදු වුණා. OpenAI ඒ අයදුම්කාරක පාලනයට සෙසු විසඳුම් දී තිබුණා, නමුත් මතකයට ඉන්ජෙක්ශන් කිරීමේ හැකියාව තවමත් පවතිනවා.
මෙම තර්ජනයේ මූලික කරුණ, ඒජන්ට් එකේ මතකය "විශ්වාසදායක" බවට ගැණුම් කිරීමයි. ඒජන්ට් එක තම මතකය පදනම් කරගෙන පසු සැසිවල පළ කරන ප්රශ්නවලට ඒ වැරදි උපදෙස් නැවත පෙන්වයි. Retrieval‑Augmented Generation (RAG) පද්ධතිද ඒම පරිදි ක්රියාත්මක වන නිසා, මතකය හෝ ලේඛන ගබඩා එකක් විශාල ආක්රමණයට අධිෂ්ඨාන විය හැක. එකවර විෂබ්ධියක් ගබඩා කරලා, ඒ වැනි සමාන ප්රශ්න එනතුරු සියලු පිළිතුරුම දූෂිත වෙයි.
ශ්රී ලංකාවට ඇති වැදගත්කම
ශ්රී ලංකාවේ තාක්ෂණික සමාජය, AI‑චැට්බොට්, ස්වයංක්රීය පද්ධති, සහ RAG‑ආශ්රිත සේවා භාවිතා කරන විද්යාල, විශ්වවිද්යාල, සහ ව්යාපාරික කලාප සඳහා මෙය සූක්ෂම අවදානයක්. මතක විෂබ්ධියක් හේතුවෙන්, දේශීය සංවර්ධකයන්ගේ AI මොඩලයන් හෝ සේවා ගනුදෙනුකාරයන්ගේ දත්ත රහස්යතා උල්ලංඝනය විය හැක. එමෙන්ම, සිසුන්ගේ AI‑පදනම් පර්යේෂණ වැඩසටහන් වලදී, දෝෂපූර්ණ මතකයක් නිසා අසත්ය ප්රතිඵල ලැබීමේ අවදානමක් ඇත. එබැවින්, මතක ලිවීමේ ක්රියාවලිය "අවිශ්වාසදායක" ලෙස සැලකීම, ආරක්ෂක පරීක්ෂාව, සහ මතක‑පිරික්සුම් යන්ත්රණයන් ගොඩනැගීම, ශ්රී ලංකාවේ AI‑ආරක්ෂාව මනා පදනමක් ගොඩනැගීමට අත්යවශ්ය වේ.
අවසන් වශයෙන්, AI ඒජන්ට් මතකයේ විෂබ්ධිය තාක්ෂණික නවෝත්පාදන වල අඩුපාඩු නොවෙයි; එය සයිබර් ආරක්ෂක ක්ෂේත්රයේ නව ගැටළුවක්. පරිශීලකයින්, සංවර්ධකයින්, සහ ව්යාපාරිකයන්ට මතක ලිවීමේ ආදානවලට “අවිශ්වාසදායක” ලෙස පෙනවීමේ වැදගත්කම මතක තවත් ආරක්ෂාවක් ලබා දීමට අවශ්ය වේ.
