LLM (Large Language Model) පදනම් වූ chatbot එකක් නිර්මාණය කරන සෑම කණ්ඩායමක්ම අහන්නේ, "එකක් ජේල්බ්රේක් කරලා අපේ පද්ධති ප්රෝම්ප්ට් බිඳුනාම කුමක් වෙනවා?" යන ගැටළුවයි. මේ ප්රශ්නයට තවමත් නිශ්චිත පිළිතුරක් නැතිව, බොහෝ වෙලාවේ අත්දැකීම් සහ අඩු පරීක්ෂණයකින් මතු වෙනවා.
Prompt Injection Tester කුමක්ද?
Framz කණ්ඩායම තමන්ගේ AI පද්ධතියේ ආරක්ෂාව තක්සේරු කරගැනීමට "Prompt Injection Tester" නම් මෙවලමක් සෑදුවා. ඔබගේ system prompt එක එයට ඇතුළත් කරලා, එය පහත පන්තියේ පහේ වර්ග ආක්රමණ කරයි:
- Instruction override – "පෙර දැනුමක් අමතක කරලා …" කියලා නව උපදෙස් දෙනවා.
- Prompt extraction – මොඩලයෙහි system prompt එක හෝ රහස් නීති හෙළි කරගැනීමට උත්සාහ කිරීම.
- Delimiter / escape – පරිශීලක තේරුමක් template එකකට එක් කරන විට ඇති වීමේ කුඩා දෝෂය.
- Role‑play – "ඔබට සීමා නැති AI වගේ ක්රීඩා කරමු" කියලා පෝරමය හරහා නීති පිරිසිදු කරනවා.
- Indirect injection – පරිශීලක ඉල්ලීමෙන් නොව, RAG (Retrieval‑Augmented Generation) හෝ browsing tool එකක් මගින් ආකර්ශනීය ලිපියකින් හෝ API ප්රතිචාරයෙන් ආකෘතියට ඇතුළත් වන ආක්රමණ.
මෙම පරීක්ෂණය ඔබගේ prompt එකට ඇති දුර්වලතා සොයා, ඒවාට ගුණාත්මක “resilience score” එකක් ලබා දේ. ප්රතිඵලයක් ලෙස මොඩලයේ නිරුපිත පිළිතුරුද පෙන්වයි, එයින් ඔබට සෘජුවම යථාර්ථය දැනගත හැක.
ශ්රී ලංකාවට ඇති වැදගත්කම
ශ්රී ලංකාවේ AI පදනම් වූ ව්යාපාර, විශ්වවිද්යාල සිසුන්, සහ තාක්ෂණික සංවර්ධකයන්ට මේ මෙවලම ගැඹුරු වාසි දෙයි.
- සිසුන්ට LLM ආකෘතින්හි දුර්වලතා හඳුනාගැනීමේ ප්රායෝගික අත්දැකීමක් ලැබේ, ඒකෙන් AI ආරක්ෂාව පිළිබඳ නව පරිකල්පනාවන් ඉගෙන ගත හැක.
- දෙවැනි පාර්ශවික API හෝ cloud සේවාවන් භාවිතා කරන ස්ථානීය startups සඳහා, prompt injection පරීක්ෂණයක් නිවැරදිව සිදු කර ගැනීම, ගනුදෙනුකරුවන්ගේ විශ්වාසය වැඩි කරයි.
- ව්යාපාරික පද්ධතිවල රහස් නීති (confidential policies) හෝ නීතිමය උපදෙස් ලුහුබැඳී ගොස් ඉවත් වීමේ අවදානම අඩු කර, දත්ත රහස්යතාවය රැකගනී.
ඉදිරියට, ප්රෝම්ප්ට් ආක්රමණ තරගය තවත් උච්චතම වෙයි. ඒ නිසා, මෙම පරීක්ෂකය “ඉක්මන් පළමු පරීක්ෂණයක්” ලෙස භාවිතා කර, පද්ධතියේ වැදගත් දෝෂයන් ඉදිරියට හඳුනාගත යුතුය.
සාරාංශය
Prompt Injection Tester, සරල, නොමිලේ, සහ ඔබේම පරිසරය තුළ ක්රියාත්මක වන මෙවලමක්. LLM‑අධාරිත chatbot හෝ AI සේවාවක් නිර්මාණය කරන කෙනෙකුට, මෙය අත්යවශ්ය පළමු ආරක්ෂක පියවරයි. ඔබේ system prompt එක මෙහි පරීක්ෂා කර, ආකෘතියේ සැලැස්වීම් තවත් ශක්තිමත් කරගන්න.
