AI ඒජන්ට්ලා සමඟ වැඩ කරන විට, ඔවුන්ට ලබා දෙන shell.run, http.post, fs.read වැනි ශක්තිමත් මෙවලම් හේතුවෙන් රහස් දත්ත හරහා පිටවීමේ අවදානම ඉතා වැඩිය. ප්රොම්ප්ට් ඉන්ජෙක්ෂන් (prompt injection) තාක්ෂණයෙන් ඒජන්ට් එකක් අනිච්චිත වෙලා, ඒ මෙවලම් භාවිතා කරලා දත්ත හරහා හරවාගැනීමට පුළුවන්.
මෙවැනි අවදානමක් ඉවත් කිරීමේ නව පියවරක් ලෙස, ModelFuzz නමැති Python පුස්තකාලයක් නිර්මාණය කර ඇත. මෙය @shield_tool නමැති decorator එකක් භාවිතා කර, මෙවලම් ක්රියාත්මක වීමට පෙර පරාමිතීන් පරීක්ෂා කරයි. API key, අසුරැදු URL වැනි ආරක්ෂක නීති උල්ලංඝනයක් හමු වුවහොත්, මෙවලම කිසිවක් නොකරයි.
උදාහරණයක් ලෙස, send_email ෆන්ක්ශනයක් @shield_tool සමඟ අලංකාර කර, LLM එක ප්රොම්ප්ට් ඉන්ජෙක්ෂන් හරහා එය ක්රියාත්මක කිරීමට උත්සාහ කළත්, එය ක්රියා නොකරයි. එමෙන්ම, ModelFuzz හි modelfuzz scan නමැති CLI ස්කැනර් එකක් ඇත, එය ඔබේ මොඩලයට නකල් ප්රොම්ප්ට් ඉන්ජෙක්ෂන් ප්රහාර කර, මෙවලම් ඇමතුම් වලට අයදුම් කළ හැකිද කියා පරීක්ෂා කරයි.
ලේඛකයා මෙම ස්කැනර් එක qwen2.5:1.5b මොඩලය සමඟ පරීක්ෂා කර 5 උත්සාහයන්ගෙන් 4ක් සාර්ථකව බ්රෙච් කර තිබේ. එම නිසා ModelFuzz හි ආරක්ෂක පරීක්ෂණය තවත් නවීන AI මොඩල සඳහා අත්යවශ්ය වේ.
ශ්රී ලංකාවට ඇති වැදගත්කම
ModelFuzz සම්පූර්ණයෙන්ම open‑source වන අතර PyPI මගින් pip install "modelfuzz[scan]" ලෙස සරලව ස්ථාපනය කළ හැක. ශ්රී ලංකාවේ AI සංවර්ධකයන්, විශ්වවිද්යාල සිසුන්, තාක්ෂණ ආරම්භකයන් සඳහා මෙය විශාල වාසියක් වේ:
- ආරක්ෂක හැකියාවන් වර්ධනය: දේශීය AI පද්ධති හෝ chat‑bot වැනි ඒජන්ට්ලාට ModelFuzz එකක් එක් කිරීමෙන් රහස් දත්ත හරහා පිටවීම අවහිර කර ගත හැක.
- ඉගෙනුම් පද්ධතිය: Python සහ LLM ආරක්ෂාව පිළිබඳ ප්රායෝගික උදාහරණයක් වශයෙන් පාඨමාලා, වැඩමුළු වල භාවිතා කළ හැක.
- ව්යාපාරික විශ්වාසය: ගනුදෙනුකරුවන්ගේ API key, ගුප්ත තොරතුරු ආරක්ෂා කර, නව AI‑මූලික සේවාවන් ගොඩනැගීමට අවශ්ය විශ්වාසය ලබා දේ.
ModelFuzz වෙබ් අඩවිය (modelfuzz.com) සහ GitHub (higagan/modelfuzz) තුළ වැඩි විස්තර, දායකත්ව මාර්ග, සහ නව නීති යෝජනා ඉදිරිපත් කිරීමට අවස්ථා ඇත. ඔබේ AI ආරක්ෂක ප්රතිපත්ති ගැන අදහස් හෝ වෙනත් ඒජන්ට් ෆ්රේම්වර්ක් සඳහා සහයෝගය අවශ්ය නම්, සම්බන්ධ වීමට අමතන්න.
AI ආරක්ෂාව නව මට්ටමකට ගෙන යාමට ModelFuzz එකත් එක්ක අත්හදා බලන්න. ඔබේ මොඩලය සුරක්ෂිතද? දැන් පරීක්ෂා කර බලන්න.
