AI ඒජන්ට් එකක් නිර්මාණය කරන විට, ආරක්ෂාව පළමු පියවර විය යුතුයි. පසුගිය ලිපියේ අපි එයට මූලික අවසර මෝඩලයක්, acceptEdits සීමාව සහ ප්රශ්න අසන උපකරණයක් එක් කරලා තිබුණා. ඒත් එය තවත් මට්ටමේ ආරක්ෂාවක් නොව, මනුෂ්යයාගේ නිරීක්ෂණයට බොහෝ පසුබැසීමක් වුණා.
මෙම නව ලිපියේ අපි AI ඒජන්ට් එකේ ආරක්ෂාව තවත් ගැඹුරු කරමු. ප්රධාන අරමුණ වන්නේ Docker සන්ඩ්බොක්ස් භාවිතයෙන් උපකරණ ක්රියාකාරකම් සීමා කිරීමයි. ඒ තුළින් අධිකාරි නොවන කමන්ඩ් එකක් ක්රියාත්මක වුවත්, ඒක පමණක් ප්රොජෙක්ට් ෆෝල්ඩරයට පමණක් ප්රවේශය ලැබේ. එමෙන්ම, ප්රෝම්ප්ට් ඉන්ජෙක්ෂන් ආකාරයේ ප්රහාර වලට එරෙහිව නව ආරක්ෂක පියවරක් ගන්නෙමු – මොඩලය එය උපකරණ ප්රතිඵලයක් ලෙස නොගනී, ඒක තොරතුරු ලෙස ගනී.
ආරක්ෂා පරීක්ෂණය සඳහා සෑම උපකරණයක්ම JSON Schema අනුව පරීක්ෂා කරයි. මෙයින් අසත්ය පරාමිතීන් හෝ අනවශ්ය දත්ත ඇතුළත් වීම වැලැක්විය හැක. ලේඛනයේ සඳහන් වූ ආරක්ෂා පරීක්ෂණ ලැයිස්තුව තුළ ප්රෝම්ප්ට් ඉන්ජෙක්ෂන්, උපකරණ අවසර, ඇතුළත්/පිටත ව්යුහ පරීක්ෂණ, සම්පත් සීමා, රහස් කළමනාකරණය, නිරීක්ෂණ සහ කීල් ස්විච් වැනි අංශ 6 ක් ඇත.
කේතයේ හැම පාලනමත් වෙනම මොඩියුලයක් ලෙස වෙන් කර ඇත. prompt_safety.py ප්රෝම්ප්ට් සීමා කරයි, tool_policy.py උපකරණ අවසර පාලනය කරයි, tools/validators.py JSON‑Schema පරීක්ෂාව සිදු කරයි, resource_limits.py සම්පත් සීමා කරයි, secret_management.py රහස් පාලනය කරයි, session_control.py සැසිය අත්හිටුවීමේ පාලනය කරයි. සෑම තීරණයක්ම tools/audit.jsonl හි සටහන් කරයි, ඒ නිසා පසුගිය ක්රියාකාරකම් පරීක්ෂා කිරීම පහසුය.
ශ්රී ලංකාවට ඇති වැදගත්කම
ශ්රී ලංකාවේ තාක්ෂණික ශිෂ්යයන්, සංවර්ධකයන් සහ ව්යාපාරිකයින්ට මෙය විශාල ප්රයෝජනයක්. පළමුව, Docker සන්ඩ්බොක්ස් භාවිතයෙන් දේශීය සර්වර් හෝ පරිගණක පද්ධති ආරක්ෂාව තවත් ශක්තිමත් වේ. දෙවනුව, JSON‑Schema පරීක්ෂාව මඟින් දත්ත ගුණාත්මකභාවය සහ අනුකූලතාවය රැක ගත හැක, එය API සංවර්ධනයේ වැදගත් වේ. තෙවැනිය, ආරක්ෂා ලොග් සහ කීල් ස්විච් නිසා ආයතනික පරිසරයේ අනිවාර්ය අධීක්ෂණයක් සලසා ගත හැක, ඒ නිසා ආරක්ෂා උල්ලංඝනයක් සිදුවුනොත් ඉක්මනින් නවීකරණය කළ හැක. මේ සියල්ල ශ්රී ලංකාවේ AI‑පදනම්ගත නිර්මාණ, ස්මාර්ට් සොෆ්ට්වෙයා සහ ක්ලවුඩ් සේවාවන් ඉදිරියට ගෙන යාමට මූලික පදනමක් වේ.
අවසන් වශයෙන්, AI ඒජන්ට් ආරක්ෂාව තවත් මට්ටමකට ගෙන යාම සඳහා Docker සන්ඩ්බොක්ස්, ප්රෝම්ප්ට් ඉන්ජෙක්ෂන් රැකවරණය, සහ සම්පූර්ණ ව්යුහ පරීක්ෂාව අත්යවශ්යය. මේ ක්රමවේදයන් හරහා අපි AI තාක්ෂණය භාවිතා කරමින් පරිසර ආරක්ෂාව රඳවා ගත හැක.
