AI එජන්තන් දැන් අපේ වැඩපිළිවෙළේ ගැඹුරු කොටසක්. ඒවා අධිකාරි පරිදි කාර්යයන් සිදු කරයි, නමුත් කාලයක් ගත වූ පසු වැරදි තීරණයක් ගත හැකිය. උදාහරණයක් ලෙස, රෑ 3.00ට එජන්ට් එකක් සහය ටිකට් එකක් පිරික්සා, නායකයාට ඊමේල් එකක් යැවීමට තීරණය කළා. එය ව්යාකරණයෙන් නිවැරදිව, තොරතුරු පූර්ණයෙන් පිරී තිබුණත්, කිසිවකු එය පරීක්ෂා නොකළා, අනුමත නොකළා. එම නිසා එජන්ට් එකට “කාර්යය ඉටු කිරීම” හි අධිකාරි හිමිකම තිබුණා, නමුත් ඒ අධිකාරිය අනිසි පලපාලියක් ඇති කළේය.
Guardrail කියන්නේ එජන්ට් එකක් ක්රියාත්මක වීමට පෙර එහි ප්රතිඵල පරීක්ෂා කරන මට්ටමක්. මෙය අනුමත කිරීම, අවසර ලැයිස්තුව, ඩ්රයි-රන්, සහ blast‑radius සීමා ලෙස හතරකට බෙදා හැරේ.
- Allowlist (අවසර ලැයිස්තුව) – තොරතුරු කියවීම, සෙවීම, හෝ ආපසු ලබා ගත හැකි ක්රියාකාරකම් අධිකාරි නොමැතිව ස්වයංක්රීයව සිදු කළ හැකිය.
- Approval Gate (අනුමත කිරීම) – ඊමේල් යැවීම, ගිණුම මකාදැමීම, ගෙවීම් කිරීම වැනි අවදානම් වැඩ සඳහා මනුෂ්ය අනුමත කිරීම අවශ්ය වේ.
- Dry‑run (ඩ්රයි‑රන්) – ක්රියාවලිය සකස් කර, ඇත්තේ කුමන දත්ත යාවත්කාලීන වේද, කුමන ප්රතිඵල ඇති වේද කියා පූර්ව පරීක්ෂා කිරීම, නමුත් ඇත්තේ අතුරුදන් නොවීම.
- Blast‑radius Limits (ප්රතිඵල සීමා) – වැරදි සිදු වුවහොත් එම වැරදි බලපෑම කුමන පරිමාණයකට සීමා කරනු ලබන්නේද යන්න නියම කිරීම.
Guardrail ක්රමයක් නිර්මාණය කිරීමේදී, "එජන්ට් එක 100 වරක් වැරදි වුවහොත්, එහි පළපාලිය කෙතරම් තීව්රද?" යන ප්රශ්නයට පිළිතුර "කොයි හේතුවක් නැත" නම්, එම ක්රියාවලිය allowlist එකට ඇතුළත් නොකළ යුතුය. HTTP verb පමණක් බලමින් අවදානම තීරණය නොකළ යුතුය; POST ඉල්ලීමක් ද්රව්යයක් සකස් කර, එය මාරු කළ හැකිද නැද්ද යන්න මත පදනම්ව විශ්ලේෂණය කළ යුතුය.
ශ්රී ලංකාවට ඇති වැදගත්කම
ශ්රී ලංකාවේ තාක්ෂණික ආයතන, විශ්වවිද්යාලය හා ව්යාපාර සඳහා මෙම Guardrail සැලසුම් අත්යවශ්ය වේ. එජන්ට්‑අධාරිත සේවා භාවිතා කරන විට, අධිකාරි වැරදි හෝ දත්ත මකා දැමීමෙන් ආර්ථික හා නීතිමය අලාභයන් වැළැක්විය හැක.
- විශ්වවිද්යාල සිසුන්ට AI මොඩල පරීක්ෂා කිරීමේදී ආරක්ෂිත පරිසරයක් ලබා දීම.
- විකසකයන්ට API‑වල අනුමත කිරීමේ ලොජික් එකතු කර, නිෂ්පාදන ගුණාත්මකතාව වැඩි කිරීම.
- ව්යාපාරිකයන්ට ගෙවීම්, ගනුදෙනු, දත්ත මකාදැමීම වැනි සංකීර්ණ ක්රියාකාරකම් සඳහා මනුෂ්ය පරීක්ෂණයක් ඇතුළත් කිරීම, නීතිමය අධිකාරි ප්රතිපත්ති වලට අනුකූල වීම.
Guardrail ක්රමය නිවැරදිව පරීක්ෂා කර, නිශ්චිතව ක්රියාත්මක කර ගත හැකි නම්, AI එජන්ට්න් අපගේ කාර්යයන් වේගවත් කරයි, ඒත් ඒ සමඟ ඇතිවන අවදානම අඩු කරයි. එම නිසා, තාක්ෂණික ප්රගතිය හා ආරක්ෂාව එකට ගත හැකි මාර්ගයක් ලෙස Guardrail සැලසුම් ශ්රී ලංකාවේ AI භාවිතයට අත්යවශ්ය වේ.
ඔබේ සංවිධානයේ AI පද්ධති පවත්වාගෙන යනවා නම්, අදම Guardrail ක්රමයක් හඳුන්වා දී, අනාගතයේ සිදුවිය හැකි අධිකාරි ගැටළු වලින් ආරක්ෂා වන්න.
