ඔබ රාත්රියෙහි නිදාගෙන සිටින අතර, ඔබේ AI ඒජන්ට් එක පසුබැසී තාක්ෂණික ටිකට් එකක් නිරූපණය කරමින් වැඩ කරමින් තිබේ. එය සාරාංශයක් ලියමින් ඔබේ මූලධනයට ඊමේල් යවයි. වාක්ය රචනයත්, ව්යාකරණයත් පූර්ණයි, නමුත් ඒ ඊමේල් එක යැවීමට කිසිවෙකු ඉල්ලීම් කර නැත, කිසිවෙකු පරීක්ෂා කර නැත. ඒජන්ට් එක තමන්ට ලබාදුන් උපදෙස් පමණක් අනුගමනය කරයි – එයින් අපිට සැලකිල්ලට ගත යුතුයි.
AI ඒජන්ට්ස් සදහා ඇති වැදගත් ගැටළුව වන්නේ, වැරදි ක්රියා මෘදුකාංගය තුළ “නිහඬ”ව සිදු වීමයි. එම ක්රියාවන් පරිපාලනය නොකරන විට, එය ඊමේල් යැවීම, දත්ත මකාදැමීම, ගෙවීම් ආරම්භ කිරීම වැනි අනිත්ය ක්රියාවලියක් විය හැක. මෙවැනි අවස්ථා වලදී “ගාර්ඩ් රෙල්” (guardrails) කියන මධ්යස්ථ පළලක් අවශ්ය වේ. මේ පළල ක්රියාවක් සිදු වීමට පෙර පරීක්ෂා කර, අනුමත කිරීම, අවහිර කිරීම හෝ මනුෂ්ය අනුමැතිය ලබා දීමට ඉඩ දෙයි.
ගාර්ඩ් රෙල් හතරක් ඉදිරිපත් කර ඇත:
- ක්රියා සුදු ලැයිස්තුව (whitelist)
- අනුමත ද්වාර (approval gate)
- සීමාකාරක (simulation mode)
- ප්රභේද පරාස සීමා (explosion radius limits)
ශ්රී ලංකාවට ඇති වැදගත්කම
ශ්රී ලංකාවේ තාක්ෂණික සමාජය ඉක්මනින් AI සහ automation භාවිතා කරමින් ඉදිරියට යන අතර, මෙවැනි ගාර්ඩ් රෙල් අනුගමනය කිරීමේ වැදගත්කම අතිවිශාලයි. විකසකයින් කේත ලියන විට, ක්රියා වර්ග අනුව “safe”, “approval_required”, “blocked” ලෙස වර්ගීකරණය කර, අනිත්ය ක්රියා වලට මනුෂ්ය අනුමැතිය ගත හැක. ව්යාපාරිකයන් අයෙකුගේ පද්ධතියේ වැරදි ගැටළුවක් නිසා පාරිභෝගිකයින්ට අලාභ නොවී, නීතිමය හා ආරක්ෂක අවදානම් පාලනය කළ හැක. අධ්යාපනික ආයතන AI ක්රමවේදය ගැන ඉගැන්වීමේදී, “human‑in‑the‑loop” සංකල්පය ප්රායෝගිකව පෙන්වා දෙමින්, අනාගත තාක්ෂණවේදීන්ට වගකීම සහ අවදානම ගැන අවබෝධය ලබා දේ.
අවසානයේ, AI ඒජන්ට්ස් භාවිතා කරන සෑම සංවිධානයක්ම මේ ගාර්ඩ් රෙල් සකස් කර, නියමිත ක්රියා පාලනයක් ඇති කරගත යුතුය. එවිට පද්ධතියේ වැරදි අඩු වෙයි, ව්යාපාරික විශ්වාසය වැඩි වේ, සහ තාක්ෂණික නවෝත්පාදන වඩාත් ආරක්ෂිතව ඉදිරියට ගිය හැක.
