ඇමරිකානු AI ආදාරිත ආරක්ෂක මෙවලම් භාවිතා කරමින් තාක්ෂණික ආක්රමණයක් විග්රහ කිරීමට උත්සාහ කළ AI‑මූලික සමාගමක්, නවීන AI මොඩලයක් විසින් “අනුමත නොකළ” ලෙස ප්රතිචාර දුන් පසු, චීන විවෘත‑මූලාශ්ර මොඩලයක් වෙත යොමු විය.
මෙම සමාගමට තම පද්ධති තුළ ස්වයංක්රීය AI කාර්යය මණ්ඩලයක් විසින් විශාල පරිමාණයේ දුෂ්කර ක්රියා සිදු කර තිබුණි. එය “සැන්ඩ්බොක්ස්” භාවිතයෙන් දහස් ගණනක් නකල් පරිසරයන්හි අයදුම් කරමින්, ආක්රමණකරුගේ තාක්ෂණික තක්සේරු (TTP) ගණනාවක් සකස් කළේය. ආක්රමණය හඳුනා ගැනීමට සමාගම ඇමෙරිකානු ප්රමුඛ AI මොඩලයන්ට ලොග් ගොනු හා මෑලවෙයා නියෝජිතයන් ලබාදී, “මෙම ලොග් විශ්ලේෂණය කරන්න” කියා ඉල්ලුවා. නමුත් මෙම මොඩලයන් “අනවශ්ය” ලෙස පිළිතුරු දුන් නිසා, ආරක්ෂක කණ්ඩායමට තවත් මාර්ගයක් සොයාගත හැකි විය.
මෙම සිදුවීමේ වැදගත්කම යනු, ආරක්ෂක ගාර්ඩ්රේල්ස් “ආරක්ෂාව” සඳහා නිර්මාණය කර ඇති අතර, නියමිත “අනාවරණ” අවස්ථාවලදී වැරදිව “අවහිර” කර දෙන බවයි. අතීතයේ ඇන්ටිවිෆරස් හෝ DLP මෙවලම් වල “false positive” ගැටළුවක් වැනි අත්දැකීම් සමග සමානයි. නමුත් මේ වරට AI‑කාර්යය මණ්ඩලයක් ස්වයංක්රීයව ආක්රමණය සිදු කර ඇති බැවින්, ආරක්ෂක කණ්ඩායමට “ආක්රමණ ලොග්” වැනි දුෂ්කර දත්ත විශ්ලේෂණය කිරීමේ හැකියාව අත්හිටුවීම බරපතල ප්රතිඵලයක් වේ.
ශ්රී ලංකාවට ඇති වැදගත්කම
ශ්රී ලංකාවේ තාක්ෂණික ශිෂ්ය, සංවර්ධක, ව්යාපාරිකයන්ට මේ සිදුවීමේ පඩි පෙන්වයි:
- ශිෂ්යයින් – AI ආරක්ෂාව පිළිබඳ පරික්ෂණාත්මක පාඨමාලා නිර්මාණය කිරීමේ අවශ්යතාවය තේරුම් ගත හැක.
- සංවර්ධකයින් – ආරක්ෂක AI මොඩලයන් භාවිතා කරන විට, “guard‑rail” කන්ෆිගර් කිරීමේ පරීක්ෂණය අත්යවශ්ය බව දැනගත හැක.
- ව්යාපාරිකයන් – එක් මොඩලයක් මත පදනම් වූ IR ක්රමවේදය “single point of failure” බවට පත්වීමේ අවදානම අවධාරණය කරයි; බහු‑මොඩල ප්රවේශයක් අනුගමනය කිරීමේ වැදගත්කම ඉහළ යයි.
ඉදිරියට, ආරක්ෂක ක්රමවේද සැලසුම් කරන සමාගම්, AI මොඩලයන් “අනාවරණ” අවස්ථාවලදී කෙලින්ම ප්රතික්ෂේප නොකර, “defensive intent” හඳුනාගැනීමට හැකි විය යුතුය. ඒ සඳහා නියමිත “table‑top” පුහුණුවලදී මොඩලයන්ගේ ප්රතිචාර පරීක්ෂා කිරීම, සැබෑ සිදුවීම් වලදී අඛණ්ඩව කටයුතු කිරීමට අවශ්ය වේ.
අවසන් වශයෙන්, AI‑මූලික ආරක්ෂක මෙවලම් භාවිතා කරන සමාගම්, “safety‑aligned” බව පමණක් නොව, “security‑aligned” බවත් තහවුරු කරගත යුතුය. එසේ නොකළහොත්, ගාර්ඩ්රේල්ස් ආකාරයෙන් ආරක්ෂාව බාධා කර, ආක්රමණකරුවන්ට වඩා පළපුරුදු වේ.
