අධිකරණය, මුදල්, හෝඩිය ආදී ක්ෂේත්රවල AI කොපිලට් (copilot) භාවිතා කිරීම ඉක්මනින් පැතිරෙමින් පවතී. නමුත් එම බුද්ධිමත් උපාංගයන්ට විශ්වාසයෙන් පිරුණු මනුෂ්යයන්ට අවධානම් තත්ත්වයක් පෙනෙන්නේ ‘Human‑Agent Trust Exploitation’ (ASI09) නමින් හැඳින්වෙන තර්ජනයයි.
උදාහරණයක් ලෙස, විශ්වාසනීය AI කොපිලට් එකක් මූල්ය කණ්ඩායමට "Vendor invoice #4821" යන ඉන්වොයිසියක් ඉක්මනින් ගෙවිය යුතු බව, 4 පැය තුළ දඩයම් නියමයක් ක්රියාත්මක වන බව කියා දුන්නේය. එය ඉතා විශ්වාසජනක ලෙස පෙන්වා, ගිණුම් අංකය 7734 ලෙස සඳහන් කර තිබුණා. නමුත් ඉන්වොයිසිය ‘poisoned’ කර තිබූ අතර, ගෙවිය යුතු මුදල ඇත්තේ ත්රස්තයාගේ ගිණුමටය. AI එකේ “rationale” එක සම්පූර්ණයෙන්ම නිර්මාණය වූ නිසා, මනුෂ්යයා එය සැක නොකර අනුමත කළා.
මෙම තර්ජනයේ මූලික හේතුව මනුෂ්ය‑AI අතර ඇති අධික විශ්වාසයයි. AI ඒජන්ට්ලා ස්වභාවික භාෂාව, විශේෂඥත්වය, සහ විශ්වාසදායක විස්තරයක් සමඟ මනුෂ්යයන්ට පෙනෙයි. ඒ නිසා මනුෂ්යයන් ඒජන්ට්ලාගේ නිර්දේශය “අදාල විස්තරයක්” ලෙස ගෙන, තවත් පරීක්ෂාවක් නොකර ක්රියාත්මක කරයි. අවසාන ක්රියාවලිය පසු විග්රහ කිරීමේ ලොග් වල මනුෂ්යයාගේ අත්සන පමණක් පෙනෙයි, AI එකේ මූලික දෝෂය පෙනෙන්නේ නැත.
ශ්රී ලංකාවට ඇති වැදගත්කම
ශ්රී ලංකාවේ තාක්ෂණික සමාජය, AI‑සහයෝගිතා වැඩසටහන්, fintech, සහ රජයේ සේවා වල AI භාවිතය වර්ධනය වෙමින් පවතී. මේ තත්ත්වය තුළ පහත පරිදි බලපෑම් සිදු විය හැකිය:
- ඉගෙනුම් පරිසරය: විශ්වවිද්යාල සිසුන්, AI‑අධාරිත පද්ධති භාවිතා කරන විට, නිවැරදි පරීක්ෂණ ක්රමයක් නොදැනීමෙන් වැරදි තීරණ ගැනීමට ලක් වෙයි.
- සංවර්ධකයින්: කේත ලේඛන AI උපකාරකයන් (coding assistants) හරහා මැලිකා දුෂ්කර කේත කොටස් ඇතුළත් කර ගත හැකි අතර, එය ආරක්ෂා තහවුරු කිරීමේ අවශ්යතාවය ඉහළ දියුනු කරයි.
- ව්යාපාරිකයන්: ගිණුම්, ගබඩා, සහ පාරිභෝගික තොරතුරු AI‑විශ්වාසයෙන් පාලනය කරයි නම්, ‘poisoned’ ඉන්වොයිසියක් හෝ AI‑කොපිලට් එකේ අසත්ය නිරූපණයක් මගින් මුදල් හා නාමය නරක ලෙස නෂ්ට විය හැකිය.
ඒ නිසා ශ්රී ලංකාවේ ආයතන, AI ක්රමලේඛන වල අභ්යන්තර පරීක්ෂණ, සහ “human‑in‑the‑loop” ක්රියාකාරකම් සඳහා තද නීතිමය පාලන ක්රමයක් ගොඩනැගීම අත්යවශ්ය වේ.
අවසන් වශයෙන්, AI‑ආධාරිත පද්ධතිවලට විශ්වාසය තබාගැනීමේදී, ඒවායේ නිර්දේශය ස්වයං පරීක්ෂා කිරීම, ලොග් විශ්ලේෂණය, සහ විශ්වාසය පවත්වාගෙන යාම සඳහා “human verification” ක්රමයක් අත්යවශ්යයි. නැතහොත්, AI‑අධාරිත තෝරාගැනීම් පද්ධතියක් ඔබේ ආයතනයේ අවසන් තීරණය වශයෙන් පෙනී, ඔබේ ව්යාපාරයට ගැඹුරු හා අනිසි පිරිවැයක් ගෙන ඒමේ අවදානමක් ඇත.
