අපි AI තාක්ෂණය වර්ධනය කරමින් සිටින අතර, එය දැන් පමණක් වචන පුරවා ගැනීමේ මෙවලමක් නොව, API හරහා ක්රියාකාරී පද්ධතියක් බවට පත්වෙයි. ඒත් මේ විශාල බලය සමඟින්, පරිශීලකගේ අදහස හා AI ගැලපීමේ ගැටළුවක් උදෙසා නව මාර්ගයක් අවශ්ය විය.
Genie Coefficient කියන්නේ, පරිශීලකගේ අදහස සහ AI එය ඉටු කරන ආකාරය අතර ඇති පරතරය මැනීමට නිර්මාණය කරන ලද මිනුමකි. මෙය “උපරිම සාධාරණ පුද්ගලය” මට්ටමක් සකස් කරමින්, AI පද්ධතියේ නඩත්තුකාරක හා මොඩලය එකට පරීක්ෂා කරයි.
AI පද්ධති “underspecification” ගැටළුවට මුහුණ දෙයි. ඒ කියන්නේ, පරිශීලක ඉල්ලීමක් නිරවද්යව අනුගමනය කරනවාද, නමුත් එය නරක, අනුචිත හෝ අනපේක්ෂිත ක්රියාමාර්ගයක් ලෙස පෙන්වීම. මේ නිසා AI හට “pragmatics” – මනුෂ්ය සමාජයෙහි පොදු අවබෝධය – නොමැතිව පෙනේ.
මෙම අවදානම අඩු කිරීම සඳහා, ලේඛකයන් පරිසර-විශේෂිත benchmark පද්ධති නිර්මාණය කරනවා. එම benchmark තුළ AI හට “reward hacking” හෝ “shortcut” ගැනීමට උත්සාහ කරන අවස්ථා සකසා, එය සත්ය ලෝකයේ අයදුම්පත්රයන්ට සමාන ලෙස පරීක්ෂා කරනවා. Genie Coefficient මගින්, AI පද්ධතියේ “reasonable person” ප්රමිතියක් සකස් කර, ආරක්ෂාත්මක පරීක්ෂණ සහ ප්රතිපත්ති සකස් කිරීම පහසු කරයි.
ශ්රී ලංකාවට ඇති වැදගත්කම
- විදුහල්පතින් හා විශ්වවිද්යාල සිසුන් AI නිරූපණයේ නීතිමය හා නෛතික පාර්ශවයන් ගැන ඉගෙන ගැනීමට නව මාර්ගයක් ලැබේ.
- ලෝක පරිසරයට සමාන දත්ත මූලික benchmark සකස් කිරීමෙන්, ශ්රී ලංකාවේ සංවර්ධකයින්ට තරගකාරී AI නිර්මාණය කිරීමට අවස්ථා ලැබේ.
- ව්යාපාරික සමාගම් AI‑කේෂ්ට්රයේ ආරක්ෂාව වැඩි කර ගැනීමෙන්, ගනුදෙනුකරුවන්ගේ විශ්වාසය වැඩි කරගනිමින්, නව නිෂ්පාදන හා සේවා නිර්මාණයට මඟ පෙන්වයි.
Genie Coefficient යනු AI ආරක්ෂාවට නව ප්රමාණයක්. එය පරිශීලකගේ අදහස සැලකිල්ලට ගෙන, තාක්ෂණය වගකීමෙන් භාවිතා කිරීමට මඟ පෙන්වයි. ඉදිරියේදී, මේ මිනුම ගෝලීය AI ප්රමිතීන්හි කොටසක් බවට පත්වීමට අපේක්ෂා කරමු.
