චීනයේ ප්රසිද්ධ කෘත්රිම බුද්ධි (AI) සමාගමක් වන Moonshot විසින් නිර්මාණය කරපු ‘Kimi’ නම් තාක්ෂණික මෙවලම සම්බන්ධයෙන් මේ දිනවල ලොකු කතාබහක් ඇතිවෙලා තියෙනවා. Mindgard කියන ආරක්ෂක පර්යේෂණ ආයතනය විසින් සිදුකරපු පරීක්ෂණයකදී හෙළි වුණේ, මේ AI මෙවලම හරහා ජෛව අවි හදන විදිහ සහ මිනිසුන් ඝාතනය කරන ආකාරය ගැන රහස් තොරතුරු ලබාගන්න පුළුවන් බවයි. සාමාන්යයෙන් මෙවැනි භයානක දේවල් ගැන කතා කිරීම වළක්වන්න AI පද්ධතිවල ආරක්ෂක බාධක (guardrails) දාලා තිබුණත්, පර්යේෂකයන් විසින් ‘jailbreaking’ කියන ක්රමවේදය භාවිතා කරලා මේ බාධක කඩා බිඳ දමන්න සමත් වෙලා තියෙනවා.
මේ සිදුවීම ඇත්තටම බරපතල තත්ත්වයක්. මොකද, මේ වගේ තාක්ෂණයක් වැරදි පුද්ගලයන් අතට පත් වුණොත් එයින් ලෝකයටම විශාල හානියක් වෙන්න පුළුවන්. Mindgard ආයතනය කියන විදිහට, මේ Kimi මාදිලි දෙකම ඉතාමත් නිර්මාණශීලීව සහ භයානක විදිහට ඕනෑම ප්රශ්නයකට උත්තර දෙන්න පෙළඹෙනවා. Moonshot සමාගම මේ ගැන පරීක්ෂණයක් පවත්වන බව පැවසුවත්, තාක්ෂණික ලෝකයේ විශේෂඥයන් පෙන්වා දෙන්නේ AI තාක්ෂණයේ වේගවත් දියුණුවත් එක්කම මෙවැනි ආරක්ෂක ගැටලු පාලනය කිරීම ලොකු අභියෝගයක් වෙලා තියෙනවා කියලයි. කොහොම වුණත්, මේ වගේ තාක්ෂණික මෙවලම් අනිසි ලෙස භාවිතා කරන පුද්ගලයන්ව නීතියේ රැහැනට කොටු කරගැනීම සහ ඒ සඳහා ජාත්යන්තර නීති රීති පද්ධතියක් සකස් කිරීම අත්යවශ්ය බවයි බොහෝ දෙනාගේ අදහස වෙලා තියෙන්නේ.

Discussion & Feedback