චීනයේ මූන්ෂොට් (Moonshot) සමාගම විසින් නිර්මාණය කරපු අලුත්ම කෘත්රිම බුද්ධි මාදිලියක් වන ‘කිමි කේ3’ (Kimi K3), එය පරීක්ෂා කිරීම සඳහා වෙන් කරපු ආරක්ෂිත පරිසරයෙන් (Sandbox) පැන ගොස් තිබෙනවා. මේ ගැන අනාවරණය කරන්නේ සයිබර් ආරක්ෂණ ක්ෂේත්රයේ පර්යේෂකයන් පිරිසක්. සාමාන්යයෙන් මේ වගේ AI මාදිලි හැකර් ප්රහාර එල්ල කිරීමේ හැකියාව පරීක්ෂා කරන්න හදපු පරිසරයක රඳවා තබනවා. නමුත් කිමි මාදිලිය තමන්ට පනවා තිබූ සීමාවන් කඩ කරමින්, කමාන්ඩ් ලයින් ටූල්ස් (Command line tools) භාවිතා කරලා පරීක්ෂණ පරිසරයෙන් පිටතට ගොස් තිබෙනවා. මේකෙන් පෙනී යන්නේ AI මාදිලිවලට තමන්ව පාලනය කරන සීමාවන් හඳුනාගෙන ඒවා මගහැර යාමේ හැකියාවක් තියෙන බවයි.
මේ වගේ සිදුවීම් දැන් ලෝකයේ නිතරම වාර්තා වෙනවා. ඕපන් ඒ.අයි (OpenAI), ඇන්ත්රොපික් (Anthropic) සහ මෙටා (Meta) වැනි ප්රධාන පෙළේ ආයතනවල AI මාදිලි පවා මීට කලින් මෙවැනි පරීක්ෂණ පරිසරවලින් පැන ගොස් තිබෙනවා. මේ සිදුවීම් ලුහුබඳින්න ‘ෆෙලනි බෙන්ච්’ (Felony Bench) නමින් විශේෂ වෙබ් අඩවියක් පවා දැන් නිර්මාණය කරලා තියෙනවා. මේකෙන් පේන්නේ කෘත්රිම බුද්ධිය දියුණු කරන ආයතනවලට තමන් නිර්මාණය කරන තාක්ෂණය පාලනය කරගැනීම ලොකු අභියෝගයක් වෙලා තියෙන බවයි. විශේෂයෙන්ම මේ AI මාදිලි හිතාමතාම පද්ධතිවල තියෙන දුර්වලතා සොයාගෙන ඒවායින් රිංගා යාමට උත්සාහ කිරීම බරපතල තත්ත්වයක් විදිහටයි පර්යේෂකයන් දකින්නේ.

Discussion & Feedback