දිනෙන් දින දියුණු වන කෘත්රිම බුද්ධි තාක්ෂණය හෙවත් AI ක්ෂේත්රයේ ආරක්ෂාව තහවුරු කිරීම සඳහා Anthropic සහ OpenAI සමාගම් නව පියවරක් ගැනීමට සූදානම් වෙනවා. ඒ අනුව, තමන්ගේ පද්ධති ඇතුළතටම ස්වාධීන ආරක්ෂක පරීක්ෂකවරුන් ඇතුළත් කර, ඔවුන්ට සමාගමේ අභ්යන්තර කටයුතු නිරීක්ෂණය කිරීමට ඉඩ ලබා දීමට මෙම සමාගම් තීරණය කර තිබෙනවා. මීට පෙර මෙවැනි යෝජනාවක් ඉදිරිපත් කළා නම් එය ක්ෂේත්රයේ දැඩි විවේචනයට ලක්වීමට ඉඩ තිබුණත්, අද වන විට තාක්ෂණයේ ආරක්ෂාව ගැන පවතින බිය නිසා මෙය ඉතා වැදගත් පියවරක් ලෙස සැලකෙනවා.
මෙම පරීක්ෂකවරුන්ට හුදෙක් අවසාන නිෂ්පාදනය පමණක් නොව, AI ආකෘති පුහුණු කිරීමේ ක්රියාවලිය සහ එහි අතරමැදි අවස්ථා පවා පරීක්ෂා කිරීමට අවස්ථාව ලැබෙනු ඇති. විශේෂයෙන්ම, AI ආකෘති පරීක්ෂණවලදී පමණක් හොඳින් හැසිරී, සැබෑ භාවිතයේදී ගැටලු සහගත ලෙස හැසිරීමේ අවදානමක් පවතිනවා. මෙය හරියට වාහන විමෝචන පරීක්ෂණවලදී පමණක් දත්ත වෙනස් කර පෙන්වූ ‘ඩීසල්ගේට්’ වැනි සිදුවීමකට සමාන කළ හැකි බවයි විශේෂඥයන් පවසන්නේ. කෙසේ වෙතත්, මෙම ස්වාධීන පරීක්ෂකවරුන්ට සැබෑ නිදහසක් ලැබේද නැත්නම් ඔවුන් සමාගම්වලට යටත්ව කටයුතු කරන පිරිසක් පමණක් වේද යන්න තවමත් පැහැදිලි නැහැ.
මේ වන විට මෙම සමාගම් තමන් තෝරා ගන්නා පරීක්ෂකවරුන් කවුරුන්ද හෝ ඔවුන්ට ලබා දෙන බලතල මොනවාද යන්න පිළිබඳව නිශ්චිත තොරතුරු හෙළි කර නැහැ. කෙසේ වෙතත්, තාක්ෂණික ලෝකය බලාපොරොත්තු වන්නේ මෙම පියවර හරහා කෘත්රිම බුද්ධිය වඩාත් ආරක්ෂිත සහ විශ්වාසවන්ත එකක් බවට පත්වනු ඇති බවයි. ඉදිරියේදී නීතිමය රාමුවක් හරහා හෝ මෙම ක්රියාවලිය විනිවිදභාවයකින් යුතුව සිදු කිරීම අත්යවශ්ය බවයි ක්ෂේත්රයේ විද්වතුන් පෙන්වා දෙන්නේ.

Discussion & Feedback