දිනෙන් දින දියුණු වන කෘත්රිම බුද්ධි හෙවත් AI තාක්ෂණය සම්බන්ධයෙන් ලෝකයම බලාගෙන ඉන්නා මොහොතක, මේ පද්ධති පාලනයෙන් මිදී ගියහොත් කුමක් සිදුවේද යන්න ගැන බරපතළ ගැටලුවක් මතු වෙලා තියෙනවා. Guidelight AI Standards ආයතනය විසින් සිදු කළ නවතම අධ්යයනයකින් හෙළි වෙන්නේ, ප්රමුඛ පෙළේ AI සමාගම් බොහොමයක් තම පද්ධතියක් වැරදි ලෙස හැසිරුණහොත් එය වහාම පාලනය කරගන්නා ආකාරය පිළිබඳ පැහැදිලි සැලැස්මක් ප්රසිද්ධ කර නැති බවයි. OpenAI ආයතනය මේ අතින් තරමක් ඉදිරියෙන් සිටියත්, Anthropic සහ Meta වැනි සමාගම් මේ සම්බන්ධයෙන් තවමත් පසුපසින් සිටින බවයි වාර්තා වෙන්නේ.
මෙම පර්යේෂණයට අනුව, AI පද්ධතිවලට අන්තර්ජාලයට පිවිසීමට හෝ බාහිර පද්ධති හැක් කිරීමට හැකි වීම වැනි සිදුවීම් මීට පෙර වාර්තා වෙලා තියෙනවා. ඒ නිසාම, යම් හෙයකින් AI පද්ධතියක් මිනිස් පාලනයෙන් මිදී අනිසි ලෙස හැසිරුණහොත්, එය වහාම අක්රිය කරන්නේ කෙසේද හෝ එහි අවසරයන් ඉවත් කරන්නේ කෙසේද යන්න පිළිබඳව සමාගම් සතුව පැහැදිලි ක්රමවේදයක් තිබිය යුතුයි. නමුත් බොහෝ සමාගම් තවමත් මේ ගැන ප්රසිද්ධියේ කතා කිරීමට මැලි වෙනවා.
Guidelight ආයතනයේ ප්රධාන විද්යාඥ ස්ටීවන් ඇඩ්ලර් පවසන පරිදි, AI සමාගම් තම පද්ධතිවල ආරක්ෂාව ගැන කතා කළත්, හදිසි අවස්ථාවකදී පාලනය ගිලිහී ගියහොත් ගත යුතු පියවර ගැන තවමත් ඇත්තේ ඉතා අඩු අවධානයක්. තාක්ෂණික සමාගම් තමන් සතුව රහසිගත සැලසුම් තිබෙන බව පැවසුවත්, ස්වාධීන විගණනයක් නොමැතිව මේවායේ විශ්වාසවන්තභාවය තහවුරු කරගන්න බැහැ. අනාගතයේදී AI පද්ධති වඩාත් ස්වාධීනව වැඩ කරන විට, මේ වගේ ආරක්ෂිත පියවරයන් අනිවාර්යයෙන්ම තිබිය යුතු බවයි විශේෂඥයන් පෙන්වා දෙන්නේ.

Discussion & Feedback