කෘත්රිම බුද්ධිය හෙවත් AI තාක්ෂණය භාවිත කිරීමේදී සිදුවිය හැකි බරපතළ අවදානමක් පිළිබඳව පසුගිය දිනවල ලෝකයේම අවධානය යොමු වුණා. ඇමරිකානු හමුදාව චීන නෞකාවක් ඉලක්ක කරගෙන දියත් කිරීමට සූදානම් වූ හමුදා මෙහෙයුමක් අවසන් මොහොතේ නතර කිරීමට සිදුවුණේ, එම මෙහෙයුම සඳහා පදනම් කරගත් බුද්ධි තොරතුරු AI චැට්බෝට් එකක් විසින් වැරදියට නිර්මාණය කර තිබීම නිසයි. අදාළ නෞකාවේ න්යෂ්ටික අවි සඳහා අවශ්ය උපාංග ඇති බවට AI පද්ධතිය ලබාදුන් වැරදි තොරතුරක් මත පදනම්ව මෙම මෙහෙයුම සැලසුම් කර තිබුණා. වාසනාවකට මෙන්, ප්රහාරය දියත් කිරීමට පෙර මෙය වැරදි තොරතුරක් බව හඳුනා ගැනීමට හැකි වූ නිසා විශාල ගැටුමක් වළක්වා ගැනීමට ඇමරිකානු බලධාරීන්ට හැකි වුණා.
මෙම සිදුවීමෙන් පෙනී යන්නේ හමුදාමය තීරණ ගැනීමේදී AI තාක්ෂණය මත පමණක්ම යැපීම කෙතරම් අනතුරුදායක විය හැකිද යන්නයි. විශේෂයෙන්ම වේගවත් තීරණ ගැනීම සඳහා හමුදාවන් AI වෙත යොමු වුවත්, එහිදී සිදුවන තාක්ෂණික දෝෂ හෝ ‘Hallucinations’ හෙවත් වැරදි තොරතුරු නිර්මාණය වීම් මිනිස් අධීක්ෂණයකින් තොරව ඉහළ මට්ටම් කරා ගමන් කිරීම බරපතළ ගැටලුවක්. හමුදා විශේෂඥයන් පෙන්වා දෙන්නේ මෙවැනි තාක්ෂණයන් භාවිත කිරීමේදී ඉතා දැඩි ආරක්ෂිත පියවර අනුගමනය කළ යුතු බවයි. යුද්ධයක් වැනි ජීවිත හා මරණය තීරණය වන අවස්ථාවලදී AI ලබාදෙන තොරතුරු පිළිබඳව සැකයක් තබා ගැනීම අත්යවශ්ය බවත්, වේගය පමණක් මුල් කරගෙන කටයුතු කිරීමෙන් විශාල විනාශයක් සිදුවිය හැකි බවත් ඔවුන් අනතුරු අඟවනවා.
Discussion & Feedback