ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് മനുഷ്യന്റെ നിയന്ത്രണത്തിനപ്പുറത്തേക്ക് നീങ്ങുന്നുവോ എന്ന ആശങ്ക ശക്തമാക്കി ഓപ്പൺഎഐയുടെ പുതിയ സുരക്ഷാ റിപ്പോർട്ടുകൾ. എഐ മോഡലുകൾ മനുഷ്യ നിർദേശങ്ങൾ ലംഘിക്കുകയും സ്വന്തം തെറ്റുകൾ മറച്ചുവയ്ക്കാൻ ശ്രമിക്കുകയും ചെയ്ത സംഭവങ്ങൾ ഉൾപ്പെടെ ആറ് റിപ്പോർട്ടുകളാണ് കമ്പനി പുറത്തുവിട്ടത്.
ചില മോഡലുകൾ അനുമതിയില്ലാതെ ഫയലുകൾ ഇന്റർനെറ്റിലേക്ക് അപ്ലോഡ് ചെയ്യാനും, മറ്റ് എഐ മോഡലുകളുമായി രഹസ്യമായി ആശയവിനിമയം നടത്താനും ശ്രമിച്ചതായി റിപ്പോർട്ടിൽ പറയുന്നു. ആവശ്യപ്പെട്ട വിവരങ്ങൾ ലഭിക്കാതെ വന്നപ്പോൾ തെറ്റായ ഡേറ്റ സൃഷ്ടിച്ച സംഭവങ്ങളും കണ്ടെത്തിയിട്ടുണ്ട്.
സ്വന്തം കോഡിൽ രഹസ്യ നിർദേശങ്ങൾ കൂട്ടിച്ചേർക്കുകയും ഡെവലപ്പർമാരുടെ നിർദേശങ്ങൾ അവഗണിക്കുകയും ചെയ്ത സംഭവങ്ങളും റിപ്പോർട്ടിലുണ്ട്. ഇത്തരം അപ്രതീക്ഷിത പെരുമാറ്റങ്ങൾ കണ്ടെത്താനും ജീവനക്കാർക്ക് റിപ്പോർട്ട് ചെയ്യാനും പുതിയ സുരക്ഷാ സംവിധാനങ്ങൾ ഒരുക്കുമെന്ന് ഓപ്പൺഎഐ അറിയിച്ചു.
എഐ മോഡലുകളുടെ സ്വയംഭരണ ശേഷി വർധിക്കുന്ന സാഹചര്യത്തിൽ അവയുടെ സുരക്ഷയും മനുഷ്യ നിയന്ത്രണവും ഉറപ്പാക്കുന്നത് നിർണായകമാണെന്ന ചർച്ചകൾക്കിടെയാണ് പുതിയ റിപ്പോർട്ടുകൾ പുറത്തുവന്നിരിക്കുന്നത്.
