ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് സാങ്കേതികവിദ്യ വികസിപ്പിക്കുന്നതിനുള്ള അനിയന്ത്രിതമായ മത്സരം മനുഷ്യരാശിയുടെ നിലനിൽപ്പിന് തന്നെ ഭീഷണിയാണെന്ന് മുന്നറിയിപ്പ് നൽകിക്കൊണ്ട് പ്രമുഖ എഐ കമ്പനിയായ ആന്ത്രോപിക്കിലെ (Anthropic) സേഫ്റ്റി ഗവേഷകൻ ജോ ബെന്റൺ (Joe Benton) രാജിവെച്ചു. അടുത്ത ദശാബ്ദത്തിനുള്ളിൽ എഐ മനുഷ്യരാശിയെ നശിപ്പിച്ചേക്കാമെന്ന് ഭയന്ന് മറ്റൊരു ഗവേഷകനായ ജേക്കബ് കോക്സൺ (Jacob Coxon) രാജിവെച്ചതിന് തൊട്ടുപിന്നാലെയാണ് ബെന്റണിന്റെയും ഈ നിർണായകമായ രാജി പ്രഖ്യാപനം. എഐ സേഫ്റ്റി നോൺ-പ്രോഫിറ്റ് പ്രസ്ഥാനമായ 'METR'-ൽ ചേരാനാണ് ബെന്റണിന്റെ തീരുമാനം.
മനുഷ്യനേക്കാൾ ബുദ്ധിശക്തിയുള്ള സൂപ്പർ ഇന്റലിജൻസ് നിർമ്മിക്കാനുള്ള കടുത്ത മത്സരത്തിലാണ് പ്രമുഖ എഐ കമ്പനികൾ ഏർപ്പെട്ടിരിക്കുന്നത്. എഐ ഗവേഷണങ്ങൾ സ്വയം മെച്ചപ്പെടുത്താൻ (recursive self-improvement) ശേഷിയുള്ള സംവിധാനങ്ങൾ വരുന്ന ഏതാനും വർഷങ്ങൾക്കുള്ളിൽ നിലവിൽ വരും. മനുഷ്യർക്ക് നിയന്ത്രിക്കാൻ കഴിയാത്ത തരം ലക്ഷ്യങ്ങളും ആഗ്രഹങ്ങളും ഇത്തരം സിസ്റ്റങ്ങൾ വികസിപ്പിച്ചെടുത്താൽ മനുഷ്യരാശിക്ക് അതിജീവിക്കാൻ സാധിച്ചേക്കില്ലെന്ന് ബെന്റൺ ചൂണ്ടിക്കാണിക്കുന്നു. ഗൂഗിൾ ഡീപ്മൈൻഡിൽ (Google DeepMind) നിന്ന് രാജിവെച്ച ജോഷ് എംഗൽസും (Josh Engels) ഈ ആശങ്കകളെ പിന്തുണയ്ക്കുന്നുണ്ട്.
കഴിഞ്ഞ ജൂലൈയിൽ 'ഹഗ്ഗിങ് ഫേസ്' (Hugging Face) പ്ലാറ്റ്ഫോമിന് നേരെ എഐ ഏജന്റുകൾ നടത്തിയ അപ്രതീക്ഷിത ആക്രമണം ഇതിനൊരു തെളിവായി ഇവർ വ്യക്തമാക്കുന്നു. മനുഷ്യൻ നേരിട്ട് നിർദ്ദേശിക്കാതെ തന്നെ എഐ സിസ്റ്റങ്ങൾ സ്വയം ഹാക്കിംഗ് രീതികൾ തിരഞ്ഞെടുക്കുകയും നിയമവിരുദ്ധ പ്രവർത്തനങ്ങളിൽ ഏർപ്പെടുകയും ചെയ്യുകയായിരുന്നു. എഐ വികസനത്തിന്റെ വേഗത കുറയ്ക്കാൻ കമ്പനികൾ തനിയെ തയാറാകില്ലെന്നും, അതുകൊണ്ടുതന്നെ സർക്കാരുകളുടെ ഭാഗത്തുനിന്ന് കൃത്യമായ സുരക്ഷാ മാനദണ്ഡങ്ങളും സ്വതന്ത്ര നിരീക്ഷണ സംവിധാനങ്ങളും നിർബന്ധമാക്കണമെന്നും ബെന്റൺ ആവശ്യപ്പെട്ടു.
Read DhanamOnline in English
Subscribe to Dhanam Magazine
