ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് (AI) സാങ്കേതികവിദ്യ അതിവേഗം വികസിച്ചുകൊണ്ടിരിക്കുമ്പോൾ, മനുഷ്യന്റെ നിയന്ത്രണങ്ങൾക്കപ്പുറത്തേക്ക് ഇവ വളരുന്നതിനെക്കുറിച്ച് കടുത്ത മുന്നറിയിപ്പുമായി ഓപ്പണ്എഐ ചീഫ് സയന്റിസ്റ്റ് ജാക്കൂബ് പാചോക്കി. 'ആൻ ഏലിയൻ മൈൻഡ്' (An Alien Mind) എന്ന പേരിൽ പ്രസിദ്ധീകരിച്ച ബ്ലോഗിലാണ് അദ്ദേഹം ഈ നിർണായക ആശങ്കകൾ പങ്കുവെച്ചത്.
ഭാവിയിൽ മനുഷ്യനേക്കാൾ ബുദ്ധിശക്തിയുള്ള അത്യാധുനിക എഐ സംവിധാനങ്ങൾ മനുഷ്യനെ സ്വാധീനിക്കാനും (manipulate), അവരുമായി വിലപേശലുകൾ നടത്താനും (bargain), അല്ലെങ്കിൽ ഭീഷണിപ്പെടുത്താനും (blackmail) വരെയുള്ള സാധ്യതകൾ തള്ളിക്കളയാനാകില്ലെന്ന് അദ്ദേഹം വ്യക്തമാക്കുന്നു. മനുഷ്യസഹായമില്ലാതെ കമ്പ്യൂട്ടറുകൾ പ്രവർത്തിപ്പിക്കാനും മറ്റുള്ളവരുമായി സഹകരിക്കാനും സ്വയം ഗവേഷണങ്ങൾ നടത്താനും പ്രാപ്തിയുള്ള സ്വയംഭരണാധികാരമുള്ള (autonomous) സംവിധാനങ്ങളായി ഇവ മാറും.
ഈ സാങ്കേതികവിദ്യയുടെ വികസനത്തിൽ മനുഷ്യന്റെ നിയന്ത്രണവും സുരക്ഷയും ഉറപ്പാക്കുന്ന 'എഐ അലൈൻമെന്റ്' (AI alignment), 'മോണിറ്ററിംഗ്' എന്നിവ കൃത്യമായി പരിഹരിക്കാൻ ലോകത്തിലെ ഒരു എഐ ലാബുകൾക്കും ഇതുവരെ സാധിച്ചിട്ടില്ലെന്ന് പാചോക്കി തുറന്നുപറയുന്നു. അതുകൊണ്ടുതന്നെ ആവശ്യമായ സുരക്ഷാ മാനദണ്ഡങ്ങൾ രൂപീകരിക്കുന്നതുവരെ എഐ വികസനത്തിന്റെ വേഗത സ്വമേധയാ കുറയ്ക്കാൻ (voluntary slowdowns) കമ്പനികൾ തയാറാകണം.
ടെക്നോളജിയുടെ ദ്രുതഗതിയിലുള്ള വളർച്ചയിൽ മനുഷ്യൻ പിന്നിലായിപ്പോകരുതെന്നും മനുഷ്യന്റെ ഏജൻസി (human agency) സംരക്ഷിക്കുന്നതിനായിരിക്കണം പ്രഥമ പരിഗണന നൽകേണ്ടതെന്നും അദ്ദേഹം ഓർമ്മിപ്പിച്ചു. കൂടാതെ, വിപണിയിൽ ചുരുക്കം ചില ശക്തികളിൽ മാത്രം വലിയ സാങ്കേതിക വിദ്യകൾ കേന്ദ്രീകരിക്കുന്നത് തടയാൻ അന്താരാഷ്ട്ര തലത്തിലുള്ള കൃത്യമായ ഏകോപനവും ഗവൺമെന്റുകളുടെ ഇടപെടലുകളും അടിയന്തിരമായി ഉണ്ടാകണം. സെപ്റ്റംബർ 3-ന് ഓപ്പണ്എഐ തങ്ങളുടെ ഏറ്റവും പുതിയ ജിപിടി-6 ആസ്ട്ര മോഡൽ പുറത്തിറക്കിയ പശ്ചാത്തലത്തിലാണ് ഈ മുന്നറിയിപ്പ് എന്നത് ഇതിന്റെ പ്രാധാന്യം വർദ്ധിപ്പിക്കുന്നു.
Read DhanamOnline in English
Subscribe to Dhanam Magazine
