ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് (AI) മേഖലയിലെ മുൻനിര കമ്പനികളായ ആന്ത്രോപിക് (Anthropic), ഓപ്പണ്എഐ (OpenAI) എന്നിവയ്ക്കെതിരെ കടുത്ത ആരോപണങ്ങളുമായി പ്രമുഖ ഗവേഷകനായ ജേക്കബ് കോക്സൺ (Jacob Coxon). സ്വയം മെച്ചപ്പെടാൻ ശേഷിയുള്ള അത്യാധുനിക സൂപ്പർ ഇന്റലിജൻസ് വികസിപ്പിക്കാനുള്ള ഉത്തരവാദിത്തമില്ലാത്ത മത്സരത്തിലാണ് ഈ കമ്പനികൾ ഏർപ്പെട്ടിരിക്കുന്നതെന്നും, ഇത് മനുഷ്യരാശിയുടെ നിലനിൽപ്പിന് തന്നെ വലിയ ഭീഷണിയാണെന്നും കോക്സൺ മുന്നറിയിപ്പ് നൽകുന്നു. ഇതില് പ്രതിഷേധിച്ച് ആന്ത്രോപിക്കിലെ ജോലി രാജിവെക്കുകയാണെന്നും കോക്സൺ പറഞ്ഞു.
കഴിഞ്ഞ മൂന്ന് വർഷമായി ആന്ത്രോപിക്കിലും ഓപ്പണ്എഐയിലും പ്രീട്രെയിനിംഗ് ഗവേഷണം നടത്തിയിരുന്ന കോക്സൺ, താൻ ഇത്തരം അപകടകരമായ മത്സരത്തിന്റെ ഭാഗമാകാൻ ആഗ്രഹിക്കുന്നില്ലെന്ന് വ്യക്തമാക്കി. ഈ ദശാബ്ദത്തിന്റെ അവസാനത്തോടെ (2030-ഓടെ) ശക്തിയേറിയ എ.ഐ സിസ്റ്റങ്ങൾ മനുഷ്യരാശിയെ മുഴുവൻ കൊന്നൊടുക്കാൻ സാധ്യതയുണ്ടെന്ന് എ.ഐ നിർമ്മിക്കുന്ന പ്രമുഖ ഗവേഷകരും ഉന്നത ഉദ്യോഗസ്ഥരും സ്വകാര്യമായി വിശ്വസിക്കുന്നുണ്ടെന്ന് അദ്ദേഹം തുറന്നടിച്ചു.
ഭാവിയിൽ വികസിക്കുന്ന സൂപ്പർഹ്യൂമൻ എ.ഐ സിസ്റ്റങ്ങൾക്ക് ഏത് കമ്പ്യൂട്ടർ സിസ്റ്റവും ഹാക്ക് ചെയ്യാനും, റിയൽ വേൾഡ് വിഭവങ്ങളും അധികാരവും കൈക്കലാക്കാനും സാധിച്ചേക്കും. അടുത്തിടെ ഹഗ്ഗിങ് ഫേസിന് (Hugging Face) നേരെ എ.ഐ ഏജന്റുകൾ നടത്തിയ ആക്രമണം ഒരു വലിയ മുന്നറിയിപ്പാണ്. മതിയായ സുരക്ഷാ മുൻകരുതലുകളോ ഏകോപനമോ ഇല്ലാതെ കമ്പനികൾ വികസനത്തിന്റെ അവസാന ഘട്ടത്തിലേക്ക് ധൃതിപിടിച്ച് പോകുന്നതും വൻ തുകകൾ മുടക്കി റീഇൻഫോഴ്സ്മെന്റ് ലേണിംഗ് നടത്താത്തതും വലിയ അപകടമുണ്ടാക്കും.
ആന്ത്രോപിക്കിലെ ടീം ലീഡറായ ഇവാൻ ഹ്യൂബിംഗറും (Evan Hubinger) കോക്സന്റെ മുന്നറിയിപ്പുകളെ പിന്തുണച്ചു. അടുത്ത ദശാബ്ദത്തിനുള്ളിൽ എ.ഐ മനുഷ്യരെ നശിപ്പിക്കാനുള്ള സാധ്യത 10 ശതമാനത്തിലധികമാണെന്നും, സൂപ്പർ ഇന്റലിജൻസ് അലൈൻമെന്റ് (Alignment) പൂർണ്ണമായി പരിഹരിക്കാൻ കമ്പനികൾക്ക് ഇതുവരെ സാധിച്ചിട്ടില്ലെന്നും അദ്ദേഹം വ്യക്തമാക്കി.
Read DhanamOnline in English
Subscribe to Dhanam Magazine
