എ.ഐ ഏജന്റുകളുടെ അനിയന്ത്രിത പ്രവർത്തനങ്ങൾ കോർപ്പറേറ്റ് ലോകത്തെ സുരക്ഷാ ഭീഷണിയിലാഴ്ത്തുന്നു. വിശ്വസനീയമായ നിയന്ത്രണങ്ങൾ ഇല്ലാതെ എന്റർപ്രൈസുകൾക്ക് ഈ സാങ്കേതിക വിദ്യകൾ വിന്യസിക്കാൻ കഴിയില്ല. 'ട്രസ്റ്റ് സ്റ്റാക്ക്' എന്ന മൾട്ടി-ലെയർ സുരക്ഷാ ചട്ടക്കൂട് ഈ പ്രശ്നങ്ങൾ പരിഹരിക്കാൻ ടെക് ലോകത്ത് ഉയരുന്നു.
അതിവേഗം വികസിച്ചുകൊണ്ടിരിക്കുന്ന അത്യാധുനിക ഓട്ടോണമസ് എ.ഐ ഏജന്റുകൾക്ക് (AI Agents) മുന്നിൽ വ്യവസായ ലോകം ഒരുക്കുന്ന സുരക്ഷാ മുൻകരുതലുകൾ തീർത്തും ദുർബലമാകുന്നു. മുൻകൂട്ടി നിശ്ചയിച്ച സുരക്ഷാ നിയന്ത്രണങ്ങൾ മറികടക്കാനും ആവശ്യമായ അനുമതികളില്ലാതെ കോർപ്പറേറ്റ് സിസ്റ്റങ്ങളിൽ പ്രവേശിക്കാനും സ്വന്തം പ്രവർത്തനങ്ങൾ മനഃപൂർവ്വം മറച്ചുവെക്കാനും ചില ഫ്രോണ്ടിയർ എ.ഐ മോഡലുകൾ ശ്രമിച്ചതായുള്ള ഏറ്റവും പുതിയ വെളിപ്പെടുത്തലുകൾ ആഗോള കോർപ്പറേറ്റ് ലോകത്തെ അതീവ ഗൗരവമുള്ള വലിയ ആശങ്കയിലാഴ്ത്തിയിരിക്കുകയാണ്. വിശ്വസനീയമായ സുരക്ഷാ ഉറപ്പുകളോ പൂർണ്ണ നിയന്ത്രണമോ ഇല്ലാതെ നിർണ്ണായകമായ വാണിജ്യ അധികാരങ്ങൾ എ.ഐ ഏജന്റുകൾക്ക് പൂർണ്ണമായി വിട്ടുകൊടുക്കാൻ കഴിയില്ലെന്ന കർശന നിലപാടിലാണ് ഇപ്പോൾ ലോകമെമ്പാടുമുള്ള പ്രമുഖ എന്റർപ്രൈസ് കമ്പനികൾ.
ഓപ്പൺഎഐയും ഹഗ്ഗിംഗ് ഫെയ്സും (OpenAI-Hugging Face) തമ്മിൽ ബന്ധപ്പെട്ട ഒരു പരീക്ഷണത്തിൽ, എ.ഐ ഏജന്റുകൾ സുരക്ഷിത സാൻഡ്‌ബോക്സ് പരിധി ഭേദിച്ച് പരസ്പരം ആശയവിനിമയം നടത്തുകയും ഇവാല്യുവേഷൻ സിസ്റ്റത്തെ സമർത്ഥമായി കബളിപ്പിച്ച് ഇരു കമ്പനികളുടെയും സംവിധാനങ്ങളിൽ അനധികൃതമായി കടന്നുകയറുകയും ചെയ്തു.
സമാനമായി, ആന്ത്രോപിക്കിന്റെ (Anthropic) അത്യാധുനിക എ.ഐ ഏജന്റുകളും പരീക്ഷണ ഘട്ടങ്ങളിൽ നിന്ന് ലൈവ് ഇന്റർനെറ്റിലേക്ക് സ്വയം പ്രവേശിക്കുകയും തത്സമയ പ്രൊഡക്ഷൻ ഇൻഫ്രാസ്ട്രക്ചറിലേക്ക് അനധികൃതമായി പ്രവേശനം നേടുകയും ചെയ്തിരുന്നു. തുടർന്ന് ആഭ്യന്തര പരീക്ഷണങ്ങളിൽ നിന്നുള്ള തത്സമയ ഇന്റർനെറ്റ് ഉപയോഗം കമ്പനിക്ക് റദ്ദാക്കേണ്ടി വരികയും സുരക്ഷാ സംവിധാനങ്ങൾ കർശനമാക്കേണ്ടി വരികയും ചെയ്തു.
ഓരോ പ്രവർത്തനവും കൃത്യമായി വ്യാപ്തി തിരിച്ച് ഓഡിറ്റ് ചെയ്യാനും (Audit) അടിയന്തര ഘട്ടങ്ങളിൽ പകുതിക്കുവെച്ച് പ്രവർത്തനം പൂർണമായി തടയാനും സാധിക്കുന്നില്ലെങ്കിൽ സ്വയം പ്രവർത്തിക്കുന്ന എ.ഐ സംവിധാനങ്ങളെ വിന്യസിക്കാൻ എന്റർപ്രൈസുകൾക്ക് ഒരിക്കലും കഴിയില്ല. കേവലം സാങ്കേതിക ശേഷിയേക്കാൾ വിശ്വാസ്യതയും ഉത്തരവാദിത്തവുമാണ് കോർപ്പറേറ്റ് ലോകം ഇപ്പോൾ പ്രധാന തടസ്സമായി കാണുന്നത്.
എ.ഐ ഏജന്റുകൾ വരുത്തുന്ന ഗുരുതരമായ വീഴ്ചകൾ രണ്ട് രീതിയിലാണ് വാണിജ്യ സ്ഥാപനങ്ങളെ പ്രധാനമായും സാരമായി ബാധിക്കുന്നത്.
സുരക്ഷാ ലംഘനങ്ങളും ദുരുദ്ദേശ്യപരമായ പെരുമാറ്റവും: അനധികൃതമായി പാസ്‌‍വേഡുകളും സിസ്റ്റം ക്രെഡൻഷ്യലുകളും ചോർത്തുക, സിസ്റ്റം നിയമങ്ങൾ ലംഘിക്കുക, തങ്ങളുടെ പ്രവർത്തനങ്ങളെക്കുറിച്ച് പച്ചക്കള്ളം പറയുക എന്നിവയാണിത്.
പ്രവർത്തനപരമായ അബദ്ധങ്ങൾ (Incompetence): പുറമെ കേൾക്കുമ്പോൾ തികച്ചും വിശ്വസനീയമെന്ന് തോന്നുന്ന എന്നാൽ യഥാർത്ഥത്തിൽ തെറ്റായ വിവരങ്ങൾ തുടർച്ചയായി നൽകുക. ഒരു സങ്കീർണ്ണ കോർപ്പറേറ്റ് സാമ്പത്തിക വിശകലനത്തിൽ പ്രധാനപ്പെട്ട ഒരു കണക്ക് വിട്ടുപോവുകയോ, റിസ്ക് വിലയിരുത്തലിൽ തെറ്റായ ധാരണകൾ നൽകുകയോ വ്യാജ സ്രോതസ്സുകൾ നിർമ്മിക്കുകയോ ചെയ്യുന്നത് കമ്പനികൾക്ക് വലിയ നിയമ-ഓഡിറ്റിംഗ് ബാധ്യതകളും വിപണിയിൽ പ്രശസ്തിക്ക് കനത്ത ദോഷവുമേൽപ്പിക്കും. ധനകാര്യ മേഖലയിൽ ആദ്യത്തേതിനേക്കാൾ വലിയ നഷ്ടം രണ്ടാമത്തേത് ഉണ്ടാക്കാം.
എ.ഐ ഏജന്റുകളുടെ ഇത്തരം അനിയന്ത്രിത സ്വഭാവങ്ങളെ തടയിടാൻ ശക്തമായൊരു മൾട്ടി-ലെയർ സുരക്ഷാ ചട്ടക്കൂട് (Trust stack) തന്നെ ടെക് ലോകത്ത് അതിവേഗം ഉയർന്നുവരുന്നുണ്ട്:
ഏജന്റുകൾ സൃഷ്ടിക്കുന്ന വിപുലമായ ആക്രമണ സാധ്യതകളെ മുൻകൂട്ടി ചെറുക്കുന്ന സൈബർ സുരക്ഷാ ടൂളുകൾ (Palo Alto, CrowdStrike, Wiz). ആൽഫബെറ്റ് 32 ബില്യൺ ഡോളറിന് വിസ് (Wiz) സ്വന്തമാക്കിയതും കഴിഞ്ഞ വർഷം നടന്ന 70 ബില്യൺ (7,000 കോടി) ഡോളറിന്റെ സൈബർ ഡീലുകളും ഈ സുരക്ഷാ വിപണിയുടെ വലിയ വാണിജ്യ മൂല്യം അടിവരയിടുന്നു.
അനധികൃത വിവരച്ചോർച്ച തടയുന്ന ഡാറ്റ ആക്സസ് പ്ലാറ്റ്‌ഫോമുകൾ (Cyera).
എ.ഐ ഏജന്റുകൾക്ക് പ്രത്യേക ഡിജിറ്റൽ തിരിച്ചറിയൽ രേഖകൾ നൽകുന്ന ഐഡന്റിറ്റി സംവിധാനങ്ങളും, അടിയന്തര സാഹചര്യങ്ങളിൽ പ്രവർത്തനം ഉടനടി നിർത്തിവെക്കാനുള്ള റൺടൈം 'കിൽ-സ്വിച്ചുകളും' (Kill switches).
എ.ഐ ഏജന്റുകളുടെ വരവോടെ സൈബർ സെക്യൂരിറ്റി മേഖലയാണ് ഹ്രസ്വകാലത്തേക്ക് ഏറ്റവും വലിയ സാമ്പത്തിക നേട്ടമുണ്ടാക്കാൻ പോകുന്നത്. റെഗുലേറ്ററി അതോറിറ്റികളും എ.ഐ പ്രവർത്തനങ്ങൾ പാതിവഴിയിൽ നിർത്തിവെക്കാനുള്ള സാങ്കേതിക സംവിധാനങ്ങൾ നിർബന്ധമാക്കാൻ ഒരുങ്ങുകയാണ്. കമ്പനികൾ ഏറ്റവും കുറഞ്ഞ അനുമതികൾ മാത്രം നൽകുന്ന 'ലീസ്റ്റ് പ്രിവിലേജ്' (Least privilege) നയം കർശനമായി നടപ്പിലാക്കണം. സുപ്രധാന വിവരങ്ങൾ മാറ്റുകയോ ഇല്ലാതാക്കുകയോ ചെയ്യുന്ന നിർണ്ണായക ഘട്ടങ്ങളിൽ മനുഷ്യന്റെ നേരിട്ടുള്ള അനുമതിയും സ്ഥിരീകരണവും (Human-in-the-loop) നിർബന്ധമാക്കണം.
കൂടുതൽ വലിപ്പമുള്ള എ.ഐ മോഡലുകൾ നിർമ്മിക്കുന്നതിലല്ല, മറിച്ച് അവയെ സുരക്ഷിതമായി ഓഡിറ്റ് ചെയ്യാനും തടയാനും സാധിക്കുന്ന ഡിജിറ്റൽ 'മുള്ളുവേലികൾ' നിർമ്മിക്കുന്നതിലാണ് ഇനി വരാനിരിക്കുന്ന സാങ്കേതിക വിപ്ലവത്തിന്റെ ഭാവി കുടികൊള്ളുന്നത്.
Security, access-control and reliability concerns are creating hurdles for enterprise AI agent deployment while increasing the importance of auditing, human oversight and AI security tools.
Read DhanamOnline in English
Subscribe to Dhanam Magazine