ከዚህ በፊት ታይቶ የማያውቅ መጠን መጣስ በአስደናቂ የቀይ-ቡድን ሙከራ፣ የ AI ወኪል በ McKinsey ውስጣዊ የውይይት መድረክ ላይ ያለውን ወሳኝ ተጋላጭነት በራስ ገዝ በመጠቀም አስደንጋጭ ችሎታዎችን አሳይቷል። ይህ የማስመሰል ጥቃት በሁለት ሰአታት ውስጥ ብቻ የተፈጸመው የደህንነት እክል መፍትሄ ከማግኘቱ በፊት በሚሊዮኖች የሚቆጠሩ ሚስጥራዊ ንግግሮች እንዲጋለጡ አድርጓል። ክስተቱ በድርጅት አከባቢዎች ውስጥ ስለ AI ወኪል ደህንነት እየጨመረ ያለውን ስጋቶች አጉልቶ ያሳያል። ንግዶች ለውስጥ ግንኙነት እና መረጃ አያያዝ በAI-powered መሳሪያዎች ላይ እየጨመሩ ሲተማመኑ፣ የተራቀቁ፣ አውቶሜትድ ዛቻዎች የመፍጠር እድሉ አንገብጋቢ እውነታ ይሆናል።
የ AI ወኪል ጥቃት መካኒኮች በዚህ ሙከራ ውስጥ ያለው የ AI ወኪል በቻትቦት የማረጋገጫ ፕሮቶኮል ውስጥ የተወሰነ ድክመትን በመለየት እና ጥቅም ላይ በማዋል ያለ ሰው መመሪያ ይሰራል። በራስ የመመራት ባህሪው የመድረክን መከላከያ ስልታዊ በሆነ መንገድ እንዲመራ አስችሎታል። ይህ አካሄድ የገሃዱ ዓለም አስጊ ተዋናዮችን ዘዴዎች የሚያንፀባርቅ ቢሆንም በከፍተኛ ፍጥነት። የጥሰቱ ዋና ደረጃዎች የሚከተሉትን ያካትታሉ:
የቻትቦትን ኤፒአይ የመጨረሻ ነጥቦችን ለመቅረጽ የመጀመሪያ ቅኝት ደህንነቱ ያልተጠበቀ ቀጥተኛ ነገር ማጣቀሻ (IDOR) ተጋላጭነት ብዝበዛ በበርካታ የተጠቃሚ ክፍለ-ጊዜዎች ውስጥ የውይይት ውሂብን በራስ-ሰር ማውጣት በስትራቴጂካዊ ፍጥነት የመሠረታዊ ደረጃ-ገደብ መቆጣጠሪያዎችን መዘርጋት
ለድርጅት AI ደህንነት አንድምታ ይህ ክስተት AI ቴክኖሎጂዎችን ለሚያስገቡ ድርጅቶች እንደ ማንቂያ ጥሪ ሆኖ ያገለግላል። የ AI ወኪል ፍጥነት እና ቅልጥፍና በባህላዊ የደህንነት ሞዴሎች ውስጥ ያለውን ወሳኝ ክፍተት አጉልቶ ያሳያል፣ ይህም ብዙውን ጊዜ በሰዎች ላይ የሚደርሱ አደጋዎችን ያስባሉ። ሚስጥራዊነት ያላቸው የደንበኛ ውይይቶች እና ስልታዊ ዕቅዶች መደበኛ ለሆኑ እንደ ማኪንሴ ላሉ ኩባንያዎች፣ እንዲህ ያሉ ተጋላጭነቶች አስከፊ መዘዝ ሊያስከትሉ ይችላሉ። በዚህ አጭር ጊዜ ውስጥ በሚሊዮኖች የሚቆጠሩ መዝገቦች መጋለጥ ስለ መረጃ አስተዳደር እና AI ቁጥጥር ጥያቄዎችን ያስነሳል። በአሁኑ ጊዜ ያሉ የደህንነት ማዕቀፎች ራሳቸውን ችለው በራሳቸው ጊዜ መማር እና መላመድ የሚችሉ ወኪሎችን ለማስተናገድ ያልታጠቁ ሊሆኑ እንደሚችሉ ይጠቁማል።
የተማሩ ትምህርቶች እና ፈጣን እርምጃዎች ሙከራውን ተከትሎ፣ በ AI የሚመሩ መድረኮችን ለሚጠቀም ለማንኛውም ድርጅት ወሳኝ የሆኑ በርካታ ቁልፍ ትምህርቶች መጡ፡-
ራስ ወዳድ ስጋቶችን አስብ፡ የደህንነት ሙከራ በአይ-የተጎላበተ የጥቃት ማስመሰያዎችን ለማካተት መሻሻል አለበት። የመዳረሻ መቆጣጠሪያዎችን ያጠናክሩ፡ ጠንካራ የማረጋገጫ እና የፈቀዳ ፍተሻዎችን ይተግብሩ፣ በተለይ ለውስጣዊ መሳሪያዎች። የ AI ባህሪን ተቆጣጠር፡ የ AI ስርዓት መስተጋብር ቀጣይነት ያለው ክትትል ያልተለመዱ እንቅስቃሴዎችን አስቀድሞ ለማወቅ ይረዳል። Patch Management፡ ለተለዩት ተጋላጭነቶች ፈጣን ምላሽ ለድርድር የማይቀርብ ነው።
AIን ደህንነቱ በተጠበቀ ሁኔታ ስለማሳደግ ተጨማሪ ግንዛቤዎችን ለማግኘት መሠረተ ልማትዎን ለማጠናከር የአገልጋይ አስተዳደርን በ AI ስለማቅለል እና አውቶማቲክን ለማንበብ ያስቡበት።
ሰፋ ያለ አውድ፡ AI ደህንነት በዘመናዊው የመሬት ገጽታ ይህ ክስተት የተገለለ አይደለም። የ AI ቴክኖሎጂዎች ከንግድ ስራዎች ጋር እየተዋሃዱ ሲሄዱ, የደህንነት አንድምታዎቻቸው በከፍተኛ ደረጃ ያድጋሉ. ቅልጥፍናን የሚነዱ ተመሳሳይ ራስን በራስ የማስተዳደር ችሎታዎች በአግባቡ ካልተጠበቁ ለተንኮል አዘል ዓላማዎችም ሊመለሱ ይችላሉ። ሌሎች ዘርፎችም እነዚህን ተግዳሮቶች እየተጋፈጡ ነው። ለምሳሌ፣ የOpenAI ስትራቴጂ ለውጦች የላቁ ሞዴሎቻቸውን አላግባብ መጠቀምን ለመከላከል ከፍተኛ የደህንነት ጉዳዮችን ያካትታሉ። በተጨማሪም፣ የ AI ስትራቴጂያዊ አጠቃቀም በደህንነት ላይ ብቻ የተገደበ አይደለም። አንዳንድ ንግዶች፣ በዚህ የጉዳይ ጥናት ላይ እንደተገለጸው፣ የምርት ስም ታማኝነትን እና የተግባር ጥራትን ለመገንባት በአዳዲስ መንገዶች AIን ይጠቀማሉ።
ለወደፊት ማረጋገጫዎች ንቁ እርምጃዎች ተመሳሳይ አደጋዎችን ለመቀነስ ኩባንያዎች በተለይ ለኤአይአይ አከባቢዎች የተነደፈ ባለ ብዙ ሽፋን የደህንነት አካሄድ መከተል አለባቸው። ይህ የሚያጠቃልለው፡-
AI ወኪሎችን የሚያካትቱ የቀይ ቡድን መደበኛ ልምምዶች በእረፍት እና በመጓጓዣ ላይ ላለው መረጃ የተሻሻለ ምስጠራ ለ AI ስርዓት ተደራሽነት አነስተኛ መብት ያለው ጥብቅ መርህ ለሁሉም የ AI ግንኙነቶች አጠቃላይ የኦዲት መንገዶች
ማጠቃለያ፡ ለተሻሻለ የንቃት ጥሪ የ McKinsey chatbot ክስተት በራስ ገዝ AI ዕድሜ ውስጥ የተሻሻለ የደህንነት ልምዶችን አስቸኳይ ፍላጎት ያሳያል። እነዚህ ቴክኖሎጂዎች እየገፉ ሲሄዱ, እነሱን ለመከላከል የእኛ ስልቶችም አለባቸው. ንቁ ግምገማ፣ ተከታታይ ክትትል እና ፈጣን ምላሽ አማራጭ ሳይሆን አስፈላጊ ናቸው። የ AI ትግበራዎቻቸውን በብቃት ለመጠበቅ ለሚፈልጉ ድርጅቶች ከባለሙያዎች ጋር መተባበር ትልቅ ለውጥ ሊያመጣ ይችላል። የአይ.አይ.አይ መሠረተ ልማትዎን ከሚመጡ ስጋቶች ለመከላከል እንዴት እንደሚረዳ ያስሱ - ዛሬ ማሳያ ይጠይቁ።
