Karancin Sikeli da Ba a taɓa yin irinsa ba A cikin gwaji mai ban sha'awa na ƙungiyar ja, wani wakilin AI ya nuna iyakoki masu ban tsoro ta hanyar cin gashin kansa ta hanyar yin amfani da wani mummunan rauni a dandalin tattaunawa na ciki na McKinsey. Wannan harin da aka kwaikwayi, wanda ya auku cikin sa'o'i biyu kacal, ya haifar da fallasa miliyoyin hirarrakin sirri kafin a magance matsalar tsaro. Lamarin ya nuna damuwa mai girma game da tsaro na wakilin AI a cikin mahallin kasuwanci. Yayin da kasuwancin ke ƙara dogaro da kayan aikin AI mai ƙarfi don sadarwa na ciki da sarrafa bayanai, yuwuwar nagartaccen, barazanar atomatik ta zama gaskiya mai matsi.
Makanikai na AI Agent Attack Wakilin AI a cikin wannan gwajin ya yi aiki ba tare da jagorar ɗan adam ba, ganowa da yin amfani da takamaiman rauni a cikin ƙa'idar tantancewa ta chatbot. Halinsa mai cin gashin kansa ya ba shi damar kewaya tsarin tsaro na dandamali bisa tsari. Wannan hanyar tana nuna dabarun ƴan wasan kwaikwayo na duniya na barazanar gaske amma a cikin hanzari sosai. Matakai masu mahimmanci a cikin keta sun haɗa da:
Binciken farko don taswirar API na ƙarshen chatbot Amfani da rashin tsaro kai tsaye abin tunani (IDOR). Cire bayanan tattaunawa ta atomatik a cikin zaman masu amfani da yawa Da'a na asali-iyakance sarrafawa ta hanyar dabarun taki
Tasiri ga Tsaron AI na Kasuwanci Wannan lamarin ya zama kira na farkawa ga ƙungiyoyin da ke tura fasahar AI. Gudun gudu da inganci na wakilin AI yana nuna muhimmiyar rata a cikin tsarin tsaro na al'ada, wanda sau da yawa yana ɗaukar barazanar da ɗan adam. Ga kamfanoni kamar McKinsey, inda tattaunawar abokan ciniki masu mahimmanci da tsare-tsare na yau da kullun suke, irin wannan raunin na iya haifar da mummunan sakamako. Bayyanar miliyoyin bayanan a cikin irin wannan ɗan gajeren lokaci yana haifar da tambayoyi game da sarrafa bayanai da kuma sa ido kan AI. Yana ba da shawarar cewa tsarin tsaro na yanzu na iya zama marasa isassun kayan aiki don ɗaukar wakilai masu cin gashin kansu waɗanda ke da ikon koyo da daidaitawa cikin ainihin lokaci.
Darussan Da Aka Koya da Ayyukan gaggawa Bayan gwajin, manyan darussa da yawa sun fito waɗanda ke da mahimmanci ga kowace ƙungiya ta amfani da dandamalin AI:
Ɗauki Barazana Masu Cin Hanci: Dole ne gwajin tsaro ya ɓullo don haɗawa da kwaikwaiyon harin AI. Ƙarfafa Sarrafa Hannu: Aiwatar da ingantaccen ingantaccen aiki da bincike na izini, musamman don kayan aikin ciki. Kula da Halayen AI: Ci gaba da sa ido kan hulɗar tsarin AI na iya taimakawa gano abubuwan da ba su da kyau da wuri. Gudanar da Faci: Amsa cikin gaggawa ga raunin da aka gano ba za a iya sasantawa ba.
Don ƙarin fahimta kan yin amfani da AI amintacce, la'akari da karantawa game da sauƙaƙe sarrafa uwar garken tare da AI da aiki da kai don haɓaka kayan aikin ku.
Faɗin Mahimmanci: Tsaron AI a cikin Tsarin Tsarin Zamani Wannan taron bai keɓe ba. Yayin da fasahohin AI ke ƙara haɗa kai cikin ayyukan kasuwanci, abubuwan da suka shafi tsaro suna girma sosai. Hakanan za'a iya sake dawo da irin wannan damar mai cin gashin kansa wanda ke haifar da ingantaccen aiki don ƙetarewa idan ba a kiyaye shi da kyau ba. Sauran bangarorin kuma suna kokawa da wadannan kalubale. Misali, dabarun OpenAI sau da yawa sun haɗa da mahimman abubuwan tsaro don hana yin amfani da samfuran ci-gaban su ba daidai ba. Haka kuma, dabarun amfani da AI bai iyakance ga tsaro ba. Wasu kasuwancin, kamar yadda aka yi dalla-dalla a cikin wannan binciken, suna amfani da AI ta sabbin hanyoyi don gina amincin alama da ingantaccen aiki.
Matakan Faɗakarwa don Tabbatar da Gaba Don rage irin wannan haɗari, kamfanoni yakamata su ɗauki tsarin tsaro mai nau'i-nau'i da yawa waɗanda aka tsara musamman don mahallin AI. Wannan ya haɗa da:
Motsa jiki na ja-ja-ja na yau da kullun wanda ya haɗa da wakilan AI Ingantattun boye-boye don bayanai a hutawa da kuma cikin tafiya Ƙuntataccen ƙa'ida na mafi ƙarancin gata don samun damar tsarin AI Cikakken hanyoyin dubawa don duk hulɗar AI
Kammalawa: Kira don Ingantattun Fadakarwa Lamarin da ya faru na McKinsey chatbot yana nuna buƙatar gaggawa don inganta ayyukan tsaro a cikin shekarun AI mai cin gashin kansa. Yayin da waɗannan fasahohin ke ci gaba, dole ne dabarunmu don kare su. Ƙididdiga mai fa'ida, ci gaba da sa ido, da saurin amsawa ba na zaɓi bane amma mahimmanci. Ga ƙungiyoyin da ke neman tabbatar da aiwatar da AI yadda ya kamata, haɗin gwiwa tare da ƙwararrun na iya yin babban canji. Bincika yadda da alama ba zai iya taimakawa ƙarfafa kayan aikin AI na ku ba akan barazanar da ke fitowa - nemi demo a yau.
