A csin ti airotẹlẹ asekale Ninu adanwo ẹgbẹ-pupa ti o yanilenu, aṣoju AI ṣe afihan awọn agbara ibanilẹru nipa lilo adaṣe ni ilodisi ailagbara kan ni Syeed iwiregbe inu inu McKinsey. Ikọlu afarawe yii, eyiti o ṣii ni wakati meji pere, yorisi ifihan ti awọn miliọnu awọn ibaraẹnisọrọ aṣiri ṣaaju ki a le koju abawọn aabo naa. Iṣẹlẹ naa ṣe afihan awọn ifiyesi dagba nipa aabo aṣoju AI ni awọn agbegbe ile-iṣẹ. Bii awọn iṣowo ṣe n gbẹkẹle awọn irinṣẹ agbara AI fun ibaraẹnisọrọ inu ati mimu data, agbara fun fafa, awọn irokeke adaṣe di otito titẹ.
Awọn ẹrọ ti AI Aṣoju Attack Aṣoju AI ninu idanwo yii ṣiṣẹ laisi itọsọna eniyan, idamo ati jijẹ ailera kan pato ninu ilana ijẹrisi chatbot. Iseda adase rẹ jẹ ki o lọ kiri lori awọn aabo pẹpẹ ni ọna ṣiṣe. Ọna yii ṣe afihan awọn ilana iṣere ewu gidi-aye ṣugbọn ni iyara isare pataki. Awọn igbesẹ bọtini ni irufin naa pẹlu:
Ṣiṣayẹwo akọkọ lati ṣe maapu awọn aaye ipari API chatbot Lilo ilokulo ti itọkasi ohun taara ti ko ni aabo (IDOR). Iyọkuro adaṣe ti data ibaraẹnisọrọ kọja awọn akoko olumulo lọpọlọpọ Yika ti ipilẹ oṣuwọn-idiwọn idari nipasẹ ilana pacing
Awọn ipa fun Idawọlẹ AI Aabo Iṣẹlẹ yii ṣiṣẹ bi ipe jiji fun awọn ẹgbẹ ti n gbe awọn imọ-ẹrọ AI lọ. Iyara ati ṣiṣe ti oluranlowo AI ṣe afihan aafo to ṣe pataki ni awọn awoṣe aabo ibile, eyiti o ma gba awọn eewu ti eniyan. Fun awọn ile-iṣẹ bii McKinsey, nibiti awọn ijiroro alabara ifarabalẹ ati awọn ero ilana jẹ igbagbogbo, iru awọn ailagbara le ni awọn abajade iparun. Ifihan ti awọn miliọnu awọn igbasilẹ ni iru akoko kukuru kan n gbe awọn ibeere dide nipa iṣakoso data ati abojuto AI. O ni imọran pe awọn ilana aabo lọwọlọwọ le ko ni ipese lati mu awọn aṣoju adase ti o lagbara lati kọ ẹkọ ati ni ibamu ni akoko gidi.
Awọn ẹkọ ti a Kọ ati Awọn iṣe Lẹsẹkẹsẹ Ni atẹle idanwo naa, ọpọlọpọ awọn ẹkọ bọtini jade ti o ṣe pataki fun eyikeyi agbari ti o nlo awọn iru ẹrọ ti AI-ṣiṣẹ:
Ro pe Awọn Irokeke Aladani: Idanwo aabo gbọdọ wa ni idagbasoke lati pẹlu awọn iṣeṣiro ikọlu agbara AI. Fikun Awọn iṣakoso Wiwọle: Ṣe imudaniloju to lagbara ati awọn sọwedowo aṣẹ, pataki fun awọn irinṣẹ inu. Atẹle ihuwasi AI: Abojuto ilọsiwaju ti awọn ibaraenisepo eto AI le ṣe iranlọwọ lati ṣawari awọn iṣẹ aifọwọṣe ni kutukutu. Iṣakoso Patch: Idahun iyara si awọn ailagbara ti a mọ jẹ kii ṣe idunadura.
Fun awọn oye diẹ sii lori mimu AI ni aabo, ronu kika nipa irọrun iṣakoso olupin pẹlu AI ati adaṣe lati ṣe atilẹyin awọn amayederun rẹ.
Ọrọ ti o gbooro: Aabo AI ni Ilẹ-ilẹ ode oni Iṣẹlẹ yii ko ya sọtọ. Bi awọn imọ-ẹrọ AI ṣe di diẹ sii sinu awọn iṣẹ iṣowo, awọn ilolu aabo wọn dagba lọpọlọpọ. Awọn agbara adase kanna ti o wakọ ṣiṣe tun le ṣe atunṣe fun awọn opin irira ti ko ba ni aabo daradara. Awọn apa miiran tun n koju awọn italaya wọnyi. Fun apẹẹrẹ, awọn iyipada ilana OpenAI nigbagbogbo pẹlu awọn akiyesi aabo pataki lati ṣe idiwọ ilokulo awọn awoṣe ilọsiwaju wọn. Pẹlupẹlu, lilo ilana ti AI ko ni opin si aabo. Diẹ ninu awọn iṣowo, gẹgẹbi alaye ninu iwadii ọran yii, ṣe ijanu AI ni awọn ọna imotuntun lati kọ iṣootọ ami iyasọtọ ati didara julọ iṣẹ.
Awọn Igbesẹ Iṣeduro fun Imudaniloju Ọjọ iwaju Lati dinku awọn ewu ti o jọra, awọn ile-iṣẹ yẹ ki o gba ọna aabo ti ọpọlọpọ-siwa ti a ṣe apẹrẹ pataki fun awọn agbegbe AI. Eyi pẹlu:
Awọn adaṣe ẹgbẹ-pupa deede ti o kan awọn aṣoju AI Imudara fifi ẹnọ kọ nkan fun data ni isinmi ati ni irekọja Ilana to muna ti anfani ti o kere julọ fun iraye si eto AI Awọn itọpa iṣayẹwo okeerẹ fun gbogbo awọn ibaraẹnisọrọ AI
Ipari: Ipe kan fun Imudara Imudara Iṣẹlẹ McKinsey chatbot tẹnumọ iwulo iyara fun awọn iṣe aabo ti o dagbasoke ni ọjọ-ori AI adase. Bi awọn imọ-ẹrọ wọnyi ṣe nlọsiwaju, nitorinaa awọn ọgbọn wa gbọdọ daabobo lodi si wọn. Iwadii ti n ṣakoso, abojuto lemọlemọfún, ati idahun iyara kii ṣe iyan mọ ṣugbọn pataki. Fun awọn ẹgbẹ ti n wa lati ni aabo awọn imuse AI wọn ni imunadoko, ajọṣepọ pẹlu awọn amoye le ṣe iyatọ nla. Ṣawari bi o ṣe dabi Alailowaya ṣe le ṣe iranlọwọ fun awọn amayederun AI rẹ lagbara si awọn irokeke ti n yọ jade — beere demo loni.
