Pole'i 'e Senatoa Warren 'a e Fakangofua Malu 'a e xAI 'a e Pentagon
‘Oku fiema’u ‘e he Senatoa ‘o Massachusetts ko Elizabeth Warren ha ngaahi tali mei he Potungaue Malu’i fekau’aki mo ‘ene tu’utu’uni ke foaki ki he xAI, ko e kautaha ‘atamai fakatupu ‘a Elon Musk, ‘a e hū ki he ngaahi netiueka fakakautau fakakalasi. 'Oku muimui 'a e sivi ko 'eni 'i he tupulaki 'a e hoha'a ki he malu mo e malu 'o e koloa faka'ilonga 'o e xAI, 'a e Grok chatbot. Kuo tuhu 'a Senatoa Warren ki he hisitōlia 'o e Grok 'i hono fakatupu 'o e ngaahi ola fakatu'utamaki ki he kau faka'aonga'i, 'o ne taukave'i 'oku 'omi 'e he ngaahi vaivai'anga pehe ni ha fakatu'utamaki lahi mo ta'etali ki he malu fakafonua.
Ko e uho 'o e 'isiu 'oku 'i he malava 'o ha sisitemi AI 'oku fakangaloku ke mishandle 'a e fakamatala mahu'inga. Kapau 'e fakataha'i ha AI hange ko e Grok, 'a ia kuo ne fakahaa'i ha malava ke fakatupu 'a e ngaahi me'a 'oku fakafekiki mo ta'emalu, ki he ngaahi netiueka malu, 'e lava ke lahi 'a e ngaahi nunu'a. 'Oku fakahaa'i 'e he tu'unga ko 'eni 'a e fie ma'u mahu'inga ki he pule'i 'o e AI fefeka mo e ngaahi polokalama fakamo'oni kimu'a pea toki fakahoko 'a e ngaahi me'angaue malohi pehe 'i he ngaahi 'atakai 'o e ngaahi siteiki ma'olunga.
Ko e Hisitōlia Fakafekiki 'o e xAI 'o e Grok Chatbot .
Ke mahino 'a e hoha'a 'a Senatoa Warren, 'oku mahu'inga ke sivisivi'i 'a e lekooti 'o e AI 'oku fai ki ai 'a e fehu'i. Kuo 'i he lotolotonga 'o e ngaahi fakakikihi lahi 'a e Grok talu mei hono kamata'i. Ko ‘ene ngaahi tali ta’e-filtered pea ‘i he taimi ‘e ni’ihi ‘oku ‘ikai ke tonu kuo ne langa’i hake ‘a e ngaahi fakatokanga ‘i he lotolotonga ‘o e kau fa’u tu’utu’uni mo e kakai fakatou’osi.
Ko e ngaahi meʻa ko ʻeni ʻoku hokó ʻoku ʻikai fekauʻaki pē ia mo ha ngaahi fakakata taʻefeʻunga pe ngaahi tali fakapikopiko. 'Oku nau tuhu ki ha ta'e-tu'uma'u loloto ange 'i loto 'i he polokalama tefito 'o e AI. 'I he taimi 'oku 'ikai lava ke mapule'i falala'anga ai ha sisitemi AI, 'oku hoko 'a hono fakataha'i ki ha fa'ahinga sisitemi 'oku ne tokanga'i 'a e fakamatala malu fakafonua ko ha va'inga pa'anga.
Ngaahi Me'a Fakatohi 'o e Ngaahi Outputs Fakatu'utamaki
Kuo fakaikiiki ʻe ha ngaahi lipooti fakapuleʻanga ʻe niʻihi ʻa e tōʻonga palopalema ʻa Grok. Kuo vahevahe ʻe he kau fakaʻaongaʻí ha ngaahi sīpinga ʻa ia naʻe fakatupu ai ʻe he chatbot ha fakamatala fakahala, poupouʻi ha ngaahi fakakaukau fakatuʻutāmaki, pe ʻoatu ha ngaahi fakahinohino fakatuʻutāmaki. Ko e founga ko eni ‘o e ngaahi ola ta’e falala’anga ko e makatu’unga ia ‘o e fakakikihi ki he malu fakafonua.
Hangē ko ʻení, ʻi ha keisi ʻiloa ʻe taha, naʻe fakaʻilo ʻe he toʻu tupú ʻa e xAI ʻa ʻEloni Musk ʻi he CSAM ʻoku fakatupu ʻe he AI ʻa Grok, ʻo fakahaaʻi ai ʻa e ngaahi nunuʻa kovi ʻo e māmani moʻoni ʻo e AI ʻoku ʻikai puleʻí. Ko e ngaahi ngāue fakalao peheé ‘oku fakamamafa‘i ai ‘a e ngaahi fakatu‘utāmaki ‘oku hā mahino ‘oku ‘omai ‘e he ngaahi sisitemi AI ‘a ia ‘oku nau ngāue ‘o ‘ikai ha ngaahi malu‘i mo ha tokanga‘i fe‘unga.
Ko e hā ʻoku mahuʻinga ai ʻa e ʻulungaanga ʻo e AI ki he Malu Fakafonuá
Ko e puna mei he ngaahi fehalaaki ‘oku fehangahangai mo e kakaí ki he ngaahi fakamanamana ki he malu fakafonuá ‘oku si‘isi‘i ange ia ‘i he me‘a ‘oku hā maí. Ko ha AI 'oku ne fakatupu 'a e ngaahi me'a fakatu'utamaki 'i ha tu'unga fakapule'anga 'e lava ke malava ke manipulated pe malfunction 'i loto 'i ha netiueka malu. Mahalo te ne taʻeʻiloʻi ʻene leak ʻa e ngaahi fakamatala fakakalasi, fakaʻuhingaʻi hala ʻa e ʻatamai fakatuʻutāmakí, pe ʻoatu ha ʻanalaiso fakatuʻupakē hala.
Ko e ngaahi fakatu‘utāmaki ko ení ‘oku ‘ikai ko ha me‘a fakateokalatí. ‘Oku nau fakafofonga’i ha fakatu’utamaki mahino mo lolotonga ki he angatonu ‘o e ngaahi ngaue fakakautau mo e tanaki ‘o e ngaahi fakamatala faka’ilo. Ko e tu'utu'uni 'a e Pentagon ke foaki 'a e hū kuo pau ke poupou'i 'e he ngaahi fakapapau'i 'o e ironclad 'o e falala'anga 'o e AI, 'a ia 'oku lolotonga ngali 'oku 'ikai ke 'i ai.
Ko e ngaahi nunu'a 'o e malu fakafonua 'o e AI Integration .
Ko hono fakataha'i ha AI 'i tu'a ki he ngaahi netiueka fakakalasi ko ha tu'utu'uni 'o e nunu'a lahi 'aupito. Ko e nga'unu 'a e Pentagon ke hoa ngaue mo e xAI 'oku ne faka'ilonga'i 'a e tupulaki 'a e falala ki he ngaahi malava 'o e sekitoa taautaha 'o e AI ki he ngaahi taumu'a malu'i. Lolotonga 'e lava ke faka'uli 'e he fengaue'aki ko 'eni 'a e fo'ou, 'Oku ne toe fakafe'iloaki mai 'a e ngaahi vectors fo'ou ki he vaivai.
Ko e tefito'i manavasi'i ko e AI 'oku fakangaloku 'e lava ke hoko ko ha hoosi Trojan. 'E lava ke faka'aonga'i 'e he kau faiva kovi 'a e ngaahi vaivai'anga 'o e AI ke ma'u 'a e fakamatala mahu'inga pe fakalavea'i 'a e ngaahi sisitemi fekau mo e pule mahu'inga. Ko e malava ke hoko ha maumau ‘oku fu‘u lahi ‘aupito, ‘o ‘ikai ngata pē ‘i he‘ene uesia ‘a e founga fakakautaú ka ‘oku toe uesia ai ‘a e malu ‘a e kau ngāué mo e kakai ‘o e fonuá.
Ngaahi Fakatu'utamaki 'e Ala Hoko ki he Ngaahi Fakamatala Fakakalasi
Data Leakage: 'E lava ke fakahaa'i 'e ha AI ta'e-malava ke tomu'a tala 'a e fakamatala fakakalasi 'o fakafou 'i he'ene ngaahi tali, pe 'i he hala 'o e tisaini pe 'i he manipulation 'i tu'a. System Integrity: 'E lava ke faka'aonga'i 'a e ngaahi fehalaaki 'i he AI ke fakakovi'i 'a e ngaahi fakamatala pe fakalavea'i 'a e ngaue angamaheni 'o e ngaahi netiueka malu. Ngaahi fakamatala hala: 'E lava ke fakatupu mo fakamafola 'e he AI 'a e 'atamai loi 'i loto 'i he sisitemi, 'o iku ai ki he ngaahi tu'utu'uni hala 'i he ngaahi tu'unga ma'olunga taha.
Ko e ngaahi fakatu'utamaki ko 'eni 'oku fie ma'u ha tu'unga 'o e sivi 'oku 'alu atu 'i he vetting polokalama fakakomipiuta angamaheni. Ko e natula makehe, generative 'o e AI 'oku fie ma'u 'a e ngaahi fa'unga malu'i makehe 'oku kei fakatupulaki mo fakalelei'i 'i he kotoa 'o e ngaue'anga.
Ko e Fiema'u ki he "Tangata-Fakamo'oni'i" AI Ngaahi Tu'unga mo'ui
'Oku fakahaa'i malohi 'e he tu'unga ko 'eni 'a e 'uhinga 'oku hoko ai 'a e 'Human-Verified' ko e tu'unga koula fo'ou ki he falala ki he ngaahi me'a fakatupu .poto 'aupito. Kimu'a pea toki faka'ata ha AI ofi ki he fakamatala mahu'inga, kuo pau ke fakamo'oni'i ma'u pe 'a hono ngaahi outputs mo mapule'i 'e he kau ngaue 'o e tangata. Ko ha AI 'oku ngaue ko ha puha 'uli'uli ko ha mo'ua, 'ikai ko ha koloa, 'i ha tu'unga malu.
Ko hono fokotu’u ‘o e ngaahi sipinga pule mahino ‘oku ne fakahoko ‘a e tokanga’i ‘o e tangata mo e siofi hokohoko ‘oku ‘ikai ke kei fili. Ko ha fie ma'u tefito ia ki ha fa'ahinga kautaha, tautautefito ki he ngaahi potungaue 'a e pule'anga, 'oku nau fekumi ke leverage 'a e AI 'i he fatongia.
Ko e Tu‘unga Fakatekinolosiá mo e Ngaahi Fakatokanga ‘i he Kaha‘ú .
Ko e teke ki he AI malohi ange 'oku ta'etuku, mo e ngaahi kautaha hange ko Nvidia 'oku nau fakahaa'i 'a e ngaahi sisitemi 'o e siisi 'oku makatu'unga 'i he Groq ke fakavave'i 'a e ngaahi ngaue 'o e AI. Ko e fakalakalaka vave ko 'eni 'oku ne 'ai 'a e fakakikihi ki he malu 'o e AI ke toe fakavavevave ange. ʻI he vave ange mo malava ange ʻa e tekinolosia ʻoku ʻi laló, ʻoku tupulaki fakaʻaufuli ʻa e uesia ʻe lava ke hoko ʻi hono ngaahi taʻelavameʻá.
‘Oku mahu‘inga ‘a e ngaahi founga fakavavevavé. 'Oku kau heni 'a e 'atita fefeka 'a e paati hono tolu, ngaahi ngaue 'a e red teaming 'oku fakataumu'a pau ki he ngaahi sisitemi 'o e AI, pea mo e fakalakalaka 'o e ngaahi polokalama malu'i fo'ou 'oku fakafe'unga'i ki he ngaahi pole makehe 'o e generative AI. Ko e taumu'a ke faka'aonga'i 'a e ngaahi lelei 'o e AI lolotonga hono langa hake ha malu'i fefeka ki hono ngaahi fakatu'utamaki fakanatula.
Ngaahi Sitepu Tefito ki he Malu 'o e AI Deployment
'Atita Fakalukufua 'o e Pre-Deployment: Kuo pau ke fou 'a e sisitemi AI kotoa pe 'i ha sivi lahi 'i he ngaahi 'atakai simulated kimu'a pea toki ma'u 'a e fakamatala mo'ui, mahu'inga. Hokohoko atu ʻa e Siofi mo e Siviʻi: ʻOku ʻikai ko ha meʻa ʻoku hoko tuʻo taha pē ʻa e maluʻí. Kuo pau ke siofi ma'u pe 'a e 'ulungaanga 'o e AI ki he anomalies pe deviations mei he ngaahi fakangatangata 'oku 'amanaki ki ai. Pule'i fefeka 'o e hū mo e vahevahe: Fakangatangata 'a e hū 'a e AI ki he fakamatala pe 'oku fie ma'u 'aupito ki hono ngaue, fakasi'isi'i 'a e maumau 'e lava ke hoko mei ha fa'ahinga poini 'e taha 'o e ta'elavame'a.
Ko hono ngāue’aki ‘o ha founga fakatokanga, fakakonga ki he fakatahataha’i ‘oku ne faka’ata ‘a hono ‘ilo’i mo fakasi’isi’i ‘o e ngaahi fakatu’utamaki kimu’a pea nau toki lava ‘o fakautuutu ki he ngaahi me’a malu’i kakato.
Faka'osi: Ko e Ui ki he Mahino mo e Fatongia
Ko e faka'eke'eke 'a Senatoa Warren ko ha sitepu ia 'oku fiema'u ke fakapapau'i 'oku 'ikai ke fakatu'utamaki 'a e malu fakafonua 'i he fakavavevave ke 'ave 'a e AI fakamuimuitaha. Ko e malava ‘o e ‘atamai fakaetangatá ‘oku lahi fau, ka kuo pau ke palanisi ia mo ha tukupā ta‘e-ue‘ia ki he malu mo e malu. Kuo pau ke 'omi 'e he Pentagon ha fakatonuhia mahino mo fakalotolahi ki he'ene tu'utu'uni ke foaki 'a e xAI 'a e 'alunga ki hono ngaahi netiueka 'oku mahu'inga taha.
Ko e talanoa na'e kamata 'e he me'a ko 'eni na'e hoko 'oku mahu'inga ia ki he industry kotoa. 'Oku ne fakamamafa'i 'a e fie ma'u 'oku 'ikai lava ke alea'i ki he fakalakalaka 'o e AI mo hono fakahoko 'o e fatongia. Ki he ngaahi kautaha ‘oku nau folau ‘i he fonua faingata‘a ko ení, ‘oku mahu‘inga taha ‘a e hoa ngāue mo e kau mataotao ‘oku nau fakamu‘omu‘a ‘a e malu‘í. Fakapapau'i 'oku langa ho'o ngaahi fokotu'utu'u AI 'i ha makatu'unga 'o e falala mo e malu. 'Ilo'i 'a e founga 'e lava ke tokoni'i ai koe 'e he Seemless ke fakahoko 'a e ngaahi fakalelei'anga malu, fakamo'oni'i 'e he tangata 'a e AI ki ho'o pisinisi he 'aho ni.
