Na'e fie ma'u 'e Nvidia 'a e Groq hili 'a e me'a kotoa pe . 'Ofa atu mei he Senitā Fakataha'anga 'o San Jose, 'a ia 'oku fakahaa'i ai 'e he palpable AI craze 'i he konifelenisi fakata'u 'a e Nvidia 'a e fie ma'u frenzied ki he komipiuta fakalakalaka. 'I he lotolotonga 'o e ngaahi ropota humanoid mo e cocktails fakakaveinga, ko e ongoongo lahi ko e palani 'a e Nvidia ke fakataha'i 'a e tekinolosia 'o e Groq ki he'ene ngaahi sisitemi GPU. Ko e nga'unu ko 'eni ko ha fakahu mahu'inga: 'oku 'ikai ke lelei ma'u pe 'a e tu'unga Nvidia GPUs tokotaha pe ki he ngaahi ngaue mahu'inga 'o e AI inference hange ko e coding, ko ha kehekehe lahi ki he ngaahi fakamatala faka'ikai'i kimu'a fekau'aki mo e kamata'anga 'o e AI chip.
Ko e faka'ofo'ofa 'o e Konifelenisi AI 'a e Nvidia Ko e ivi 'i he konifelenisi GTC 'a e Nvidia na'e 'uhila. Na'e fetu'utaki 'a e ngaahi ropota Humanoid mo e kau ma'u fakataha, 'o 'oatu 'a e fist-bumps mo fakahaa'i 'a e AI embodied. Na'e mahino 'a e mateaki 'a e kau poupou, 'i he koloa 'oku 'asi ai 'a e CEO Jensen Huang 'a e fofonga 'o e fakatau vave. Naʻe mahulu hake ʻa e meʻa naʻe hokó ʻi ha fakatahaʻanga tekinolosia angamaheni. Na'e fakatata 'e he kautaha 'o e 'ao Nebius 'a e kaveinga, 'o ne talitali ha pa mo e cocktails 'o e server-kaveinga hange ko e "GPU Spritz." Ko e katoanga ia 'o e a'u mai 'a e AI ki he mainstream.
Faka'uhinga'i 'o e Fanongonongo 'a e Nvidia-Groq . ʻI hono uho, naʻe fakahaaʻi ai ʻe he konifelenisí ha hoa ngāue fakapotopoto. Na'e fakaha 'e he Nvidia te ne fakakau 'a e tekinolosia 'o e LPU 'o e Groq ('Iuniti Ngaue'aki 'o e Lea) ki he'ene ngaahi sisitemi 'oku makatu'unga 'i he GPU. 'Oku fakataumu'a pau 'a e fakataha'i ko 'eni ki he ngaahi ngaue makehe 'o e AI inference. Ko e inference ko e taimi 'oku fakatupu ai 'e ha sipinga 'o e AI kuo ako'i 'a e ngaahi tali, ko ha founga 'oku fie ma'u 'a e vave mo e ola lelei.
Ko e hā ʻoku mahuʻinga ai ʻa e tekinolosia ʻa Groq 'Oku kehe 'a e misini inference LPU 'a e Groq 'i he tafa'aki faka'ata mei he GPUs tukufakaholo. 'Oku fakataumu'a ia ki he fakahoko 'o e deterministic mo e latency ultra-ma'ulalo 'i hono lele'i 'o e ngaahi sipinga 'o e lea lalahi (LLMs). Ki he ngaahi ngaue hange ko e to'utangata 'o e code taimi mo'oni mo e fakalakalaka 'oku tokoni'i 'e he AI, 'Oku mahu'inga 'aupito 'a e ngaahi 'ulungaanga ko 'eni. 'E lava ke si'isi'i ange 'a e GPUs angamaheni, 'o iku ai ki he ngaahi fakamole lahi ange mo e ngaahi tali 'oku tuai ange. 'Oku fakamo'oni'i 'e he ohi 'o e Nvidia ha fie ma'u 'o e maketi 'oku tupulaki. 'Oku ne faka'ilonga'i 'a e ngaahi sisitemi heterogeneous, fakataha'i 'a e ngaahi fa'ahinga processor kehekehe, ko e kaha'u ia ki he AI faingata'a.
Ko e fakahu fakapulipuli 'i he founga ngaue 'a e Nvidia . Ko e hoa ngaue ko 'eni ko ha fakamo'oni tacit ka ko e lahi mei he taki 'o e industry. 'Oku ne fakapapau'i na'a mo e GPUs malohi 'o e Nvidia 'oku 'i ai ha ngaahi ava faka'ata ki he ngaahi ngaue pau. 'I he fie ma'u ke tanaki atu 'a e tekinolosia makehe 'o e inferencing 'a e Groq, 'Oku fakamo'oni'i 'e Nvidia 'oku 'ikai ko ha haohaoa, taha-lahi-fe'unga-kotoa 'a e fakalelei'anga 'o 'ene hardware taumu'a lahi. Ko ha momeniti mahu'inga 'eni 'i he fakalakalaka 'o e AI hardware.
Fakafehoanaki mo e Tu‘unga ‘o Huang ki Mu‘á . 'Oku faka'ilonga'i 'aupito 'a e nga'unu ko 'eni 'i he fakamatala 'a e CEO Jensen Huang 'i Sanuali. Na'a ne downplayed kimu'a 'a e fie ma'u ki he ngaahi fo'i 'ata makehe 'o e inference, fokotu'u atu na'e fe'unga 'a e GPUs. 'Oku fakahaa'i 'e he pivot fakapotopoto vave ko 'eni 'a e vave 'o e evolving 'a e fonua 'o e AI. Ko e ngaahi fiema'u 'a e maketi ki he ola lelei mo e fakamole-lelei 'oku ne faka'uli na'a mo e kau tangata lalahi ke nau fe'unga mo e fengaue'aki. 'Oku ne fakamamafa'i 'a e fo'ou 'i he AI hardware 'oku fe'au'auhi fefeka. 'E lava mo'oni 'e he ngaahi kamata'anga hange ko e Groq 'o 'ilo'i mo solova 'a e ngaahi palopalema niche 'i mu'a 'i he kau ma'u lakanga lalahi ange.
Ko e hā hono ʻuhinga ʻo e meʻá ni ki he Kahaʻu ʻo e AI Computing . Ko e aleapau 'a e Nvidia-Groq ko ha bellwether ia ki he ngaahi founga 'o e ngaue'anga. 'Oku tau laka atu 'i he kuonga 'o ha taha, pule 'a e chip 'o e 'atakai ki he ngaahi ngaue kotoa pe 'o e AI. Ko e kaha'u 'oku 'i he optimized, ngaahi tu'unga 'o e ngaahi siisi lahi. 'E leverage 'e he ngaahi sisitemi 'a e ngaahi naunau lelei taha ki he konga pau takitaha 'o e ngaue 'a e AI-ako mo e inference. Ko e ngaahi tefito'i 'uhinga ki he kau developers mo e ngaahi kautaha 'oku kau ai:
Ngaahi ma'u'anga tokoni 'o e fakahoko: Vave ange, ngaahi polokalama AI 'oku toe lelei ange, tautautefito ki he ngaahi ngaue taimi mo'oni. Fakalelei'i 'o e fakamole: Fakasi'isi'i 'a e ngaahi fakamole fakangaue ki hono fakalele 'o e AI 'i he fua 'aki hono faka'aonga'i 'o e siisi totonu ki he ngaue. Ngaahi liliu faka'ata: Ko ha fie ma'u ke tisaini 'a e polokalama fakakomipiuta mo e ngaahi langa fakalakalaka ki he ngaahi 'atakai fakakomipiuta heterogeneous. Fe'auhi 'i he maketi: Fakalahi 'a e ngaahi faingamalie ki he ngaahi chipmakers makehe, 'o fakatupulaki 'a e ngaahi founga fo'ou lahi ange.
'Oku faka'ata 'e he founga ko 'eni 'a e ngaahi liliu 'i he ngaahi sekitoa kehe 'o e tekinolosia, 'a ia 'oku ikuna ai 'a e specialization. For instance, 'i he tekinolosia fe'ave'aki pa'anga, 'Oku teke 'e he ngaahi kautaha 'a e ngaahi ngata'anga 'o e hardware ki he ngaahi fotunga pau, tatau mo e founga 'oku 'ikai ke kamata ai 'a e Oppo 'a e meimei creaseless foldable 'i 'Iulope hili 'a e me'a kotoa, 'o fakahaa'i 'a e maketi fakapotopoto mo e ngaahi fili 'o e hardware.
Faka'osi: Ko ha Vahe Fo'ou ki he AI Hardware . 'Oku faka'ilonga'i 'e he 'uma 'a e Nvidia ki he tekinolosia 'o e Groq ha vahe fo'ou. 'Oku ne fakamo'oni'i ko e fengaue'aki mo e makehe ko e kī ia ki hono ikuna'i 'o e ngaahi faingata'a hoko 'i he AI compute. 'Oku taki 'e he fekumi ki he fakahoko lelei taha ki he ngaahi sisitemi hybrid nuanced mo malohi ange. Ki he ngaahi pisinisi leveraging AI, nofo ma'u 'i he ngaahi evolutions ko 'eni 'o e hardware 'oku mahu'inga ke tauhi ha fe'au'auhi .mui'i me'a. Ko e ngaahi fili totonu ki he ngaahi langa fakalakalaka 'oku ne uesia hangatonu 'a e malava mo e fakamole. Fie decode 'a e ngaahi liliu fakapotopoto ange 'o e tekinolosia mo 'enau ngaahi uesia fakapisinisi? Fakatotolo'i 'etau 'analaiso loloto 'i he ngaahi maketi 'o e device foldable mo e ngaahi founga kehe 'i he Seemless. Nofo maʻu ʻi muʻa ʻi he foʻi ʻakaú —ʻoku tatali mai hoʻo ʻilo hokó.
