Pono ʻo Nvidia iā Groq Ma hope o nā mea a pau Aloha mai ka San Jose Convention Center, kahi i makemake nui ʻia ai ka AI i ka hālāwai kūkā makahiki a Nvidia e hōʻike ana i ka makemake nui no ka hoʻomohala holomua. Ma waena o nā robots humanoid a me ka cocktails themed, ʻo ka nūhou nui ka hoʻolālā o Nvidia e hoʻohui i ka ʻenehana o Groq i kāna ʻōnaehana GPU. He mea koʻikoʻi kēia neʻe ʻana: ʻaʻole maikaʻi loa nā Nvidia GPU maʻamau no nā hana koʻikoʻi AI inference e like me ka coding, kahi ʻokoʻa loa i nā ʻōlelo hoʻokuʻu mua e pili ana i ka hoʻomaka ʻana o ka chip AI.
ʻO ka Spectacle o Nvidia's AI Conference ʻO ka ikehu ma Nvidia's GTC conference he uila. Ua launa pū nā robots Humanoid me ka poʻe i hele mai, e hāʻawi ana i nā kuʻi lima a me ka hōʻike ʻana i ka AI. Maikaʻi ka manaʻo aloha, me nā mea kūʻai e hōʻike ana i ke alo o CEO Jensen Huang e kūʻai wikiwiki ana. Ua ʻoi aku ka hanana ma mua o kahi hui ʻenehana maʻamau. Ua hoʻohālike ʻo Nebius i ka mea hāʻawi kapuaʻi i ke kumumanaʻo, e hoʻokipa ana i kahi pā me nā cocktails-themed server e like me ka "GPU Spritz." He hoʻolauleʻa ia no ka hōʻea ʻana mai o AI i ka manaʻo nui.
Hoʻololi i ka hoʻolaha Nvidia-Groq Ma kāna kumu, ua wehe ka ʻaha kūkā i kahi hui hoʻolālā. Ua hoʻolaha ʻo Nvidia e hoʻokomo ʻo Groq's LPU (Language Processing Unit) ʻenehana i kāna ʻōnaehana GPU ponoʻī. Kuhi ʻia kēia hoʻohui ʻana i nā hana hana inference AI kūikawā. ʻO ka Inference ka wā e hoʻopuka ai ke kumu hoʻohālike AI i aʻo ʻia i nā pane, kahi kaʻina hana e koi ana i ka wikiwiki kiʻekiʻe a me ka pono.
No ke aha he mea nui ka ʻenehana o Groq ʻOkoʻa ka ʻenekini inference LPU o Groq mai nā GPU kuʻuna. Hoʻolālā ʻia ia no ka hana hoʻoholo a me ka latency ultra-haʻahaʻa i ka holo ʻana i nā kumu hoʻohālike ʻōlelo nui (LLM). No nā hana e like me ka hoʻokumu ʻana i nā code manawa maoli a me ka hoʻomohala kōkua ʻana iā AI, he mea koʻikoʻi kēia mau hiʻohiʻona. Hiki ke emi ka maikaʻi o nā GPU maʻamau, e alakaʻi ana i nā kumukūʻai kiʻekiʻe a me nā pane lohi. ʻO ka hoʻokomo ʻana o Nvidia e hōʻoia i ka ulu ʻana o ka mākeke. Hōʻike ia i nā ʻōnaehana heterogeneous, e hui pū ana i nā ʻano kaʻina hana like ʻole, ka wā e hiki mai ana no AI paʻakikī.
ʻO ke komo ʻana i loko o ka hoʻolālā Nvidia ʻO kēia hui ʻana he haʻahaʻa akā mahalo nui ʻia e ka alakaʻi ʻoihana. Ua hōʻoia ʻo ia ʻo nā GPU ikaika a Nvidia i loaʻa nā ʻāpana hana no kekahi mau hana. Ma ka pono e hoʻohui i ka ʻenehana inferencing kūikawā a Groq, ua ʻae ʻo Nvidia i kāna hāmeʻa kumu nui ʻaʻole ia he hopena kūpono, hoʻokahi-nui-pono-a pau. He manawa koʻikoʻi kēia i ka hoʻomohala ʻana i ka ʻenehana AI.
Hoʻokaʻawale me ko Huang Kū mua ʻIke ʻia ka neʻe ʻana i ka ʻōlelo a CEO Jensen Huang i Ianuali. Ua hoʻohaʻahaʻa mua ʻo ia i ka pono o nā chips inference kūikawā, e ʻōlelo ana ua lawa nā GPU. Hōʻike kēia pivot hoʻolālā wikiwiki i ka wikiwiki o ka ulu ʻana o ka ʻāina AI. ʻO nā koi o ka mākeke no ka maikaʻi a me ka maikaʻi o ke kumukūʻai ke alakaʻi nei i nā kanaka nunui e hoʻololi a hui pū. Hōʻike ia i ka hoʻokūkū paʻakikī o ka hana hou ma AI. Hiki i nā mea hoʻomaka e like me Groq ke ʻike a hoʻoponopono i nā pilikia niche ma mua o nā incumbent nui.
He aha ke ʻano o kēia no ka wā e hiki mai ana o AI Computing ʻO ka hana Nvidia-Groq he bellwether no nā ʻano ʻoihana. Ke neʻe nei mākou ma mua o ke au o kahi hoʻolālā chip hoʻokahi no nā hana AI āpau. Aia ka wā e hiki mai ana i loko o nā paepae i hoʻopaʻa ʻia, multi-chip. E hoʻohana nā ʻōnaehana i ka ʻenehana maikaʻi loa no kēlā me kēia māhele kikoʻī o ke kaʻina hana AI - hoʻomaʻamaʻa kūʻē i ka inference. ʻO nā hopena koʻikoʻi no nā mea hoʻomohala a me nā ʻoihana:
Nā Loaʻa Hana: ʻOi aku ka wikiwiki, ʻoi aku ka maikaʻi o nā noi AI, ʻoi aku no nā lawelawe manawa maoli. Hoʻonui i ke kumukūʻai: Hoʻemi ʻia nā lilo hana no ka holo ʻana o AI ma ka pālākiō ma o ka hoʻohana ʻana i ka chip kūpono no ka hana. Nā Hoʻololi Hoʻolālā: Pono e hoʻolālā i nā polokalamu a me nā ʻōnaehana no nā kaiapuni helu heterogeneous. Hoʻokūkū Makeke: Hoʻonui i nā manawa kūpono no nā chipmakers kūikawā, e hoʻoulu ana i nā mea hou.
Ke hoʻololi nei kēia ʻano i nā ʻāpana ʻenehana ʻē aʻe, kahi e lanakila ai ka loea. No ka laʻana, i ka ʻenehana kelepona, hoʻolaha nā ʻoihana i nā palena ʻenehana no nā hiʻohiʻona kikoʻī, e like me ke ʻano o ka hoʻomaka ʻana o ka foldable o Oppo i ʻEulopa ma hope o nā mea āpau, e hōʻike ana i ka mākeke hoʻolālā a me nā koho hāmeʻa.
Ka Hopena: He Mokuna Hou no AI Hardware ʻO ka ʻae ʻana o Nvidia i ka ʻenehana ʻo Groq e hōʻailona i kahi mokuna hou. Hōʻike ia ʻo ka hui pū ʻana a me ka ʻoihana loea ke kī i ka lanakila ʻana i nā pilikia e hiki mai ana i ka helu AI. ʻO ka ʻimi no ka hana maikaʻi loa ke alakaʻi nei i nā ʻōnaehana hybrid nuanced a ikaika. No nā ʻoihana e hoʻohana ana iā AI, ʻo ka hoʻomau ʻana i ka ʻike e pili ana i kēia mau hoʻomohala ʻenehana he mea koʻikoʻi i ka mālama ʻana i ka hoʻokūkūlihi. ʻO nā koho hoʻolālā kūpono e pili pono i ka hiki a me ke kumukūʻai. Makemake ʻoe e hoʻololi i nā hoʻololi ʻenehana hou aʻe a me kā lākou hopena ʻoihana? E ʻimi i kā mākou loiloi hohonu e pili ana i nā mākeke hāmeʻa foldable a me nā ʻano ʻē aʻe ma Semless. E noho ma mua o ka pihi—ke kali nei kāu ʻike hou.
