Nvidia e ne e tlhoka Groq morago ga tsotlhe Ditumediso go tswa kwa San Jose Convention Center, koo go rata AI go go utlwalang kwa khonferenseng ya ngwaga le ngwaga ya Nvidia go tlhagisang tlhokego e e tseneletseng ya dikhomphiutha tse di tsweletseng pele. Gareng ga diroboto tsa batho le di-cocktail tse di nang le setlhogo, dikgang tse dikgolo e ne e le leano la Nvidia la go kopanya thekenoloji ya Groq mo dithulaganyong tsa yone tsa GPU. Kgato eno ke kamogelo e e botlhokwa: di-GPU tse di tlwaelegileng tsa Nvidia di le nosi ga se ka metlha di siametseng ditiro tse di botlhokwa tsa AI tse di jaaka go tsenya dikhoutu, e leng se se farologaneng thata le ditshwaelo tsa pelenyana tse di sa siamang ka ga go simolola ga ditšhipi tsa AI.
Pono ya Khonferense ya AI ya Nvidia Maatla a kwa khonferenseng ya GTC ya Nvidia e ne e le a motlakase. Diroboto tse di tshwanang le batho di ne di dirisana le batho ba ba neng ba le teng, di ba tshwara ka diatla le go bontsha AI e e akareditsweng. Boineelo jwa balatedi bo ne bo bonala sentle, ka dithoto tse di neng di na le sefatlhego sa ga CEO Jensen Huang di rekisa ka bonako. Tiragalo e ne ya feta samiti e e tlwaelegileng ya thekenoloji. Motlamedi wa maru Nebius o ne a dira sekao sa setlhogo seno, a tshwara bara e e nang le di-cocktail tse di nang le setlhogo sa sefara tse di jaaka "GPU Spritz." E ne e le moletlo wa go goroga ga AI mo bathong ba ba tlwaelegileng.
Go tlhalosa Kitsiso ya Nvidia-Groq Mo moding wa yona, khonferense e ne ya senola tirisanommogo ya togamaano. Nvidia e tsebisitse hore e tla kenyelletsa thekenoloji ya Groq ya LPU (Yuniti ya Tshebetso ya Puo) dithulaganyong tsa yona tse thehilweng hodima GPU. Kopanyo eno e lebile ka tlhamalalo merwalo ya tiro e e kgethegileng ya AI inference. Inference ke fa sekao sa AI se se katisitsweng se ntsha dikarabo, e leng thulaganyo e e batlang lobelo lo lo kwa godimo le bokgoni.
Goreng Thekenoloji ya Groq e le Botlhokwa Enjene ya Groq ya LPU inference e farologane ka boagi le di-GPU tsa setso. E etseditswe tshebetso ya deterministic le latency e tlase haholo ho tsamaisa dikai tse kgolo tsa puo (LLMs). Bakeng sa mesebetsi e kang moloko wa khoutu ya nako ya nnete le ntshetsopele e thuswang ke AI, dipharologantsho tsena di bohlokwa. Di-GPU tse di tlwaelegileng di ka nna tsa se ka tsa dira sentle, mme tsa dira gore go nne le ditshenyegelo tse di kwa godimo le dikarabo tse di bonya. Go amogelwa ga Nvidia go netefatsa tlhokego e e golang ya mmaraka. E bontsha gore dithulaganyo tse di sa tshwaneng, tse di kopanyang mefuta e e farologaneng ya diporosesara, ke isagwe ya AI e e raraaneng.
Kamogelo e e sa Tlhamalalang mo Leano la Nvidia Tirisanommogo eno ke kamogelo e e didimetseng mme e le e kgolo go tswa go moeteledipele wa intaseteri. E netefatsa gore le di-GPU tse di maatla tsa Nvidia di na le diphatlha tsa kago tsa merwalo e e rileng ya tiro. Ka go tlhoka go oketsa thekenoloji e e kgethegileng ya go dira ditshwetso ya Groq, Nvidia e dumela gore serweboleta sa yone sa kakaretso ga se tharabololo e e itekanetseng, e e tshwanelang botlhe. Ena ke motsotso o bohlokwa ntshetsopeleng ya hardware ya AI.
Pharologano le Boemo jwa Pele jwa ga Huang Kgato eno e lemotshega thata fa go akanngwa ka ditshwaelo tsa ga Mokhuduthamaga Jensen Huang ka Ferikgong. O ne a nyenyefatsa tlhokego ya ditšhipi tse di kgethegileng tsa inference pele, a akantsha gore di-GPU di ne di lekane. Pivot eno e e bonako ya togamaano e bontsha kafa naga ya AI e fetogang ka bonako ka gone. Ditlhokego tsa mmaraka tsa bokgoni le go somarela ditshenyegelo di dira gore le dikhamphani tse dikgolo di tlwaelane le maemo le go dirisana mmogo. E gatelela gore boitshimololedi mo serweboleteng sa AI bo na le kgaisano e e bogale. Di-startup tse di tshwanang le Groq di ka kgona go supa le go rarabolola mathata a niche pele ga batho ba bagolo ba ba mo maemong.
Seno se se Kayang mo Isagweng ya Dikhomphiutha tsa AI The Nvidia-Groq tumellano ke tshipi bakeng sa indasteri mekhoa. Re feta motlha wa thulaganyo e le nngwe, e e laolang ya ditšhipi tsa ditiro tsotlhe tsa AI. Isagwe e mo dipolatefomong tse di tokafaditsweng, tsa ditšhipi tse dintsi. Ditsamaiso di tla dirisa serweboleta se se gaisang sa kgato nngwe le nngwe e e rileng ya kelelo ya tiro ya AI—katiso kgatlhanong le go dira diphetso. Ditlamorago tse di botlhokwa tsa batlhabolodi le ditlamo di akaretsa:
Dipoelo tsa Tiragatso: Ditiriso tsa AI tse di bonako, tse di nang le matswela, segolobogolo tsa ditirelo tsa nako ya mmatota. Go Tokafatsa Ditshenyegelo: Go fokoditse ditshenyegelo tsa go dira tsa go tsamaisa AI ka selekanyo se segolo ka go dirisa tšhipi e e siameng ya tiro. Diphetogo tsa Boagi: Tlhokego ya go tlhama dirweboleta le mafaratlhatlha a ditikologo tse di farologaneng tsa dikhomphiutha. Kgaisano ya Mmaraka: Go oketsega ga ditšhono tsa batlhagisi ba ba kgethegileng ba ditšhipisi, go rotloetsa boitshimololedi jo bontsi.
Tlwaelo eno e bontsha diphetogo mo makaleng a mangwe a thekenoloji, koo go nna le bokgoni jo bo kgethegileng go fenyang gone. Ka sekai, mo thekenolojing ya difouno tsa selula, dikhamphani di kgarameletsa melelwane ya serweboleta sa dikarolo tse di rileng, go tshwana le kafa Oppo e e batlang e sa tlhole e menagane e sa simololeng ka gone kwa Yuropa morago ga tsotlhe, e tlhomolola ditlhopho tsa mmaraka le tsa serweboleta.
Bokhutlo: Kgaolo e Ntšha ya Serweboleta sa AI Go amogela ga Nvidia thekenoloji ya Groq go tshwaya kgaolo e ntšhwa. E supa gore tirisanommogo le go nna le bokgoni jo bo kgethegileng ke selotlolo sa go fenya dikgoreletsi tse di latelang mo go tsa AI compute. The batla bakeng sa tshebetso Optimum e lebisa ho feta nuanced le matla dithulaganyo motswako. Mo dikgwebong tse di dirisang AI, go nna o na le kitso ka diphetogo tseno tsa serweboleta go botlhokwa thata go boloka kgaisanolosi. Ditlhopho tse di siameng tsa mafaratlhatlha di ama bokgoni le ditshenyegelo ka tlhamalalo. A o batla go tlhaloganya diphetogo tse dingwe tsa thekenoloji le ditlamorago tsa tsone mo kgwebong? Hlahloba tlhahlobo ya rona e tebileng ka mebaraka ya disebediswa tse menehang le mekhoa e meng ho Seemless. Nna kwa pele ga sebopego—temogo ya gago e e latelang e letile.
