Nvidia Mako tun bɛ Groq la O bɛɛ kɔfɛ Foli ka bɔ San Jose jamalajɛ kɛyɔrɔ la, yɔrɔ min na AI ka dibi min bɛ se ka ye Nvidia ka san o san lajɛba la, o bɛ ɔridinatɛri ɲɛtaa ɲinini caman jira. Robo minnu bɛ i n’a fɔ hadamadenw ani cocktails (cocktails) minnu bɛ kɛ ni barokunw ye, o cɛma, kibaruya belebeleba tun ye Nvidia ka laɲini ye ka Groq ka fɛɛrɛbɔ don a ka GPU sitɛmuw kɔnɔ. Nin wale in ye sɔnni nafama ye : Nvidia GPU jɔnjɔnw dɔrɔn tɛ koɲuman ye tuma bɛɛ AI inference baara kɔrɔlenw na i n’a fɔ kodɔn, o ye danfaraba ye ni kuma fɔlenw ye minnu tun bɛ kɛ ka tɛmɛn AI puce daminɛ kan.
Nvidia ka AI Lajɛba ka ɲɛnajɛba Nvidia ka GTC lajɛba la, fanga min tun bɛ yen, o tun ye kuran ye. Robo minnu bɛ i n’a fɔ hadamadenw, olu ye jɛɲɔgɔnya kɛ ni jamalajɛdenw ye, ka bolokɔnincininw di ani ka AI farikoloma jira. Fanaw ka yɛrɛdi tun jɛlen don, jagofɛn minnu bɛ ɲɛmɔgɔba Jensen Huang ɲɛda jira, olu tun bɛ feere joona. O ko in tɛmɛna tekinoloji lajɛba dɔ kan min bɛ kɛ cogoya la. Sankaba dilanbaga Nebius ye misali di o barokun kan, a ye barokɛyɔrɔ dɔ ladon ni cocktails ye minnu ɲɛsinnen bɛ sèrwɛri ma i n’a fɔ "GPU Spritz". O tun ye AI nali seli ye 'sènba la.
Nvidia-Groq ka laseli decoding A kɔnɔko la, lajɛba in ye jɛɲɔgɔnya fɛɛrɛbɔ dɔ jira. Nvidia y’a jira k’a bɛna Groq ka LPU (Language Processing Unit) fɛɛrɛ don a yɛrɛ ka GPU-based systems kɔnɔ. Nin jɛ-ka-baara in ɲɛsinnen bɛ kɛrɛnkɛrɛnnenya la AI inference baarakɛcogo kɛrɛnkɛrɛnnenw ma. Inference ye ni AI modeli degelen ye jaabiw lase, o ye wale ye min bɛ teliya ni baarakɛcogo ɲuman de wajibiya.
Mun na Groq ka fɛɛrɛbɔ nafa ka bon Groq ka LPU inference engine (LPU inference engine) bɛ danfara Bɔ a jɔcogo la ni GPU laadalata ye. A dabɔra baarakɛcogo latigɛlen ni ultra-low latency kama kanko misalibaw (LLM) bolicogo la. Baara minnu bɛ kɛ i n’a fɔ waati yɛrɛ la kode bɔli ani AI dɛmɛni yiriwali, o jogo ninnu nafa ka bon kosɛbɛ. GPU standardw bɛ se ka kɛ baarakɛbaliya ye, o bɛ na ni musaka caman ye ani jaabiw bɛ kɛ dɔɔnin dɔɔnin. Nvidia ka tali bɛ sugu magoba dɔ sinsin min bɛ ka bonya. A b’a jira ko sigida hɛtɛrojɛni, minnu bɛ porosesɛri suguya wɛrɛw fara ɲɔgɔn kan, olu de ye siniɲɛsigi ye AI gɛlɛnw na.
A Implicit Admission in Nvidia ka fɛɛrɛbɔ Nin jɛɲɔgɔnya in ye waleɲumandɔnba ye min bɛ kɛ ni kumakan ye nka a ka bon kosɛbɛ ka bɔ izini ɲɛmɔgɔ fɛ. A b’a Jira ko hali Nvidia ka GPU barikamaw bɛ ni fɛnɲɛnɛma-yɔrɔ dɔw ye baara dɔw la. Ni a mago bɛ ka Groq ka inferencing tech kɛrɛnkɛrɛnnen fara a kan, Nvidia sɔnna a ma ko a ka fɛnɲɛnɛma-minɛnw tɛ fɛn dafalen ye, min bɛ se ka kɛ bɛɛ ye. Nin ye waati nafamaba ye AI fɛnɲɛnamafagalanw yiriwali la.
Danfara bɛ Huang ka jɔyɔrɔ fɔlɔ la O wale in kɔlɔsira kɛrɛnkɛrɛnnenya la n’i y’a jateminɛ ko ɲɛmɔgɔba Jensen Huang ka kumaw kɛra Zanwuyekalo la. A y’a Jira ka Tɛmɛ ko mago bɛ inference chips kɛrɛnkɛrɛnnenw na, k’a Jira ko GPUw bɛ Se. Nin fɛɛrɛ teliyalen in b’a jira ko AI ka dugukoloko bɛ ka yiriwa teliya la cogo min na. Suguw ka ɲininiw ka ɲɛsin baarakɛcogo ɲuman ni musaka dɔgɔyali ma, o bɛ ka hali mɔgɔba dɔw bila ka ladamu ani ka jɛ ka baara kɛ ɲɔgɔn fɛ. A b’a Jira ko kokuradonni AI minɛnw na, o ye ɲɔgɔndanba ye. Daminɛ minnu bɛ i n’a fɔ Groq, olu bɛ se tiɲɛ na ka nisɛ gɛlɛyaw dɔn ani k’u ɲɛnabɔ ka kɔn fangatigibaw ɲɛ.
O kɔrɔ ye min ye AI ɔridinatɛri ka siniɲɛsigi la Nvidia-Groq ka jɛkafɔ ye bɛlɛkisɛ ye izini taabolo la. An bɛ ka tɛmɛn puce architecture kelen, fangatigi waati kan AI baara bɛɛ kama. Siniɲɛsigi bɛ sɔrɔ ‘plateformes optimisées (plateformes optimisées) la, minnu bɛ ni puce (puce) caman ye. Sisitɛmuw bɛna baara kɛ ni fɛnɲɛnamafagalan ɲumanw ye AI baarakɛcogo dakun kɛrɛnkɛrɛnnen kelen-kelen bɛɛ kama—kalan ni dantigɛli. O nɔba minnu bɛ na ni fɛn dilannikɛlaw ni tɔnw ye, olu ye:
Baarakɛcogo tɔnɔ: AI baarakɛminɛn minnu bɛ teliya, minnu bɛ baara kɛ ka ɲɛ, kɛrɛnkɛrɛnnenya la waati yɛrɛ la. Musow ka musakaw ɲɛnabɔli : Baara musakaw dɔgɔyara AI bolicogo la sɛgɛsɛgɛli la ni puce ɲuman ye baara kama. Architectural Shifts: Mako bɛ ka porogaramuw ni fɛnsɔrɔsiraw dilan ɔridinatɛri sigidaw la minnu tɛ kelen ye. Suguda ɲɔgɔndan : Dɔ farala sababuw kan puwɛnti dilannikɛla kɛrɛnkɛrɛnnenw bolo, ka kokuradon caman sabati.
Nin cogoya in bɛ fɛn caman jira fɛn caman tigɛli la tekinoloji seko ni dɔnko siratigɛ la, yɔrɔ minnu na kɛrɛnkɛrɛnnenya bɛ se sɔrɔ. Misali la, mobili tekinoloji la, tɔnw bɛ fɛnɲɛnamafagalanw dancɛw gɛlɛya fɛn kɛrɛnkɛrɛnnenw kama, i n’a fɔ Oppo ka folikɛlan min bɛ se ka kɛ ni creaseless ye, o tɛ daminɛ cogo min na Erɔpu jamanaw na o bɛɛ kɔfɛ, o bɛ suguba ni fɛnɲɛnɛma sugandili fɛɛrɛw jira.
Kuncɛli: Sapitiri kura dɔ AI Hardware kama Nvidia ka Groq ka fɛɛrɛbɔ minɛni ye sapitiri kura ye. A b’a jira ko jɛ-ka-baara ni kɛrɛnkɛrɛnnenya ye fɛnba ye walasa ka se sɔrɔ gɛlɛya nataw kan AI jatebɔ la. Baara kɛcogo ɲuman ɲinini bɛ ka na ni sigida caman ye minnu bɛ kɛ ni fɛnɲɛnɛmaw ye ani minnu fanga ka bon. Jagokɛlaw minnu bɛ AI ta, ka to kunnafoni na nin fɛnɲɛnɛmako jiginniw kan, o nafa ka bon kosɛbɛ walasa ka ɲɔgɔndan sabatikɛrɛda. Fɛnɲɛnɛma sugandili ɲumanw bɛ nɔ bila seko ni musakaw la k’a ɲɛsin u yɛrɛ ma. Aw b’a fɛ ka decode (decode) caman wɛrɛw strategic tech shifts ani u ka jago nɔfɛkow? Aw ye an ka sɛgɛsɛgɛli kuncɛlenw sɛgɛsɛgɛ minɛnw suguya minnu bɛ se ka da ɲɔgɔn kan ani ko wɛrɛw kɛcogo Seemless kan. To ɲɛfɛ ka ɲɛsin kurunba ma—i ka hakilina nata bɛ makɔnɔni na.
