Nvidia priznala: Kraj ere...

Američka tehnološka kompanija Nvidia napravila je veliki strateški zaokret u razvoju veštačke inteligencije, ulažući oko 20 milijardi dolara u saradnju sa kompanijom Groq, poznatoj po razvoju specijalizovanih čipova za brzu obradu AI modela.

Kako piše portal VentureBeat, Nvidia time priznaje da dosadašnji koncept univerzalnih GPU čipova više nije dovoljan za sve potrebe savremene AI industrije, posebno kada je reč o tzv. "inference" fazi – trenutku kada AI modeli generišu odgovore u realnom vremenu.

Kraj "jednog čipa za sve"

Stručnjaci navode da se AI obrada sada deli na dve faze: 

1. Prefill, koja podrazumeva obradu velikih količina podataka i konteksta

2. Decode, fazu u kojoj se generišu odgovori velikom brzinom

Nvidia će se fokusirati na prvu fazu kroz novu generaciju svojih čipova, dok će Groq tehnologija biti korišćena za izuzetno brzo generisanje odgovora, što je ključno za četbotove, glasovne asistente i aplikacije koje rade u realnom vremenu.

• Nvidia značajno smanjuje proizvodnju ovih grafičkih karata
• Čovek u kožnoj jakni priznao: "Ne znam da li će AI uništiti čovečanstvo"
• Čovek u kožnoj jakni: Verujem...

Groq razvija specijalizovane AI procesore koji koriste drugačiju arhitekturu od klasičnih GPU-ova, omogućavajući znatno manju latenciju i veću energetsku efikasnost. Upravo to ih čini idealnim za narednu fazu masovne upotrebe veštačke inteligencije.

Deo Groq inženjerskog tima pridružiće se Nvidiji, a njihova tehnologija biće integrisana u Nvidia softverski ekosistem, uključujući popularnu CUDA platformu.

Analitičari procenjuju da će tržište AI inference-a uskoro postati vrednije od samog treniranja AI modela, jer se sve više aplikacija oslanja na brze i pouzdane odgovore u realnom vremenu.