Google podle zprávy serveru The Information pracuje na novém serverovém čipu s kódovým označením „Frozen v2“. Cílem projektu je natvrdo zapsat základní výpočetní architekturu modelu Gemini přímo do křemíku. Google si od toho slibuje výrazně nižší spotřebu energie a rychlejší odezvu při zpracování dotazů. Projekt přichází v době, kdy firmě chybí výpočetní kapacita a musí kvůli tomu odmítat část zakázek od klientů cloudové služby.
Hlavní body
- Google podle serveru The Information vyvíjí nový serverový čip s kódovým označením Frozen v2, určený speciálně pro model Gemini.
- Čip má zpracovat 6krát až 10krát více tokenů na jednotku spotřebované energie než současné čipy TPU od Google.
- Nasazení se plánuje nejdříve v roce 2028, projekt má pomoci vyřešit akutní nedostatek výpočetního výkonu, kvůli kterému Google odmítá část zakázek klientů Google Cloud.
- Jde už o druhý pokus Google „vypálit“ model přímo do hardwaru. První projekt vedený hlavním vědcem DeepMind Jeffem Deanem se dříve zastavil, protože fungoval jen s jedinou verzí modelu.
Google Frozen v2: Proč se jmenuje zamrzlý?
Název Frozen, tedy „zamrzlý“, přesně vystihuje přístup Google k vývoji. Firma chce natrvalo zafixovat část výpočetní logiky modelu Gemini přímo do křemíku čipu. Na rozdíl od univerzálních čipů, jako například grafické karty Nvidia nebo vlastní čipy TPU, tak Frozen v2 nemá sloužit obecným úlohám. Půjde o čip šitý na míru výhradně rodině modelů Gemini. Univerzální čipy musí při běhu jakéhokoli modelu vyhodnocovat velké množství logických operací za chodu. Frozen v2 má tuto logiku Gemini vestavěnou přímo v sobě, takže sníží počet výpočetních kroků i objem přenášených dat.
Nejde přitom o první pokus Google vměstnat model do hardwaru. První verzi vedl hlavní vědec Google DeepMind Jeff Dean, který chtěl do čipu vypálit rovnou celé váhy modelu. Tento přístup měl ale zásadní slabinu: čip fungoval jen s jednou konkrétní verzí Gemini a jeho životnost byla extrémně krátká, takže projekt na roky usnul. Frozen v2 se poučil a fixuje jen základní architekturu, zatímco váhy modelu, tedy parametry určující kvalitu odpovědí, zůstávají aktualizovatelné. Google tím ale sází na to, že u architektury Gemini vydrží déle. Čip totiž má fungovat jen s těmi budoucími verzemi modelu, které zachovají stejný základ.
Zatím jen experiment, ne náhrada TPU
Frozen v2 nemá nahradit současné čipy TPU, ale doplnit je jako novou produktovou řadu. Google letos představil už osmou generaci TPU a aktivně ji nabízí cloudovým zákazníkům, čímž se přímo pouští do souboje s dominancí Nvidie na trhu AI čipů. Firma navíc uzavřela s Metou multimiliardovou dohodu na pronájem výpočetního výkonu TPU. Přesto Google zatím neplánuje Frozen v2 vyrábět ve velkém. Objem produkce zůstane výrazně nižší než u TPU. Firma bere tuto generaci spíš jako technologickou zkoušku, díky které nasbírá zkušenosti pro budoucí specializované čipy, až se architektura velkých modelů ustálí.
Ambice je to velká, ale ne bez rizika. Google momentálně čelí zpoždění příští verze Gemini Pro a v posledních měsících přišel o několik klíčových výzkumníků, kteří přešli ke konkurenci. Čínské modely mezitím podle dostupných dat zabírají 45 % využití tokenů u amerických firem. Sázka na čip pevně svázaný s dnešní architekturou Gemini tak nemusí vyjít, pokud se ukáže, že Google bude muset základ modelu brzy zásadně přepracovat. Než se Frozen v2 dostane do reálného provozu, uplyne navíc ještě několik let, a to je v oboru umělé inteligence, kde se karty přerozdávají prakticky každý rok, poměrně dlouhá doba.
