Meta lansira vlastite AI čipove kako bi smanjila ovisnost o Nvidiji i AMD-u

  • Meta predstavlja četiri interna MTIA čipa za zadatke klasifikacije, preporuka i inferencije umjetne inteligencije.
  • MTIA procesori imaju za cilj smanjenje troškova, optimizaciju podatkovnih centara i smanjenje ovisnosti o Nvidiji i AMD-u.
  • Kompanija ubrzava vlastiti razvoj silicija, a istovremeno održava velike kupovine eksternih grafičkih procesora.
  • Ovaj potez je dio masovnog širenja infrastrukture umjetne inteligencije u Sjedinjenim Državama i drugim tržištima.

Meta AI čipovi

Meta je odlučila napraviti korak naprijed i klade se na vlastite čipove umjetne inteligencije kako bi se pokrenula ogromna infrastruktura koja podržava Facebook, Instagram, WhatsApp i njihove nove generativne alate umjetne inteligencije. Ovaj potez odgovara na ogroman porast potražnje za računarskom snagom i rastuće troškove oslanjanja gotovo isključivo na dobavljači poput Nvidije i AMD-a.

Ovim lansiranjem, kompanija Marka Zuckerberga nastoji smanjiti svoju ovisnost o trećim stranama, smanjiti operativne troškove svojih podatkovnih centara i prilagode hardver vrlo specifičnim radnim opterećenjima unutar svojih platformi. Ne radi se o prodaji procesora drugim kompanijama, već o izgradnji prilagođenog silicija za internu upotrebu.

Šta je MTIA i zašto Meta želi vlastite AI čipove

Akcelerator meta obuke i zaključivanja

Program je strukturiran oko porodice Akcelerator meta obuke i zaključivanja (MTIA)Ovaj projekat, na kojem kompanija radi od 2023. godine, sada poprima javni oblik s nekoliko modela čipova. Centralna ideja je dizajnirati kompaktnije i efikasnije procesore, namijenjene ograničenom skupu AI zadataka, umjesto velikih, općenamjenskih čipova koji dominiraju tržištem.

Kako je kompanija objasnila, MTIA arhitektura se fokusira na balansiranje računarske snage, propusnog opsega memorije i kapaciteta memorije. para klasifikacija i modeli preporuka za posluživanjekao i povećanje opterećenja inferencije. Drugim riječima, optimizirani su da odluče šta svaki korisnik vidi, koliko brzo AI asistenti reagiraju i kako se milioni istovremenih zahtjeva obrađuju.

Meta naglašava da Ne proizvodi se za opšte tržišteStoga, njihovi čipovi ne moraju uključivati ​​sve komponente konvencionalnog GPU-a. Ovo izostavljanje nepotrebnih funkcija im omogućava da smanje troškove i fino podese dizajn prema stvarnim potrebama svojih usluga.

novi čips Proizvodit će ih kompanija Taiwan Semiconductor Manufacturing Co. (TSMC).Najveća svjetska ljevaonica poluprovodnika i redovan partner giganata poput Applea, Nvidije i Qualcomma. Proces, od dizajna do isporuke prvih serija, traje otprilike dvije godine.

Četiri generacije MTIA čipova sa diferenciranim funkcijama

Porodica Meta MTIA čipova

Trenutni plan uključuje četiri generacije internih čipova: MTIA 300, 400, 450 i 500sa postepenim izdanjima do 2027. godine. Sva se razvijaju paralelno, što omogućava Meti da prilagodi svaku iteraciju evoluciji svojih AI opterećenja.

El MTIA 300 Već je u proizvodnji i koristi se za zadatke sistemi klasifikacije i preporukaTo jest, da se odluči koji sadržaj, oglasi i videozapisi će se prikazivati ​​svakom korisniku na Facebooku i Instagramu. Ovaj prvi model je dizajniran za obradu velikih količina zahtjeva u stvarnom vremenu uz optimiziranu potrošnju energije.

Njegov nasljednik, MTIA 400 (također interno poznat kao Iris), prošao je laboratorijske testove i primjenjuje se u podatkovnim centrima kompanije. Meta uvjerava da učetverostručuje performanse određenih operacija u poređenju sa MTIA 300 i značajno poboljšava brzinu pristupa memoriji, što rezultira bržim odzivima i većim kapacitetom za rukovanje simultanim saobraćajem.

Sljedeći modeli, MTIA 450 i MTIA 500 —sa kodnim imenima Arke i Astrid— su usmjerene ka napredni zadaci zaključivanja velikih razmjera i bit će šire uključena od 2027. nadalje. Astrid, najmoćnija, prikuplja otprilike jedan 80% kapaciteta memorije i 50% brzine pristupa u poređenju sa svojim prethodnikom, što ga pozicionira za generativne scenarije umjetne inteligencije i velike jezičke modele.

Yee Jiun Song, potpredsjednik inženjeringa u kompaniji Meta, naznačio je da četiri proizvoda Grade se paralelno i bit će lansirani u intervalima od oko šest mjeseci.Po njegovom mišljenju, brzina kojom se mijenjaju radna opterećenja umjetne inteligencije prisiljava na stalni pregled plana i prilagođavanja razvoja kako bi se zadovoljile potrebe koje se identificiraju usput.

Višemilionska investicija i dugoročna strategija

Prelazak na vlastiti silicijum dolazi s neviđenim planom potrošnje. Meta planira izdvojiti [nedostaje iznos] samo za kapitalna ulaganja za cijelu svoju tehnološku infrastrukturu. između 115.000 i 135.000 milijardi dolara u 2025. godini, brojka koja bi ostala na vrlo visokim nivoima u narednim godinama kako se novi podatkovni centri budu konsolidovali.

Dizajniranje i proizvodnja čipova nije baš jeftino: Prelazak sa dizajna na proizvodnju obično košta milijardeI profitabilno je samo ako se koristi u velikim razmjerima i s visokom stopom iskorištenosti. Tu Meta nada se steći prednost, iskorištavajući ogroman obim prometa i zahtjeva na svojim platformama.

Kako bi ojačala svoje interne kapacitete, kompanija je preduzela značajne korporativne poteze. Nakon neuspjelog pokušaja akvizicije južnokorejske kompanije FuriousAIMeta je na kraju preuzela firmu za poluprovodnike Rivos, sa sjedištem u Santa Clari, zajedno sa nekoliko stotina svojih zaposlenika. Cilj je ubrzati dizajn Prilagođeni silicijum za vještačku inteligenciju i biti u mogućnosti da se istovremeno bavimo nekoliko projekata sa čipovima.

U međuvremenu, Meta sarađuje sa Broadcomom u specifičnim aspektima dizajna i održava velike ugovore s Nvidijom i AMD-om. U februaru je potpisao ugovore vrijedne desetine milijardi kako bi osigurao kontinuiranu opskrbu grafičkim procesorima (GPU) koji će ostati ključni i za obuku i za neke inferencije u narednim godinama.

Ravnoteža između internih čipova i eksternih GPU-a

Uprava kompanije insistira na tome da je obaveza prema MTIA-i To ne podrazumijeva prekid saradnje s Nvidijom ili AMD-omveć da dopune svoje proizvode. Trenutno se Metini interni čipovi prvenstveno koriste u sistemi za preporuku sadržaja i zaključivanjedok obučavanje velikih jezičkih modela i dalje zavisi od hardvera eksternih dobavljača.

Susan Li, glavna finansijska direktorica kompanije, objasnila je da strategija uključuje kombinujte različite tipove procesora u zavisnosti od svakog zadatkaZa određena visoko specijalizirana opterećenja, posebno dizajnirani čipovi mogu pružiti dodatnu efikasnost i niže troškove; za druge, kao što je obuka modela sljedeće generacije, visokoperformansne grafičke kartice od Nvidije ili AMD-a ostaju neophodne.

Li je i sama priznala da je Metina ambicija razviti u budućnosti procesore sposobne za treniranje njihovih najnaprednijih modela umjetne inteligencijeMeđutim, on priznaje da će dostizanje trenutnog nivoa glavnih nezavisnih proizvođača potrajati. Za sada je prioritet proširenje upotrebe MTIA u klasifikaciji, preporukama i generativnom zaključivanju.

Uz hardver, Meta jača svoju internu AI strukturu novom inženjerskom organizacijom koju predvodi Maher Sabakoji će raditi zajedno sa kompanijskom Superinteligence Lab-om. Također je zaključio ugovore o pristupu sadržaju, poput onog potpisanog sa News Corp., čija se godišnja vrijednost procjenjuje na do 50 miliona dolara, za obuku svojih modela pomoću novinarskog materijala i arhiva.

Konkurencija sa Googleom, Amazonom i Microsoftom u trci za silicijumom

Metin potez uklapa se u širi trend u tehnološkom sektoru. Google već godinama razvija svoje TPU-ove. da obučavaju i pokreću AI modele u svom oblaku, dok Amazon ima vlastite procesore kao što su Trainium ili Inferentia. Microsoft je, sa svoje strane, počeo primjenjivati ​​interno dizajnirane čipove za određene funkcije, u kombinaciji s hardverom trećih strana koji pokreće veći dio Azurea.

Sa MTIA-om, Meta se u potpunosti pridružuje ovoj utrci za direktna kontrola najkritičnijih slojeva infrastruktureMeđutim, kompanija je svjesna da Nvidia zadržava dominantnu pozicijusa preko 90% tržišta AI čipova i više od decenije tehnološke prednosti u specijalizovanim GPU-ima.

Metin pristup nije da preko noći svrgne Nvidiju s trona, ali izgradite hardverski sloj prilagođen vašim vlastitim uslugamaOvo vam omogućava da prilagodite performanse, potrošnju i troškove onome što je vašoj društvenoj i AI aplikaciji zaista potrebno. U kontekstu rastuće potražnje za računarskom snagom, svaka ušteda na jedinici se multiplicira kada se primijeni na desetine hiljada servera.

Obim Metine infrastrukture pomaže u objašnjavanju ove strategije. Kompanija širi podatkovne centre u nekoliko američkih država i jača svoje globalne kapacitete za podršku i svojim društvenim mrežama i novim AI proizvodima, kao što su asistenti zasnovani na aplikacijama i funkcije pretrage proizvoda sa preporukama zasnovanim na slikama i cijenama.

Cijeli ovaj plan za vlasničke čipove stavlja Metu u ključnu fazu u njenoj tehnološkoj evoluciji: Ako kompanija uspije nagovoriti MTIA da smanji troškove uz održavanje potrebnih performansi svojih usluga, dobit će prostor za manevriranje. Ovo će im omogućiti da se snađu u fluktuacijama tržišta GPU-a i da nastave širiti svoje velike AI projekte bez prevelikog oslanjanja na treće strane. Izazov leži u pravovremenom izvršavanju složenog i vrlo skupog plana u sektoru gdje tehnologija napreduje tempom koji, kako i sama kompanija priznaje, iznenađuje čak i one na čelu.

Meta mijenja Google TPU čipove
Vezani članak:
Meta pregovara o Google TPU čipovima za svoje AI podatkovne centre

Pratite nas na Google Vijestima