-
Intelનું Gaudi 3 AI એક્સિલરેટર 20 ટકા વધુ થ્રુપુટ પહોંચાડે છે.
-
Gaudí 3 એ LLaMa 2 70B ના અંદાજ માટે સ્વીકાર્યું.
-
Xeon 6 પ્રોસેસર્સ ડેટા સેન્ટર્સને પાવર આપવા માટે ડિઝાઇન કરવામાં આવ્યા છે.
Intelએ તાજેતરમાં આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) વર્કફ્લોમાં સુધારો કરવા પર કેન્દ્રિત નવા હાર્ડવેરનું અનાવરણ કર્યું છે. કંપનીએ મંગળવારે એન્ટરપ્રાઇઝ ગ્રાહકો અને ડેટા સેન્ટર્સ માટે નવા પરફોર્મન્સ-કોર (P-core) અને Goudy 3 AI એક્સિલરેટર્સ સાથે Xeon 6 પ્રોસેસર્સ રજૂ કર્યા.
ચિપમેકર દાવો કરે છે કે નવું હાર્ડવેર વોટ દીઠ શ્રેષ્ઠ પ્રદર્શન અને માલિકીની કુલ કિંમત ઓછી કરવા માટે ઉચ્ચ થ્રુપુટ અને બહેતર ખર્ચ ઓપ્ટિમાઇઝેશન બંને પ્રદાન કરશે. ચિપમેકરના જણાવ્યા અનુસાર, આ ઉપકરણો એન્ટરપ્રાઇઝને વધુ અદ્યતન AI મોડલ્સની સતત વધતી જતી વર્કલોડ માંગને નિયંત્રિત કરવા સક્ષમ બનાવવા માટે લોન્ચ કરવામાં આવ્યા હતા.
Intel Xeon 6 પ્રોસેસર લોન્ચ કર્યું
ચિપમેકર કહે છે કે તેની નવી Intel Xeon 6 પરફોર્મન્સ-કોરથી સજ્જ છે. આ પ્રોસેસર્સ રિટેલ ગ્રાહકો માટે નથી અને તેના બદલે ક્લાઉડ સર્વર્સ ચલાવવામાં મદદ કરવા માટે એન્ટરપ્રાઇઝના ડેટા સેન્ટરોને પાવર આપશે.
Intel દાવો કરે છે કે Xeon 6 પ્રોસેસર કોરોની સંખ્યામાં વધારો થવાને કારણે તેના પુરોગામી કરતા બમણું પ્રદર્શન આપે છે. તે બમણી મેમરી બેન્ડવિડ્થ અને AI પ્રવેગક ક્ષમતાઓ પણ આપે છે.
તે હાર્ડવેર-આધારિત પ્રવેગક હોવાથી, તે ખૂબ મોટા લેંગ્વેજ મોડલ (LLMs) ને સરળતાથી સપોર્ટ કરી શકે છે. Intelના જણાવ્યા મુજબ, તે “એજથી ડેટા સેન્ટર અને ક્લાઉડ એન્વાયર્નમેન્ટ્સ સુધી AI ની કામગીરીની માંગને પૂર્ણ કરી શકે છે.”
Intel Gaudi 3 AI એક્સિલરેટરનું અનાવરણ કરે છે
Gaudi 3 એ Intel તરફથી નવી પેઢીનું AI પ્રવેગક છે. આ વિશિષ્ટ હાર્ડવેર ચિપ્સ છે જે મશીનોને AI કાર્યોને ઝડપી બનાવવામાં મદદ કરવા માટે બનાવવામાં આવી છે, ખાસ કરીને ડીપ લર્નિંગ, મશીન લર્નિંગ અને ન્યુરલ નેટવર્કને લગતા કાર્યો. તેમાં GPUs, એપ્લિકેશન-સ્પેસિફિક ઇન્ટિગ્રેટેડ સર્કિટ (ASICs), ફીલ્ડ-પ્રોગ્રામેબલ ગેટ એરે (FPGAs), અને ન્યુરલ પ્રોસેસિંગ યુનિટ્સ (NPUs) નો સમાવેશ થાય છે.
Gaudi 3 AI પ્રવેગકમાં 64 ટેન્સર પ્રોસેસર કોરો અને આઠ મેટ્રિક્સ ગુણાકાર એન્જિન (MMEs) છે જે ડીપ ન્યુરલ નેટવર્ક ગણતરીઓને ઝડપી બનાવવા માટે રચાયેલ છે. તે તાલીમ અને અનુમાન માટે 128GB ની HBM2e મેમરી અને 24 200GB ઈથરનેટ પોર્ટ ધરાવે છે જે સર્વરને સ્કેલ કરવામાં સક્ષમ કરે છે.
Intelનું નવું AI એક્સિલરેટર PyTorch ફ્રેમવર્ક અને એડવાન્સ હગિંગ ફેસ ટ્રાન્સફોર્મર અને ડિફ્યુઝર મોડલ્સ સાથે સુસંગત છે. કંપનીએ IBM ક્લાઉડ માટે ગૌડી 3 તૈનાત કરવા માટે IBM સાથે પહેલાથી જ કરાર પર હસ્તાક્ષર કર્યા છે. ડેલ ટેક્નોલોજીસ તેના ડેટા સેન્ટર્સ માટે ઈન્ફ્રાસ્ટ્રક્ચરનો પણ ઉપયોગ કરી રહી છે.
