ఎన్‌విడియా ఆంపియర్ A100 250W టిడిపి జిపియు ఆన్ పిసిఐ 4.0 మేడ్ ఫర్ AI, డేటా సైన్స్, మరియు సూపర్ కంప్యూటింగ్ 400W మోడల్ యొక్క 90 శాతం పనితీరుతో వాగ్దానం చేయబడింది

హార్డ్వేర్ / ఎన్‌విడియా ఆంపియర్ A100 250W టిడిపి జిపియు ఆన్ పిసిఐ 4.0 మేడ్ ఫర్ AI, డేటా సైన్స్, మరియు సూపర్ కంప్యూటింగ్ 400W మోడల్ యొక్క 90 శాతం పనితీరుతో వాగ్దానం చేయబడింది 2 నిమిషాలు చదవండి

ఎన్విడియా



ఎన్విడియా అధికారికంగా A100, PCIe 4.0 అనుకూల GPU ను తదుపరి తరం ఆంపియర్ ఆర్కిటెక్చర్ ఆధారంగా విడుదల చేసింది. తక్కువ 250W టిడిపి ప్రొఫైల్‌ను కలిగి ఉన్నప్పటికీ, ఎన్‌విడియా పిసిఐఇ 4.0 ఆంపియర్ ఎ 100 జిపియు పూర్తి 400W ఎ 100 హెచ్‌జిఎక్స్ జిపియు పనితీరులో 90 శాతం వరకు అందించగలదని హామీ ఇచ్చింది. దాని పెరుగుతున్న ఆంపియర్ A100 GPU కుటుంబానికి మూడవ వేరియంట్, A100 PCIe అనేది ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI), డేటా సైన్స్ మరియు సూపర్ కంప్యూటింగ్ క్లస్టర్‌లను నడుపుతున్న సర్వర్‌ల కోసం ఉద్దేశించబడింది.

ఎన్‌విడియా A100 GPU యొక్క పిసిఐ-ఎక్స్‌ప్రెస్ 4.0 వేరియంట్‌ను వెల్లడించింది. GPU 7nm ఆంపియర్ మైక్రోఆర్కిటెక్చర్ పై ఆధారపడి ఉంటుంది. అదనంగా, సంస్థ ప్రముఖ సర్వర్ తయారీదారుల నుండి అనేక A100 శక్తితో కూడిన వ్యవస్థలను ప్రకటించింది, వాటిలో ఆసుస్, డెల్, సిస్కో, లెనోవా మరియు మరిన్ని ఉన్నాయి. 250W A100 PCIe 4.0 GPU యాక్సిలరేటర్ పూర్తి 400W TDP వేరియంట్‌తో సమానంగా ఉంటుంది మరియు TDP ప్రొఫైల్‌లో గణనీయమైన తగ్గుదల ఉన్నప్పటికీ NVIDIA కూడా ఒకే విధమైన పనితీరుకు సమీపంలో ఉంటుంది.



PCIe 4.0 లో NVIDIA A100 ఆంపియర్ GPU అదే 400W A100 HGX GPU కాన్ఫిగరేషన్‌తో ఫారం-ఫాక్టర్ కానీ 250W వద్ద:

ఎన్విడియా తన పిసిఐ 4.0 ఎ 100 పిసిఐ జిపియు యాక్సిలరేటర్‌ను ప్రకటించింది. మొత్తం 600 GB / s ఇంటర్‌కనెక్ట్ బ్యాండ్‌విడ్త్‌ను అందించే 12 NVLINK ఛానెల్‌ల ద్వారా ఒకే సమయంలో రెండు కార్డులను ఉపయోగించుకునే ఒకే A100 PCIe GPU నుండి సర్వర్‌ల వరకు వ్యవస్థలతో విభిన్నమైన పారిశ్రామిక వినియోగ కేసుల కోసం ఆంపియర్ GPU అందుబాటులో ఉంది. 400W A100 HGX GPU తో పోల్చినప్పుడు 250W TDP A100 PCIe GPU యాక్సిలరేటర్ కోర్ కాన్ఫిగరేషన్ పరంగా పెద్దగా మారదు.



GA100 GPU 400W A100 HGX వేరియంట్ యొక్క ప్రత్యేకతలను కలిగి ఉంది, 6912 CUDA కోర్లతో 108 SM యూనిట్లు, 432 టెన్సర్ కోర్లు మరియు 40 GB HBM2 మెమరీలో అమర్చబడి 1.55 TB / s యొక్క అదే మెమరీ బ్యాండ్‌విడ్త్‌ను అందిస్తుంది (1.6 TB / s కు గుండ్రంగా ఉంటుంది s). ఏదేమైనా, GPU ప్యాకేజీని అమలు చేయడం PCIe 4.0 ప్రమాణం టిడిపిని గణనీయంగా తగ్గించే దాని స్వంత లోపం ఉంది. దీని అర్థం పనిభారం ఆధారంగా 10 నుండి 50 శాతం పనితీరు జరిమానా. అంతేకాకుండా, A100 GPU యొక్క 250W TDP వేరియంట్ నిరంతర లోడ్ల కంటే చిన్న పేలుళ్లకు బాగా సరిపోతుంది.

పిసిఐ 4.0 లో ఎన్విడియా ఎ 100 ఆంపియర్ జిపియు ఫారం-ఫాక్టర్ పనితీరు:

టిడిపి ప్రొఫైల్‌లో గణనీయమైన తగ్గింపు కారణంగా, తక్కువ టిడిపి ఇన్‌పుట్‌కు భర్తీ చేయడానికి కార్డు తక్కువ గడియారాలను కలిగి ఉంటుందని భావించవచ్చు. ఏదేమైనా, ఎన్విడియా విడుదల చేసిన పనితీరు కొలమానాలు 400W టిడిపి వేరియంట్‌కు చాలా దగ్గరగా ఉన్నందున అవి నిజంగా ఆశ్చర్యకరమైనవి. FP64 పనితీరు ఇప్పటికీ 9.7 / 19.5 TFLOP లలో రేట్ చేయబడింది, FP32 పనితీరు 19.5 / 156/312 TFLOP లు (స్పార్సిటీ) గా రేట్ చేయబడింది, FP16 పనితీరు 312/624 TFLOP లు (స్పార్సిటీ) గా రేట్ చేయబడింది మరియు INT8 624/1248 TOPs ( స్పర్సిటీ).



సింపుల్ మ్యాథ్ సూచిస్తుంది, మరియు ఎన్విడియా హామీ ఇస్తుంది, ఆంపియర్ ఆధారిత పిసిఐ 4.0 250W ఎ 100 జిపియు టాప్ సర్వర్ అనువర్తనాల్లో ఎ 100 హెచ్‌జిఎక్స్ కార్డ్ (400 డబ్ల్యూ) పనితీరులో 90 శాతం బట్వాడా చేయగలదు. ఇది సమర్థనీయమైనది ఎందుకంటే పైన పేర్కొన్న పనులను పూర్తి చేయడానికి కొత్త వేరియంట్‌కు తక్కువ సమయం పడుతుంది. అయితే, సంఖ్యలు తక్కువ వ్యవధిలో మాత్రమే చెల్లుతాయి. సంక్లిష్టమైన, స్థిరమైన GPU సామర్థ్యాలు అవసరమయ్యే పరిస్థితులలో, 250W PCIe 4.0 GPU 400W A100 HGX GPU యొక్క పనితీరు 90 శాతం నుండి 50 శాతం వరకు ఎక్కడైనా బట్వాడా చేయగలదు.

ఆంపియర్ మైక్రోఆర్కిటెక్చర్ తప్పనిసరిగా కొత్త A100 కి ప్రయోజనం చేకూరుస్తుంది. వోల్టా ఆధారిత పూర్వీకుల కంటే కనీసం 20 ఎక్స్ పనితీరును పెంచుతుందని ఎన్విడియా హామీ ఇచ్చింది. PCIe 4.0 A100 GPU లో మల్టీ-ఇన్‌స్టాన్స్ GPU టెక్ ఉంది. వివిధ కంప్యూటింగ్ పనులను నిర్వహించడానికి ఒకే A100 ను ఏడు వేర్వేరు GPU లుగా విభజించవచ్చు. ఇది విభజనను పెంచేటప్పుడు, 3 వ-తరం NVLink ఉంది, ఇది అనేక GPU లను ఒక పెద్ద GPU లో చేరడానికి వీలు కల్పిస్తుంది.

టాగ్లు ఎన్విడియా