CPU बनाम GPU: विलंबता बनाम थ्रूपुट

CPU और GPU दोनों कोड चलाते हैं, लेकिन उन्हें एक-दूसरे से बिल्कुल अलग लक्ष्यों के लिए बनाया गया है। एक का लक्ष्य किसी एक काम को जल्द से जल्द पूरा करना है; दूसरा एक साथ बहुत सारे काम का पूरा भार संभालता है। 🏎️

Latency वह समय है, जो किसी एक काम को शुरू से अंत तक पूरा करने में लगता है। जब आपको तुरंत एक उत्तर चाहिए, तब कम विलंबता सबसे महत्वपूर्ण होती है।

Throughput का अर्थ है कि कुल मिलाकर आप प्रति सेकंड कितने काम पूरे करते हैं। ऐसा हो सकता है कि हर एक काम थोड़ा धीमा हो, फिर भी कुल थ्रूपुट अधिक रहे।

एक CPU में कुछ शक्तिशाली कोर, बहुत बड़े कैश और चतुर तकनीकें होती हैं, जो किसी एक काम को जितनी जल्दी हो सके पूरा करने में मदद करती हैं।

एक GPU किसी एक काम की गति के बदले भारी मात्रा में काम संभालता है: इसके हजारों छोटे कोर एक ही समय में काम के विशाल समूहों को संसाधित करते हैं।

CPU को कुछ शक्तिशाली कामगारों का समूह और GPU को हजारों सरल कामगारों की सेना समझिए। अलग-अलग कामों के लिए अलग-अलग बनावट।

स्पोर्ट्स कार की latency कम होती है: एक यात्रा जल्दी पूरी होती है। बस का थ्रूपुट अधिक होता है: हर यात्रा धीमी होती है, लेकिन वह प्रति घंटे कहीं अधिक लोगों को ले जाती है। 🚌

CPU कैश और शाखा-पूर्वानुमान पर ट्रांजिस्टर खर्च करता है। GPU उन्हें सीधे गणना इकाइयों पर खर्च करता है, इसलिए चिप का अधिक भाग वास्तविक गणित करता है।

GPU हर काम को तेज़ नहीं बनाता; वह तैयार दूसरे काम पर तुरंत स्विच करके धीमी मेमोरी के इंतज़ार को छिपाता है। खाली समय हटाया नहीं जाता, बल्कि भर दिया जाता है।

किसी एक त्वरित निर्णय, शाखाओं वाले तर्क या ऐसे काम के लिए जिसे बाँटा नहीं जा सकता, कम-विलंबता वाला CPU अब भी सही साधन है। केवल मात्रा ही सब कुछ नहीं होती।

जैसे ही आपको हजारों मदों पर एक ही प्रक्रिया चलानी हो, GPU का विशाल समानांतर प्रसंस्करण लंबे काम को जल्दी पूरा कर देता है।

CPU कम latency के लिए कुछ बड़े कोर इस्तेमाल करते हैं; GPU अधिक थ्रूपुट के लिए हजारों छोटे कोर इस्तेमाल करते हैं। अपने काम की प्रकृति के अनुसार चिप चुनिए। 👍