Der Beitrag NVIDIA NVLink und Fusion treiben KI-Inferenzleistung erschien auf BitcoinEthereumNews.com. Rongchai Wang 22.08.2025 05:13 NVIDIAs NVLink- und NVLink Fusion-Technologien definieren die KI-Inferenzleistung mit verbesserter Skalierbarkeit und Flexibilität neu, um dem exponentiellen Wachstum der KI-Modellkomplexität gerecht zu werden. Die rasante Entwicklung der Komplexität von künstlicher Intelligenz (KI)-Modellen hat die Parameteranzahl von Millionen auf Billionen erheblich erhöht, was beispiellose Rechenressourcen erfordert. Diese Entwicklung verlangt Cluster von GPUs zur Bewältigung der Last, wie Joe DeLaere in einem kürzlichen NVIDIA-Blogbeitrag hervorhob. NVLinks Entwicklung und Auswirkung NVIDIA führte NVLink 2016 ein, um die Einschränkungen von PCIe im Hochleistungsrechnen und bei KI-Workloads zu überwinden, was eine schnellere GPU-zu-GPU-Kommunikation und einheitlichen Speicherplatz ermöglicht. Die NVLink-Technologie hat sich erheblich weiterentwickelt, mit der Einführung des NVLink Switch im Jahr 2018, der eine All-to-All-Bandbreite von 300 GB/s in einer 8-GPU-Topologie erreichte und den Weg für skalierbare Rechenstrukturen ebnete. Das 2024 veröffentlichte NVLink der fünften Generation unterstützt 72 GPUs mit All-to-All-Kommunikation bei 1.800 GB/s und bietet eine Gesamtbandbreite von 130 TB/s – 800-mal mehr als die erste Generation. Diese kontinuierliche Weiterentwicklung entspricht der wachsenden Komplexität von KI-Modellen und ihren Rechenanforderungen. NVLink Fusion: Anpassung und Flexibilität NVLink Fusion wurde entwickelt, um Hyperscalern Zugang zu NVLinks Skalierungstechnologien zu bieten, was die Integration von kundenspezifischem Silizium mit NVIDIAs Architektur für semi-kundenspezifische KI-Infrastrukturbereitstellung ermöglicht. Die Technologie umfasst NVLink SERDES, Chiplets, Switches und Rack-Scale-Architektur und bietet eine modulare Open Compute Project (OCP) MGX-Rack-Lösung für Integrationsflexibilität. NVLink Fusion unterstützt benutzerdefinierte CPU- und XPU-Konfigurationen mit Universal Chiplet Interconnect Express (UCIe) IP und Schnittstelle und bietet Kunden Flexibilität für ihre XPU-Integrationsanforderungen über Plattformen hinweg. Für benutzerdefinierte CPU-Setups wird die Integration von NVIDIA NVLink-C2C IP für optimale GPU-Konnektivität und -Leistung empfohlen. Maximierung des KI-Fabrik-Umsatzes Die NVLink-Skalierungsstruktur verbessert die Produktivität der KI-Fabrik erheblich, indem sie das Gleichgewicht zwischen Durchsatz...Der Beitrag NVIDIA NVLink und Fusion treiben KI-Inferenzleistung erschien auf BitcoinEthereumNews.com. Rongchai Wang 22.08.2025 05:13 NVIDIAs NVLink- und NVLink Fusion-Technologien definieren die KI-Inferenzleistung mit verbesserter Skalierbarkeit und Flexibilität neu, um dem exponentiellen Wachstum der KI-Modellkomplexität gerecht zu werden. Die rasante Entwicklung der Komplexität von künstlicher Intelligenz (KI)-Modellen hat die Parameteranzahl von Millionen auf Billionen erheblich erhöht, was beispiellose Rechenressourcen erfordert. Diese Entwicklung verlangt Cluster von GPUs zur Bewältigung der Last, wie Joe DeLaere in einem kürzlichen NVIDIA-Blogbeitrag hervorhob. NVLinks Entwicklung und Auswirkung NVIDIA führte NVLink 2016 ein, um die Einschränkungen von PCIe im Hochleistungsrechnen und bei KI-Workloads zu überwinden, was eine schnellere GPU-zu-GPU-Kommunikation und einheitlichen Speicherplatz ermöglicht. Die NVLink-Technologie hat sich erheblich weiterentwickelt, mit der Einführung des NVLink Switch im Jahr 2018, der eine All-to-All-Bandbreite von 300 GB/s in einer 8-GPU-Topologie erreichte und den Weg für skalierbare Rechenstrukturen ebnete. Das 2024 veröffentlichte NVLink der fünften Generation unterstützt 72 GPUs mit All-to-All-Kommunikation bei 1.800 GB/s und bietet eine Gesamtbandbreite von 130 TB/s – 800-mal mehr als die erste Generation. Diese kontinuierliche Weiterentwicklung entspricht der wachsenden Komplexität von KI-Modellen und ihren Rechenanforderungen. NVLink Fusion: Anpassung und Flexibilität NVLink Fusion wurde entwickelt, um Hyperscalern Zugang zu NVLinks Skalierungstechnologien zu bieten, was die Integration von kundenspezifischem Silizium mit NVIDIAs Architektur für semi-kundenspezifische KI-Infrastrukturbereitstellung ermöglicht. Die Technologie umfasst NVLink SERDES, Chiplets, Switches und Rack-Scale-Architektur und bietet eine modulare Open Compute Project (OCP) MGX-Rack-Lösung für Integrationsflexibilität. NVLink Fusion unterstützt benutzerdefinierte CPU- und XPU-Konfigurationen mit Universal Chiplet Interconnect Express (UCIe) IP und Schnittstelle und bietet Kunden Flexibilität für ihre XPU-Integrationsanforderungen über Plattformen hinweg. Für benutzerdefinierte CPU-Setups wird die Integration von NVIDIA NVLink-C2C IP für optimale GPU-Konnektivität und -Leistung empfohlen. Maximierung des KI-Fabrik-Umsatzes Die NVLink-Skalierungsstruktur verbessert die Produktivität der KI-Fabrik erheblich, indem sie das Gleichgewicht zwischen Durchsatz...