Mit 10-Gbit-Ethernet steht schon seit geraumer Zeit die nächste Evolutionsstufe für kabelgebundene Netzwerke bereit. Bisher waren entsprechende Komponenten teuer, das ändert sich nun langsam. Es ist also an der Zeit, sich näher mit 10-Gbit-Ethernet zu beschäftigen und ein paar Leistungsmessungen durchzuführen.

Einleitung: Wieso 10-Gbit-Ethernet?

Bei Allround-PC.com arbeiten wir täglich mit großen Datenmengen, vor allem in Form von 4K-Videos und RAW-Fotos. Gerade der Videoschnitt mit hochauflösendem Videomaterial verlangt häufig, dass alle Schnittprojekte aus Geschwindigkeitsgründen zunächst lokal auf der SSDs der Videoschnitt-Workstation abgelegt werden.

Erst nach Abschluss der Schnittarbeiten werden die Projekte auf das zentrale NAS-System geschoben. Über Gigabit-Ethernet direkt auf dem NAS zu arbeiten ist quälend langsam. Hier ist das „alte“ Gigabit-Netzwerk ein Flaschenhals, der in Zeiten von schnellen PCIe-SSDs definitiv im Weg ist.

Es war also Zeit für ein Upgrade des Netzwerkes in unserem Büro. In diesem Artikel wollen wir unsere praktischen Erfahrungen mit euch teilen und gehen außerdem auf einige Grundlagen von 10-Gbit-Ethernet ein.

10-Gbit-Ethernet im Überblick

Bevor wir uns in das neue Setup stürzen und erklären, wie genau wir beim Upgrade auf 10 Gbit/s vorgegangen sind, wollen wir zunächst einige Basics erklären. Das Wichtigste vorab, damit in Bezug auf die Begriffe keine Unklarheiten entstehen. Ethernet mit einer Geschwindigkeit von 10 Gbit/s wird häufig auch als 10GbE, 10GigE oder 10GE bezeichnet. Das ist alles dasselbe. Hiervon also bitte nicht verwirren lassen.

Wie der Name schon vermuten lässt, ist die Bruttogeschwindigkeit von 10-Gbit-Ethernet damit zehn Mal höher als bei herkömmlichen Gigabit-Ethernet und bis zu hundert Mal schneller als bei 100 Mbit/s LAN.

Für 10-Gibt-Ethernet wird in der Regel ein neuer Switch fällig. Wir setzen auf ein Modell von QNAP.

 

Die höhere Geschwindigkeit ist natürlich der Hauptgrund für ein Upgrade auf die neue Technologie. Wer mit großen Datenmengen hantiert, der kann durch 10-Gbit-Ethernet somit theoretisch eine ganz enorme Zeitersparnis erreichen.

Hinweis: Über den sogenannten NBASE-T-Standard kann 10 GbE auch mit nur 5 Gbit/s oder 2,5 Gbit/s betrieben werden. Dabei handelt es sich um „eingebremste“ Varianten von 10-Gbit-Ethernet, die mit niedrigeren Frequenzen arbeiten und daher auch ältere Netzwerkkabel verwenden können.

Glas oder Kupfer?

Im Vergleich zu herkömmlichen Ethernet-LAN kann 10-Gbit-Ethernet über Lichtwellenleiter (umgangssprachlich „Glasfaser“) oder über Kupferkabel übertragen werden. Für beide Verfahren gibt es diverse Standards und Steckertypen, die alle ihre jeweilige Berechtigung haben. Viele fallen aber ohne Frage in den Bereich der Spezialanwendungen.

Wer sich für die Übertragung via Lichtwellenleiter (IEEE 802.3ae) interessiert, der wird direkt mit einer Vielzahl an verschiedenen Standards konfrontiert. Wie bei allen Glasfaserverbindungen muss auch hier zwischen MMF (Multi Mode Optical Fiber) und SMF (Single Mode Optical Fiber) unterschieden werden.

Im Folgenden werden wir uns auf 10-Gbit-Ethernet via Kupfer fokussieren. Trotzdem soll die folgende Tabelle kurz eine Übersicht der aktuellen 10GbE-Glasfaser-Varianten geben:

BezeichnungModusMaximale DistanzNotiz
10GBASE-SRMMF26 bis 83 mAbhängig von Wellenlänge
10GBASE-LRMMMF220 m-
10GBASE-LX4MMF /SMF300 m / 10 kmSMF-Betrieb möglich
10GBASE-LW4SMF10 km-
10GBASE-LRSMF10 km-
10GBASE-ERSMF40 kmWie 10GBASE-LR nur mit anderer Wellenlänge.

Auch bei Kupfer gibt es verschiedene Varianten, die zum Aufbau eines 10-Gbit-Ethernet-Netzwerkes verwendet werden können. Die Kupfervarianten von 10 GbE sind als IEEE 802.3ak und IEEE 802.3an spezifiziert.

Es ergeben sich hier drei Möglichkeiten, um Geräte mit einer Bandbreite von bis zu 10 Gbit/s zu verbinden: Twisted Pair RJ45 (das „normale“ Netzwerkkabel), SFP+-Kabel oder CX4-Kabel. Die beiden letzteren Standards sind eher im professionellen Bereich anzutreffen und in der Regel in der überbrückbaren Reichweite eher beschränkt.

Auch hierzu ein kurzer Überblick in Tabellenform:

BezeichnungStecksystemMaximale DistanzNotiz
10GBASE-TRJ45100 mMit Cat 6a Kabeln
10GBASE-TSFP+10 mSPF+ Stecker satt RJ45
10GBASE-CX4CX415 mNiedrige Latenz

Kabel über Kabel

Unser 10-Gbit-Ethernet-Projekt haben wir aufgrund der Praktikabilität und Kosten auf Basis von 10GBASE-T mit RJ45-Kabeln umgesetzt.

Aber auch hier gilt: Wer 10 GbE will, der darf nicht irgendwelche Netzwerkkabel verwenden, die schon seit Jahren in irgendeinem Schrank herumliegen.

Der gesamte 10GBASE-T-Standard basiert auf der Kabelspezifikation Cat 6a. Das ist wichtig zu wissen, denn aufgrund der hohen Frequenzen, die bei 10 GbE zum Einsatz kommen, kann sonst das sogenannte Fremdübersprechen zwischen zwei oder mehreren ungeschirmten Netzwerkkabeln zu Fehlern führen und die Leistung negativ beeinträchtigen. Das ist vor allem auf langen Kabelstrecken problematisch.

Natürlich können Cat 7 und Cat 7a Kabel genauso für 10 GbE verwendet werden. Diese decken sogar noch einen größeren Frequenzbereich mit entsprechender Schirmung ab.

Wer nur Cat 5e Kabel verlegt oder zur Verfügung hat, kann sein Glück trotzdem versuchen. Hier kommt es immer auf die Bedingungen vor Ort an (Kabelverlegung). Die volle Leistung von 10 GbE ist dann aber nicht sichergestellt.

Die richtigen Komponenten

Nachdem wir uns nun eingängig mit den Grundlagen von 10GBASE-T vertraut gemacht haben, wollen wir an dieser Stelle noch einige Worte über die neuen Komponenten in unserem Netzwerk verlieren.

Wie eingangs bereits beschrieben ist das Ziel des Netzwerk-Upgrades auf 10-Gbit-Ethernet die Anbindung bestimmter Workstations an das bereits vorhandene QNAP TS-473 NAS.

Dazu war an zentraler Stelle zunächst ein Upgrade der Netzwerkverteilung nötig. Diese erfolgt über ein Cat 6a-Patchpanel, das bereits vorhanden war und mit der letzten Modernisierung der Büroräume eingebaut wurde.

Die verlegten Kabel entsprechen ebenfalls dem Cat 6a-Standard und sind somit 10 GbE kompatibel. Eine Cat 5e Netzwerkdose muss ebenfalls für eine 10 GbE-Verbindung herhalten. Das klappt soweit ohne Probleme.

Der passende 10-GbE-Switch

Alle Clients / Netzwerkdosen, die auch zukünftig nur mit Gigabit-Ethernet (1 Gb/s) angesprochen werden, sind weiterhin über den bereits vorhandene Gigabit-Ethernet-Switch angebunden.

Der QSW-1208-8C von QNAP hat 12 Ports ...
...und verrichten seinen Dienst zuverlässig.

Für die Verbindung der neuen 10 GbE-Geräte ist hingegen ebenfalls ein Switch notwendig, der mit 10GBASE-T umgehen kann. Hier fiel die Wahl auf den QNAP QSW-1208-8C, einen unmanaged Switch mit 12 Ports.

Es handelt sich dabei um ein Hybrid-Gerät, das sowohl 8 RJ45-Ports als auch 12 SFP+-Ports bereithält. Es können jedoch maximal 12 Clients angebunden werden. Für unser Vorhaben bleiben die SFP+-Ports somit ungenutzt.

Der QSW-1208-8C von QNAP ist aktiv durch zwei temperaturgesteuerte Lüfter gekühlt, die im Alltag aber angenehm leise arbeiten. Die gesamte Switching Capacity des Gerätes beträgt 240 Gbit/s, was theoretisch auch für Volllast auf allen zwölf Ports ausreichend ist.

Sehr sauberer Aufbau
Open Frame Power Supply
Aktive Kühlung
Service-Port
Integriertes Netzteil

Der Switch stellt ab sofort mindestens eine 10-GbE-Netzwerkdose pro Büroraum bereit. Außerdem wurden natürlich das 1-GbE- und das 10-GbE-Netzwerk über ein einzelnes RJ45-Kabel miteinander verbunden, um Daten auszutauschen. Der QNAP Switch ist dafür über RJ45 abwärtskompatibel zu 5 Gbit/s, 2.5 Gbit/s, 1 GBit/s und 100 MBit/s.

ModellQNAP QSW-1208-8C
Anzahl Ports12
Anzahl RJ45 Verbindungen8
Anzahl SFP+ Verbindungen12
Maximale Clients12
Unterstütze Geschwindigkeiten1000BASE-T, 2.5G/5G BASE-T, 10GBASE-T, 10GBASE-SR, 10GBASE-LR
SpannungsversorgungIntegriertes Netzteil, 50 W
Non-Blocking Switching-Kapazität120 Gbit/s
Switching-Kapazität Gesamt240 Gbit/s
ManagementNein
Kühlung2 temperaturgesteuerte 20-mm-Lüfter
Preisab 480 Euro

10-Gbit-Ethernet für die Clients

Natürlich sind die wenigsten Mainboards bereits mit einem entsprechenden 10-GbE-Controller ausgestattet. Neuere Highend-Modelle kommen aber vereinzelnd schon inklusive kompatiblem Netzwerk-Controller auf den Markt.

Für unseren Videoschnitt-Workstation haben wir daher eine Erweiterungskarte installiert. Dabei handelt es sich um die ASUS XG-C100C, welche 10GBASE-T unterstützt und über PCIe angebunden wird.

Die hohe Bandbreite ist auch notwendig, da über 10 GbE theoretisch bis zu 1,2 GB/s übertragen werden können. Das bedeutet aber auch: Sowohl die CPU des Computers als auch der Massenspeicher muss natürlich auch so schnell Daten entgegennehmen oder liefern können. Eine schnelle PCIe-SSD ist also eigentlich in jedem 10-GbE-Client Pflicht.

Auch das QNAP TS-473 NAS (Video) in der Redaktion kann von Haus aus „nur“ auf vier Gigabit-Ethernet zurückgreifen. Auch hier musste also eine entsprechende 10-GbE-Netzwerkkarte nachgerüstet werden.

Die Wahl fiel auf die QNAP QXG-10G1T, die in einem der zwei PCIe-Erweiterungsslots des NAS Platz findet. Diese Karte wird über PCIe 3.0 x4 angebunden und von dem QNAP QTS-Betriebssystem sofort erkannt und kann dann wie jeder andere Ethernet-Port konfiguriert werden.

Die QXG-10G1T setzt im Übrigen auf einen Marvell AQtion AQC107 Controller, der ebenfalls Support für NBASE-T mit 5 Gbit/s und 2,5 Gbit/s sowie Gigabit-Ethernet und Ethernet (100 Mbit/s) bietet.

Mit diesem Setup aus zwei 10-GbE-Controller und einem 10-GbE-Switch von QNAP ist unser Setup vollständig – zumindest fast.

SSD-Cache für den NAS-Server

Wie bereits erwähnt, müssen die Clients natürlich auch die Geschwindigkeit von 10 GbE vernünftig nutzen können. Das bedeutet, dass der verwendete Massenspeicher auch entsprechend schnell lesen und schreiben können muss.

In der bisherigen Konfiguration wurde das QNAP TS-473 NAS im RAID 5 Verbund mit vier WD RED Festplatten betrieben. Diese haben zwar schon eine solide Performance, lassen aber einiges an Potenzial von 10-Gbit-Ethernet ungenutzt – dazu unten mehr.

Es war daher an der Zeit einen SSD-Cache zu implementieren, der sowohl lesende als auch schreibende Anfragen zwischenspeichert und erst nachgelagert in das HDD-Raid überträgt. So kann das NAS die Geschwindigkeitsvorzüge von schnellen NVMe-SSDs nutzen.

Die QM2-2P-344 M.2-Erweiterungskarte von QNAP hat Platz für zwei schnelle NVMe-SSDs mit PCIe 3.0 x4.

Die entsprechenden Funktionen haben moderne QNAP NAS-Systeme standardmäßig an Bord. Lediglich auf der Hardwareseite mussten wir auch in diesem Fall mit einer zweiten Erweiterungskarte für das NAS aushelfen.

Zwar hat das TS-473 bereits zwei M.2 Slots, diese können aber nur SATA-SSDs ansprechen. Das ist für unser Vorhaben zu langsam. Daher kam die speziell für diesen Zweck entwickelte QNAP QM2-2P-344 PCIe-Karte zum Einsatz. Diese verfügt über zwei M.2 Slots für Module in 2280er oder sogar 22100er Baugröße.

Die SSDs werden jeweils über PCIe 3.0 x4 angebunden. Dazu verwendet QNAP einen PLX PEX87 5 Port PCI-Switch. Außerdem verschwinden die beiden M.2-Module hinter einem dicken Aluminium-Kühlkörper, der sogar aktiv mit einem Lüfter gekühlt wird.

Wer sich nun fragt: Wieso gleich zwei SSDs? Ganz einfach: Da der SSD-Cache auch zum Puffern von Schreibzugriffen genutzt werden soll, muss ein Raid 1 Verbund (Redundanz) aus zwei SSDs verwendet werden, den Daten zur Liebe, sollte eine SSD kaputt gehen.

Wir haben in unserem Fall im Übrigen zwei Seagate IronWolf 510 SSD mit 1,92 TB verbaut. Dabei handelt es sich um eine spezielle SSD für den Einsatz in NAS-Systemen, die eine Lebensdauer (total bytes written) von 3.500 TB im Falle des 1,92-TB-Modells aufweist. Mit Lesegeschwindigkeiten bis zu 3.150 MB/s beim Lesen und bis zu 850 MB/s beim Schreiben, sind diese Laufwerke unter anderem für Caching-Anwendungen optimiert.

SSD-Cache einrichten am Beispiel des QNAP TS-473

Der SSD-Cache wird unter QTS direkt in der App „Storage und Snapshot“ verwaltet. An der linken Seite findet sich der passende Menüeintrag „Cache Acceleration„. Im Ausgangszustand ist hier noch nicht viel zu sehen. Um das zu ändern, muss ein neuer Cache hinzugefügt werden.

Ein Assistent führt den Nutzer dann durch die benötigten Konfigurationsschritte. Im ersten Schritt müssen die Laufwerke (SSDs) gewählt werden, die für das Caching genutzt werden sollen. QTS zeigt hier direkt mit einem Feuer-Icon an, ob es sich bei der SSD um ein schnelles PCIe-Modul handelt. Außerdem muss der gewünschte RAID-Modus konfiguriert werden. Wer sowohl Lese-, als auch Schreibzugriffe puffern will, wählt hier RAID 1.

In den nächsten Schritten wird festgelegt, wie das NAS die Dateien für das Zwischenspeichern auswählen soll. Außerdem gibt es einen speziellen Modus für NAS-Systeme, die hauptsächlich Anwendungen oder Datenbanken bereitstellen. Wir haben bei unserem NAS jedoch sämtliche Zugriffe cachen lassen. Das ist etwas CPU intensiver, macht aber in Verbindung mit Multimediadateien (Videos, Fotos) mehr Sinn.

Zuletzt muss noch das entsprechende Hauptvolume (also der Speicherpool bestehende aus HDDs) gewählt werden, der durch den neuen Cache unterstützt werden soll. Danach erstellt das Betriebssystem den neuen Caching-Pool. Das dauert nur wenige Sekunden. Ab diesem Zeitpunkt analysiert das QNAP NAS nun die Zugriffe, beginnt Daten in den schnellen Zwischenspeicher abzulegen und beschleunigt bereitzustellen.

Und? Was hat’s gebracht?

Am Ende der vielen einzelnen Schritte und dem Einbau der neuen Komponenten bleibt natürlich die wichtigste Frage noch ungeklärt: Wie schnell arbeitet das neue 10 Gigabit Netzwerk?

Wir haben einige sequenzielle Dateitransfers durchgeführt, um die Geschwindigkeit unter Alltagsbedingungen zu prüfen. Die Daten sind im folgenden Diagramm zusammengefasst.



Im Vergleich zu einem Gigabit-Netzwerk haben sich die Geschwindigkeiten ohne SSD-Cache bereits verfünffacht. Mit SSD-Cache geht das Lesen von Daten mehr als sieben Mal so schnell, auf das NAS lässt sich mehr als sechs Mal schneller schreiben.

Schlusswort

Insgesamt zeigt der Umbau also sehr eindrucksvoll, welchen Performance-Gewinn das Upgrade auf 10 GbE (Gigabit) mit sich bringt.

Besonders interessant: 4K-Videoprojekte in Adobe Premiere Pro lassen sich mit dem neuen Setup nun ohne Probleme direkt vom NAS öffnen und ohne nennenswerte Wartezeiten bearbeiten. Das liegt auch am QNAP SSD-Cache, der die vielen kleinen Dateizugriffe nach einer gewissen Anlernzeit intelligent mit SSD-Performance bereitstellt.

Zwei Spagate IronWolf 510 SSDs mit 1,92 TB dienen als schneller Cache-Speicher.

In unserem Fall arbeiten alle Komponenten von QNAP – nicht überraschend – ohne Probleme zusammen. Auch das Zusammenspiel mit den vorhandenen RJ45-Kabeln und dem bereits verbauten Patchpanel ist kein Problem. Im Endeffekt bleibt somit zu 10-Gigabt-Ethernet zu sagen: Wer das deutliche Performance-Plus sinnvoll zu nutzen weiß, kann loslegen. Es ist alles halb so wild und auch ältere Cat 5-Kabel spielen das Spiel mit etwas Glück mit.

Preislich müssen knapp 175 Euro für die M.2-Erweiterungskarte von QNAP, circa 100 Euro für den QNAP QXG-10G1T Netzwerk-Controller sowie circa 530 Euro für den QNAP QSW-1208-8C 12-Port-Switch eingeplant werden. Damit ist das Upgrade für unter 1.000 Euro möglich gewesen. Oben drauf kommen natürlich noch die M.2-SSDs für den Cache und ggf. neue Netzwerkkabel.

Einkaufsliste (Preis Stand August 2020)


Mit * markierte Links sind Affiliate-Links. Mit dem Kauf über diesen Link erhalten wir als Seitenbetreiber eine Verkaufsprovision, ohne dass du mehr bezahlst. So kannst du Allround-PC supporten.

Kommentieren

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.