Videostreaming per Multipath TCP

Dieser Artikel sollte mehr als „Proof of Concept“ verstanden werden. Ich bin weder ein Netzwerkspezialist, noch habe ich tiefgreifende Erfahrung mit Linux Kernel kompilieren.

Vorausgesetzt werden mindestens zwei Internetverbindungen, die Multipath TCP Verbindungen zulassen. Bei Internet über Kabel (Kabel Deutschland), hatte ich z.B. Probleme. Telekom sollte hier keine Probleme machen. Schreibt gerne auch, wenn ihr hier Erfahrungen gemacht habt.

Basis System ist Ubuntu 16.04, benötigt werden diese Pakete:

Anschließend holt man sich den Kernel von github:

Konfiguriert ihn mit:

Es sollten folgende Optionen aktiviert sein:

  • Networking support->Networking options->TCP/IP networking->MPTCP protocol (MPTCP)
  • Networking support->Networking options->TCP/IP networking->MPTCP: advanced scheduler control
    (alle aktivieren)
  • Networking support->Networking options->TCP: advanced congestion control->MPTCP Linked Increase
    (default habe ich hier: lia)
  • Networking support->Networking options->IP: advanced router->IP: policy routing (IP_MULTIPLE_TABLES)

Hier ist meine config: https://gist.github.com/jb-alvarado

Zum kompilieren verwende ich dieses Script:

Quelle: https://github.com/multipath-tcp/mptcp-scripts/blob/master/scripts/debian_build/create_kernel.sh

Pfade nach Bedürfnis anpassen.

Nach dem Kompilieren installieren:

und neu starten.

Wenn das System den neuen Kernel nicht als Default einrichtet, muss man das Händisch machen:

die Zeilen zählen beginnend mit 0, bis zum gewünschten Kernel. Ist das ganze in dem „Advanced options“ eingeklammert braucht man folgenden Eintrag in der Datei /etc/default/grub:

GRUB_DEFAULT=“1>ZeilenNummer“
# z.B.
GRUB_DEFAULT=“1>7″

Nach dem Neustart sollte mit uname -a in etwas das raus kommen:

Als nächste kann man die multipath tcp Kernel Einstellungen prüfen:

Das Ergebnis sollte in etwas so sein:

Möchte man den default scheduler wechseln geht das mit:

Bei mir ging roundrobin nur nach diesem Befehl:

Laut Doku wird roundrobin nicht empfohlen.

redundant wird nur empfohlen wenn man sehr niedrige Latencen möchte, und verbrauchte mbit keine Rolle spielen.

Weitere Optimierungen gibt es hier: ConfigureMPTCP

Nun braucht es noch ein Routing:

der Einfachheit halber gehen wir von eth0 und eth1 aus. Dann könnte ein Script dafür in etwa so aussehen:

Ist noch kein schönes Script, besser wären zwei unter /etc/network/if-down.d/ und /etc/network/if-up.d/

Sind die Routen angelegt noch mal prüfen:

Um nun eine Videostream über multipath tcp laufen zu lassen, braucht es auf der Empfängerseite noch einen Kernel der auch multipath tcp versteht. Allerdings reicht es hier die kompilierte Version zu installieren und aktivieren. Alles ander kann gespart werden.

Als Streamingserver bietet sich srs an.

Streamen könnte man dann in etwa so:

Anschauen würde so gehen:

Achtung: streamt man auf einen Domainnamen, braucht man einen korrekten „Reverse DNS Eintrag“, hat man den nicht besser die IP nehmen.

Prüfen ob über beide Verbindungen Traffic läuft kann man auf der Senderseite mit:

und auf der Empfängerseite mit:

Wird nur über eine IP gesendet, stimmt was nicht, ansonsten hat man es geschafft :).

Wenn wir nun ein Interface blocken, sollte der Stream munter weiter streamen:

Wenn das der Fall ist kann die iptables Regel wieder entfernt werden:

 

Zweite Route über eine andere Internetverbindung anlegen

Hat man zwei Internetverbindungen kann man für bestimmte Subnetze oder einzelne IPs eine andere Route definieren.

Gehen wir davon aus, dass unsere Default Verbindung über Internet1 geht:

Möchten wir eine zweite Route für ein ganzes Subnetz erstellen müsste man den IP Bereich definieren, z.B. 192.168.1.0/24. Brauchen wir die Route nur für eine IP nehmen wir einfach die IP.

Zur Umsetzung muss Anfangs eine Tabelle definiert werden. Das geschieht in der Datei: /etc/iproute2/rt_tables

Die erste Spalte steht für die ID und die zweite für die Tabelle. Wir brauchen später die ID. (Im Prinzip würde auch ein Tabelle reichen.)

Nun füllen wir unsere Tabelle mit der IP die wir umleiten wollen:

Dann definieren wir über welches Interface die IP kommunizieren soll:

Und zum Schluss legen wir einen neuen Default Gateway für die Tabelle fest:

Das Gateway ist in den meisten Fällen das Modem. Möchte man das Default Gateway für alle Verbindungen abfrage kann man das mit: ip route

Und das neue Gateway der Tabelle 2 lässt sich so prüfen: ip route list table 2

Nun sollte die neue Route stehen und Traffic von der IP 192.168.0.128 wird nun über Telekom geleitet.

Möchte man die Regel später wieder löschen (ein Neustart würde sie auch zurücksetzen) nimmt man einfach die gleichen Befehle und ersetzt add mit del.

KVM optimieren

Hier soll eine Sammlung entstehen, wie KVM und deren Gäste optimiert werden können.

Host:

Um VT-d zu nutzen, braucht Grub einen zusätzlichen Eintrag, in der Zeile:

das anfügen:

und Grub updaten:

Es sollte auf dem Host kontrolliert werden ob es Prozesse gibt, die mehrere CPU Kerne in Anspruch nehmen. Z.B. Squid in Kombination mit Spuidguard startet mehrere Instanzen. Das kann zu Latenz Probleme im Guest führen. Auch Apache macht das.

low-latency Kernel kann helfen die VMs performanter zu machen, bzw. die Reaktionszeiten zu verkürzten. Besonders bei Anwendungen die geringe Latenz brauchen, wie Audio/Video Applikationen, ist das von Vorteil. Dadurch wird die Kernel Timer Frequency auf 1000 Hz erhöht und es werden Preemptible Funktionen aktiviert.

Auf Seiten des Host kann die Priorität einer VM, mit Bordmitteln, verändert werden. Ein Script als Cronjob (z.B. alle 10 Minuten) kann hier Abhilfe schaffen:

Disk Performance:

Cache none ist das beste, funktioniert aber nicht wenn das VM Image auf einem ZFS Dateisystem liegt. Hier kann auch writeback genommen werden, muss aber mit Vorsicht geschehen. Bei writeback gibt es keine Sicherheit und es kann schnell zu Datenverlust kommen.

Als Image Format ist raw zu bevorzugen. Noch besser ist es eine Festplatte komplett durch zu reichen.

Für VM Images, besonders in Kombination mit Linux bringt das „Deadline“ Scheduling etwas mehr an Festplattenperformance. Muss im Host und im Guest eingestellt werden.

Windows in VM:

Unbedingt virtio Treiber verwende! Schon beim Einrichten der virtueller Hardware virtio wählen.

Für Netzwerkdienste Checksum Offload im Netzwerk Interface deaktivieren (Geräte Manager). Zum testen ob die Checksum korrekt ist, kann ein IP Stream gestartet werden, z.B. mit udp (ffmpeg), auf dem Host kann dann mit tcpdump der Stream geprüft werden:

Taucht bad udp cksum […] auf, muss Checksum Offload deaktiviert werden, in dem Fall für UDP.

KVM beherrscht HyperV Funktionen, diese sollen zusätzlich etwas Leistung bei Windows VMs bringen:

Guest Allgemein:

CPU Pinning kann sinnvoll sein. Wird vor allem bei mehr Prozessor Systemen empfohlen, um zu vermeiden, dass ein Thread auf den Speicher des anderen Prozessors zugreifen muss.

OVMF Bios sollte man im Auge behalten und gegebenenfalls installieren und beim Einrichten der VM auswählen. Für Windows 10 ist es z.B. empfehlenswert ein UEFI Bios zu nutzen, das geht nur mit OVMF

IOthreads zu aktivieren kann bei mehreren HDs Sinn machen. Muss über virsh edit VMName gemacht werden.

Weitere CPU Tuning Optionen sind möglich, z.B. vCPU Scheduling, einfach mal getesten.

AppleScript: Ordner selektieren und an Terminal übergeben

Ausgangspunkt:

In verschiedenen Ordnern liegen MP4 Files. Das AppleScript soll einen Dialog öffnen in dem man die Ordner auswählen kann, ist nur ein Ordner ausgewählt wird geprüft ob sich ein MP4 File in diesem Ordner befindet, wenn ja wird gewarnt dass nur ein Ordner ausgewählt wurde, ist kein MP4 File vorhanden wird darauf hingewiesen und ein neuer Dialog wird geöffnet.

Sind mehrere Ordner ausgewählt werden diese an den Terminal geschickt. Der Terminal führt ein Shell Script aus, welches im AppleScript Verzeichnis (*.app/Contents/Resources/Scripts/) liegt. Das Shell Script soll dann die Ordner weiterverarbeiten.

 

 

ffmpeg: 24fps zu 25fps

Möchte man ein 24 fps Clip mittels ffmpeg korrekt umwandeln kann man das in etwa so bewerkstelligen:

Mit diesem Beispiel würde zusätzlich noch ein Border angefügt:

 

OSX Dateien und Ordner sichtbar/unsichtbar machen

Ein kleines Script mit dem versteckte Dateien in OSX sichtbar bzw. unsichtbar machen kann.

Script mit der Endung .command abspeichern, im Terminal ausführbar machen mit: chmod +x scriptname.command

Ubuntu: Systeminfos anzeigen lassen

Wenn man einen Ubuntu/Linux Server betreiben möchte kann es manchmal praktisch sein, sich einige Systeminfos ausgeben zu lassen.

Hier ein Beispiel wie diese Infos automatisch, nach jedem Login, ausgegeben werden.

Script mit folgenden Inhalt anlegen:

 

Ausführbar machen:

chmod 755 loginInfo.sh

Pfad zum Script in /etc/profile schreiben.

Nach dem nächsten Login, auch über ssh wird nun das angezeigt: