Un'immersione profonda nel Multi CDN

C'è il multi CDN... e c'è il multi CDN...

Se vi occupate di streaming professionale, è probabile che abbiate già sentito parlare di Multi CDN. Ma cos'è, da dove nasce e qual è l'implementazione giusta per voi?

Scritto dalle persone di Jet-Stream che hanno costruito la loro prima CDN nel 1997, hanno costruito una CDN federata nel 2000 e hanno introdotto la multi CDN attiva nel 2014.

Jet-Stream è qui per aiutarvi

Condividete il vostro caso d'uso e Jet-Stream vi consiglierà immediatamente la combinazione di CDN più adatta a voi. Vi aiutiamo anche a negoziare accordi con le CDN. Contattateci per una consulenza gratuita.

Un po' di background: cos'è un CDN?

CDN è l'acronimo di Content Delivery Network. Si tratta di una rete distribuita di server situati in più centri dati in tutto il mondo. Lo scopo principale di una CDN è quello di fornire contenuti, come pagine web, immagini, video e altri file, agli utenti in modo rapido ed efficiente.

Come funziona un CDN?

Quando un utente richiede un contenuto da un sito web o da un'applicazione, il CDN seleziona il server più vicino alla posizione dell'utente e fornisce il contenuto da quel server. Questa vicinanza riduce la latenza o il ritardo nell'accesso al contenuto, poiché i dati non devono percorrere lunghe distanze attraverso Internet.

I principali vantaggi di una CDN

Le CDN contribuiscono a migliorare le prestazioni e la disponibilità dei siti web e delle applicazioni, mettendo in cache i contenuti in server periferici situati vicino agli utenti finali. Il caching prevede la memorizzazione di copie di contenuti in più posizioni, in modo che le richieste successive dello stesso contenuto possano essere servite rapidamente dai server vicini, invece di tornare al server di origine.

Gli svantaggi di un CDN

Le CDN sono un livello in più nel vostro stack tecnologico, quindi le cose possono complicarsi, soprattutto se avete bisogno di integrazioni più profonde come il controllo degli accessi e l'analisi. I CDN sono piattaforme generiche, quindi potrebbero non essere ottimizzati per i vostri casi d'uso specifici, come la bassissima latenza o lo streaming di altissima qualità. Oppure non offrono supporto per servizi specifici, come lo streaming radiofonico di icecast.

I cinque aspetti negativi dell'utilizzo di un unico CDN

1. Assenza di una vera presenza globale: sebbene le CDN dichiarino di offrire una copertura globale, i loro punti di presenza geografica non coprono tutto il mondo. La maggior parte dei CDN copre il Nord America, l'Europa e alcune parti del Sud America e dell'Asia. Il mondo è molto più vasto. Per coprire la Cina, l'India, il Medio Oriente, l'Africa, il Pacifico e altre parti dell'Asia e del Sud America, è necessario disporre di più CDN.
2. Interruzioni: Anche se le CDN dispongono di infrastrutture ridondanti, si verificano interruzioni, sia a livello regionale che globale. Se il vostro flusso live mission-critical è interrotto a causa di un'interruzione della CDN, siete fuori gioco al 100%.
3. Problemi di scala e di prestazioni: Le CDN non sono risorse illimitate, ma hanno anch'esse delle limitazioni nella capacità dei server e delle reti per ogni sede. Dipendono da fattori esterni come i problemi di routing e l'affollamento delle dorsali.
4. Lock-in: alcune CDN offrono uno stack tecnologico più ampio, ad esempio per media ingest, media processing, origins, analytics e security. Se ci si integra con un'unica CDN, può essere difficile, se non impossibile, migrare a un'altra CDN.
5. Costi: anche se i prezzi delle CDN sono diminuiti nel corso degli anni e le CDN sono molto competitive e aggressive, non è possibile ottenere le migliori offerte da una singola CDN da sola.

Le 5 principali promesse di Multi CDN

1. Copertura globale: Combinando più CDN, ciascuna con la propria forza in regioni specifiche, la multi CDN consente di accedere a più aree geografiche rispetto a una singola CDN. Jet-Stream è integrato con 8 CDN per raggiungere centinaia di milioni di spettatori, anche in aree come l'Africa, il Medio Oriente e la Cina continentale.
2. Uptime: a seconda dello stack tecnologico multi CDN, è possibile raggiungere uptime estremi. Jet-Stream utilizza un bilanciamento attivo del carico multi CDN, che supera il DNS passivo. Jet-Stream uptime supera il 99,999%. Poiché è possibile ignorare l'algoritmo automatico, si ha il pieno controllo su quale titolo, quale flusso viene distribuito attraverso quale CDN, per ogni regione.
3. Impilando più CDN l'una sull'altra, la multi CDN offre una capacità estrema. Bilanciando il traffico su più CDN, il multi CDN impedisce a un singolo CDN di raggiungere la propria capacità di server e di rete.
4. A seconda dello stack tecnologico, la multi CDN può consentire una separazione tra il piano di controllo (orchestrazionemedia ) e il piano di consegna (CDN commoditized), evitando un hard lock-in e consentendo un passaggio istantaneo senza alcuna dipendenza.
5. Gestione dei costi: raggruppando più contratti e disponendo di più CDN in una strategia di piano di consegna commoditizzata, si ha la possibilità di negoziare accordi di volume competitivi.

Due filosofie di progettazione per la CDN

Prima di immergerci nelle differenze tra le varie soluzioni multi CDN, torniamo al punto di partenza. Questo vi aiuterà a capire come il DNA delle varie soluzioni CDN e multi CDN si sia sviluppato nel corso degli anni e quali siano i loro vantaggi e svantaggi:

1997, prima CDN: dopo che nel 1996 Jet-Stream aveva sovraccaricato la dorsale di Internet olandese con lo streaming di un festival musicale dal vivo (scusate ancora 😉 ), abbiamo contattato diversi ISP chiedendo loro di installare temporaneamente degli edge server nelle loro reti per poter trasmettere un nuovo festival su scala migliore. Abbiamo inviato il flusso di origine a questi server. Abbiamo scritto un pezzo di codice che riconosceva l'indirizzo IP di ogni utente, lo abbinava al suo ISP e reindirizzava attivamente l'utente al server locale nella rete dell'ISP. In questo modo, il backbone veniva scaricato e nasceva il concetto di rete di distribuzione distribuita media: una CDN.

1998: Akamai lancia il suo servizio CDN, utilizzando una combinazione di DNS passivo e tecnologie di caching. Tuttavia, in quegli anni non era utile per lo streaming a causa della sua natura non memorizzabile. Il DNS è come la rubrica di Internet: traduce i nomi di dominio in indirizzi IP. Invece di utilizzare un indirizzo IP globale per un nome di dominio, il DNS di Akamai indicava agli ISP di inviare gli utenti a indirizzi IP localizzati di server decentralizzati che memorizzavano nella cache le pagine web e il loro contenuto da un server di origine.

Come si può notare, le due soluzioni CDN sono state progettate per risolvere due casi d'uso diversi: Jet-Stream per lo streaming e Akamai per i siti web. L'approccio della soluzione era fondamentalmente diverso: caching basato sulla richiesta e DNS passivo per le pagine web, e push attivo dei streams ai server e bilanciamento attivo del carico per lo streaming.

Oggi la maggior parte delle tecnologie di streaming (ma non tutte) sono memorizzabili nella cache come le pagine web. Ma le due filosofie (DNS e attiva) nel bilanciamento del carico sono ancora molto interessanti per le multi CDN.

CDN multiplo basato su DNS

Gli stack tecnologici multi CDN più semplici si basano sul percorso DNS: cnaming (che è come un alias per il nome di una CDN) viene utilizzato per indirizzare passivamente un gruppo di utenti verso una CDN, o verso una CDN alternativa.

Tutto ciò che serve è una logica di business per fare una scelta saggia, quale CDN è la scelta migliore per questo gruppo (geografico) di utenti, con parametri quali la vicinanza, uptime, le prestazioni e il prezzo.

Vantaggi del multi CDN basato su DNS

1. Facile da costruire e da gestire. Create la logica aziendale, create un server DNS e avrete uno stack multi CDN.
2. Economico. L'effettivo bilanciamento del carico viene effettuato da server DNS di terze parti nel mondo, quindi si devono affrontare solo i costi di gestione dei server DNS principali.

Aspetti negativi del multi CDN basato su DNS

1. È passivo. Dovete fare affidamento su tutte le decine di migliaia di server DNS di terze parti nel mondo per aggiornare la vostra modifica del routing. Non c'è modo di far rispettare il TTL di 1 minuto. La modifica può richiedere ore o addirittura un giorno per essere efficace a causa della cache nei server DNS e nei client. Quando un CDN ha un problema durante un live stream mission critical, non sarete in grado di garantire uptime ai vostri spettatori. L'uptime può essere più elevato rispetto a quello di un singolo CDN, ma non è ancora ai livelli di un broadcast.
2. È una questione di principio. Quando si cambia utilizzando il DNS, si passano tutti gli spettatori dalla CDN A alla CDN B, lanciando di fatto un attacco DDOS alla nuova CDN, causando potenzialmente più problemi di quelli che si sta cercando di risolvere. Non esiste un controllo granulare fine per gestire quale flusso o titolo debba essere distribuito attraverso un particolare CDN in una particolare regione. Non c'è un controllo granulare fine per gestire quale singolo spettatore debba essere inviato al CDN più ottimale in base al suo contesto. Non c'è modo di ottimizzare istantaneamente il traffico verso CDN specifiche.
3. Non c'è un'adeguata separazione tra il piano di controllo e il piano di consegna. Il DNS è trasparente, quindi non sarà possibile gestire il geo fencing o i token al volo. Di conseguenza, siete ancora vincolati a una serie di CDN, se potete implementare funzioni come i token multi-CDN. Probabilmente dovrete ridurre il vostro servizio al minimo comune denominatore.
4. In genere, non c'è integrazione con il backend CDN, poiché le soluzioni multi CDN basate su DNS si concentrano sulla parte di bilanciamento del carico. Funzionalità come la configurazione unificata dell'origine, la schermatura dell'origine, il lavaggio della cache, l'elaborazione unificata dei log e delle statistiche e il controllo degli accessi sono limitate, se non del tutto disponibili.
5. Nessuna prestazione ottimale. Le implementazioni basate su DNS si sono storicamente concentrate sulle prestazioni del web: HTML, script e immagini. Questo caso d'uso richiede una soluzione in grado di fornire rapidamente decine di piccoli oggetti in parallelo. Lo streaming, invece, è un caso d'uso completamente diverso che richiede l'ottimizzazione della consegna di un flusso continuo di video di grandi dimensioni.
6. Nessuna gestione ottimale dei costi. Poiché le implementazioni basate su DNS si concentrano sulle prestazioni web, la logica aziendale dei loro sistemi è stata progettata per dare priorità alle prestazioni web, mentre per lo streaming video è necessaria una logica diversa: i volumi sono estremi, quindi la ponderazione dei prezzi è un fattore altrettanto importante per la consegna continua ad alta bit rates.

Multi CDN attivo

Basandosi sulla storia di Jet-Stream nel bilanciamento attivo del carico, l'azienda ha iniziato a sviluppare il framework per la distribuzione multi CDN avanzata, a partire dal 2009 con un progetto chiamato "Video Exchange". L'idea era quella di superare i limiti delle multi CDN basate su DNS:

1. Piano di controllo e piano di consegna

Il framework Jet-Streams è stato progettato con una filosofia architettonica rivoluzionaria: dividere interamente la piattaforma intelligente (backend e bilanciamento del carico) dal piano di consegna (un mix di servizi origin, edge e CDN).

2. Bilanciamento attivo del carico

Un pool di bilanciatori di carico software che prende in considerazione la prossimità degli utenti e instrada ogni singola richiesta verso il nodo di consegna più ottimale (bordi o CDN) attraverso il content steering. Il nostro esclusivo algoritmo "sufficientemente buono" è stato progettato specificamente per lo streaming audio e video. Garantisce prestazioni elevate e uptime, garantendo al contempo il percorso di distribuzione più economico.

3. Algoritmo Multi CDN

Un algoritmo che calcola istantaneamente il percorso ottimale per ogni singola richiesta, in base a dati quali la vicinanza dell'utente, i bordi e le CDN disponibili, il prezzo e le prestazioni di streaming e la logica aziendale aggiuntiva.

4. Controllo API e GUI

Gli amministratori possono assegnare geograficamente le CDN agli utenti della piattaforma e impostare una logica aziendale aggiuntiva. Gli utenti della piattaforma possono ignorare l'algoritmo automatico e instradare geograficamente il traffico per titolo e per flusso tramite l'interfaccia grafica e l'API, in modo da avere il pieno controllo della consegna e dell'instradamento globali, delle prestazioni, di uptime e dei costi.

5. Schermatura dell'origine

Tutti gli edge e i CDN raccolgono i loro contenuti dal pool di origini di Jet-Stream. In questo modo, si scaricano i server di origine del cliente e di Jet-Stream, anche quando si utilizzano più CDN in un mix di consegna globale. Gli scudi delle origini sono stati potenziati con la protezione "thundering herd" di Jet-Stream per prevenire il sovraccarico delle origini di diretta streaming.

6. Configurazione dell'origine

Gli utenti possono utilizzare le origini di Jet-Stream o collegare i propri server di origine in un modo centrale e unificato. In questo modo non devono gestire le origini con più CDN e possono passare istantaneamente da una CDN all'altra.

7. Controllo degli accessi

I token e la schermatura geo fencing sono integrati nei bilanciatori di carico multi CDN di Jet-Stream, in modo che gli utenti possano gestire liberamente l'accesso per titolo, per live stream in tempo reale nel portale centrale di Jet-Stream (GUI e API). Senza dover implementare e gestire il controllo degli accessi per ogni CDN. Inoltre, i token degli utenti sono tradotti in tempo reale nell'implementazione unica di ciascun CDN per un profondo anti-deeplinking e un servizio di token unificato, che consente di passare in tempo reale da un CDN all'altro.

8. Integrazioni API backend CDN

Per ogni CDN, Jet-Stream ha implementato un traduttore API personalizzato per gestire funzioni come il lavaggio della cache. Gli utenti possono inviare comandi a Jet-Stream in modo centralizzato e Jet-Stream traduce in tempo reale questi comandi per ogni CDN.

9. Elaborazione del registro CDN

Per ogni CDN, Jet-Stream ha implementato un servizio di elaborazione dei log personalizzato per raccogliere i file di log degli accessi e i streams nella sua struttura centrale per un'aggregazione dei log accurata e affidabile, per la reportistica sul traffico e per l'analisi, in modo che gli utenti possano passare liberamente da una CDN all'altra con la garanzia dei loro dati aziendali mission critical.

10. Sintonizzazione CDN

Jet-stream ha messo a punto ogni singolo CDN per le prestazioni di vod e diretta streaming, come la sicurezza, le ottimizzazioni della cache per i manifesti e i segmenti e le ottimizzazioni delle intestazioni. Pertanto, gli utenti possono aspettarsi un servizio ad alte prestazioni anche quando passano da una CDN all'altra.

11. Rete di monitoraggio

Jet-Stream gestisce una propria rete di agenti globali e servizi di monitoraggio delle prestazioni sul sito cloud per misurare le prestazioni delle CDN. Ciò significa che non è necessario implementare dei tracker delle prestazioni. L'implementazione di Jet-Stream controlla le prestazioni dei streams effettivi, invece di affidarsi ai dati web, che non sono rappresentativi delle prestazioni effettive dello streaming.

Perché i CDN come Jet-Stream?

1. Noi portiamo affari e volume.
2. Jet-Stream esegue tutte le integrazioni una tantum, senza bisogno di API o funzioni personalizzate.
3. I CDN possono semplicemente aprire la loro rete, il traffico passerà attraverso di essa e invierà la fattura.
4. Con la CDN non è necessario l'on-boarding dei clienti grazie all'automazione.
5. Jet-Stream trasforma le CDN generiche in piattaforme di orchestrazione dello streaming di alto livello.
6. Un grande partner con 30 anni di esperienza nel settore online media.

Multi CDN attivo oggi

Oggi Jet-Stream Cloud è integrato con 8 CDN globali, tra cui Akamai, Lumen, Fastly, Bunny CDN, Edgenext, Medianova, Edgio e Cloudfront.

Anche il CDN di Jet-Stream Cloud fa parte del mix, consentendo prestazioni 8K, consegne più veloci del 430% e streaming icecast.

Alcuni vantaggi chiave:

• 99,999% uptime, grazie al bilanciamento del carico attivo e forzato.
• 8 CDN, ognuna con un'impronta globale unica, tra cui Medio Oriente, Africa e Cina.
• 40% di riduzione dei costi grazie ad algoritmi intelligenti e offerte all'ingrosso.
• Non è necessario implementare tracker delle prestazioni.
• Gestione unificata grazie alle profonde integrazioni e al piano di controllo.
• Sintonizzato per lo streaming video e audio adattivo di alta qualità in diretta e su richiesta.
• Non è necessario integrare le CDN, costruire e gestire uno stack multi CDN da soli.
• Tariffa per GB a prezzi competitivi.
• È possibile portare i propri contratti CDN.

Commutazione Mid-Stream multi CDN

Jet-Stream Privacy Player Pro include un'intelligenza multi-CDN avanzata. Quando un utente richiede un video, il lettore riceve un elenco di CDN raccomandate dalla piattaforma attiva di bilanciamento del carico multi CDN di Jet-Stream. Ogni volta che un CDN non riesce a consegnare i manifesti o i chunk di media, il lettore passa autonomamente a uno degli altri CDN. Senza che l'utente si accorga di un intoppo.

Ogni CDN è unico

Ogni CDN ha il proprio stack tecnologico, il proprio ingombro, le proprie prestazioni, le proprie caratteristiche e il proprio prezzo. Ad esempio, alcune CDN offrono funzioni di sicurezza più avanzate, mentre altre hanno un ottimo rapporto prestazioni/prezzo.

Jet-Stream è qui per aiutarvi

Condividete il vostro caso d'uso e Jet-Stream vi consiglierà immediatamente la combinazione di CDN più adatta a voi. Vi aiutiamo anche a negoziare accordi con le CDN. Contattateci per una consulenza.

La fine.

Ci auguriamo che questo blog di approfondimento vi abbia fatto conoscere il mondo delle CDN e delle multi CDN. E speriamo che abbiate imparato che:

• Il multi CDN basato su DNS è la scelta ideale per i siti web e le applicazioni.
• Active enforced multi CDN è la scelta per media: podcast, musica, video, radio, televisione.
• I CDN multipli possono essere un vero problema da costruire e gestire da soli.
• Probabilmente c'è molto di più di quanto abbiate mai immaginato.
• Con Jet-Stream è possibile sedersi, rilassarsi e divertirsi, oppure:
• Assumete il pieno controllo su routing, prestazioni, scala, uptime e costi.
• Jet-Stream ha una grande esperienza, sentitevi liberi di attingere a questa conoscenza.