Korben, roi d’internet, logo bébé avec des lunettes en mode thug life Korben, roi d’internet, logo bébé avec des lunettes en mode thug life

Korben Upgrade your mind

Zstandard, le nouvel algo de compression de Facebook

Tiens je ne sais pas si vous avez vu, mais Facebook vient de sortir un nouveau algo de compression.

Nommé pompeusement Zstandard ou Zstd (Z comme Zuck ? loool), il serait encore plus performant que Zlib, la référence du moment.

Screenshot 2016-09-07 10.19.08

Il ne compresse pas forcement plus que certain autres algo, mais il est plus rapide que les autres et est conçu pour des scénarios temps réel. D’ailleurs, il est utilisé en prod sur Facebook depuis quelque temps.

Concernant les petits fichiers, l’algo adopte une méthode un peu différente des autres. Quand on compresse un fichier, l’algorithme apprend des données « passées » pour compresser les données « futures ». Mais dans le cas d’un petit fichier, il n’y a pas vraiment de données « passées » sur lesquelles s’appuyer, c’est pourquoi les taux de compression des petits fichiers ne sont pas très intéressants.

Pour contourner cela, Zstd utilise un mode « training » qui grâce à quelques exemples de fichiers, peut générer un dictionnaire de référence qui sera alors chargé avant la compression et la décompression et utilisé comme « données du passé » pour pouvoir compresser des petits fichiers et avoir de bons taux de compression.

Screenshot 2016-09-07 10.35.41

Pas con

Une lib est dispo sous licence BSD pour utiliser cet algo et si vous voulez l’utiliser en vrai sur votre petit PC, les mecs ont même pondu une version de 7zip qui supporte cet algo Zstd pour que vous puissiez mener vos petits tests.

Screenshot 2016-09-07 10.19.19

Tous les détails sur le Zstandard sont ici.


Sélection Logitech – Jusqu’à -55% du 16 au 22 septembre.

Souris, claviers ou encore webcams

Du 16 septembre au 22 septembre, Logitech équipe tous ceux qui veulent booster leurs rentrées avec du bon et nouveau matos

Tous les best sellers de la marque Suisse sont au rendez-vous, quelque soit la catégorie, bureautique, work ou gaming.
Retrover les casque Logitech G, les claviers Keys To Go ou MX keys ou encore les souris verticales MX Masters en promos.

En Savoir +



Réponses notables

  1. HPep says:

    Facebook plus performant que …

    “plus rapide que les autres”, d’après le tableau, c’est pas vraiment le cas
    "un dictionnaire de référence", ça veut dire quoi ? qu’il faut attendre un peut avant que le taux de compression soit vraiment efficace ?

    Certe ce n’est pas ‘con’, mais lire un fichier supplémentaire (que l’on doit télécharger ou créer) n’est pas vraiment une idée adéquat, surtout si le fameux dico pèse plusieurs Ko ou Mo (contre-performance)

    C’est bien gentil de vouloir ré-inventer la roue, encore faut t-il éviter de se mettre des bâtons dedans.

Continuer la discussion sur Korben Communauté

3 commentaires supplémentaires dans les réponses

Participants