Korben, roi d’internet, logo bébé avec des lunettes en mode thug life Korben, roi d’internet, logo bébé avec des lunettes en mode thug life

Korben Upgrade your mind

Photon – Un crawler aussi rapide que la lumière

Si vous cherchez un petit crawler de sites rapide et efficace, pourquoi ne pas tester Photon ?

Développé en python comme la majorité des outils de ce genre, Photon est capable d’extraire des pages parcourues, des URLs (dans le scope ou hors scope), des URLs avec paramètres, des données comme les emails, les comptes de réseau sociaux, les buckets Amazon (héhé), les fichiers JavaScript, les PDF, PNG, XML…etc. ainsi que n’importe quelle chaine de caractère correspondant à une regex.

Le secret de sa rapidité ? Un multithread correctement géré qui lui permet de traiter des dizaines voire des centaines de requêtes sans broncher.

Au-delà de ça, Photon offre un mode Ninja lui permettant de rebondir sur des services en ligne tiers capables d’aller requêter à votre place la cible. Cela signifie qu’au lieu de tout requêter depuis votre ordinateur avec votre IP, Photon vous offre 3+1, soit 4 points d’accès ce qui permet de booster encore plus la récupération des données, mais aussi de réduire le risque de déconnexion due à la rapidité d’enchainement des requêtes.

Pour télécharger et apprendre à utiliser Photon, je vous invite à vous rendre sur sa page Github.


Télécharger gratuitement des vidéos et playlists YouTube, Vimeo ou Facebook

il est temps de ressortir son balladeur mp3

Grâce au freeware 4K Video Downloader vous allez pouvoir télécharger très facilement toutes vos vidéos préférées sur YouTube, Facebook, Vimeo, Dailymotion, Twitch & co, et en haute qualité (HD, 4K et 8K en résolution 1080p ou 720p).

Il prend aussi en charge les sous-titres ou encore les chaines et les playlists. Il est donc possible de télécharger une série de vidéos d’un seul coup, sans devoir les ajouter une à une. Il suffit de copier-coller un lien, plutôt pratique non ? Vous pouvez même choisir le format final des fichiers (MP4, MKV, M4A, MP3, FLV ou 3GP).

Vous pouvez même vous abonnez aux chaînes YouTube à partir de l’application pour avoir des vidéos les plus récentes téléchargées automatiquement.

Pour tester le soft c’est ici



Réponses notables

  1. Et à quoi sert un web crawler ? Peut-on me donner des exemples concrets ? Merci.

  2. À récupérer plein d’infos en masse du web, ça peut te servir pour du big data, ou par exemple pour récupérer tout les liens de plusieurs sites/forums connus pour servir à exposer des leaks et regarder régulièrement si tes noms de domaine perso ou d’entreprise y apparaissent si tu fais de la veille sécu.

Continuer la discussion sur Korben Communauté

4 commentaires supplémentaires dans les réponses

Participants