Aller au contenu
Korben, roi d’internet, logo bébé avec des lunettes en mode thug life

Si vous codez en Python autour d’API de LLM comme celle d’OpenAI, d’Anthropic ou encore de Huggingface…etc., je vous présente LiteLLM qui risque de vous faire gagner pas mal de temps.

Il s’agit d’une lib Python capable d’interagir avec tout un tas d’API en utilisant le format de celle d’OpenAI. Elle fournit une interface simple et uniformisée pour appeler ces modèles , ce qui va vous faciliter leur utilisation pour des choses comme de la génération de texte, de la traduction ou encore du chat…

Pour l’installer, rien de plus simple :

pip install litellm

Ensuite, y’a plus qu’à créer un objet LiteLLM dans votre code, en lui fournissant l’ID et le nom du modèle à utiliser. Par exemple pour vous connecter à OpenAI, le code sera le suivant :

from litellm import completion
import os

## set ENV variables
os.environ["OPENAI_API_KEY"] = "your-api-key"

response = completion(
  model="gpt-3.5-turbo", 
  messages=[{ "content": "Hello, how are you?","role": "user"}]
)

Pour Claude 2, ça sera ça :

from litellm import completion
import os

## set ENV variables
os.environ["ANTHROPIC_API_KEY"] = "your-api-key"

response = completion(
  model="claude-2", 
  messages=[{ "content": "Hello, how are you?","role": "user"}]
)

Pour utiliser Ollama, ça donnerait également ça :

from litellm import completion

response = completion(
            model="ollama/llama2", 
            messages = [{ "content": "Hello, how are you?","role": "user"}], 
            api_base="http://localhost:11434"
)

Donc pas grand-chose qui change.

Vous l’aurez donc compris, LiteLLM permet de pondre un seul et unique code, mais pour discuter avec tous les fournisseurs d’IA du moment (et les logiciels libres existants)

Y’a la possibilité d’avoir du stream sur les réponses (c’est à dire, le texte qui s’affiche au fur et à mesure), de la gestion des exceptions, du log, sans oublier du calcul de coût et l’usage que vous pouvez avoir de ces API afin de ne pas éclater votre compte en banque.

LiteLLM intègre également un proxy OpenAI pour rediriger vos requêtes vers le modèle de votre choix. Pour l’installer :

pip install 'litellm[proxy]'

Lancez ensuite le proxy avec le modèle de votre choix :

litellm --model huggingface/bigcode/starcoder

Et lui passer vos requêtes dans le code python directement :

import openai # openai v1.0.0+
client = openai.OpenAI(api_key="anything",base_url="http://0.0.0.0:8000") # set proxy to base_url
# request sent to model set on litellm proxy, `litellm --model`
response = client.chat.completions.create(model="gpt-3.5-turbo", messages = [
    {
        "role": "user",
        "content": "this is a test request, write a short poem"
    }
])

print(response)

Si LiteLLM vous intéresse, vous trouverez toutes les infos sur la page Github ainsi que les endpoints ici.


Nous avons du pain sur la planche ! Encore une fois il s’agit de sauver le monde bien sûr, mais jamais, ô grand jamais, nous n’avions comme protagoniste une miche de pain. Ça, c’est original ! Préparez-vous à vivre une jolie aventure avec Tipain et ses co-pains. 😉

Dans la lignée des Paper Mario, dont il est directement inspiré, Born of Bread est un mélange de RPG (on recrute une équipe qu’on équipe, qu’on fait évoluer, on a des combats en tour par tour avec des QTE pour optimiser les effets…) et d’exploration/aventure avec des dialogues bien rigolos. Si vous aimez les jeux de mots et le pain, vous allez être servi !

Sur le plan artistique, c’est vraiment cool : graphismes léchés, un mélange 2D/3D de toute beauté (même si ça n’a aucun sens d’avoir des personnages plats, contrairement à Paper Mario), de belles animations, de chouettes musiques, des cinématiques bien foutues, on est vite immergé dans cet univers absurde.

Pour les connaisseurs, le gameplay ne propose rien de nouveau (hormis quelques délires à base de « spectateurs » lors de nos bastons) mais c’est une recette (miam) efficace et éprouvée, ça fonctionne vraiment très bien. En dehors de quelques énigmes un peu bizarres, les dialogues et affrontements s’enchaînent de manière fluide, le scénario est bien rythmé, c’est top !

J’ai été embêté par quelques bugs et plantages, il faut espérer que les développeurs sortent un patch pour que ce soit parfait. 🤞 L’autre truc « un peu » gênant, c’est que finalement, le jeu reste en-dessous de ses modèles. Pour être honnête, si vous avez une Switch, j’aurais tendance à vous conseiller de choper Super Mario RPG ou d’attendre le remake de Paper Mario : La Porte Millénaire.

Mais si vous n’avez pas de console Nintendo, alors Born of Bread est un très bon paliatif, une aventure qui se mange sans faim ! C’est complètement décalé, fun, frais, d’une durée de vie maîtrisée (environ 15h), une belle découverte ! Je lui donne 🥖🥖🥖🥖🥖🥖🥖/10

Acheter sur Steam, Epic Games, Nintendo Switch, Xbox, Playstation


Y’a pas si longtemps, je vous ai présenté la police de caractères Luciole qui permet de donner beaucoup de lisibilités aux personnes mal voyantes.

Et bien dans le même esprit, je vous fais découvrir aujourd’hui Hack. Cette police de caractère libre au nom dénué d’originalité a été conçue pour soulager les petits neuneuils des développeurs qui aiment coder jusqu’au bout de la nuit. Hack intègre des versions gras, italique, regular…etc. avec un support de toutes les langues et tous les glyphes possibles y compris le cyrillique, le grec…etc.

Son design améliore la lisibilité du code, avec du contraste, une bonne hauteur des lettres, un zéro rempli pour ne pas le confondre avec le 0 majuscule, un bon espacement…etc. Tout est dans la subtilité, ça se touche beaucoup la nouille typographique, mais vous devriez quand même l’essayer, car ça ne peut être que plus confortable que ce bon vieil Arial que vous collez partout.

Vous pouvez la télécharger ici et même la tester dans le playground ici selon votre langage de dev préféré et le style de votre IDE (mode sombre, clair…etc.)


Bon, si vous regardez des vidéos Youtube ou Netflix, notamment sur votre smartphone, vous connaissez sans doute la PiP (Picture In Picture) qui consiste à afficher une petite fenêtre vidéo dans un coin de l’écran pendant que vous faites autre chose sur l’appareil.

Et bien nouvelle, vous allez pouvoir faire pareil sur votre Mac grâce à PiPHero, un freeware qui une fois installé, se loge dans la barre de menu, et permet de sélectionner une fenêtre ou un écran à placer dans un coin.

Vous pouvez également choisir sa taille et en mettre plusieurs.

Bref, super pratique pour surveiller une page web ou mater une vidéo, sans avoir à garder la fenêtre focus.


Turbo Art est un site proof of concept qui va vous permettre de jouer avec un modèle de génération d’image nommé SDXL-Turbo.

Pour rappel, c’est un modèle text2image, rapide et avancé, capable de générer des images photo-réalistes à partir d’une simple consigne textuelle en une seule évaluation de réseau neuronal. Sa performance exceptionnelle en termes de vitesse et de qualité d’image le rend particulièrement utile pour des tâches qui nécessitent une génération d’image rapide et précise à partir d’un texte. Mais le mieux c’est encore de le tester au travers de Turbo Art.

Sur Turbo Art que vous pouvez également auto-héberger, vous allez pouvoir importer une photo et la retravailler en temps réel à l’aide d’un prompt, mais également de quelques outils pour redessiner par-dessus. J’ai ajouté un petit chapeau bleu à ce toutou en indiquant que je voulais en faire un ourson de dessin animé type Pixar.

Et même chose pour mon chat, mais avec un bonnet de Noël.

Rigolo non ? Et surtout ça permet d’apprivoiser en douceur ce genre de techno. Turbo Art offre également une fonctionnalité Enhance qui vous permettra d’améliorer l’image en testant d’autres générations et bien sûr de télécharger le rendu final pour vous en faire un avatar ou une illustration quelconque.

À tester ici.