Ça vous dirait de tester en local certains modèles LLM (IA) sans trop vous prendre la tête à télécharger des trucs et à installer des machins ?
Et bien, j’ai ce qu’il vous faut !
Cela s’appelle Faraday et c’est un client LLM développé en Proton qui permet d’expérimenter des tas de modèles différents comme Vicuna, Wizard ou encore Vigogne (en français). Une fois le ou les modèles de votre choix récupéré, et bien y’a plus qu’à discuter avec l’outil en vous réglant un persona selon vos propres désirs.
De quoi remplacer ChatGPT pour pas mal d’usages pratiques comme faire des synthèses ou rédiger des tweets. Des tâches simples qui fonctionneront très bien et qui la plupart du temps vous suffiront. Après ça dépendra des modèles que vous utiliserez et il y a fort à parier que dans le futur, ce sera encore plus ouf.
Quoiqu’il en soit, vous devrez avoir une machine puissante, mais rassurez-vous, si vous êtes trop gourmand, Faraday vous informera que le modèle que vous essayez de télécharger est trop costaud pour votre config misérable.
Merci à KaosProject pour le partage.