Un setup de vibe coding en local qui fonctionne avec 16GB de VRAM (si on est patient)

J'étais arrivé à la conclusion qu'il n'est pas possible de vibe coder avec seulement 16GB de VRAM, et que je devais donc considérer mon AMD 7800XT comme suffisante pour du conversationel, mais pas pour de l'agentique.

Le problème principal est un problème de taille. Les gros modèles ne tiennent pas en mémoire, et les petits fonctionnent mal : soit ils partent en mode poisson rouge et racontent d'importe quoi, soit ils perdent la compréhension du protocole pour communiquer avec la GUI agentique.

Sauf qu'à force d'insister, j'ai compris plusieurs choses : d'une part, ollama, lorsqu'il détecte que la VRAM est basse, configure par défaut un tout petit contexte. D'autre part, ollama est capable de décharger une partie de la VRAM en RAM, ce qui est lent, mais doit continuer de fonctionner. Et c'est seulement lorsque l'on tente de changer de modèle qu'il s'emmelle les pinceaux et peut planter en ne trouvant plus de mémoire pour y charger le modèle.

Un setup qui marche chez moi, c'est donc devstral-small-2 avec 32K de contexte, en utilisant Mistral Vibe du côté client. Alors, c'est très lent - Compter plusieurs minutes entre chaque action de la boucle agentique, et plusieurs dizaines de minutes pour arriver au bout d'une requête ou feature, surtout si on lui demande de compiler (il se trompe beaucoup). Mais ça marche !

J'ai plein d'idées, principalement orientées vers l'idée de le laisser tourner en tâche de fond pendant que je fais autre chose (comme écrire des billets de blog).

Nouveau mini-jeu

Parce que c'est l'occasion d'intégrer les dessins de la petite, je me suis lancé dans un nouveau mini-jeu. Et j'ai bataillé beaucoup trop longtemps avec Godot avant de finalement repasser à mon bon vieux sfml. Pour un jeu complexe, avec beaucoup d'animations ou même en 3D, il n'y a pas photo. Mais pour un bête truc qui affiche 3 images, revenir aux fondamentaux, c'est plutôt plaisant.

pySpice retrospective

J'ai (presque) complété l'implémentation Unity3D, j'ai pu aider à la game jam, tout va bien. Au final, avec les outils modernes, tout cela va quand même rudement vite - Un jeu presque complet en 200 lignes de Python, et encore moins en Godot ou Unity? C'est impressionnant.

La même en Godot!

En une petite journée, j'ai pu porter pySpace vers gdSpace. Très intéressant - Certaines choses sont nettement plus élégantes, d'autres moins, mais ça reste un bon système (peut-être un poil plantogène?). Hâte de passer à Unity3D!

On se remet à écrire des jeux

La game jam de l'école approche, et, soucieux de mener à bien mon rôle de mentor, je me suis lancé dans l'écriture d'un mini shooter spatial en vue de dessus, en utilisant Python, langage avec lequel je suis très peu familier.

Une fois compris qu'il fallait mettre des self partout, et avec l'assistance d'une IA locale (il faudra que je vous parle de mon petit lab IA dont je suis très content), j'ai réussi à coder quelque chose de sympathique étant donné le peu de temps que je m'étais donné. Il est vrai qu'avec Python, tout va assez vite, même si je perds parfois pas mal de temps avec les petites erreurs de syntaxe. Il faudra que j'améliore mon setup.

Voici la bête, les graphismes sont de l'IA (locale à nouveau, mais de l'IA quand même), mon but étant purement de me dépatouiller du code, qui lui est écrit à la main, même si je me suis permis de poser des questions à Mistral.

Prochaine étape : faire exactement la même chose avec Godot, et avec Unity!

Un NAS maison qui dépote

Je me suis lancé tête baissée dans la configuration de mon Raspberry Pi pour le transformer en NAS. Aprés une première soirée pas très productive à me battre avec le SSH, j'ai fini par réussir à installer les services suivants : OpenSSH pour l'accès à distance, Avahi pour la résolution de nom, et enfin Samba pour le partage de répertoires.

Et ça marche du tonnerre ! Je peux même y accéder depuis mon IPhone, moyennant l'ajout de support pour une vieille version du protocole. Après tout, Apple n'est qu'une petite PME sans grande ambition, on ne peut pas leur demander de supporter SMB 3!

Je m'en vais maintenant mettre tout ceci en production pour de bon, et le tester un bon moment. Si en effet cela s'avère utile, je pense en particulier pour le partage de fichiers entre les différentes machines de la maison, ainsi que pour centraliser les photos de famille, alors j'investirai dans un Raspberry Pi 5 et une paire de M2 pour avoir du RAID.

Un nouveau clavier

Ça y est ! Mon pauvre TypeMatrix est mort. Il m'a donc fallu chercher un remplacement, et j'ai beaucoup hésité avant de finalement me lancer dans le clavier de chez Truly Ergonomic. Les débuts sont plutôt encourageants : mon cerveau voulait absolument taper en Qwerty, même si je suis principalement utilisateur de Dvorak, mais je m'y suis vite fait et je suis revenu aux bonnes habitudes. Le vrai problème, ce sont les autres touches : en particulier, la touche effacement, les touches flêchées, et les touches Ctrl et Alt ne me viennent absolument pas naturellement, et j'ai vite fait de taper n'importe où, avec des résultats hilarants sur ce qui se passe à l'écran.

Mais le vrai souci, et ce qui va m'empêcher de passer au boulot avec le même clavier, c'est le bruit ! C'est un clavier mécanique, ce qui veut dire que le claquement du plastique et le bruit des ressorts est assez fort. Pas de souci pour la maison, mais au milieu de l'open space, je ne vais pas me faire des amis... La recherche du clavier ultime pour remplacer le Typematrix continue !