La grande mode du moment, c’est l’AI générative ou LLM pour Large Language Model. Je suis bien sûr très intéressé par ces applications, tant en termes de génération de texte ou d’image pour des usages pro (résumé, mails, génération de modèles, programmation) et persos (jeu de rôle). Pour cela, on peut utiliser les classiques et plus connus Midjourney ou ChatGPT ou se tourner vers l’open-source et ses bienfaits. Cet article se base principalement sur une vidéo de NetworkChuck que je vous invite à visionner (en anglais), et à diverses informations rassemblées sur le net.

Petit disclaimer : je suis parfaitement conscient de l’impact que ces technologies peuvent avoir sur les métiers de création, illustrateurs, traducteurs, ou autres. Je sais aussi comment sont nourris les modèles de données, la plupart du temps sans considération ni rémunérations pour les auteurs (dont je suis parfois), et c’est un problème grave dont il faut s’occuper dès maintenant. Je n’encourage pas le commerce de produits générés par IA, livres ou images. Je ferai peut-être ultérieurement un article plus complet sur mon positionnement.

---

Matériel

Contrairement à ce que dit la vidéo de NetworkChuck, pas besoin d’une machine de guerre à base de double RTX 4090 et je ne sais combien de RAM. Vous aurez des résultats parfaitement satisfaisants avec une machine relativement récente. Par contre, une carte graphique Nvidia me semble obligatoire. C’est elle qui fera les calculs, et plus elle sera puissante, plus les retours seront rapides. Le système peut toutefois tourner sur CPU uniquement.

Personnellement j’ai une RTX 4070 12 Go, mais une génération précédente fera parfaitement l’affaire. Idem, n’importe quel processeur un peu récent ira bien.

Par contre, si vous ne disposez que d’un laptop ou un minipc, je ne garantis pas le résultat.

WSL

La plupart des programmes et commandes fonctionnent sur tous les systèmes, mais je trouve que le plus simple c’est Wsl, la version Windows de Linux.

On commence par l’activer en lançant la commande suivante dans le terminal de Windows.

wsl --install

Ca ne prend que quelques minutes.

Si vous utilisez le Terminal de Windows, vous aurez automatiquement une nouvelle entrée.

Cliquez dessus pour ouvrir une session Ubuntu.

Il vous demandera un nom d’utilisateur et un mot de passe, puis vous aurez accès à la ligne de commande.

Ubuntu + Docker

Commencez par mettre à jour Ubuntu avec les commandes suivantes :

sudo apt update && sudo apt upgrade

Puis installez Docker

sudo apt install docker.io

Tout est prêt !

Ollama

Ollama est un outil permettant de télécharger et d’utiliser n’importe quel modèle de données disponibles en open-source (et gratuitement) sur le site de Huggin Face, la principale communauté AI. C’est un serveur qui tourne en arrière-plan et qui peut être utilisé en ligne de commande ou via une interface Web qu’on installera juste après.

Pour l’installer, tapez la commande suivante :

curl -fsSL https://ollama.com/install.sh | sh

Au bout de quelques minutes, vous aurez accès à l’application.

Téléchargez un modèle, je suggère le plus puissant du moment, avec un excellent rapport taille/qualité, Llama3

ollama pull llama3

Attention, c’est un fichier de 5Go, la vitesse dépend de la qualité de votre ligne.

Pour tester :

ollama run llama3

Yeah \o/

OpenWeb UI

C’est un logiciel qui donne une interface graphique à Ollama, ressemblant fortement à celle de ChatGPT ou you.com. On peut télécharger des modèles, discuter avec eux, uploader des fichiers pour les interroger et faire plein de choses cools.

Pour l’installer (toujours dans notre session Ubuntu)

docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main

La commande peut faire peur, mais elle dit juste que l’application doit tourner dans docker, que l’image s’appelle open-webui et que le serveur ollama tourne en local. Rien de foufou ou de dangereux.

Comme pour les précédentes commandes, il va télécharger ses fichiers et tout lancer tout seul.

Pour savoir si cela fonctionne, lancer votre navigateur préféré et faites le pointer sur :

http://localhost:8080

Dans le menu du haut, vous pouvez choisir vote modèle (llama3).

Dans le chat du bas, vous pouvez taper votre question ou demande pour commencer à l’utiliser.

Vous pouvez aussi cliquer sur le petit + en bas à gauche pour envoyer un fichier pour l’interroger. Ça marche avec du texte, mais par la suite, on pourra envoyer une image pour lui faire décrire un prompt qu’on enverra ensuite dans Stable Diffusion.

Le micro permet d’envoyer du son qui sera analysé par Whisper et transformé en texte.

Enfin, les résultats peuvent être lus par une voix synthétique en un clic, je vous montre ça après.

Conclusion de la partie 1

En quelques commandes, on a installé un système complet, accessible facilement, quasiment aussi puissant que le dernier ChatGPT. Si un modèle plus puissant sort en open-source, il sera rendu disponible dans l’application en une commande (ou quelques clics dans l’interface).

Dans la partie 2, nous installerons les autres outils et nous verrons comment les utiliser et les faire échanger entre eux.

J’ai un laptop dell de ce modèle qui a été préinstallé avec plein de crapware. J’ai pas mal de souci avec et j’ai décidé de tout réinstaller. Cet article est là pour m’aider le jour où je voudrais le refaire.

BIOS / Driver disque dur

Par défaut le disque dur n’est pas visible par l’installateur de Windows, même dans sa version 11. Il est possible pendant l’installation d’utiliser les drivers trouvables sur le site du support de Dell si on les a mis sur la clé USB d’installation. Cela dit, si le système voit que le disque principal n’est pas le premier (0) alors il refusera de s’installer.

Une astuce est de passer dans le Bios pour changer la manière dont le disque est géré, pour passer de RST (une espère de Raid dont je ne comprends pas bien l’interêt) à AHCI/NVME.

Une fois relancé, l’installeur de Windows retrouve sans problème ses petits et accepte de s’installer.

Pour accéder au Bios => F12 pendant le démarrage pour accéder aux options de boot puis il y a un lien vers le bios lui-même. Il faut aller dans Stockage, puis cliquer sur AHCI/NVME.

Rebooter, F12 de nouveau, puis booter sur la clé USB d’installation.

Astuce : decrap

Windows installe des tas de crapwares par défaut, notamment des pubs, des liens vers des applis ou des jeux. Cette action est dépendante de l’endroit choisi lors de l’installation.

Pour réduire ces installations malvenues, il faut indiquer à l’installeur la région : « Anglais (International) ».

De là, il va continuer, puis mettre un message d’erreur.

Il faut cliquer sur Ignorer puis terminer l’installation normalement.

Astuce : Compte local

Windows 11 nous fait bien galérer et tente de nous obliger à se connecter avec un compte MS.

Pour éivter cela, il faut débrancher son câble éthernet, ou couper la connexion Wifi si elle est active, puis cliquer sur : « Je n’ai pas internet » et « Continuer avec un compte limité ».

J’ai récupéré récemment un vieux HP ProDesk 400 G3, un mini PC format 1L anciennement utilisé comme machine de bureau. Après l’avoir un peu boosté avec de la RAM (passage à 16Go), j’ai fait quelques tests dessus, et s’il est difficilement utilisable en mode bureau (processeur faiblard, disque dur mécanique), il est beaucoup plus intéressant en mode serveur. Voulant le mettre dans un coin avec le moins de câble possible, j’ai voulu y coller ma clé Wifi Archer T3U, évidemment sans driver Linux. Ma procédure précédente ne fonctionnant pas, j’ai de nouveau cherché et trouvé une solution pour la faire fonctionner, le tout en ligne de commande, sous le très récent Débian 12.

---

Installation Debian 12

J’ai installé une Debian 12 toute fraiche en téléchargeant un ISO netinstall. Pas d’interface graphique, juste un serveur SSH et basta.

Comme précédemment, le driver sera compilé à partir d’un dépôt git. Donc j’installe tous mes outils, git, sudo (non installé par défaut dans debian), module-assistant, lshw (pour vérifier le matériel). La compilation m’ayant fait une erreur, j’ai dû aussi installer le paquet dkms.

Je vérifie avec un lsusb que la clé est bien reconnue par la machine.

Elle apparait bien, première étape ok.

Compilation du module

Ensuite récupération du code puis compilation et installation. Source de la méthode.

sudo m-a prepare
git clone https://github.com/RinCat/RTL88x2BU-Linux-Driver
cd RTL88x2BU-Linux-Driver
make
sudo make install
sudo modprobe 88x2bu

Pour vérifier que le matériel est maintenant correctement piloté, j’utilise la commande lshw

La commande ip link show donne aussi un bon résultat.

Je note le nom de l’interface (wlxd03745a8f9ca) pour la suite.

Configuration du réseau

Source de la méthode

J’ai choisi d’utiliser l’outil iwd qui me semble très simple à mettre en place.

J’installe le paquet iwd puis j’ouvre le fichier de configuration pour décommenter la ligne permettant à iwd de configurer automatiquement le réseau (EnableNetworkConfiguration).

Il faut maintenant lancer le service iwd et l’activer pour que le wifi survive à un redémarrage.

systemctl --now enable iwd

Accéder au wifi

J’utilise la commande iwctl en mode interactif et en utilisateur.

iwctl

La commande help permet de voir toutes les instructions possible.

Pour ma part :

station wlxd03745a8f9ca scan
station wlxd03745a8f9ca get-networks
station wlxd03745a8f9ca connect <réseau>

Il va demander le mot de passe du réseau. Puis, vous pouvez sortir avec exit.

La commande : ip a, vous permet de voir si l’interface a bien récupéré une adresse ip en DHCP.

Pour un serveur, il est plus pratique d’utiliser des adresses ip statiques, mais je préfère les gérer de manière centralisée sur mon DHCP en définissant un bail statique.

Conclusion

La méthode me paraît beaucoup plus simple à mettre en place, surtout dans un contexte sans interface graphique et j’avoue avoir fait une bonne découverte avec iwd qui gère très facilement le réseau en cli.

Si vous n’arrivez pas à vous connecter après la procédure, ou si vous n’avez pas récupéré d’ip, essayez de relancer le service (sudo systemctl restart iwd) ou de redémarrer la machine (ce que j’ai dû faire).

Dans mon nouveau boulot, en attendant un recrutement spécifique, je me retrouve à faire de l’administration système, notamment sur Microsoft 365. L’outil est extrêmement efficace en entreprise et permet un travail collaboratif très étendu. Cela dit, les outils d’admin sont une plaie absolue, ou rien n’est cohérent. Si pour les utilisateurs, le boulot est fait, en arrière-plan c’est un enfer. Par exemple, il n’y aucune option nulle part pour récupérer simplement les membres d’une liste de distribution. Sauf en powershell…

---

Installation des outils

• On ouvre évidemment un terminal Powershell en mode administrateur.
  À chaque fois qu’il demande une validation, vous dites Oui [O] bien sûr, sinon ça marche pas.

Install-Module PowershellGet -Force
Install-Module -Name ExchangeOnlineManagement

• On active l’exécution des scripts qui n’est pas possible par défaut.

Set-ExecutionPolicy RemoteSigned

• On importe le module Exchange.

Import-Module ExchangeOnlineManagement

• Enfin, on se connecte

Connect-ExchangeOnline

Là ça ouvre une page web où vous pouvez mettre votre login et mot de passe.
C’est possible uniquement si vous êtes admin hein.
Si ça marche, vous allez tomber sur ça :

Action

Maintenant c’est tout con :

Get-DistributionGroupMember -Identity « <le nom de la liste » | Select-Object -Property « DisplayName », »PrimarySmtpAddress » | Export-Csv c:\liste.csv

Le GetDistributionGroupMember fait ce qu’il dit, il récupère l’intégralité des membres, avec toutes leurs informations.

Le Select-Objet permet de réduire les champs à uniquement le nom et l’adresse. Faite un test sans cette commande, puis ouvrez le fichier généré pour voir la liste des champs. Y’en a plein.

Enfin, l’Export-Csv balance l’ensemble dans un fichier ouvrable par n’importe quel tableur.

Conclusion

Ce n’est pas très compliqué, mais ce n’est pas pratique. Il doit probablement y avoir des outils qui lancent ces commandes en arrière-plan, des trucs qui ne viennent pas de MS, mais je ne les connais pas. Si vous avez des connaissances dans ce sujet, je serai ravi de les connaitre.

Je regarde très peu la télévision, préférant de loin utiliser les services de streaming comme Netflix ou parfois Amazon Prime, ainsi que quelques vidéos de vacances. Lorsque je regarde une émission, j’utilise Molotov qui, dans sa version gratuite, ne permet pas de regarder TF1 ou M6. Ce qui n’est pas un mal de toute façon. Mais hier je voulais regarder une émission sur TF1. Je souhaitais la regarder sur mon grand écran alors je me suis servi de ce prétexte pour monter l’infrastructure que je m’apprête à décrire.

---

Setup initial

Mon installation initiale comprend les éléments suivants.
Il est possible de mutualiser certaines fonctions.

Hardware

• Une TV connectée possédant l’application VLC (ou tout autre appli permettant de lire un flux réseau RTMP). J’utilise une Nvidia Shield (un boitier Android TV).
• Un PC sous Windows pour récupérer le flux de TF1 via Captvty.
• Un serveur Linux (mon miniPc Mele Quieter qui me sert à tout).

Software

Captvty

C’est un logiciel, uniquement sous Windows même si certains hacks permettent de le lancer sous d’autres systèmes, qui permet de lister l’intégralité des émissions accessibles en replay sur la plupart des chaînes françaises.

Il permet aussi, en faisant un clic droit sur le nom d’une chaîne, de la regarder en direct.

Captvty me servira ici de source de flux vidéo, mais on pourrait utiliser n’importe quoi.

OBS

C’est le logiciel de streaming le plus populaire actuellement. C’est une sorte de banc de montage qui permet de préparer des scènes à diffuser par exemple sur Twitch.tv ou Youtube. On peut récupérer des flux vidéos, des images fixes, des overlays, mixer l’ensemble, ajouter des filtres, bref, c’est très puissant.

Nginx-RTMP

Nginx est un serveur Linux ultra léger, très facile à installer et à configurer, qui peut servir des pages Web, faire reverse proxy et qui dispose dans notre cas d’un module RTMP trivial à configurer.

Je l’ai installé sur mon boitier, mais je suppose qu’on peut aussi faire une machine virtuelle légère (genre un truc sous Alpine), un docker ou même passer par le WSL de Windows. Je n’ai pas encore testé ces solutions.

Mise en place

Nginx-RTMP

Personnellement je suis sous Ubuntu, il faut adapter les commandes d’installation si vous possédez une autre distribution.

Installation

Ouvrir un terminal puis :

• sudo apt update
• sudo apt install libnginx-mod-rtmp

Configuration

Toujours dans le terminal

• sudo nano /etc/nginx/nginx.conf

Ajouter le bloc suivant à la fin du fichier :

rtmp {
        server {
                listen 1935;
                chunk_size 4096;

                application live {
                        live on;
                        record off;
                }
        }
}

Quitter (CTRL+X) en sauvegardant (Y).

Relancer le serveur

• sudo systemctl restart nginx

C’est vraiment la config minimale, il n’y a pas de sécurité, pas de transcodage, le flux est transmis tel quel.

! Attention ! Ayant déjà un serveur web sur ce boitier, il a fallu que je change les ports d’écoute de nginx pour autre chose que le 80 qui était déjà pris. Sinon le service refuse de se lancer.

Captvty

• Télécharger et décompresser le logiciel quelque part, par exemple sur le bureau.
• Lancer l’exécutable captvty.exe
• Faire un clic droit sur la chaîne TV puis Visionner <chaine> en direct

Si tout se passe bien, une fenêtre s’ouvre et diffuse un flux vidéo.

OBS

Installation

• Installer et décompresser OBS quelque part, par exemple le bureau
• Lancer l’exécutable obs64.exe

Configuration

• Dans les sources, ajouter Capture d’une fenêtre et Audio du bureau

• Dans les paramètres de la capture de fenêtre, sélectionner la fenêtre qui diffuse la chaîne.

• Enfin, dans les paramètres de Flux d’OBS,
  • choisir Personnalisé
  • Indiquer l’adresse du serveur RTMP
  • Choisir une clé (j’ai mis test)

• Enfin, lancer le stream

Si OBs ne dit rien, c’est que le flux est diffusé.

Reception

Depuis un ordinateur branché sur le réseau, depuis un téléphone (s’il dispose de VLC), ou directement depuis la TV :

• Lancer VLC
• Ouvrir un flux réseau
• Indiquer l’adresse du serveur RTMP sous la forme
  • rtmp://<adresse ip>/live/test

live, c’est le nom du service RTMP (indiqué dans le fichier de configuration Nginx).
test, c’est la clé de stream indiquée dans OBS.

Si tout s’est bien déroulé, vous devriez voir votre flux apparaître.

Conclusion

Il y a quelques étapes à réaliser, mais l’ensemble n’est pas si compliqué à mettre en place de mon point de vue. OBS étant capable de prendre à peu près n’importe quoi en entrée, rien n’empêche par exemple de diffuser une webcam, un ensemble de caméra de sécurité, des panneaux d’affichage ou un diaporama de photos ou de la publicité par exemple. OBS permet de gérer des scènes, mais aussi des transitions pour passer joliment d’une scène à l’autre. Chaque scène étant indépendante, il est possible de produire du contenu différent pour chacune.

Tout l’intérêt de ce mini-projet a été pour moi de comprendre comment mettre en place le serveur RTMP privé, et si on s’en tient à la base, cela a été très simple. Bien sûr, pour une utilisation en entreprise, ou dans le public, il faudra ajouter des couches de sécurité, mais cela dépasse le cadre de cet article.