Cœur du pipeline : ajoute une file d'attente exécutant les téléchargements yt-dlp avec une concurrence bornée, et livre le fichier produit au navigateur (pas de dépôt durable côté serveur). - downloadPlan.ts : construction des arguments yt-dlp par mode (vidéo avec sous-titres/miniature en option, audio dans un format courant, miniature seule), toujours avec séparateur `--` avant l'URL. Parsing de la progression depuis stdout (`[download] NN.N%`). - videoUrl.ts : valide qu'une URL cible bien youtube.com/youtu.be avant de la passer à yt-dlp - ferme le risque de relais SSRF via l'extracteur générique de yt-dlp (des centaines de sites supportés) si une URL arbitraire était acceptée. - QueueService.ts : file en mémoire, N téléchargements simultanés (MAX_CONCURRENT_DOWNLOADS), annulation via AbortSignal, nettoyage du dossier de sortie après échec/annulation ou après livraison du fichier. - ytDlpRunner.ts : étendu pour le suivi ligne par ligne de stdout (progression) et l'annulation (AbortSignal passé à child_process.spawn). - routes/queue.ts : POST/GET /api/queue, DELETE /api/queue/:id, GET /api/queue/:id/file (streaming + nettoyage après envoi). 45 nouveaux tests (59 au total) : fonctions pures, services (vrai système de fichiers temporaire, yt-dlp mocké), routes. Vérifié aussi en conditions réelles (serveur démarré localement) : validation d'URL, ajout en file, et passage correct à l'état "failed" + nettoyage quand le binaire yt-dlp est absent (ENOENT). Empilée sur feature/channel-discovery (réutilise ytDlpRunner.ts). Co-Authored-By: Claude Sonnet 5 <noreply@anthropic.com>
7.1 KiB
7.1 KiB
Architecture
Contexte
Remplace une série de scripts .cmd (./downloader, non versionné) par une application web : parcourir une chaîne YouTube, mettre des vidéos/audios en file d'attente, les télécharger en parallèle avec suivi en temps réel, et les livrer au navigateur de l'utilisateur. Pas d'intégration Emby, pas d'authentification (usage LAN).
Structure du dépôt
server/ Backend Fastify (TypeScript, ESM)
client/ Frontend TypeScript vanilla (esbuild + sass)
.forgejo/workflows/ CI : lint + typecheck + tests + build, puis publication Docker
Pas de docker-compose.yml pour l'instant (une seule image, pas encore de dépendances externes type base de données).
Backend (server/)
- Fastify 5, TypeScript strict, ESM (
"type": "module", imports relatifs en.js, résolutionNodeNext). src/index.ts: bootstrap (plugins, écoute, arrêt propre SIGINT/SIGTERM).src/config.ts: configuration runtime depuis l'environnement (PORT,HOST,CLIENT_DIST_PATH).src/routes/: routes Fastify enregistrées comme plugins (health.ts,channel.ts,queue.ts). Chaque domaine métier suit le même principe : un plugin de route fin soussrc/routes/, qui délègue à un service soussrc/services/.src/services/:ytDlpRunner.ts: exécution bas niveau de yt-dlp (node:child_process.spawn, jamais de shell - arguments toujours passés en tableau, jamais concaténés dans une chaîne, pour exclure toute injection de commande). Supporte le suivi ligne par ligne de stdout (onStdoutLine, pour la progression) et l'annulation viaAbortSignal.ChannelDiscoveryService.ts: liste les vidéos/streams d'une chaîne (yt-dlp --flat-playlist -j), filtre par mots-clés sur le titre. Valide strictement le handle/URL de chaîne en entrée (premier caractère forcément alphanumérique) et ajoute un séparateur--avant l'URL passée à yt-dlp, en défense en profondeur contre l'injection d'options.videoUrl.ts: valide qu'une URL de vidéo est bien suryoutube.com/youtu.be(formatswatch/shorts/live/court) avant de la transmettre à yt-dlp. N'accepte aucun autre domaine : yt-dlp sait suivre des centaines de sites via un extracteur générique capable de récupérer une URL quelconque, ce qui en ferait un relais SSRF si cette validation n'existait pas.downloadPlan.ts: fonctions pures construisant les arguments yt-dlp selon le mode (vidéo/audio/miniature) et parsant la progression ([download] 42.0% ...) depuis stdout. Toujours un séparateur--avant l'URL (même défense qu'au-dessus).QueueService.ts: file d'attente en mémoire, exécution avec concurrence bornée (MAX_CONCURRENT_DOWNLOADS, défaut 2). Chaque élément a son propre sous-dossier sousTMP_DIR, supprimé après échec/annulation ou après livraison du fichier au client (consumeCompletedFile->onSent) : le serveur ne conserve jamais durablement les fichiers.
- Le serveur sert aussi les fichiers statiques de
client/distvia@fastify/static. - Tests : Vitest (
server/test/). Trois niveaux : fonctions pures testées directement (downloadPlan.ts,videoUrl.ts), services testés avecytDlpRunnermocké mais un vrai système de fichiers temporaire (QueueService.test.ts, plus réaliste qu'un mock fs), et routes testées viaapp.inject(). Les trois niveaux comptent : un test de service avec un exemple d'entrée mal choisi avait laissé passer une regex de validation trop permissive (--execaccepté), repérée seulement par le test de route avec un autre exemple (voirchannelDiscoveryService.test.ts/channelRoute.test.ts).
Frontend (client/)
- TypeScript vanilla, pas de framework. Chaque vue = un dossier avec
Vue.ts/Vue.html/Vue.scss(gabarit importé comme chaîne brute, style Sass importé et compilé). Voirsrc/shell/pour l'exemple actuel (placeholder). - Build via
build.mjs(esbuild), pas d'outil de build plus lourd (Vite, webpack) : le script compilesrc/app.tsen bundle ESM, copiesrc/index.html, et compile/regroupe les.scssimportés en unapp.cssvoisin (plugin esbuild maison qui délègue au paquetsass). - Pas encore de router : une seule vue (shell) pour l'instant. Un routeur sera introduit avec la première vraie vue (parcours de chaîne).
API
GET /health: statut du service (utilisé par leHEALTHCHECKDocker).GET /api/channel?channel=<@handle|URL>§ion=<videos|streams>&keywords=<a,b>: liste les vidéos/streams d'une chaîne, filtrés par mots-clés (ET, insensible à la casse) sur le titre.sectionpar défautvideos. Réponses :200 { videos: [...] },400sichannelest absent/invalide,502si yt-dlp échoue.POST /api/queue: ajoute un élément ({ url, mode: "video"|"audio"|"thumbnail", subtitles?, embedThumbnail?, audioFormat? }).201 { item },400si l'URL n'est pas une URL de vidéo YouTube reconnue.GET /api/queue: liste tous les éléments ({ items: [...] }), avec leurstatus(pending/running/completed/failed/cancelled),progress(0-100, best-effort) eterror.DELETE /api/queue/:id: annule un élément (204) - retiré de la file s'il était en attente, processus yt-dlp arrêté s'il était en cours.404si inconnu ou déjà terminé.GET /api/queue/:id/file: télécharge le fichier produit par un élémentcompleted(Content-Disposition: attachment). Le dossier de sortie de l'élément est supprimé juste après l'envoi.404tant que l'élément n'est pascompleted.
Lint
Biome.js à la racine (biome.json), applique aux deux paquets (server/src, client/src) - pas d'ESLint/Prettier. downloader/ (scripts legacy, non versionné) est explicitement exclu.
Docker / CI-CD
server/Dockerfile: image multi-étapes construite avec pour contexte la racine du dépôt (docker build -f server/Dockerfile .), car elle a besoin à la fois deserver/etclient/. Étapes : build client (esbuild) → build serveur (tsc) → image runtime (Node 22 Alpine +ffmpeg+ binaire autonomeyt-dlp, utilisateur non-rootnode).yt-dlpetffmpegsont installés dans l'image (pas vendorisés dans le dépôt, contrairement aux scripts.cmdd'origine qui embarquaientyt-dlp.exeet un build ffmpeg complet)..forgejo/workflows/publish-docker.yml: jobtest(lint racine, typecheck/tests/build serveur, typecheck/build client) puis jobpublish(build + push de l'image versgit.dev.kyuno.fr/kyuno/youtubedownloader, seulement sitestpasse et hors PR). Tags :latest+ sha court sur pushmain,X.Y.Z/X.Y/latestsur tagvX.Y.Z. Nécessite le secret de dépôtREGISTRY_TOKEN(à créer manuellement, voir l'en-tête du workflow - un jeton d'API n'a pas le droit d'écrire dans le registre de paquets).
Statut
- Fait : infrastructure (serveur qui répond, client placeholder, Docker, CI), découverte de chaîne (
GET /api/channel), file d'attente + téléchargement vidéo/audio/miniature avec concurrence bornée (/api/queue*). - À venir (PR successives) : notifications temps réel (WebSocket, progression poussée plutôt que sondage de
GET /api/queue), vues frontend (parcours de chaîne, file d'attente).