Introduction au CI/CD

ENSG - Janvier 2019

QRCode to this presentation

Comment utiliser cette présentation ?

  • Pour naviguer, utilisez les flèches en bas à droite (ou celles de votre clavier)

    • Gauche/Droite: changer de chapitre

    • Haut/Bas: naviguer dans un chapitre

  • Pour avoir une vue globale : utiliser la touche "o" (pour "Overview")

  • Pour voir les notes de l’auteur : utilisez la touche "s" (pour "Speaker notes")

Bonjour !

Whoami

Et vous ?

commitstrip

Organisation du Cours

Objectifs

  • Découvrir (ou redécouvrir) les bases des éléments de la "chaîne de production logicielle"

    • SCM, Tests, Sécurité, etc.

  • Découvrir les concepts de l’Intégration Continue et du Déploiement Continu

  • Découvrir Jenkins

  • Mettre en oeuvre Jenkins en tant que dévelopeur

Temps

  • 2 jours ensemble

  • Matin:

    • 09:00 → 10:30

    • 11:00 → 12:30

  • Après-Midi:

  • 13:30 → 15:00

  • 15:30 → 17:00

Evaluation

Evaluation

  • QCM: 25 % de la note

  • Rendu de TP: 75 % de la note

QCM

  • But : évaluer l’acquisition des concepts théoriques autour du CI/CD

  • Format :

    • 10 questions à choix multiples portant sur les 2 jours

    • Pas de points négatifs

  • Temps limité: 15 minutes

Rendu de TP

  • But : évaluer l’acquisition de compétences de mise en oeuvre basiques autour du CI/CD

  • Format:

    • Rendu public dans GitHub : valorisable sur vos CVs

    • Réutilisation d’un de vos projets

  • Temps:

    • Estimation du travail personnel: 4h +- 1h

    • Dates de remise des consignes et rendus à définir ensemble

      • 3 semaines entre les deux

Source Code Management (SCM)

"Gestion de Code Source"

Qu’est ce que le SCM ?

Les Gestionnaires de Code Source, également connus comme "Version Control Systems" (VCS):

  • Sont des systèmes logiciels

  • Conservent toutes les modifications apportées à une collection de fichiers, dans le temps

  • Permettent de partager ces changements

  • Fournissent des fonctionnalités de merge et de suivi des modifications

Pourquoi les SCM ?

  • Pour collaborer efficacement sur un même référentiel de code source

    • Aide à la résolution de conflits

    • Partage de contenu facile

  • Pour conserver une trace de tous les changements : On parle de source unique de vérité (Single Source of Truth)

    • Historique complet des modifications

    • Possibilité de retour arrière à tout moment

Quels sont les types de SCM ?

  • Locaux

  • Centralisés

  • Distribués

SCM Locaux

scm local
  • Plus vieux type, ancêtre de tous les autres

  • Uniquement historique de modification

    • Utilise une "base de donnée de versions" des fichiers

    • Stockage uniquement des différences ("diff")

  • Pas de partage

  • Exemple: rcs (toujours dans Apple XCode Tools)

SCM Centralisés (CVCS)

  • Couvre historique ET partage

    • La "base de données de versions" est stockée sur un serveur central

  • Chaque client ne possède qu'une seule version du code

scm centralized
  • Apprentissage très facile, limité sur la résolution de conflits

  • Exemples: CVS, SVN, Perforce, TFS

SCM Distribués (DVCS)

  • La "base de données de versions" est distribuée par duplication sur chaque noeud

  • Exemples: Git, Mercurial, Bazaar, Monotone

scm distributed

Comment héberger son SCM ?

  • Hébergés dans le Cloud

  • Hébergé "à la maison"

SCM "Hébergés dans le Cloud"

  • SCM as a Service

  • Le serveur centralisé est un service hébergé par un fournisseur

  • Avantages:

    • Pas de temps/énergie passés sur la gestion

    • Associent au SCM d’autre services : gestionnaire de tickets, wiki, éditeur de texte online, etc.

  • Risque: Votre code est hébergé par un tiers

  • Exemples: GitHub, Bitbucket by Atlassian, Amazon CodeCommit, Visual Studio Online by Microsoft, SourceForge, GitLab.com, etc.

SCM "Hébergés dans le Cloud"

  • Pour pallier au risque précédent, on trouve des versions "On-Premide" (généralement payantes)

  • Le monde de l’Open Source fourni également des solutions à héberger soit-même

    • Très souvent gratuit et on peut le corriger

    • Temps et énergie à consacrer

  • Exemples: Gitlab, Gitea, Gogs, Bazaar server, VisualSVN Server, etc.

Terminologie des SCM : Basiques

  • diff: un ensemble de lignes "changées" sur un fichier donné

  • changeset: un ensemble de "diff" (donc peut couvrir plusieurs fichiers)

  • commit: Action de sauvegarder un changeset dans la base de données des versions.

Terminologie des SCM : Représentation

  • Le dernier commit dans l’historique est aliasé comme "HEAD"

scm basics legend
scm basics history

Terminologie des SCM : Branches

  • Abstraction d’une version "isolée" du code

  • Concrètement, une branche est un alias pointant vers un "commit"

scm branches

Terminologie des SCM : Merge

  • On intègre une branche dans une autre en effectuant un merge

    • Un nouveau commit est créé, fruit de la combinaison de 2 autres commits

scm merge

Terminologie des SCM : Pull Request

  • Une Pull Request (ou "Merge Request") est une procédure de revue de code avant intégration

scm pull request

Motifs d’utilisation des SCMs ?

Voici quelques motifs d’utilisation des SCMs :

  • "Centralized" Flow

  • "Feature Branch" Flow

  • "Git" Flow

  • "GitHub" Flow

Centralized Flow

scm centralized flow how to

Feature Branch Flow

  • Une seule branche par fonctionnalité

scm feature branch workflow

Git Flow

scm git workflow

GitHub Flow

github flow

Résoudre des problèmes avec le SCM

Pour aller plus loin…​

Un peu de lecture :

Tests Logiciels

Pourquoi tester un logiciel ?

Qu’est ce que le "test logiciel" ?

  • Le test logiciel est une pratique suivant 2 piliers :

    • Valider que le logiciel remplisse les rôles qui lui sont confiés

    • Rechercher les fautes pour les corriger, améliorant la qualité du système

Tests Automatisé ou Manuels ?

  • Automatiser : répétition et reproductibilité

  • Test Manuel à considérer dans peu de cas, quand :

    • Coût de l’automatisation dépasse sa valeur

    • Automatisation impossible

Terminologie du Test Logiciel

  • SUT: "System Under Testing". Défini les frontières du système.

  • Test Double: Terme générique désignant un sous-ensemble simplifié du "S.U.T.". Exemples: Mock, Stub, Spy, etc.

  • Boîte Blanche: Tester avec une vue interne du SUT

  • Boîte Noire: Tester le SUT sans connaissance préalable de ses mécanismes interne

Comment tester le logiciel ?

  • La question primordiale est: "Que voulez-vous tester ?"

  • En fonction de la réponse, différent types de tests peuvent être utilisé (liste NON exhaustive) :

    • Unit testing

    • Integration testing

    • Smoke testing

    • Functional Testing

    • Non-Regression testing

    • Acceptance testing

Test Unitaire

  • Focalisé sur le plus petit sous sytème possible du SUT, en "boîte blanche"

  • Tests indépendants les uns des autres

    • Ordre d’exécution non important

    • Utilisation de Test Doubles pour simuler le "reste" en bon fonctionnement

test unit

Tests d’Intégration

  • Vérifier l’intégration entre différents sous-systèmes

  • Le SUT est en "boîte blanche"

test integration

Smoke Testing

test smoke
  • But : Fail Fast en "boîte blanche"

  • Valide les fonctions "de base" du système

  • On parle parfois de "Sanity Checking"

If it smokes, it’s bad
— Anonymous Electrician

Tests Fonctionnels

  • Vérifie que le logiciel se comporte comme prévue par les personnes en charge de la fabrication

  • Pas de biais d’inteprétation

  • Le SUT est en "boîte noire"

Tests de Régression

  • Vérifie que le SUT a un comportement stable dans le temps

  • Focalisation sur bug qui ne doit pas revenir

  • Le SUT est en "boîte noire"

test regression
Correcting a single bug may introduce several more.
— Any developer

Tests d’Acceptation

  • Également connu sous l’acronyme "UAT" User Acceptance Testing

  • Vérifie que le logiciel se comporte comme attendu par l’utilisateur

  • Biais de communication inclus

  • Le SUT est en "boîte noire"

test acceptance

Ordre des Tests

  • Fonction des temps d’exécutions, des coûts de corrections, et des valeurs ajoutées. Contextuel.

test pyramid

Test Driven Development

  • TDD: Écrire les tests unitaires avant le code

tdd

Behaviour Driven Development

  • BDD: Privilégier language naturel et interactions

    • "Given, When, Then"

    • Moins de technique. Valeur ajoutée pour l’utilisateur.

bdd

Pour aller plus loin…​

"Continuous Everything"

Qu’est ce que l’Intégration Continue ?

Continuous Integration is a software development practice where members of a team integrate their work frequently. Usually each person integrates at least daily - leading to multiple integrations per day.

— Martin Fowler - Continuous Integration

Intégration Continue (CI)

fail fast continuous integration
  • Construire et intégrer le code en continu

  • Le code est intégré souvent, au moins quotidiennement pour que l’intégration soit un non-évenement

  • Chaque intégration est validée par une construction automatisée avec tests

Pourquoi la CI ?

But : Détecter les fautes au plus tôt

big bugs

Continuous Integration doesn’t get rid of bugs, but it does make them dramatically easier to find and remove.

— Martin Fowler

Livraison Continue

Continous Delivery (CD)

Pourquoi la Livraison Continue ?

  • Diminuer les risque liés au déploiement

  • Permettre de récolter des retours utilisateurs plus souvent

  • Rendre l’avancement visible par tous

How long would it take to your organization to deploy a change that involves just one single line of code?

— Mary and Tom Poppendieck

Qu’est ce que la Livraison Continue ?

  • Suite logique de l’intégration continue:

    • Chaque changement est potentiellement déployable en production

    • Le déploiement peut donc être effectué à tout moment

Your team prioritizes keeping the software deployable over working on new features

— Martin Fowler

Déploiement Continu

Continuous Deployment

Qu’est ce que le Déploiement Continu ?

  • Version "avancée" de la livraison continue:

    • Chaque changement est déployé en production, de manière automatique

  • Question importante: En avez-vous besoin ?

    • Avez-vous les mêmes besoin que Amazon Google ou Netflix ?

Continuous Delivery versus Deployment

continuous depl vs delivery

Pour aller plus loin…​

Chaîne Logistique du Logiciel

"Software Supply Chain"

La boucle de rétroaction

"Feedback loop" / "Boucle de feedback"

Pourquoi de la rétroaction ?

  • Problèmatique : réagir rapidement pour corriger une faute

    • "Au plus tôt, au moins cher"

  • Problème #1: Avoir un retour

  • Problème #2: Réagir systématiquement sur un retour

  • Problème #3: Avoir confiance

Qu’est ce qu’une boucle de Feedback ?

feedback loop

Comment implémenter la rétroaction ?

  • Quels acteurs du système ?

  • Quel médium de communication ?

  • Quel déclencheurs et quelles limites ?

  • Culture à construire, les outils suivent facilement

Chaîne Logistique du Logiciel

supply chain

The Pipeline

pipeline

Qu’est ce qu’un Pipeline ?

  • Industrialisation du logiciel

  • Modélisation de la chaîne de valeur ("Value Stream Mapping")

  • "Fast is cheap": Piloté par le concept de la défaillance rapide ("fail fast")

Anatomie d’un "Pipeline" 1/2

  • Stage ("étape"): Élément de base

    • Abstraction atomiques d’un ensemble d’actions

    • Exemple: "Build", "Run Unit Tests"

    • Possibilité de parallèlisation

  • Gate ("Porte"): Transition entre 2 étapes

    • Manuel ou automatique

    • Peuvent être conditionnelles

Anatomie d’un "Pipeline" 2/2

  • Déclenchement initial : un changement dans la base de code

  • Chaque étape peut produire des livrables: on parlera d'Artefacts dans ce cours

Etapes de "Deploiement"

  • Le déploiement est ce qui permet de rendre le logiciel prêt à l’usage

  • Un "déploiement" est exécuté vers un environnement

    • Production

    • Préproduction ("staging") / recette ("qualification")

    • Tests

    • "Disaster Recovery Environment"

Un example de Pipeline

cd pipeline example

Comment faire des "bons" Pipelines ?

  • Commencer par un "Produit Minimum Viable" (MVP) puis itérer

  • S’efforcer d’appliquer les bonne pratiques

  • Optimiser le Pipeline (lors des itérations)

Bonnes Pratiques

  • Réutilisation des artefacts: "Only Build Your Binaries Once"

  • Arrêt du Pipeline dès qu’une faute est identifiée: "Fail Fast"

    • Identifier si un artefacts n’est pas déployable (tests…​)

  • S’assurer qu’une même version de la base de code est utilisée à tout moment pour un Pipeline donnée

Optimiser le Pipeline

cd pipeline wait
  • Paralléliser les étapes

    • Arrêt du Pipeline si une "branche" est en erreur

    • Sinon: étape inutile à supprimer

  • Les "gates" manuelles peuvent également être paralleliser

    • relation "1-N": N "gates" manuelles déclencheront N étapes parallèles

Exemple de Pipeline optimisé

cd pipeline optimized example

Pour aller plus loin…​

Un peu de lecture :

Sécurité: Basiques

Pourquoi la Sécurité ?

  • Votre organisation utilise l'information pour créer de la valeur

  • L’information doit donc être:

    • Confidentielle

    • Intègre

    • Disponible

Qu’est ce que la Sécurité ?

  • C’est l’ensemble des pratiques et des outils permettant de prévenir et combattre les menaces sur l’organisation

  • 4 piliers:

    • Connaissance du sytème

    • Least Privilege

    • Défense en profondeur

    • Mieux vaut prévenir que guérir

AAA

  • AAA signifie :

    • Authentification

    • Authorisation

    • Accounting (comptabilisation)

Authentification

  • C’est l’ensemble des procédures et outils pour identifier un acteur avec une confiance suffisante

security authentication

Authorisation

  • Une fois l’acteur identifié avec confiance, il faut contrôler ses droit en terme de manipulations

  • Nomenclature :

    • Ressources: Tâches ou objets manipulables et accessibles

    • Rôles: Ensemble de droits regroupés par commodité

    • Requêteurs: Acteur souhaitant manipuler des ressources

Accounting (Comptabilisation)

  • Etre autorisé à manipuler des ressources ne garantie pas l’effection à 100%

    • Limites du système (mémoire, disque, consommation, temps, etc.)

    • Erreurs, pannes et fautes

  • L'"accounting" permet de mesurer et contrôler les manipulations

    • Respect des limites

    • Reprises sur erreur

    • Capacity planning

Pour aller plus loin…​

Un peu de lecture :

Démarrer le lab

Pré-requis

# Vérifier que vagrant est présent
vagrant -v

# Installer le plugin vagrant
vagrant plugin install vagrant-proxyconf

# Configurer le plugin
export VAGRANT_HTTP_PROXY=http://10.0.4.2:3128
export VAGRANT_HTTPS_PROXY="${VAGRANT_HTTP_PROXY}"
export VAGRANT_NO_PROXY=localhost,127.0.0.1

# Configurer le réseau
export EXTERNAL_PORT=10000

Obtenir le template de la VM

  • Depuis le partage formation, récupérez le fichier jenkins-lab-demo.box et copiez le sur votre bureau

  • Ajoutez le template ".box" au catalogue de Vagrant avec les commandes suivants:

# Positionnez vous sur votre Bureau
cd ~/Bureau

# Ajoutez le template sous le nom "jenkins-lab-demo"
vagrant box add jenkins-lab-demo ./jenkins-lab-demo.box

Initialiser l’environnement

  • Créer un dossier de travail nommé jenkins-lab-demo dans votre HOME utilisateur

  • Se positionner dans ce dossier

  • Exécuter vagrant init

mkdir ~/jenkins-lab-demo
cd ~/jenkins-lab-demo
vagrant init -m -f jenkins-lab-demo

Démarrer / Arrêter le lab

vagrant up # Démarrer la VM. Ignorer une éventuelle erreur à propos de "/etc/default/docker"
vagrant suspend # Suspendre la VM
vagrant resume # Relancer la VM
vagrant halt # Arrêter "proprement la VM"
vagrant destroy # Détruire la VM (BRUTAL)

Accéder au lab

  • Dans votre navigateur, ouvrir http://localhost:10000

  • Bienvenue sur la page d’accueil du Lab:

    • Le lien Slides vous permettra d’accéder au slides

Accéder au code source

  • Cliquer sur le lien Git Server sur la page d’accueil du Lab

    • Lien direct

    • S’authentifier en tant que butler (mot de passe butler)

  • Cliquer sur Explore (en haut)

Demo Application

Pourquoi ?

  • But : Illustrer un exemple de "Software Supply Chain"

  • Problématique : Quel language/framework/outil choisir ?

  • Solution:

    • "Opinionated" demo application

    • Tout le monde sur le même pied

Demo Application

  • Application Web

  • Page d’accueil affichant "Greetings from Spring Boot!"

Demo Application : Technical Stack

  • C’est un des exemples de Spring Boot Starter

  • Langage: Java (OpenJDK 8)

  • Toolchain: Maven (Maven >= 3.3)

  • Code source stocké dans un dépôt Git

Demo Application : Check it

  • Configuration Maven: pom.xml

  • Code source de l’application: src/main/java/

  • Code source des tests: src/test

  • Script utilitaires: scripts

Web Command Line

  • Ouvrir la console DevBox

Command Line Tricks

  • Clean the window: clear

  • Show command history: history

  • CTRL + R: search the command history interactively

  • CTRL + C: cancel current command and clean line buffer

  • CTRL + A: jump to beginning of line

  • CTRL + E: jump to end of line

Quelques commandes

  • cat (concatenate)

  • ls (list)

  • cd (change directory)

  • pwd (print working directory)

  • man (manual)

  • rm (remove)

  • mkdir (make directory)

  • touch (create an empty file)

Obtenir le code de la demo

  • Obtenir l’adresse HTTP du dépôt depuis le GitServer

# Get the code. Requires authentication.
git clone http://localhost:10000/gitserver/butler/demoapp
# Browse to the local repository
cd ./demoapp
# Check source code
ls -l

Demo Application : Maven

  • Maven TL;DR:

    • Workflow standardisé

    • pom.xml décrit l’application (Project Object Model)

  • Maven Command line : mvn, attends des goals en argument

    mvn dependency:list
  • Accepte des flags

    mvn dependency:list -fn

Demo Application : Compiler

  • Goal compile

    • Résolution des dépendances

    • Pré-traitement du code source

    • Compilation des classes

  • Résultats dans le dossier ./target:

    mvn compile
    ls -l ./target

Demo Application : Tests Unitaires

  • Goal test

    • Exécute le goal compile

    • Compilation des tests unitaires

    • Exécution des tests unitaires

  • Rapports de tests dans ./target/surefire-reports :

    mvn test
    ls -l ./target/surefire-reports

Demo Application : Construire

  • goal package

    • Exécute les goals compile et test

    • Paquetage de l’application

  • Résultat dans ./target

    mvn package
    ls -lrh ./target/

Demo Application : Exécution

  • Spring Boot demo exécutée comme un "Über-Jar"

  • Exécution avec la commande java:

    java -jar ./target/demoapp.jar
    # Utiliser CTRL-C pour arrêter
  • Ouvrir une autre instance de DevBox (Click Me) et vérifier http//localhost:8080 avec curl

    curl -v http://localhost:8080/

Demo Application : Tests d’intégration

  • Goal verify

    • Exécute compile, test et package

    • Compile et exécute les tests d’intégration sur l’application empaquetée

  • Rapport de tests dans ./target/failsafe-reports:

    mvn verify # 1 test failure expected
    ls -l ./target/failsafe-reports

Jenkins

Meet Jenkins

Jenkins is an open source automation server which enables developers around the world to reliably build, test, and deploy their software.

jenkins logo

Jenkins

  • Orchestrateur de tâches Open Source

  • #1 Serveur Intégration Continue Integration

  • Un des tout premiers moteur d’intégration continue

    • Créé par Kohsuke Kawaguchi en 2006

  • Architecture orientée plugins

Communauté Jenkins

  • Une communauté indépendante et active (jenkins.io)

    • Projet original: "Hudson", renommé "Jenkins" en 2011

    • 500+ releases

    • 150,000+ installations actives

    • 1,200+ plugins

Un Outil Populaire

ci usage rebel lab 2016

Jenkins Pipeline

pipeline picture
  • Un outil pour définir votre "Pipeline" dans Jenkins avec un language de domaine

  • Le Pipeline est décrit dans un fichier texte: le JenkinsFile

  • "Pipeline-as-code" : Stocké dans un SCM

Débuter avec les pipelines

i have no idea what i am doing

Débuter avec les Pipelines

Syntaxe Déclarative ou Scriptée ?

  • Declarative

    • Syntaxe par défaut

    • S’utilise avec Blue Ocean

  • Scripted

    • Syntaxe originale (~3 ans)

    • "Great Power == Great Responsibility"

    • À utiliser lorsque le Déclaratif commence à être bizarre

Simple Jenkins Pipeline

Accéder à Jenkins

  • Cliquez sur le lien "Jenkins" sur la page d’accueil du lab

    • Lien direct

    • Authentifiez vous en tant que butler (le mot de passe est butler)

Blue Ocean

  • Passez à l’interface Blue Ocean:

    • Lien direct

    • Ou cliquez sur le lien "Open Blue Ocean" à gauche

Exercice : Configurer le projet dans Jenkins

  • Créer un nouveau Pipeline, avec les réglages suivants :

    • Stocké dans Git

    • Repository URL: Dans Gitea, récupérez l’URL en SSH : gitea ssh url

    • Vérifiez la clef SSH que Jenkins puisse accéder au code :

      • Dans Gitea, cliquez en haut à droite sur le drop-down, allez dans "Settings" → "SSH/GPG Keys"

Exercice : L’éditeur de Pipeline

  • Cliquez sur le bouton Create a Pipeline

  • Aucun fichier Jenkinsfile n’est trouvé dans le dépôt de code: Le Blue Ocean Pipeline Editor s’ouvre pour en générer un.

  • Familiarisez-vous avec l’interface:

    • Pour créer une étape ("stage"), utilisez le petit "plus" (plus)

    • Cliquez sur une étape pour voir le panneau de configuration à droite

Exercice : Votre Premier Pipeline

  • Créez un pipeline avec 3 "stages" : Build, Test et Deploy

  • Chaque "stage" doit avoir 1 "step" qui affiche un message

    • "Building…​" pour Build, "Testing…​" pour Test …​

Solution : Votre Premier Pipeline

pipeline {
  agent any
  stages {
    stage('Build') {
      steps {
        echo 'Build'
      }
    }
    stage('Test') {
      steps {
        echo 'Test'
      }
    }
    stage('Deploy') {
      steps {
        echo 'Deploy'
      }
    }
  }
}

Exercice : Exécuter des tâches

  • En utilisant Blue Ocean Pipeline Editor:

    • Modifiez les 3 stages du pipeline actuel

    • Les scripts sont stockés dans le dossier ./scripts

    • Utilisez la "step" Shell Script (mot clef sh)

    • Supprimez les steps echo

Solution : Exécuter des tâches

pipeline {
  agent any
  stages {
    stage('Build') {
      steps {
        sh './scripts/build.sh'
      }
    }
    stage('Test') {
      steps {
        sh './scripts/integration-tests.sh'
      }
    }
    stage('Deploy') {
      steps {
        sh './scripts/deploy.sh'
      }
    }
  }
}

Exercice : Archives et Tests

  • En utilisant le Blue Ocean Pipeline Editor:

    • Modifiez le pipeline actuel

    • La "stage" Build doit archiver tous les fichier ".jar" générés

      • Indices : Dans le dossier target, motif *.jar

    • La "stage" Test doit publier les rapports de test d’intégration au format junit

      • Indices : Dans le dossier target/failsafe-reports, motif **/*.xml

  • Le Pipeline doit être UNSTABLE

Solution : Archives et Tests

pipeline {
  agent any
  stages {
    stage('Build') {
      steps {
        sh './scripts/build.sh'
        archiveArtifacts 'target/*.jar'
      }
    }
    stage('Test') {
      steps {
        sh './scripts/integration-tests.sh'
        junit 'target/failsafe-reports/**/*.xml'
      }
    }
    stage('Deploy') {
      steps {
        sh './scripts/deploy.sh'
      }
    }
  }
}

Amélioration du Pipeline

Exercise: Réparer le build

  • Le build est en état UNSTABLE (jaune)

  • Priorité: réparer le build

  • Utiliser Gitea git server

  • Les tests d’intégration sont dans src/test/java/hello

  • Indices:

    • Integration Tests: == IT

  • Pour relancer le build : depuis l’accueil Blue Ocean, naviguez sur le projet → Branches, et regardez à droite, dans la ligne correspondant à "master"

Solution: Réparer le build

  • Depuis src/test/java/hello/HelloControllerIT.java

    • Cliquer sur "Edit"

  • Commenter la ligne 39

  • -commenter la ligne 40

  • Commit avec un message (push automatique)

  • Lancer le build manuellement dans Blue Ocean

  • Le build doit être vert (Stable)

Webhooks pour un retour plus rapide

  • Nous avons dû lancer le build manuellement

  • IC: Retours rapides !

    • Lancer le build dès que le code est poussé

Exercise: Webhooks

Solution: Webhooks

  • Ajoutez un commentaire dans le Jenkinsfile depuis Gitea git server

    • Un build va démarrer

    • Validez dans l’onglet "Changes"

Aller plus loin…​

  • Dans l’éditeur Blue Ocean, voir la version textuelle:

    • Combinaison CTRL + S (On Mac: CMD +S)

    • Bi-directionnel: essayez de charger une solution de pipeline

  • Le Pipeline Syntax Snippet Generator comme acolyte:

Exercise - Réutilisation Binaire

  • But: réutiliser les binaires générés dans Build

  • Action: "mise sur étagère": Stash / Unstash

  • Modifier le Pipeline pour :

    • "Stasher" le dossier target, à la fin de la phase Build

    • "Unstasher" au début de la phase Test

  • Attention, une limite de l’éditeur Blue Ocean va être atteinte

Solution - Réutilisation Binaire

  • L’éditeur Blue Ocean ne supporte pas encore le ré-ordonnancement de "stages"

    • Mode textuel et/ou Snippet Generator à utiliser

pipeline {
  agent any
  stages {
    stage('Build') {
      steps {
        sh './scripts/build.sh'
        archiveArtifacts 'target/*.jar'
        stash(name: 'build-result', includes: 'target/**/*')
      }
    }
    stage('Test') {
      steps {
        unstash 'build-result'
        sh './scripts/integration-tests.sh'
        junit 'target/failsafe-reports/**/*.xml'
      }
    }
    stage('Deploy') {
      steps {
        sh './scripts/deploy.sh'
      }
    }
  }
}

Post-Stage

  • Section post :

    • Contient des "steps" à exécuter à la fin du Pipeline ou après une "stage"

    • Divisé en "condition d’états": always, success, failure, changed

  • Chaque condition contient ses propres "steps"

  • Pas encore intégré dans l’éditeur Blue Ocean

Exercice - Rapport de Tests Unitaires

  • Si le "stage" Build échoue, alors la tâche "archiveArtifacts" ne devrait pas être exécutée

    • Même chose pour stash

  • Les rapports de tests unitaires doivent être publiés dans tous les cas après la phase Build

    • Format Junit

    • Stockés dans target/**/*.xml

  • Utiliser la documentation:

Solution - Rapport de Tests Unitaires

pipeline {
  agent any
  stages {
    stage('Build') {
      steps {
        sh './scripts/build.sh'
      }
      post {
        success {
          archiveArtifacts 'target/*.jar'
          stash(name: 'build-result', includes: 'target/**/*')
        }
        always {
          junit 'target/surefire-reports/**/*.xml'
        }
      }
    }
    stage('Test') {
      steps {
        unstash 'build-result'
        sh './scripts/integration-tests.sh'
        junit 'target/failsafe-reports/**/*.xml'
      }
    }
    stage('Deploy') {
      steps {
        sh './scripts/deploy.sh'
      }
    }
  }
}

Agents

Qu’est ce qu’un Agent?

  • Un noeud (ou node) est une machine prête à recevoir des builds

  • Step agent spécifie sur quel "noeud" exécuter des "stages".

  • Une section agent globale doit être définie (au niveau du block pipeline)

  • On peut aussi définire des sections agent par "stage"

Exercice : Agents

  • Exécuter l’étape Build sur un agent configuré avec le label maven-jdk8

  • Exécuter l’étape Test sur un agent configuré avec le label java8

  • L’éditeur Blue Ocean est utilisable

Solution : Agents

pipeline {
  agent any
  stages {
    stage('Build') {
      agent {
        node {
          label 'maven-jdk8'
        }
      }
      steps {
        sh './scripts/build.sh'
      }
      post {
        always {
          junit 'target/surefire-reports/**/*.xml'
        }
        success {
          archiveArtifacts 'target/*.jar'
          stash(name: 'build-result', includes: 'target/**/*')
        }
      }
    }
    stage('Test') {
      agent {
        node {
          label 'java8'
        }
      }
      steps {
        unstash 'build-result'
        sh './scripts/integration-tests.sh'
        junit 'target/failsafe-reports/**/*.xml'
      }
    }
    stage('Deploy') {
      steps {
        sh './scripts/deploy.sh'
      }
    }
  }
}

Exercice : Tests Parallèles

  • But: Tester en parallèle l’application sur java 12 et 8

  • Mot clef parallel définissant un block contenant des "stages"

  • Agent java12 pour le Test Java 12

  • L’éditeur Blue Ocean est utilisable (et recommandé)

Solution : Tests Parallèles

pipeline {
  agent any
  stages {
    stage('Build') {
      agent {
        node {
          label 'maven-jdk8'
        }
      }
      steps {
        sh './scripts/build.sh'
      }
      post {
        always {
          junit 'target/surefire-reports/**/*.xml'
        }
        success {
          archiveArtifacts 'target/*.jar'
          stash(name: 'build-result', includes: 'target/**/*')
        }
      }
    }
    stage('Test') {
      parallel {
        stage('Test Java 8') {
          agent {
            node {
              label 'java8'
            }
          }
          steps {
            unstash 'build-result'
            sh './scripts/integration-tests.sh'
            junit 'target/failsafe-reports/**/*.xml'
          }
        }
        stage('Test Java 12') {
          agent {
            node {
              label 'java12'
            }
          }
          steps {
            unstash 'build-result'
            sh './scripts/integration-tests.sh'
            junit 'target/failsafe-reports/**/*.xml'
          }
        }
      }
    }
    stage('Deploy') {
      steps {
        sh './scripts/deploy.sh'
      }
    }
  }
}

Docker

Docker: un environment portable

  • Problème courante : Environnements différents entre le poste du dév. et la production

  • Solution: Utiliser Docker pour définir un environment portable

Exercices avec Docker

  • Dans Gitea, examinez le fichier Dockerfile

  • Dans Devbox, essayez les commandes suivante:

## Construire uniquement l'environnement de build
docker build --build-arg HTTP_PROXY=http://10.0.4.2:3128/ \
    --build-arg HTTPS_PROXY=http://10.0.4.2:3128/  \
    -t demoapp:build -f Dockerfile.build ./

## Executer un container
mvn -v
docker run --rm -ti -v $(pwd):/app --entrypoint="bash" demoapp:build
bash-4.4# ls -al /app
bash-4.4# mvn -v # Difference ?

Agents avec Docker

  • But: Usage de Docker pour faciliter la définition des environements de build

  • Le mot clef agent permet d’exécuter les "stages" dans un container Docker, depuis une "image Docker", ou depuis un Dockerfile (recette maison d’image Docker)

Exercice : Agent Docker

  • Exécuter l’étape Build dans un containeur basé sur le fichier Dockerfile.build

  • Attention, le proxy doit être précisé à Jenkins. Comment passer le flag --build-arg dans le pipeline?

  • Attention, le proxy doit également être passé à Maven, qui ne sait pas lire la variable HTTP_PROXY

    • Indice : Documentation de Maven sur la configuration d’un proxy

    • Indice : L’utilisateur par défaut dans Dockerfile.build est root. Son HOME est le dossier /root

    • Indice : Vous pouvez tester dans la devbox de manière interactive

Solution : Agent Docker 1/3

Fichier Jenkinsfile :

pipeline {
  agent any
  stages {
    stage('Build') {
      agent {
        dockerfile {
          filename 'Dockerfile.build'
          label 'docker'
          additionalBuildArgs  '--build-arg HTTP_PROXY=http://10.0.4.2:3128/ --build-arg HTTPS_PROXY=http://10.0.4.2:3128/'
        }
      }
      steps {
        sh './scripts/build.sh'
      }
      post {
        always {
          junit 'target/surefire-reports/**/*.xml'
        }
        success {
          archiveArtifacts 'target/*.jar'
          stash(name: 'build-result', includes: 'target/**/*')
        }
      }
    }
    stage('Test') {
      parallel {
        stage('Test Java 8') {
          agent {
            node {
              label 'java8'
            }
          }
          steps {
            unstash 'build-result'
            sh './scripts/integration-tests.sh'
            junit 'target/failsafe-reports/**/*.xml'
          }
        }
        stage('Test Java 12') {
          agent {
            node {
              label 'java12'
            }
          }
          steps {
            unstash 'build-result'
            sh './scripts/integration-tests.sh'
            junit 'target/failsafe-reports/**/*.xml'
          }
        }
      }
    }
    stage('Deploy') {
      steps {
        sh './scripts/deploy.sh'
      }
    }
  }
}

Solution : Agent Docker 2/3

Fichier settings.xml :

<settings>
    <proxies>
        <proxy>
            <id>httpproxy</id>
            <active>true</active>
            <protocol>http</protocol>
            <host>10.0.4.2</host>
            <port>3128</port>
            <nonProxyHosts>ensg.eu|localhost</nonProxyHosts>
        </proxy>
        <proxy>
            <id>httpsproxy</id>
            <active>true</active>
            <protocol>https</protocol>
            <host>10.0.4.2</host>
            <port>3128</port>
            <nonProxyHosts>ensg.eu|localhost</nonProxyHosts>
        </proxy>
    </proxies>
</settings>

Solution : Agent Docker 3/3

FROM maven:3-jdk-8-alpine
# Install Some tools
RUN apk add --no-cache \
  curl \
  bats \
  docker \
  git

# Configure Proxy
RUN mkdir -p /root/.m2
COPY ./settings.xml /root/.m2/settings.xml

Pipeline Avancés

Input

  • Jenkins permet de "mettre en pause" l’exécution d’un pipeline, en attendant une validation humaine

  • Continuous Delivery / Deployment

  • Mot-clef input, c’est une "step" Pipeline

  • Généralement utilisé dans un "stage" dédié.

    • Obligatoirement avec agent none (pas d’exécuteur, pas de workspace)

Exercice : Validation Humaine

  • Ajouter une stage "approval" avant le déploiement

Solution : Validation Humaine

pipeline {
  agent any
  stages {
    stage('Build') {
      agent {
        dockerfile {
          filename 'Dockerfile.build'
          label 'docker'
          additionalBuildArgs  '--build-arg HTTP_PROXY=http://10.0.4.2:3128/ --build-arg HTTPS_PROXY=http://10.0.4.2:3128/'
        }
      }
      steps {
        sh './scripts/build.sh'
      }
      post {
        always {
          junit 'target/surefire-reports/**/*.xml'
        }
        success {
          archiveArtifacts 'target/*.jar'
          stash(name: 'build-result', includes: 'target/**/*')
        }
      }
    }
    stage('Test') {
      parallel {
        stage('Test Java 8') {
          agent {
            node {
              label 'java8'
            }
          }
          steps {
            unstash 'build-result'
            sh './scripts/integration-tests.sh'
            junit 'target/failsafe-reports/**/*.xml'
          }
        }
        stage('Test Java 12') {
          agent {
            node {
              label 'java12'
            }
          }
          steps {
            unstash 'build-result'
            sh './scripts/integration-tests.sh'
            junit 'target/failsafe-reports/**/*.xml'
          }
        }
      }
    }
    stage('Approval') {
      agent none
      steps {
        input(message: 'Deploy Application?', ok: 'Yes Deploy!')
      }
    }
    stage('Deploy') {
      steps {
        sh './scripts/deploy.sh'
      }
    }
  }
}

Conditionnal Stage

  • Définir l’exécution conditionnelle d’une "stage"

  • Mot clef when

  • Doit contenir au moins une condition parmi:

    • branch

    • environment

    • expression

    • Logique "built-in": allOf, anyOf, etc.

  • When Documentation

Variables d’environments

  • Définir des collections de clé-valeurs, en tant que variables d’environement:

    • Définition globale ou par "stage"

    • Ou en utilisant withEnv dans un block steps pour une instruction spécifique

Exercice : Déploiement Conditionnel

  • N’éxecuter les "stages" Approval et Deploy que:

    • Si on se trouve sur la branche master

    • Ou si la variable FORCE_DEPLOY est à true

Solution : Déploiement Conditionnel

pipeline {
  agent any
  environment {
    FORCE_DEPLOY = 'false'
  }
  stages {
    stage('Build') {
      agent {
        dockerfile {
          filename 'Dockerfile.build'
          label 'docker'
          additionalBuildArgs  '--build-arg HTTP_PROXY=http://10.0.4.2:3128/ --build-arg HTTPS_PROXY=http://10.0.4.2:3128/'
        }
      }
      steps {
        sh './scripts/build.sh'
      }
      post {
        always {
          junit 'target/surefire-reports/**/*.xml'
        }
        success {
          archiveArtifacts 'target/*.jar'
          stash(name: 'build-result', includes: 'target/**/*')
        }
      }
    }
    stage('Test') {
      parallel {
        stage('Test Java 8') {
          agent {
            node {
              label 'java8'
            }
          }
          steps {
            unstash 'build-result'
            sh './scripts/integration-tests.sh'
            junit 'target/failsafe-reports/**/*.xml'
          }
        }
        stage('Test Java 12') {
          agent {
            node {
              label 'java12'
            }
          }
          steps {
            unstash 'build-result'
            sh './scripts/integration-tests.sh'
            junit 'target/failsafe-reports/**/*.xml'
          }
        }
      }
    }
    stage('Approval') {
      agent none
      steps {
        input(message: 'Deploy Application?', ok: 'Yes Deploy!')
      }
      when {
        anyOf {
          branch 'master'
          environment name: 'FORCE_DEPLOY', value: 'true'
        }
      }
    }
    stage('Deploy') {
      steps {
        sh './scripts/deploy.sh'
      }
      when {
        anyOf {
          branch 'master'
          environment name: 'FORCE_DEPLOY', value: 'true'
        }
      }
    }
  }
}

Paramètres

  • Directive parameters : l’utilisateur fournit des argument au pipeline

  • Disponible en tant que variables accessibles dans l’objet params

  • Oeuf & Poule : Jenkins ne peut accéder au paramètre lors dur 1er build

Exercice : Paramètres

  • Ajouter un paramètre DEPLOY_MESSAGE dont la valeur par défaut est Deploy ?

  • Ce paramètre est utilisé dans le input

Solution : Paramètres

pipeline {
  agent any
  parameters {
    string(name: 'DEPLOY_MESSAGE', defaultValue: 'Deploy ?', description: 'Message de déploiement')
  }
  environment {
    FORCE_DEPLOY = 'false'
  }
  stages {
    stage('Build') {
      agent {
        dockerfile {
          filename 'Dockerfile.build'
          label 'docker'
          additionalBuildArgs  '--build-arg HTTP_PROXY=http://10.0.4.2:3128/ --build-arg HTTPS_PROXY=http://10.0.4.2:3128/'
        }
      }
      steps {
        sh './scripts/build.sh'
      }
      post {
        always {
          junit 'target/surefire-reports/**/*.xml'
        }
        success {
          archiveArtifacts 'target/*.jar'
          stash(name: 'build-result', includes: 'target/**/*')
        }
      }
    }
    stage('Test') {
      parallel {
        stage('Test Java 8') {
          agent {
            node {
              label 'java8'
            }
          }
          steps {
            unstash 'build-result'
            sh './scripts/integration-tests.sh'
            junit 'target/failsafe-reports/**/*.xml'
          }
        }
        stage('Test Java 12') {
          agent {
            node {
              label 'java12'
            }
          }
          steps {
            unstash 'build-result'
            sh './scripts/integration-tests.sh'
            junit 'target/failsafe-reports/**/*.xml'
          }
        }
      }
    }
    stage('Approval') {
      agent none
      steps {
        input(message: params.DEPLOY_MESSAGE, ok: 'Yes Deploy!')
      }
      when {
        anyOf {
          branch 'master'
          environment name: 'FORCE_DEPLOY', value: 'true'
        }
      }
    }
    stage('Deploy') {
      steps {
        sh './scripts/deploy.sh'
      }
      when {
        anyOf {
          branch 'master'
          environment name: 'FORCE_DEPLOY', value: 'true'
        }
      }
    }
  }
}

Options & Configurations

  • Options: Configurer un "job" depuis le Pipeline

  • Configuration: Même chose dans la GUI "Legacy"

  • Mot clef options

  • Documentation des options: https://jenkins.io/doc/book/pipeline/syntax/#options

  • Certaines options comme timeout peuvent être appliquée dans un bloc step

Exercice : Options & Timeout Approval

  • On souhaite que la "stage" Approval attende 3 minute avant d’arrêter le pipeline

  • On ne veut conserver que les 5 derniers builds d’un pipeline: limiter l’usage disque

Solution : Options & Timeout Approval

pipeline {
  agent any
  options {
    buildDiscarder(logRotator(numToKeepStr: '5'))
  }
  parameters {
    string(name: 'DEPLOY_MESSAGE', defaultValue: 'Deploy ?', description: 'Message de déploiement')
  }
  environment {
    FORCE_DEPLOY = 'false'
  }
  stages {
    stage('Build') {
      agent {
        dockerfile {
          filename 'Dockerfile.build'
          label 'docker'
          additionalBuildArgs  '--build-arg HTTP_PROXY=http://10.0.4.2:3128/ --build-arg HTTPS_PROXY=http://10.0.4.2:3128/'
        }
      }
      steps {
        sh './scripts/build.sh'
      }
      post {
        always {
          junit 'target/surefire-reports/**/*.xml'
        }
        success {
          archiveArtifacts 'target/*.jar'
          stash(name: 'build-result', includes: 'target/**/*')
        }
      }
    }
    stage('Test') {
      parallel {
        stage('Test Java 8') {
          agent {
            node {
              label 'java8'
            }
          }
          steps {
            unstash 'build-result'
            sh './scripts/integration-tests.sh'
            junit 'target/failsafe-reports/**/*.xml'
          }
        }
        stage('Test Java 12') {
          agent {
            node {
              label 'java12'
            }
          }
          steps {
            unstash 'build-result'
            sh './scripts/integration-tests.sh'
            junit 'target/failsafe-reports/**/*.xml'
          }
        }
      }
    }
    stage('Approval') {
      agent none
      steps {
        timeout(time: 3, unit: 'MINUTES') {
          input(message: params.DEPLOY_MESSAGE, ok: 'Yes Deploy!')
        }
      }
      when {
        anyOf {
          branch 'master'
          environment name: 'FORCE_DEPLOY', value: 'true'
        }
      }
    }
    stage('Deploy') {
      steps {
        sh './scripts/deploy.sh'
      }
      when {
        anyOf {
          branch 'master'
          environment name: 'FORCE_DEPLOY', value: 'true'
        }
      }
    }
  }
}

Aller plus loin

Industrie CI/CD

  • Industrialisation du logiciel : secteur balbutiant et très dynamique

  • Beaucoup de solutions !

Analyse du besoin

  • Hébergement du Service ?

  • Existant ?

  • Profil des utilisateurs ?

  • Criticité ?

  • CI seul ou "plus large" ?

  • Topologie de facturation ?

De nombreux outils 1/2

  • SaaS (modèles gratuits et/ou Enterprise) :

    • TravisCI

    • CircleCI

    • CodeShip

    • GitLab.com

    • Microsoft VSTS

    • Amazon Pipeline

    • BitBucket Pipeline

De nombreux outils 2/2

  • A héberger soit-même :

    • Jenkins

    • CloudBees Jenkins Enteprise

    • GitLab

    • Microsoft VSTS

    • Atlassian Bamboo (BitBucket Pipeline)

Le Futur