Différences

Ci-dessous, les différences entre deux révisions de la page.

Lien vers cette vue comparative

Les deux révisions précédentes Révision précédente
Prochaine révision
Révision précédente
developpement:productions:sidus [2013/11/04 12:12]
ltaulell [Deboostrap]
developpement:productions:sidus [2018/09/10 17:01] (Version actuelle)
ltaulell [Combien ?]
Ligne 2: Ligne 2:
  
 {{ :​developpement:​productions:​sidus.png?​200 |}} {{ :​developpement:​productions:​sidus.png?​200 |}}
- 
-<note tip>​SIDUS à l'​honneur au kiosque numérique de [[http://​www.linuxjournal.com/​content/​november-2013-issue-linux-journal-system-administration|Linux Journal en Novembre 2013]]. Merci encore à Marianne Corvellec pour son aide précieuse dans la promotion de SIDUS (collaboration pour cet article & présentation de [[http://​conference.scipy.org/​scipy2013/​presentation_detail.php?​id=199|Scipy 2013]])</​note>​ 
- 
- 
-<note warning>​Tous les éléments présents dans cette documentation,​ les morceaux de code, etc entrent dans le cadre de la licence [[http://​www.cecill.info/​index.fr.html|CeCILL]]. Il est donc nécessaire de respecter les 4 libertés fondamentales des logiciels libres pour exploiter SIDUS dans sa propre infrastructure. Si vous comptez utiliser SIDUS dans votre infrastructure,​ faites le savoir à son [[emmanuel.quemener@ens-lyon.fr|auteur]],​ Centre Blaise Pascal ou citez le !</​note>​ 
- 
-<note tip>​Première [[https://​conference.scipy.org/​scipy2013/​presentation_detail.php?​id=199|présentation]] avec [[http://​www.youtube.com/​watch?​v=J5myH0y_bks|vidéo]] de **SIDUS** à [[http://​conference.scipy.org/​scipy2013|Scipy 2013]]</​note>​ 
  
 **SIDUS** est l'​acronyme de //Single Instance Distributing Universal System// et se propose de simplifier à l'​extrême l'​administration de machines. ​ **SIDUS** est l'​acronyme de //Single Instance Distributing Universal System// et se propose de simplifier à l'​extrême l'​administration de machines. ​
Ligne 55: Ligne 48:
 Le Centre Blaise Pascal, hôtel à projets de l'​ENS-Lyon dans le domaine du calcul et de l'​informatique scientifiques,​ utilise SIDUS pour tous ses équipements dont l'​uniformité doit être conservée le plus possible : un simple redémarrage doit suffire à replacer le système dans son état d'​origine. Le Centre Blaise Pascal, hôtel à projets de l'​ENS-Lyon dans le domaine du calcul et de l'​informatique scientifiques,​ utilise SIDUS pour tous ses équipements dont l'​uniformité doit être conservée le plus possible : un simple redémarrage doit suffire à replacer le système dans son état d'​origine.
  
-Le Pôle Scientifique de Modélisation Numérique (PSMN), centre de calcul de l'​ENS-Lyon,​ utilise maintenant SIDUS sur une centaine ​de noeuds ​et prépare sa généralisation pour la mise en place de Equip@Meso (près de 200 noeuds supplémentaires).+Le Pôle Scientifique de Modélisation Numérique (PSMN), centre de calcul de l'​ENS-Lyon,​ utilise maintenant SIDUS sur la totalité ​de ses noeuds de calcul.
  
 Le laboratoire de Chimie utilise "​COMOD"​ pour quelques postes de travail "à la demande"​. Le laboratoire de Chimie utilise "​COMOD"​ pour quelques postes de travail "à la demande"​.
  
-Des membres des laboratoires de l'​IGFL,​ du LBMC et du LJC se sont montrés intéressés par "​COMOD"​ : il reste à définir les modalités d'accès lesquelles ne sont pas entre les mains du CBP.+Les laboratoires de l'​IGFL,​ du LBMC et du LJC utilisent ​"​COMOD"​ : un cluster de 5 stations de travail gavées de GPU au LBMC, des stations graphiques ​à l'IGFL et au LJC.
  
 L'​université Joseph Fourier, dans le cadre de ses écoles thématiques sur le calcul scientifique,​ utilise depuis 2011 SIDUS pour l'​infrastructure de travaux pratiques des auditeurs. L'​université Joseph Fourier, dans le cadre de ses écoles thématiques sur le calcul scientifique,​ utilise depuis 2011 SIDUS pour l'​infrastructure de travaux pratiques des auditeurs.
Ligne 67: Ligne 60:
 De 8 clients légers Neoware gonflés en CPU et mémoire et détournés début 2010 de leur vocation originelle, nous approchons les 120 machines au CBP utilisant ce système. ​ De 8 clients légers Neoware gonflés en CPU et mémoire et détournés début 2010 de leur vocation originelle, nous approchons les 120 machines au CBP utilisant ce système. ​
  
-De quelques machines déployées à des fins expérimentales,​ le Pôle Scientifique de Modélisation Numérique utilise également SIDUS en production ​pour près 100 noeuds. ​Le futur équipement informatique Equip@Meso ​de près de 150 noeuds ​supplémentairesutilisera ​SIDUS comme socle dans quelques semaines.+De quelques machines déployées à des fins expérimentales,​ le Pôle Scientifique de Modélisation Numérique utilise également SIDUS en production ​sur plus de 500 noeuds. ​L'équipement informatique Equip@Meso ​d'​environ ​150 noeuds ​à lui tout seulutilise également ​SIDUS comme socle.
  
 Quelques chercheurs du laboratoire de chimie utilisent SIDUS via COMOD : la disponibilité en offrant la possibilité de déployer une machine complète et opérationnelle sur son poste de travail en quelques secondes. Quelques chercheurs du laboratoire de chimie utilisent SIDUS via COMOD : la disponibilité en offrant la possibilité de déployer une machine complète et opérationnelle sur son poste de travail en quelques secondes.
Ligne 165: Ligne 158:
  
 A la suite de cette commande, nous devons prendre quelques précautions : A la suite de cette commande, nous devons prendre quelques précautions :
-  * normalement,​ si le paquet Debian est un service, ce dernier démarre après son installation. Nous devons donc inhiber le lancement de ce service par la définition d'un hook :+  * normalement,​ si le paquet Debian est un service, ce dernier démarre après son installation. Nous devons donc inhiber le lancement de ce service par la définition d'un hook (''/​usr/​sbin/​policy-rc.d''​) ​:
 <code bash> <code bash>
 #!/bin/sh #!/bin/sh
Ligne 185: Ligne 178:
 ===== Paquets spécifiques ===== ===== Paquets spécifiques =====
  
-De manière à simplifier l'​installation de paquets appartenant à la même famille, Debian a créé de nombreux meta-paquets,​ préfixés de "​science"​ : **science-chemistry** désigne par exemple tous les paquets de chimie. La commande d'​installation de tous paquets scientifiques se fait par une seule commande. Comme nous sommes épris de complétude,​ nous allons "​aussi"​ rajouter les paquets "​suggérés"​ (attention, l'​option ''​--install-suggests''​ n'est présente qu'à partir de la distribution Wheezy) :<​code>​ +De manière à simplifier l'​installation de paquets appartenant à la même famille, Debian a créé de nombreux meta-paquets,​ préfixés de "​science"​ : **science-chemistry** désigne par exemple tous les paquets de chimie. La commande d'​installation de tous paquets scientifiques se fait par une seule commande. Comme nous sommes épris de complétude,​ nous allons "​aussi"​ rajouter les paquets "​suggérés"​ (attention, l'​option ''​--install-suggests''​ n'est présente qu'à partir de la distribution Wheezy) : 
-time sidus apt-get install --install-suggests -f -m -y --force-yes science-*</​code>​+<​code>​sidus apt-get install --install-suggests -f -m -y --force-yes science-*</​code>​
  
 Durant l'​installation,​ les phases les plus longues sont le téléchargement des paquets qui représente plusieurs Go (et dépend donc de la connectivité à Internet et aux miroirs officiels) et la configuration initiale de certains paquets (comme Perl et LaTeX). Durant l'​installation,​ les phases les plus longues sont le téléchargement des paquets qui représente plusieurs Go (et dépend donc de la connectivité à Internet et aux miroirs officiels) et la configuration initiale de certains paquets (comme Perl et LaTeX).
Ligne 194: Ligne 187:
 ===== Purge ===== ===== Purge =====
  
-Malheureusement,​ cette boulimie d'​installation n'est pas sans effet. Des paquets s'​installent encore un peu "​mal"​ et une purge de quelques uns, notamment un installeur Matlab, nous hérisse le poil !<​code>​ +Malheureusement,​ cette boulimie d'​installation n'est pas sans effet. Des paquets s'​installent encore un peu "​mal"​ et une purge de quelques uns, notamment un installeur Matlab, nous hérisse le poil ! 
-time sidus apt-get purge -y -f --force-yes matlab-*</​code>​+<​code>​sidus apt-get purge -y -f --force-yes matlab-*</​code>​
  
 ===== Environnement local ===== ===== Environnement local =====
Ligne 230: Ligne 223:
 ===== Séquence de démarrage ===== ===== Séquence de démarrage =====
  
-Comment ​partage ​SIDUS sans le dupliquer ? Nous allons nous inspirer de mécanisme utilisé dans certains LiveCD : le montage de la racine du système consiste en la superposition de deux couches, l'une lecture seule (le système NFSroot) et l'​autre en lecture/​écriture (un TMPFS dans le cas le plus simple). Les deux couches sont liées par la glue AUFS, le projet successeur de UnionFS.+Comment ​partager ​SIDUS sans le dupliquer ? Nous allons nous inspirer de mécanisme utilisé dans certains LiveCD : le montage de la racine du système consiste en la superposition de deux couches, l'une lecture seule (le système NFSroot) et l'​autre en lecture/​écriture (un TMPFS dans le cas le plus simple). Les deux couches sont liées par la glue AUFS, le projet successeur de UnionFS.
  
 Tout réside dans un seul et unique "​hook"​ au démarrage : rootaufs, placé très tôt dans le démarrage initrd. Son principe repose sur cinq étapes :  Tout réside dans un seul et unique "​hook"​ au démarrage : rootaufs, placé très tôt dans le démarrage initrd. Son principe repose sur cinq étapes : 
Ligne 255: Ligne 248:
 <note important>​Dans [[http://​www.linuxjournal.com/​content/​november-2013-issue-linux-journal-system-administration|numéro de novembre 2013 de Linux Journal]], ''​vmlinux-Sidus''​ est mentionné en lieu et place de ''​vmlinuz-Sidus''​ comme noyau servi par le serveur TFTP.</​note>​ <note important>​Dans [[http://​www.linuxjournal.com/​content/​november-2013-issue-linux-journal-system-administration|numéro de novembre 2013 de Linux Journal]], ''​vmlinux-Sidus''​ est mentionné en lieu et place de ''​vmlinuz-Sidus''​ comme noyau servi par le serveur TFTP.</​note>​
 Il suffit ensuite de copier les noyau et boot loader dans la définition :<​code>​ Il suffit ensuite de copier les noyau et boot loader dans la définition :<​code>​
-cp ${SIDUS}/​vmlinuz /​srv/​tftp/​vmlinuz-Sidus +cp ${SIDUS}/boot/vmlinuz-3.2.0-4-amd64 ​/​srv/​tftp/​vmlinuz-Sidus 
-cp ${SIDUS}/​initrd.img /​srv/​tftp/​initrd.img-Sidus+cp ${SIDUS}/boot/initrd.img-3.2.0-4-amd64 ​/​srv/​tftp/​initrd.img-Sidus
 </​code>​ </​code>​
  
Ligne 282: Ligne 275:
  
   * Forcer le chargement des modules dans ''/​etc/​modules''​ et regénérer le ''​initrd''​   * Forcer le chargement des modules dans ''/​etc/​modules''​ et regénérer le ''​initrd''​
-  * Liste à puceExécuter ​dans ''/​etc/​rc.local''​ un script permettant de récupérer l'​adresse IP Ethernet et construire une adresse IP pour la carte Infiniband.+  * Exécuter ​dans ''/​etc/​rc.local''​ un script permettant de récupérer l'​adresse IP Ethernet et construire une adresse IP pour la carte Infiniband.
  
 ==== Pour les systèmes avec une carte Nvidia : ==== ==== Pour les systèmes avec une carte Nvidia : ====
Ligne 319: Ligne 312:
  
 Si vous souhaitez que votre SIDUS chrooté démarre ses services (mauvaise idée), vous devez supprimer le hook correspondant. Si vous souhaitez que votre SIDUS chrooté démarre ses services (mauvaise idée), vous devez supprimer le hook correspondant.
- 
 <​code>​ <​code>​
 rm -f ${SIDUS}/​usr/​bin/​policy-rc.d rm -f ${SIDUS}/​usr/​bin/​policy-rc.d
 </​code>​ </​code>​
 +
 ===== Effacement des dossiers temporaires ===== ===== Effacement des dossiers temporaires =====
  
Ligne 418: Ligne 411:
 Dans les deux cas, le //​forwarding//​ doit être activé : ''/​proc/​sys/​net/​ipv4/​ip_forward''​ mis à ''​1''​. Dans les deux cas, le //​forwarding//​ doit être activé : ''/​proc/​sys/​net/​ipv4/​ip_forward''​ mis à ''​1''​.
  
- --- //​[[emmanuel.quemener@ens-lyon.fr|Emmanuel Quemener]] ​2013/11/03 15:38//+====== Communications autour de SIDUS ====== 
 + 
 +  * **Année 2014** 
 +    * Présentation à l'ISA : SIDUS outil de reproductibilité 
 +    * Présentation à [[http://​lyoncalcul.univ-lyon1.fr/​spip.php?​article3|Lyon Calcul]] : [[http://​www.cbp.ens-lyon.fr/​emmanuel.quemener/​documents/​LyonCalcul2014.pdf|SIDUS outil de reproductibilité]],​ [[http://​www.cbp.ens-lyon.fr/​emmanuel.quemener/​documents/​PiMPI.avi|exemple vidéo]] 
 +    * Poster à Compas 2014 sur [[developpement:​productions:​sidus|SIDUS]] : [[http://​www.cbp.ens-lyon.fr/​emmanuel.quemener/​documents/​Compas2014_SIDUS.pdf|article Compas]], [[http://​www.cbp.ens-lyon.fr/​emmanuel.quemener/​documents/​Realis2014_SIDUS.pdf|article Realis]], [[http://​www.cbp.ens-lyon.fr/​emmanuel.quemener/​documents/​Compas2014_Poster.pdf|poster]] 
 +    * Présentation au LIP sur [[developpement:​productions:​sidus|SIDUS]] : [[http://​www.cbp.ens-lyon.fr/​emmanuel.quemener/​documents/​LIP-20140127-EQ.pdf|presentation]],​ janvier 2014 
 + 
 +  * **Année 2013** 
 +    * Poster JRES 2013 sur [[developpement:​productions:​sidus|SIDUS]] : [[http://​www.cbp.ens-lyon.fr/​emmanuel.quemener/​documents/​JRes2013-SIDUS-1121.pdf|article]],​ [[http://​www.cbp.ens-lyon.fr/​emmanuel.quemener/​documents/​JRes-Poster-SIDUS.pdf|poster]],​ décembre 2013 
 +    * Présentation [[http://​succes2013.sciencesconf.org/​|Succes 2013]] sur [[developpement:​productions:​sidus|SIDUS]] avec [[http://​succes2013.sciencesconf.org/​24312/​document|article]],​ [[http://​succes2013.sciencesconf.org/​conference/​succes2013/​Succes_20131114_EQ.pdf|présentation]] et [[http://​webcast.in2p3.fr/​videos-JSFG2013_sidius|video]] : novembre 2013 
 +    * Article [[http://​www.linuxjournal.com/​content/​november-2013-issue-linux-journal-system-administration|Linux Journal]] sur [[developpement:​productions:​sidus|SIDUS]] : novembre 2013 
 +    * Présentation [[http://​conference.scipy.org/​scipy2013/​presentation_detail.php?​id=199|SciPy 2013]] sur [[http://​www.youtube.com/​watch?​v=J5myH0y_bks|SIDUS]] 
 + 
 +  * **Année 2012** 
 +    * Présentation [[http://​aramis.resinfo.org/​wiki/​doku.php?​id=pleniaires:​pleniaire14juin2012|Aramis]] : [[http://​www.cbp.ens-lyon.fr/​emmanuel.quemener/​documents/​ARAMIS-20120614_EQ.pdf|Virtualisation de ressources dans un contexte Open Source]] 
 +    * Présentation Séminaire Chimie Théorique ENS-Lyon : [[http://​www.cbp.ens-lyon.fr/​emmanuel.quemener/​documents/​ChimieTheo2012.pdf|SIDUS & Loi d'​Amdahl]] 
 +    * Présentation [[http://​www.esrf.eu/​events/​conferences/​debian-for-scientific-facilities-days-1/​debian-for-scientific-facilities-days|Debian Facilitaties Days ]] : [[http://​www.cbp.ens-lyon.fr/​emmanuel.quemener/​documents/​DSFD2012_4.pdf|From Workstations to HPC with Debian]]. 
 + 
 + --- //​[[emmanuel.quemener@ens-lyon.fr|Emmanuel Quemener]] ​2015/03/20 09:27//
developpement/productions/sidus.1383563567.txt.gz · Dernière modification: 2015/01/07 10:04 (modification externe)