A la recherche du saint cluster

Répondre
Avatar de l’utilisateur
Ryu_wm
Messages : 7433
Inscription : ven. 12 janv. 2018 17:44

A la recherche du saint cluster

Message par Ryu_wm »

Après avoir testé Open Mosix je me lance dans le test de Oscar
====

Si le déploiement d'une ferme sous Open Mosix se révèle simple ( quelques clics sur une interface graphique via un live cd ) je me suis vite aperçu que cela ne correspondait pas à mes besoins, en effet je définirai volontier OpenMosix comme un répartiteur de charge plutot que de la paralellisation de taches ( une tache effectuée est lancée sur 1 machine, si besoin de plus de ressources alors on lance la tache sur une ou plusieurs autres machines )

Le but que je recherche etant de mettre en commun toutes les ressources de toutes les machines du cluster ( cpu + ram + disque )

Cette approche etait possible selon la documentation en utilisant Oscar ... voici quelques tests ( pas encore concluants )

====

Tout d'abord il faut savoir qu'a l'heure actuelle Oscar 5 est testé stable sur quelques distributions linux seulement ( Fedora Core 5, Fedora Core 4, Red Hat Enterprise Linux 4, Red Hat Enterprise Linux 3, Mandriva Linux 2006, SUSE Linux 10.0, Scientific Linux 4, Scientific Linux 3 , etc ... )

D'emblée je fuis Mandriva et redhat que je ne suporte plus et je reviens à mes premiers amours : Suse.

Hélas pour mes premiers tests je ne vais trouver rapidement qu'une OpenSuse 10.1 à télécharger et cela me posera beaucoup de problèmes à cause des versions "trop récentes" de certains packages. Après 4 jours de tests infructueux je me rabats sur une Fedora Core 5 cela me permettra de l'avoir installée au moins une fois ;)

====

La fédora Core 5 est assez gourmante d'après ce que j'ai pu constater, j'ai encore perdu 1 jour de tests à tenter de la déployer sur des machines obselètes ( PII-350 ) où le materiel etait moyennement bien géré ou bien l'install ne se déroulait pas correctement.

En ayant assez de perdre du temps et n'ayant toujours rien qui tourne je me lance dans une installation sur une machine virtuelle ( Microsoft Virtual PC )

je crée un serveur de noeud et j'installe les 5 CD de la FC5 , tout se passe bien. A savoir que cette machine n'a pas besoin d'une puissance de traitement phénoménale car elle ne participe pas aux calculs du cluster, par contre elle doit disposer d'un grand espace disque car elle contiendra les images à déployer pour les stations clientes ainsi que le systeme de fichier NFS pour tout le cluster.
cette machine doit posseder 2 interfaces réseau : une pour communiquer avec l'exterieur et l'autre pour la communication dans le cluster.

je télécharge les parties COMMUNES d'oscar 5 ( [#ff8d00]oscar-base-5.0.tar.gz , oscar-repo-common-rpms-5.0.tar.gz, oscar-srpms-5.0.tar.gz[/#ff8d00] ) puis les parties spécifiques à la fédora ( [#46ff00]oscar-repo-fc-5-i386-5.0.tar.gz, oscar-repo-fc-5-i386-5.0.tar.gz[/#46ff00] )

Il faut en premier lieu dézipper ( tar -xvzf [tarball.tar.gz] [/path] ) oscar-base-5.0.tar.gz et oscar-srpms-5.0.tar.gz puis copier le réperoire complet ainsi crée vers [#001ce2]/opt/oscar[/#001ce2]
dézipper oscar-repo-common-rpms-5.0.tar.gz puis copier vers [#001ce2]/tftpboot/distro[/#001ce2]
dézipper oscar-repo-fc-5-i386-5.0.tar.gz et oscar-repo-fc-5-i386-5.0.tar.gz vers [#001ce2]/tftpboot/distro[/#001ce2]

partie assez longue ensuite : copier TOUS LES RPMs des CD de la distrib fedora dans [#001ce2]/tftpboot/distro/fedora-5-i386[/#001ce2]





lorsque tout ceci est fait nous pouvons passer à l'etape de déploiement d'oscar proprement dite :
lancer l'interface graphique ( impératif )
se placer dans /opt/oscar et lancer ./install_cluster [#ff8d00][/#ff8d00] ( où est l'interface réseau dédiée au cluster, pour moi eth1 )
le script se lance et si vous n'avez pas d'erreurs de dépendance ( notement avec les libs perl :roll: ) vous obtiendrez une joli boite graphique avec des bouton pour cliquer dessus :D )

Image

Image


A partir de maintenant il va falloir construire les images systeme à déployer sur les differentes machines composant le cluster je vous conseille d'imprimer la doc de déploiement.

[*]Step 0 [optionnel] : permet de télachercher des packages additionnels exterieurs à Oscar que vous souhaiteriez integrer
[*]Step 1 [optionnel] : permet de choisir quels packages deployer ( par defaut TOUS )
[*]Step 2 [optionnel] : permet de configurer ces packages
[*]Step 3 : installe sur le serveur de noeud tous les packages choisis en STEP 1 et eventuellement configurés en STEP 2
[*]Step 4 : construction de l'image clients

vous pouvez construire autant d'images que vous le souhaitez si vous n'avez pas un parc de machines hétérogènes ou si vous souhaites changer de distribs à déployer, pour faire simple je suis resté avec des FC5
à partir de là il vous vaudra choisir si vous déployez une image pour un systeme en IDE ou SCSI, la taille des partitions, etc ....
petit point important : vous devrez definir la methode d'assignation d'adresses IP de vos clients, je vous suggère DHCP ( l'etendue de plage est definie au STEP suivant ) ainsi que l'action à effectuer après que le client ait reçu son image et l'ait déployé, j'ai choisi BEEP, ainsi la station attends une action humaine, elle peut au choix REBOOTER ( et donc relancer une install si le CD est encore dans le tiroir :mrgreen: ou faire un SHUTDOWN )

Image

l'image ainsi crée est disponible sur /tmp/oscar_bootcd.iso, gravez là .


[*]STEP 5 : définir les stations participant au cluster ( nombre de noeuds, noms de ceci, noms des stations de chaque noeud )

pour ma part je ne teste ici qu'un seul noeud de 4 machines ( 2 virtuelles et 2 réelles )

[*]Step 6 : définition du réseau : etendue dhcp avec reservation des adresses MACs des clients
pour ma part la fonction de collecte des adresses mac n'a pas fonctionné il m'a fallut noter sur un papier les @mac des stations et les assigner manuellement.
Image

hop c'est parti, je crée une station cliente virtuelle, je boote sur CD ( j'aurai pu choisir de booter sur PXE mais MS virtual PC ne propose pas cette option )

voici ce qui se passe ( je n'ai pas pris les snapshots au bon moment donc vous vous retrouvez avec des images de stations réelles et virtuelles mélangées dsl )

Image
ça boote

la station requete au dhcp, se voit attribuer une @ip, etablit la communication avec le serveur et requete une image systeme à déployer

Image

quand cette étape s'est correctement déroulée la machine BEEP ( voir plus haut ) mais ... rien d'audible :D

Image

retirez le CD de boot et un CTRL+ALT+SUPPR et ça repart

FC5 est installée ...

Image

Image

Image
-------------------------
Image
Digital n'est pas Numérique, bordel :o
Avatar de l’utilisateur
Ryu_wm
Messages : 7433
Inscription : ven. 12 janv. 2018 17:44

A la recherche du saint cluster

Message par Ryu_wm »

Image

Image


comme ça s'est bien passé une fois je crée une deuxieme machine cliente virtuelle

Image

notez sur le serveur de noeud la petite console qui permet de savoir où en est le déploiement des clients ... utile ...

bon maintenant testons sur du vrai materiel ...

Image
Image

Image
Image

A noter que l'image que j'avais crée pour les machines virtuelles etait pour des machines en IDE ... ce qui fonctionne moyennement avec des machines en SCSI :whistle:
Image

bon, je crée une autre image et la redéploie ...
Image

notez au passage que le nombre de CPU rapportés est faux ...

ensuite ça boote bien mieux :ange:
Image
-------------------------
Image
Digital n'est pas Numérique, bordel :o
Avatar de l’utilisateur
Ryu_wm
Messages : 7433
Inscription : ven. 12 janv. 2018 17:44

A la recherche du saint cluster

Message par Ryu_wm »

quand tous les clients ont bootés et qu'ils sont bien sur le reseau nous pouvons passer à la phase finale de déploiement du cluster sur le serveur de noeud

[*]Step 7 : permet de finaliser le déploiement du cluster

Image
notez que le nombre de cpus rapporté ici est correct


Image
(ne pas tenir compte de la fenetre de terminal il s'agissait d'un essai loupé avec 8 clients ( 4 sur un autre Vlan ) )

ensuite il faut logiquement passer à la derniere etape

[*]Step 8 : va tester les differents mecanismes de communication et de paralellisation des taches sur le cluster

si un probleme survient cela ressemble à cela :
Image
( ici il s'agissait de 4 clients dans un Vlan different qui ne répondaient pas, ssh n'etant pas autorisé par les ACLs des routeurs )

si le test reussi, evidement cela ressemble à ceci :
Image





-------------------------
Image
Digital n'est pas Numérique, bordel :o
Avatar de l’utilisateur
Ryu_wm
Messages : 7433
Inscription : ven. 12 janv. 2018 17:44

A la recherche du saint cluster

Message par Ryu_wm »

à partir de là nous pouvons déja voir un peu ce qui se passe grace à un outil de stats intégré ( Ganglia ) accessible depuis le serveur de noeud :

Code : Tout sélectionner

http:///ganglia/
voici succintement quelques informations rapportées :

Image

Image

Image
Image
Image
Image


puis l'heure de la premiere commande passée au cluster :

Image

Oscar fournit de base plusieurs MPI ( Doc utilisation )

[*] Maui
[*] Open MPI
[*] MPICH
[*] LAM
[*] SGE
[*] Torque
[*] Ganglia

nativement aucun MPI n'est définit par defaut vous pouvez switcher d'un envirronement à un autre, les changements opérés se répercutent à tous les Shells suivants . On peut utiliser les commandes de base C3 ( Cluster Command Control

pour l'instant je ne suis pas allé plus loin, mon cluster fonctionne mais je ne sais pas l'utiliser, je vois bien que quand je lance une commande C3 chaque entité du cluster réponds INDIVIDUELLEMENT , j'ai lancé un benchmark ... j'ai obtenu 1 résultat par machine :cry:

je potasse la doc utilisateur et je parcourre le net pour savoir si je vais pouvoir faire traiter 1 process par TOUTES ( ou partie ) des entitées du cluster ( c'est le but normalement ) je pars sur differentes pistes
[*]http://www.mail-archive.com/linux@lists ... 15862.html
[*]http://www.cetmef.equipement.gouv.fr/pr ... ation.html
[*]http://oscar.openclustergroup.org/faq.usage


pour l'instant mes tests s'arretent là, la suite .... un jour :lol:

-------------------------
Image
Digital n'est pas Numérique, bordel :o
Avatar de l’utilisateur
Ryu_wm
Messages : 7433
Inscription : ven. 12 janv. 2018 17:44

A la recherche du saint cluster

Message par Ryu_wm »

vous pouvez réagir ...
-------------------------
Image
Digital n'est pas Numérique, bordel :o
IvanleFou
Messages : 2123
Inscription : ven. 12 janv. 2018 17:44

A la recherche du saint cluster

Message par IvanleFou »

C'est bien, bon courage pourla fin de tes recherches. Apres reste plus qu'a le faire marcher sous Win que se soit un peu utile :whistle:
chili69
Messages : 3963
Inscription : ven. 12 janv. 2018 17:44

A la recherche du saint cluster

Message par chili69 »

pas eu le temps de tout lire, mais c'est du trés bon boulot :love:
bravo et bon courage pour la suite :hello:
Avatar de l’utilisateur
biour
Messages : 24083
Inscription : ven. 12 janv. 2018 17:44

A la recherche du saint cluster

Message par biour »

+1 bon courage et super boulot :D
Image
lionel57
Messages : 1301
Inscription : ven. 12 janv. 2018 17:44

A la recherche du saint cluster

Message par lionel57 »

personne a la meme sous windows par hasard ?
ca me tente bien ce joujou mais linux et moi ............
IvanleFou
Messages : 2123
Inscription : ven. 12 janv. 2018 17:44

A la recherche du saint cluster

Message par IvanleFou »

personne a la meme sous windows par hasard ?
ca me tente bien ce joujou mais linux et moi ............
Ben +1² koi laaaa :sweat:
Avatar de l’utilisateur
Larifounette
Messages : 7803
Inscription : ven. 12 janv. 2018 17:44
Localisation : Maine et Loire

A la recherche du saint cluster

Message par Larifounette »

Windows 2000 et 2003 le font tres simplement :)
IvanleFou
Messages : 2123
Inscription : ven. 12 janv. 2018 17:44

A la recherche du saint cluster

Message par IvanleFou »

Tutorial!! :whistle:
kalistyan
Messages : 14259
Inscription : ven. 12 janv. 2018 17:44
Localisation : LYON
Contact :

A la recherche du saint cluster

Message par kalistyan »

Windows 2000 et 2003 le font tres simplement :)
A ma connaissance sur Windows le "mode cluster" n'est fait que pour le "failover" et de la répartition de charge (Serveur Web, DNS, etc...) mais rien du côté puissance de calcul... pour cela il faut se tourner vers Windows Compute Cluster Server 2003 ici

[#e2001c]Info importante :[/#e2001c]
Minimum System Requirements : CPU Requirements 
64-bit architecture computer Intel Pentium, or Xeon family with Intel Extended Memory 64 Technology (EM64T) processor architecture, or AMD Opteron family, AMD Athlon family, or compatible processor(s).
Edit : très beau travail (lu ton topic en entier ;)) cela m'intéresse beaucoup, car j'avais acheté il n'y a pas si lgpts un peut de matos pour monter un truc dans le genre, mais pas eu le tps d'avancer...
Dream49
Messages : 2341
Inscription : ven. 12 janv. 2018 17:44

A la recherche du saint cluster

Message par Dream49 »

A ma connaissance sur Windows le "mode cluster" n'est fait que pour le "failover" et de la répartition de charge (Serveur Web, DNS, etc...) mais rien du côté puissance de calcul... pour cela il faut se tourner vers Windows Compute Cluster Server 2003 ici

[#e2001c]Info importante :[/#e2001c]
Minimum System Requirements : CPU Requirements 
64-bit architecture computer Intel Pentium, or Xeon family with Intel Extended Memory 64 Technology (EM64T) processor architecture, or AMD Opteron family, AMD Athlon family, or compatible processor(s).
Edit : très beau travail (lu ton topic en entier ;)) cela m'intéresse beaucoup, car j'avais acheté il n'y a pas si lgpts un peut de matos pour monter un truc dans le genre, mais pas eu le tps d'avancer...
Pareil , je déjà fait plusieurs cluster failover mais c'est tout je ne pense pas qu'il fait ce que le tuto énonce
IvanleFou
Messages : 2123
Inscription : ven. 12 janv. 2018 17:44

A la recherche du saint cluster

Message par IvanleFou »

A ma connaissance sur Windows le "mode cluster" n'est fait que pour le "failover" et de la répartition de charge (Serveur Web, DNS, etc...) mais rien du côté puissance de calcul... pour cela il faut se tourner vers Windows Compute Cluster Server 2003 ici

[#e2001c]Info importante :[/#e2001c]
Minimum System Requirements : CPU Requirements 
64-bit architecture computer Intel Pentium, or Xeon family with Intel Extended Memory 64 Technology (EM64T) processor architecture, or AMD Opteron family, AMD Athlon family, or compatible processor(s).
Edit : très beau travail (lu ton topic en entier ;)) cela m'intéresse beaucoup, car j'avais acheté il n'y a pas si lgpts un peut de matos pour monter un truc dans le genre, mais pas eu le tps d'avancer...
En plus d'apres ce que j'ai compris ce Windows Compute Cluster Server 2003 s'install par dessus un Win 2003 uniquement 64 bits :o
Avatar de l’utilisateur
Ryu_wm
Messages : 7433
Inscription : ven. 12 janv. 2018 17:44

A la recherche du saint cluster

Message par Ryu_wm »

je confirme pour 2003, uniquement du failover.
-------------------------
Image
Digital n'est pas Numérique, bordel :o
Avatar de l’utilisateur
Ryu_wm
Messages : 7433
Inscription : ven. 12 janv. 2018 17:44

A la recherche du saint cluster

Message par Ryu_wm »

hop, à rajouter à la todo list
la meme chose qu'oscar mais en serveur virtualisé, plus apparement la possibilité de faire posser des stations soit en esclaves dédiés soit sous leur OS via un module ....

http://www.vmware.com/vmtn/appliances/directory/548
http://www.computemode.org/cm141_manual/
-------------------------
Image
Digital n'est pas Numérique, bordel :o
Répondre