Filer HA ZFS avec des SSD ... avis, conseils, retour d'exp ?

Avatar de l’utilisateur
yullito
Messages : 3018
Inscription : ven. 12 janv. 2018 17:44

Filer HA ZFS avec des SSD ... avis, conseils, retour d\'exp ?

Message par yullito »

peut etre n'ai je pas compris ton besoin mais pourquoi tu ne met pas tous les disques dans un filer sur lequel tu montes des volumes que tu présentes à tes deux machines ??
chabu04
Messages : 344
Inscription : ven. 12 janv. 2018 17:44

Filer HA ZFS avec des SSD ... avis, conseils, retour d\'exp ?

Message par chabu04 »

Bahh ... j'ai pas de haute dispo si je fais ça, j'ai juste un Filer ...

Ou alors j'ai mal compris ...
gizmo78
Messages : 20534
Inscription : ven. 12 janv. 2018 17:44

Filer HA ZFS avec des SSD ... avis, conseils, retour d\'exp ?

Message par gizmo78 »

en même temps la tu parle de haute dispo mais avec la même "baie" de disques, du coup si y a une cagade dedans ta ha tu la dans l'os.
kalistyan
Messages : 14259
Inscription : ven. 12 janv. 2018 17:44
Localisation : LYON
Contact :

Filer HA ZFS avec des SSD ... avis, conseils, retour d\'exp ?

Message par kalistyan »

La baie sera le SPOF de l'infra. Non, jamais monté de HA avec QuadStor car découvert tout récemment... :)

Avatar de l’utilisateur
yullito
Messages : 3018
Inscription : ven. 12 janv. 2018 17:44

Filer HA ZFS avec des SSD ... avis, conseils, retour d\'exp ?

Message par yullito »

autre question : au final tu veux heberger quoi sur tes disques ??
chabu04
Messages : 344
Inscription : ven. 12 janv. 2018 17:44

Filer HA ZFS avec des SSD ... avis, conseils, retour d\'exp ?

Message par chabu04 »

Bah la baie de disque dans mon cas je voulais juste un "tiroir" de disques avec 2 expanders relié en dual path aux 24 disques. Donc chaque expander fourni l'accès aux 24 disques par 2 chemins différents. Bien sur alimentations redondantes :)
En gros juste des alims, des disques et des connecteurs SAS externe (via un expander).

Ensuite 2 serveurs qui connectent les 24 disques en DAS, qui gèrent le FS et qui poussent les partages sur le réseau :)

En fait comme une baie de stockage bi controller classique ! Un tiroir de 24 disques avec 2 connecteurs SAS et ensuite 2 controlleurs sur lesquels le tiroir est connecté via cable SAS externe et qui peuvent chacun piloter tous les disques et pousser les partages sur le réseau ...


Je ne sais pas si c'est très clair ...


EDIT : @kali : Ok merci, je vais voir pour tester ça, apparemment la HA à l'air de se faire assez facilement en déclarant un controleur et un node Master ça devrait le faire ...

@Yull : Partage NFS/iSCSI + CIFS pour héberger des VMs (une trentaine en prod, le reste c'est du dev) qui tournent sur d'autres serveurs avec du XenServer
Avatar de l’utilisateur
poulpito
Messages : 12402
Inscription : ven. 12 janv. 2018 17:44
Localisation : Grenoble

Filer HA ZFS avec des SSD ... avis, conseils, retour d\'exp ?

Message par poulpito »

la seule solution pour du vrai HA (ou similaire)
Image

sans ca c'est pas du HA ^^ tu aura toujours un SPOF

kalistyan
Messages : 14259
Inscription : ven. 12 janv. 2018 17:44
Localisation : LYON
Contact :

Filer HA ZFS avec des SSD ... avis, conseils, retour d\'exp ?

Message par kalistyan »

Un classique. ;)
Avatar de l’utilisateur
poulpito
Messages : 12402
Inscription : ven. 12 janv. 2018 17:44
Localisation : Grenoble

Filer HA ZFS avec des SSD ... avis, conseils, retour d\'exp ?

Message par poulpito »

chabu04
Messages : 344
Inscription : ven. 12 janv. 2018 17:44

Filer HA ZFS avec des SSD ... avis, conseils, retour d\'exp ?

Message par chabu04 »

Ahhh merci poulpi :D

Enfin quelqu'un qui a eu la même idée tordue que moi :) je suis rassuré :)
TheMartel
Messages : 7590
Inscription : ven. 12 janv. 2018 17:44

Filer HA ZFS avec des SSD ... avis, conseils, retour d\'exp ?

Message par TheMartel »

la seule solution pour du vrai HA (ou similaire)
http://fr.starwindsoftware.com/images/c ... agram2.jpg

sans ca c'est pas du HA ^^ tu aura toujours un SPOF
Après si tu accepte de faire un mode dégradé, il est possible de baisser les cout en prenant du matos bien moins perf pour la redondance. en Secondaire quoi.
Genre une grosse baie+gros serveur+gros switch en principal, et un petit serveur, petite baie et petit switch en secondaire....
kalistyan
Messages : 14259
Inscription : ven. 12 janv. 2018 17:44
Localisation : LYON
Contact :

Filer HA ZFS avec des SSD ... avis, conseils, retour d\'exp ?

Message par kalistyan »

Ahhh merci poulpi :D

Enfin quelqu'un qui a eu la même idée tordue que moi :) je suis rassuré :)
Euh... Pas tout à fait... Il utilise deux baies.


chabu04
Messages : 344
Inscription : ven. 12 janv. 2018 17:44

Filer HA ZFS avec des SSD ... avis, conseils, retour d\'exp ?

Message par chabu04 »

Euhhh .... oui mais connectés en JBOD sur chaque host et chaque host peux piloter la totalité des 2 racks ...

Enfin je crois :) je suis bon pour tout relire du début :D
Avatar de l’utilisateur
poulpito
Messages : 12402
Inscription : ven. 12 janv. 2018 17:44
Localisation : Grenoble

Filer HA ZFS avec des SSD ... avis, conseils, retour d\'exp ?

Message par poulpito »

moi j'ai pas d'idée c'est juste le concept *ideal* de HA
chabu04
Messages : 344
Inscription : ven. 12 janv. 2018 17:44

Filer HA ZFS avec des SSD ... avis, conseils, retour d\'exp ?

Message par chabu04 »

Yep .... d'accord avec toi poulpi :)

Ahh je crois que le secret est bien gardé par les constructeurs de baies .... NetApp fait ça .... mais ils disent pas comment. Ca passe par le dual path mais après ...
Avatar de l’utilisateur
yullito
Messages : 3018
Inscription : ven. 12 janv. 2018 17:44

Filer HA ZFS avec des SSD ... avis, conseils, retour d\'exp ?

Message par yullito »

question : pour que les disques soient pilotables par deux expander , il faut qu'ils soient en dual sas tes disques ???
Avatar de l’utilisateur
poulpito
Messages : 12402
Inscription : ven. 12 janv. 2018 17:44
Localisation : Grenoble

Filer HA ZFS avec des SSD ... avis, conseils, retour d\'exp ?

Message par poulpito »

me semble que les sas sont forcement en dual path ca fait partie de la norme

et oui il faut que chaque lien SAS du disque parte vers un expander

Image

http://pic.dhe.ibm.com/infocenter/power ... consid.htm

et

Image
chabu04
Messages : 344
Inscription : ven. 12 janv. 2018 17:44

Filer HA ZFS avec des SSD ... avis, conseils, retour d\'exp ?

Message par chabu04 »

Apparemment oui c'est intégré dans la norme SAS, c'est vrai que dans tu regarde le connecteur d'un disque SAS t'as des contacts sur les deux faces du connecteur là ou un disque SATA n'a des contacts que sur une face.

Ensuite il faut un boitier avec backplane dual SAS pour connecter deux expander a chaque disque. Supermicro a un boitier comme ça avec deux expanders et deux alims déja tout cablé :D

Le seul souci, c'est que je vois qu'une solution ... tester :D mais j'ai aucun matériel de dispo pour tester les fonctionnalités dual SAS...


EDIT : Voila poulpi :) c'est tout a fait ça :) merci pour les images ! C'est de suite plus facile a comprendre avec un schéma ^^ Je voudrais faire exactement ça avec chaque expander connecté a chaque host et ensuite un mécanisme d'IP failover sur les hotes avec bascule des disques :)
Avatar de l’utilisateur
poulpito
Messages : 12402
Inscription : ven. 12 janv. 2018 17:44
Localisation : Grenoble

Filer HA ZFS avec des SSD ... avis, conseils, retour d\'exp ?

Message par poulpito »

après on en revient toujours a la définition de HA

est-ce que le mec veut une bascule automatique et transparente
estce qu'il peut perdre 10min a couper un truc et booter sur une autre machine ou sur une autre baie mais sans manip hardware

est ce qu'il peut perdre 10min a rebooter + prendre le temps de déplacer un cable par exemple :)

au moins il voudra en faire(cad au plus ce sera automatique/transparent) au plus ce sera compliqué à mettre en place / a maintenir / coutera cher :)
et le plus simple sera de se tourner vers du matos pro

si ils sont la c'est pas pour rien ;)
chabu04
Messages : 344
Inscription : ven. 12 janv. 2018 17:44

Filer HA ZFS avec des SSD ... avis, conseils, retour d\'exp ?

Message par chabu04 »

L'idéal ça serait que le takeover se fasse en auto :) Pour le giveback c'est une autre histoire, c'est préférable de le gérer a la main je pense :)


EDIT : oui tout a fait d'accord pour le matos pro, mais j'aurai aimé lui proposer une solution avec ses propres disques et son propre matériel :)

EDIT 2 : Il s'agit d'une boite qui tourne grace a son site web, donc haute dispo obligée. De plus la boite commence a prendre une échelle internationale donc la haute dispo H24 est d'autant plus importante .... c'est pour ça que le takeover doit être automatique
Avatar de l’utilisateur
Zedoune
Messages : 15343
Inscription : ven. 12 janv. 2018 17:44

Filer HA ZFS avec des SSD ... avis, conseils, retour d\'exp ?

Message par Zedoune »

L'idéal ça serait que le takeover se fasse en auto :) Pour le giveback c'est une autre histoire, c'est préférable de le gérer a la main je pense :)


EDIT : oui tout a fait d'accord pour le matos pro, mais j'aurai aimé lui proposer une solution avec ses propres disques et son propre matériel :)

EDIT 2 : Il s'agit d'une boite qui tourne grace a son site web, donc haute dispo obligée. De plus la boite commence a prendre une échelle internationale donc la haute dispo H24 est d'autant plus importante .... c'est pour ça que le takeover doit être automatique
STONITH ! :p Si tu coupes l'autre machine et tu peux prendre le relais sans soucis ! ^^
chabu04
Messages : 344
Inscription : ven. 12 janv. 2018 17:44

Filer HA ZFS avec des SSD ... avis, conseils, retour d\'exp ?

Message par chabu04 »

Oui j'ai lu un peu de doc sur STONITH :) Si j'ai tout capté c'est un système de fencing en fait, dès qu'un serveur voit plus son copain, il lui met une balle dans la tête (coupure élec via IPMI ou prise commandée) pour être sur qu'il ne puisse plus accéder aux disques qui lui sont alloués :D

Du coup l'hote actif peut se réaffecter les disques et repartir ...

C'est bien ça ?

Toi qui a une expérience avec le dual path SAS, peux tu détailler l'installation que tu as mise en place ?? :)
Avatar de l’utilisateur
Zedoune
Messages : 15343
Inscription : ven. 12 janv. 2018 17:44

Filer HA ZFS avec des SSD ... avis, conseils, retour d\'exp ?

Message par Zedoune »

Oui j'ai lu un peu de doc sur STONITH :) Si j'ai tout capté c'est un système de fencing en fait, dès qu'un serveur voit plus son copain, il lui met une balle dans la tête (coupure élec via IPMI ou prise commandée) pour être sur qu'il ne puisse plus accéder aux disques qui lui sont alloués :D

Du coup l'hote actif peut se réaffecter les disques et repartir ...

C'est bien ça ?

Toi qui a une expérience avec le dual path SAS, peux tu détailler l'installation que tu as mis en place ?? :)
Je fais en manuel déjà :), la haute dispo c'est bien, mais une coupure de 5 minutes en cas de gros pépin, c'est pas si terrible que ça (on a qqn d'astreinte dans la société) et ça peut éviter de faire n'importe quoi par un système automatique.
En gros le script vérifie que l'autre ping bien, le forces à démonter les disques et demande une vérification manuelle comme quoi c'est bien démonté pour remonter le disque sur la machine.
chabu04
Messages : 344
Inscription : ven. 12 janv. 2018 17:44

Filer HA ZFS avec des SSD ... avis, conseils, retour d\'exp ?

Message par chabu04 »

Ok donc si je comprends bien tu fais grosso merdo ce que je veux faire mais en semi auto :) .... donc ... questions bonus :D :

1. Tu alloues tes X disques (disons 24) a tes deux serveurs simultanément mais tu ne les montes que sur un serveur a la fois ? En gros ils sont visibles simultanément par les 2 systèmes mais un seul écrit dessus c'est bien ça ?

2. Tu as dis que tu utilisais XFS sur ces disques, est-ce que tu as testé de monter un pool ZFS ? Si oui, en cas de coupure brutale de l'host, le pool est il remontable de l'autre coté ?


Avatar de l’utilisateur
Zedoune
Messages : 15343
Inscription : ven. 12 janv. 2018 17:44

Filer HA ZFS avec des SSD ... avis, conseils, retour d\'exp ?

Message par Zedoune »

1) oui c'est ce que je fais, les deux disques apparaissent bien et sont visibles depuis les 2 mais il faut surtout pas les utiliser en même temps

2) Jamais essayé avec ZFS. Logiquement je ferais un "zpool import" donc ça poserait pas de soucis. Et avant de le redonner à la machine principale, faire un "zpool export" ou je sais plus quoi :D
Répondre