vm sur iscsi zfs perf ecriture miserable

Message par **psycho-kila** » lun. 5 nov. 2012 12:14

mon prob smb venait bien du pc client ... controlleur reseau integré realtek, le marvel yukon fait 20 Mo de plus en ecriture, on m'a preté une carte intel = giga saturé tout le long.

Dans les 4,125 réponses au topic OpenIndiana sur HardForum, l'un des spécialiste _Gea (le fondateur de Napp IT) indique qu'il faut 2 CPU pour OpenIndiana...
=> http://hardforum.com/showthread.php?t=1573272

super interessant comme topic, un peu long mais leurs recherche sont pas mal

au prix de nombreux test je suis arrivé au process de son 1er post, je dirais bien que j'aurais mieux fait de le trouver avant mais j'ai pas mal appris sur ZFS de toute ces erreurs

en tout cas faut avouer que son napp-it est quand meme extra, j'ai essayé sans mais c'est quand meme bien plus long et fastidieux, et puis j'ai ete surpris de ses messages d'erreur super bien foutu qui t'indique les commandes et marche a suivre quel que soit le prob

ok pour les vdev par type

"POOL megaperf & storage j'ai de la thune" =

@poulpito : c'est normal ta carte a un chip 1068e, donc pas de soucis pour les FW que j'ai mit en lien

Message par **poulpito** » lun. 5 nov. 2012 12:56

ouaip j'ai vu ca

merci psycho faut que je regarde ces histoires de marvel realtek et cie

en ce moment j'ai un bug quand j'écris sur le raid depuis windows pas de soucis ca sature le giga (90% quoi)
quand je lis et écrit vers un disque local aucun soucis

par contre déplacer des fichiers entre deux zpool (donc deux partage samba) sous windows (ok c'est un peu tordu mais pour trier c'est simple)
bah ca rame
maxi 20mo/sec en lecture + 20mo/sec en écriture 50% du giga en gros :/
je pige pas trop ou est le soucis
le même transfert directement depuis le GUI linux ca copie à 160-180mo/sec entre les deux zpool

mais bon je suis un peu coincé niveau ports sur ma EP35-DS4 un port pour la carte graphique et un port pour la Perc 5i pour mes deux disques SAS bah me reste plus énorme de slot pour tester
faudrait que je trouve une carte réseau en pcie 1x si quelqu'un a ça pour tester

Message par **psycho-kila** » lun. 5 nov. 2012 22:46

assez marrant les controlleur integré, j'ai essayé d'une autre machine qui a le meme controlleur marvel yukon que moi + un intel 82574L integré, resultat surprenant :

realtek :
[*]crystal = 65Mo ecriture / 30Mo lecture
[*]reel = 30Mo ecriture / 30Mo lecture
marvell yukon : (a 5 mo pres identique sur les 2 machines)
[*]crystal = 85mo ecriture / 30Mo lecture
[*]reel = 40Mo ecriture / 40Mo lecture
intel :
[*]crystal = 90Mo ecriture / 80Mo lecture
[*]reel = 110Mo ecriture / 110Mo lecture

sans parler des usb (juste en dessous du port ETH) qui ont la BP partagée vu qu'ils jouent aussi sur les debits, pas de changement pour le realtek, le marvell prend 10Mo/s reel dans les 2 sens et sur crystal +10Mo/s en ecriture, bouge pas en lecture

je viens de tester de smb a smb via windows, 30Mo/s dans les 2 sens et super pompe a ressource CPU sur le win et openindiana, il a pas l'air d'apprecier ca.

dans la serie test j'en ai pondu un pas mal pour voir :
opeindiana --> raidz --> LU --> Iscsi --> ESXI --> VM ubuntu --> SMB
writeback cache activé

Message par **augur1** » mar. 6 nov. 2012 21:03

[quote]On peut même le faire en streaming réplication pour avoir une copie quasi permanente du disque !

Message par **Zedoune** » mar. 6 nov. 2012 21:34

!!!!!!!!!!!!!!! ♥♥
Needed !!

mmmmmmm tu m’intéresse !

la commande ça doit être zfs-send et ça s'utilise dans ce genre là

sudo zfs-send zpool/mon_pool | ssh zfs-receive zpool/mon_pool

Message par **augur1** » mar. 6 nov. 2012 22:11

zfs-send = streaming réplication ?

Message par **psycho-kila** » mer. 7 nov. 2012 01:34

c'est ce qu'ils ont l'air de dire chez oracle :
http://docs.oracle.com/cd/E19963-01/htm ... gbchx.html

faut que j'essai, celle ci me tente bien :

zfs send pool/fs@snap | gzip > backupfile.gz

ca m'interesse aussi, pas le cote streaming mais la sauvegarde du systeme, d'une pool et d'un dossier d'une pool, vu qu'avec le pass-through esxi ne peux plus faire de snapshot.

Message par **psycho-kila** » ven. 9 nov. 2012 16:52

vous avez essayé l'encryptage via zfs v31 ? si oui c'est comment ? (uniquement symetrique ? taille de clé max ?)

ca implique un passage a solaris 11, a contrario d'openindiana je trouve rien dessus, vous avez essayé ?

Message par **Zedoune** » ven. 9 nov. 2012 19:43

Sous linux, j'utilise au travail sur mon laptop des partitions chiffrées avec un i3

D'après ce benchmark, y a quasiment aucune différence de performance (sous linux) : http://www.phoronix.com/scan.php?page=a ... rypt&num=1

Message par **augur1** » dim. 11 nov. 2012 14:57

sudo zfs-send zpool/mon_pool | ssh zfs-receive zpool/mon_pool

Le serveur qui reçoit peut être en autre chose qu'en ZFS ?

Message par **Zedoune** » dim. 11 nov. 2012 18:43

hmm, tu dois pouvoir dumper dans un fichier binaire genre avec zfs-receive > fichier

faut essayer, mais bon c'est pas vraiment intéressant

Message par **augur1** » lun. 12 nov. 2012 22:13

Je viens de tomber sur SmartOS
=> http://smartos.org/
... doc : http://wiki.smartos.org/display/DOC/Home

= hyperviseur qui fait ZFS + DTrace + Zones +KVM

[center]

[/center]

Il est également dispos chez OVH : http://forum.ovh.com/showthread.php?t=81407

T'as déjà test Z ?

Message par **Zedoune** » lun. 12 nov. 2012 22:22

Je viens de tomber sur SmartOS
=> http://smartos.org/
... doc : http://wiki.smartos.org/display/DOC/Home

= hyperviseur qui fait ZFS + DTrace + Zones +KVM

[center]http://www.silicon.fr/wp-content/upload ... 47x180.png[/center]

Il est également dispos chez OVH : http://forum.ovh.com/showthread.php?t=81407

T'as déjà test Z ?

Les hyperviseurs c'est pas du tout mon domaine. Je m'intéresse uniquement aux kernels et userland. Pour la virtualisation je suis plutôt partisan des jails/zones/containers/vkernels.

Pour moi SmartOS c'est du OpenIndiana avec des trucs tout packagés, puisque ZFS + DTrace + Zones + KVM c'est dans OpenIndiana.
KVM dans Illumos a été mergé en 2011 : http://dtrace.org/blogs/bmc/2011/08/15/kvm-on-illumos/

Message par **Zedoune** » mar. 13 nov. 2012 10:34

Je m'étais plaint que OpenSolaris était plus dispo chez OVH : http://forum.ovh.com/showthread.php?t=77911

Je vais prendre un serveur dédié avec SmartOS pour voir, depuis le temps que je veux essayer de l'OpenIndiana !

Message par **augur1** » mer. 14 nov. 2012 01:36

Bah je l'avais mis précédemment en lien

Message par **augur1** » sam. 17 nov. 2012 15:40

Alors, heureuse ?

Message par **augur1** » dim. 9 déc. 2012 12:22

Quel est la meilleure solution pour cloner le disque système ?

For the purposes of this document:
disk0 is the source and is at c1t1d0
disk1 is the clone and is at c1t2d0

1. Install both disks in system
Start machine and at the prompt boot the original disk in with reconfigure to configure for the clone disk.
This step can be skipped if you do a ‘touch /reconfigure’ before you bring the system down to install the second disk.
[cpp]ok boot disk0 -r[/cpp]

2. Reboot into single user on the source disk.
[cpp]ok boot disk0 -s[/cpp]

3. dd the source to the clone
[cpp]dd if=/dev/dsk/c1t1d0s2 of=/dev/dsk/c1t2d0s2 bs=256k[/cpp]

4. Verify the clone disk has a clean filesystem
[cpp]fsck /dev/rdsk/c1t2d0s0[/cpp]

est la bonne solution ?

Message par **Zedoune** » dim. 9 déc. 2012 13:38

le disque fait la même taille ?
Quel système d'exploitation ?

Une méthode rapide avec ZFS c'est de créer un raid 1 pour copier et de le retirer ensuite ^^

Message par **augur1** » dim. 9 déc. 2012 19:50

le disque fait la même taille ?
Quel système d'exploitation ?

Une méthode rapide avec ZFS c'est de créer un raid 1 pour copier et de le retirer ensuite ^^

Nop : SSD 40 Go -> HDD 250 Go
OpenIndiana

L'install existe déjà.
C'est pour pouvoir mettre la même install avec tout déjà prêt et ok, sur le même Microserver de mon père.

++

Message par **poulpito** » dim. 9 déc. 2012 21:36

DD tout simplement et après refaire le grub de boot

Message par **augur1** » ven. 14 déc. 2012 23:38

En cours : du 60 Go SSD vers 250 Go HP en USB
[cpp]dd if=/dev/dsk/c5d1p1 of=/dev/dsk/c12t0d0p0 bs=256k[/cpp]

DD tout simplement et après refaire le grub de boot

Comment ?

++

Message par **poulpito** » sam. 15 déc. 2012 00:09

grub-install me souvient plus après
je l'ai fait une fois ... c'était y'a lonnnnnngtemps augur

Message par **augur1** » sam. 15 déc. 2012 00:41

grub-install me souvient plus après
je l'ai fait une fois ... c'était y'a lonnnnnngtemps augur

Quelle serait la procédure
=> fin du clonage, faire grub-install
... ou fin du clonage, éteindre, mettre le disque cloné à la place du disque originel, allumer et faire grub-install ?

Lien probablement bien utile
=> http://ubuntuforums.org/showthread.php?t=1688634
... restoring grub after a "successful" hd clone

Boot the ubuntu Live CD/USB. Choose "try ubuntu". When the desktop loads open a terminal and do this:

[cpp]
Type sudo grub. Should get text of which last line is grub>
Type "find /boot/grub/stage1". You'll get a response like "(hd0,4)".
Use whatever your computer spits out for the following lines.
Type "root (hd0,4)",
Type "setup (hd0)", to install GRUB to MBR
Quit grub by typing "quit".
Reboot and remove the bootable CD.[/cpp]

Autre solution probable

If /boot on both hdds are equal - i.e. they contain stage 1.5 and 2 of grub, then just copying the MBR should solve your problem.

Note - first make backup of your MBR in case something goes wrong.

Now, with your "new" hdd as /dev/hdc:

[cpp]# dd if=/dev/hdc of=backupMBR bs=512 count=1

Message par **psycho-kila** » sam. 15 déc. 2012 12:26

dans ubcd il y a un tools qui te permet de copier le disque complet mbr inclu (hdclone ou easyus me semble), c'est ce que j'ai utilisé pour faire un backup de mon DD ESXI/OI et c'est fonctionnel

et si tu as besoin grub est aussi dans ubcd

Message par **augur1** » dim. 16 déc. 2012 02:08

Ah zut : merci psycho, la prochaine fois je tenterai ainsi !

pour l'heure je pense avoir trouver, via :
=> http://www.zoinks.org/home/technology/t ... lling-grub
=> http://letsgetdugg.com/2009/10/18/zfs-b ... ror-setup/
=> http://comments.gmane.org/gmane.os.sola ... .zfs/18489

[cpp]sudo installgrub -fm /boot/grub/stage1 /boot/grub/stage2 /dev/rdsk/c3t0d0s0
[/cpp]
à suivre !

++