Forum |  HardWare.fr | News | Articles | PC | S'identifier | S'inscrire | Shop Recherche
656 connectés 

 


 Mot :   Pseudo :  
 
 Page :   1  2  3  4  5  6  7
Auteur Sujet :

[Topic Unique] Clustering sous Linux : comment s'initier ?

n°290584
rpgman
Posté le 09-07-2003 à 09:50:11  profilanswer
 

Reprise du message précédent :

tomtomm a écrit :


Un bon moyen de quantifier cela est d'aller voir sur le site :
www.spec.org
Tu trouveras :  le spec_cpu2002 (qui te donnes une comparaison des puissances de processeurs), et surtout le specrate (qui te donne une idee de la charge que supporte une machine).


 
Intéressant comme site. Mais il y a tellement d'entrées de cpu, c'est difficile de s'y retrouver.  
Et puis tout calculer à la mano... :/
 
Par contre c'est un bonne base de données pour qui voudrait programmer un petit calculateur comparant les puissances de cluster  :whistle:

mood
Publicité
Posté le 09-07-2003 à 09:50:11  profilanswer
 

n°290601
coda
Posté le 09-07-2003 à 10:37:42  profilanswer
 

rpgman a écrit :


 
Intéressant comme site. Mais il y a tellement d'entrées de cpu, c'est difficile de s'y retrouver.  
Et puis tout calculer à la mano... :/
 
Par contre c'est un bonne base de données pour qui voudrait programmer un petit calculateur comparant les puissances de cluster  :whistle:  


 
par exemple ;)
 
sinon tu peux trouver quand meme des benchs qui te donnent une idée sur la puissance de ton cluster ;) par exemple avec pov t'as la scene chess2.pov avec un script pour la faire calculer en cluster ;)

n°290606
coda
Posté le 09-07-2003 à 10:42:15  profilanswer
 

d'ailleur petit site avec des resultats de bench sous pov ..
 
http://www.tabsnet.com/
 
a titre indicatif je peux vous donner des resultats sur un petit cluster de tests...

n°290607
mapti89
Poowwwaaaaa
Posté le 09-07-2003 à 10:42:47  profilanswer
 

pas reussi a metre en place transcode :/
dvdrip me sor une saloperie d'erreur kan je clic sur le bouton qui corespond a la config du clustering  :cry:

n°290637
rpgman
Posté le 09-07-2003 à 12:07:58  profilanswer
 

Coda a écrit :


a titre indicatif je peux vous donner des resultats sur un petit cluster de tests...


 
Ben oui, balances !  :wahoo:

n°290646
rpgman
Posté le 09-07-2003 à 12:27:31  profilanswer
 

Coda a écrit :

d'ailleur petit site avec des resultats de bench sous pov ..
 
http://www.tabsnet.com/


 
Impressinant, ce cluster de 72 XP 2000+ qui est 3333x plus rapide qu'un P133  :wahoo:  
3 secondes pour rendre la scène  :love:, il m'en faut 4min 17 (257 s) sur mon XP2000+  
 
Si on fait 257/72 on trouve 3,57. Chaque PC semble contribuer pleinement au calcul global, c'est impressionnant !  :ouch:

n°290649
coda
Posté le 09-07-2003 à 12:30:25  profilanswer
 

rpgman a écrit :


 
Ben oui, balances !  :wahoo:  


 
je viens juste de le refaire en utilisant les options de rendu de tabsnet.de sur l'image chess2.pov
 
 
 http://www.tabsnet.com/micons/chess22.jpg  
 
sur un cluster de 3 machines:
 
1 noeud maitre: mono athlon xp 2800+  
2 noeuds de calcul: bi xéon 2.8 Ghz FSB 533, 2 Go ram
 
Il n'y a que les noeuds de calcul qui sont utilisé pour le rendu. L'hyperthreading est activé sur les xéons. Le réseau est du 100 Mbps (j'attend un switch giga..)
 
Povray est configuré avec MPI, et lance 4 process par machine xéon (pour utiliser les 4 processeurs logiques fourni par l'hyerthreading). On a donc 8 processeurs logiques pour les calculs.
 
donc petits resultats:
 
sur un seul noeud de calcul: 2min 57secondes
sur les deux noeuds de calcul: 1min 30secondes
 
soit une acceleration de 1.966
 
 

n°290650
coda
Posté le 09-07-2003 à 12:31:40  profilanswer
 

rpgman a écrit :


 
Impressinant, ce cluster de 72 XP 2000+ qui est 3333x plus rapide qu'un P133  :wahoo:  
3 secondes pour rendre la scène  :love:, il m'en faut 4min 17 (257 s) sur mon XP2000+  
 
Si on fait 257/72 on trouve 3,57. Chaque PC semble contribuer pleinement au calcul global, c'est impressionnant !  :ouch:  


 
 :jap:  
 
quand j'ai un peu de temps je le fait tourner sur un cluster d'opteron pour voir ...

n°290655
rpgman
Posté le 09-07-2003 à 12:45:16  profilanswer
 

Oui, j'ai oublié de préciser que le bench donc je parle est chess2.pov  :D  
 
Je viens de refaire le test avec une version optimisée pour les athlons XP (téléchargeable ici : ftp://speedycpu.dyndns.org/pub/povray/povray35-xp.zip ) et j'obtiens 3min 55 (235s) au lieu de 257s, soit une augmentation d'un facteur de 1.09, c'est pas si mal  :)  
 
Mais je n'ai trouvé qu'un binaire pour Windows optimisé Athlon XP, pas de traces du même pour linux sur le site de tabsnet.com  :(

n°290656
rpgman
Posté le 09-07-2003 à 12:47:02  profilanswer
 

Coda a écrit :


 
 :jap:  
 
quand j'ai un peu de temps je le fait tourner sur un cluster d'opteron pour voir ...


 
Super !  :)  
Sinon, quand tu dis "sur un seul noeud de calcul: 2min 57secondes ", tu parles du bi-Xeon ou du XP ?  :??:

mood
Publicité
Posté le 09-07-2003 à 12:47:02  profilanswer
 

n°290657
mapti89
Poowwwaaaaa
Posté le 09-07-2003 à 12:48:10  profilanswer
 

rpgman a écrit :


 
Super !  :)  
Sinon, quand tu dis "sur un seul noeud de calcul: 2min 57secondes ", tu parles du bi-Xeon ou du XP ?  :??:  


du bi xeon
l'ahtlon ne sert ka distribuer les taches si j'ai bien compri

n°290662
rpgman
Posté le 09-07-2003 à 13:05:16  profilanswer
 

mapti89 a écrit :


du bi xeon
l'ahtlon ne sert ka distribuer les taches si j'ai bien compri


 
Ah oui, d'accord !  :o  
Donc tu as deux machines bi-xeon, Coda ?

n°290674
coda
Posté le 09-07-2003 à 13:37:58  profilanswer
 

mapti89 a écrit :


du bi xeon
l'ahtlon ne sert ka distribuer les taches si j'ai bien compri


 
tout a fait :jap:
 
l'athlon ne sert que de serveur nfs, dhcp, nis, ... et a lancer les applis

n°290675
coda
Posté le 09-07-2003 à 13:39:21  profilanswer
 

rpgman a écrit :


 
Ah oui, d'accord !  :o  
Donc tu as deux machines bi-xeon, Coda ?


 
de dispo pour tests ouais ...
sinon j'ai une pile de noeud bi athlon (mais j'ai pas assez de fibres optique pour tout connecter ...), et des bi opterons ..

n°290777
rpgman
Posté le 09-07-2003 à 19:16:53  profilanswer
 

Coda a écrit :


 
de dispo pour tests ouais ...
sinon j'ai une pile de noeud bi athlon (mais j'ai pas assez de fibres optique pour tout connecter ...), et des bi opterons ..
 


 
Tu connectes tout en fibre optique ?  :ouch:  
Tous les noeuds ? donc ils sont à 1 Gb ?

n°290809
coda
Posté le 09-07-2003 à 20:24:49  profilanswer
 

rpgman a écrit :


 
Tu connectes tout en fibre optique ?  :ouch:  
Tous les noeuds ? donc ils sont à 1 Gb ?


 
les bi athlons sont des noeuds qui sont en cours de maintenance, ils equipent un cluster qui est tout en fibre optique :)
 
sinon en general on prend du giga cuivre...

n°290937
rpgman
Posté le 10-07-2003 à 11:12:39  profilanswer
 

Coda a écrit :


 
les bi athlons sont des noeuds qui sont en cours de maintenance, ils equipent un cluster qui est tout en fibre optique :)
 
sinon en general on prend du giga cuivre...


 
Et tu vois une différence de perfs si les noeuds sont en 100 Mbits ?

n°290940
coda
Posté le 10-07-2003 à 11:15:45  profilanswer
 

rpgman a écrit :


 
Et tu vois une différence de perfs si les noeuds sont en 100 Mbits ?  


 
bah comme toute les cartes meres qu'on utilise ont deja le giga intégré ... autant l'utiliser :D
 
et en fonction des applis ouais tu vois la différence quand meme ...

n°290941
mapti89
Poowwwaaaaa
Posté le 10-07-2003 à 11:15:56  profilanswer
 

rpgman a écrit :


 
Et tu vois une différence de perfs si les noeuds sont en 100 Mbits ?  


je pense que cela doit bcp dependre du type d'application.
si l'application fait bcp de calcul en faisant tres peu d'acces sur des fichier sa ne doit pas jouer enormement.
a l'inverse comme dans le cas d'une compression d'une video l'utilisation de gigabyt doit etre tres appreciable

n°290948
rpgman
Posté le 10-07-2003 à 11:33:06  profilanswer
 

Coda a écrit :


 
bah comme toute les cartes meres qu'on utilise ont deja le giga intégré ... autant l'utiliser :D
 
et en fonction des applis ouais tu vois la différence quand meme ...  


 
Genre 5%, 10% en plus ?  :??:

n°290957
coda
Posté le 10-07-2003 à 11:48:06  profilanswer
 

mapti89 a écrit :


je pense que cela doit bcp dependre du type d'application.
si l'application fait bcp de calcul en faisant tres peu d'acces sur des fichier sa ne doit pas jouer enormement.
a l'inverse comme dans le cas d'une compression d'une video l'utilisation de gigabyt doit etre tres appreciable


 
voila .. :)
et comme tout est exporté sur le réseau, des que tu commences a manipuler les fichiers tu satures pas mal ...
sans compter les clusters qui ont besoins de latences tres faible ou la faut des reseaux speciaux ...

n°290967
mapti89
Poowwwaaaaa
Posté le 10-07-2003 à 12:13:58  profilanswer
 

bon moi j'ai recuperer un ti DD (2.5Go) pour metre sur mon deuxieme PC. Je pourai faire des test de clustering un peu plus serieu sans etre obliger de passer par un live Cd
Je pense que je vais tester clic


Message édité par mapti89 le 10-07-2003 à 12:14:20
n°290981
coda
Posté le 10-07-2003 à 12:46:54  profilanswer
 

mapti89 a écrit :

bon moi j'ai recuperer un ti DD (2.5Go) pour metre sur mon deuxieme PC. Je pourai faire des test de clustering un peu plus serieu sans etre obliger de passer par un live Cd
Je pense que je vais tester clic


 
ya encore des bugs et qques imperfections mais globalement ça marche pas mal du tout :jap:

n°292289
rpgman
Posté le 15-07-2003 à 08:55:31  profilanswer
 

Bon, je n'ai pas encore eu le temps ce week-end  :sweat: , mais c pas grave, j'ai tout l'été de toute façon  :wahoo:

n°294145
rpgman
Posté le 20-07-2003 à 19:38:34  profilanswer
 

Bon, pas encore le temps d'installer Clic, mais j'ai lu les deux Login recommandés par Rasthor.
 
Voici un ch'tit compte-rendu :  
 
Login n°83, Clusters : Transformez votre PC en supercalculateur
 

  • Article général sur les beowulfs
  • Création d'une ferme de calcul avec PVM, dans le but d'optimiser le temps de calculs de scènes Pov-Ray  
  • Le projet RC5 (distribued computing, donc)
  • Le clustering de stockage avec PVFS


Dans l'ensemble, ces articles sont très succints et on apprend pas grand chose, je trouve :/
 
Login n°86, Les bases de la répartition de charges
 

  • Article général sur la répartition de charge
  • Linux Virtual Server : description
  • Les algorithmes de répartition : explications
  • Les limites de ces solutions et quelques alternatives


A l'inverse, ces articles sont très intéressants, quoique très théoriques : aucune application pratique n'est proposée au lecteur. L'auteur n'hésite pas à utiliser des formules mathématiques complexes pour étayer ces propos.
 
Donc dans l'ensemble, je trouve que ces magazines ne sont pas vraiment indispensables pour s'initier au clustering.


Message édité par rpgman le 20-07-2003 à 21:25:31
n°294159
rpgman
Posté le 20-07-2003 à 21:11:28  profilanswer
 

Le rythme ralentit...
 
Si vous avez un lien, un conseil à donner, un bouquin ou un mag à recommander, votre contribution sera appréciée  :)  :hello:

n°294160
Rasthor
Posté le 20-07-2003 à 21:18:52  profilanswer
 

Rasthor  :jap:

n°294161
rpgman
Posté le 20-07-2003 à 21:25:17  profilanswer
 

Rasthor a écrit :

Rasthor  :jap:  


 
Oups  :whistle:

n°294166
mapti89
Poowwwaaaaa
Posté le 20-07-2003 à 22:53:54  profilanswer
 

kan j'aurai fini d'install ma gentoo je compillerai le kernel openmisx pour revoir tt sa :)

n°312053
Vibidoo
Posté le 23-08-2003 à 05:55:40  profilanswer
 

Salut  
 
 
ça fait déjà un mois que j'ai fini d'installer mon cluster 2 nodes .
Ce topics m'a pas mal mis sur la voie , mais j'ai suivi le forum Gentoo pour les instructions  
.
 
C'est jute deux machines à base de VIA C3  ( une 3ème arivera plus tard ...).
 
Le node slave est en diskless  
 
Le nodemaster est en NFS + Openmosix  
 
En ce moment je suis en train de coincer sur la partie DVDrip en cluster mode .
 
A chaque fois que je schedule le project il passe de waiting a running puis instantanément à waiting .
Car le 1er job est la passe audio et elle est aborted .
 
ça à pas l'air très clair si vous n'etes pas en cluster mode sous DVDrip .  
C'est juste pour savoir si l'un de vous à déjà utilisé DVDrip en cluster mode ?


Message édité par Vibidoo le 23-08-2003 à 05:56:24
n°312565
aldiallo
Posté le 24-08-2003 à 04:56:17  profilanswer
 

ca m'interesse aussi!! :bounce:

n°322868
Vibidoo
Posté le 11-09-2003 à 10:29:57  profilanswer
 

Bon j'ai résolus tous mes problème de fonctionnement sous DVDrip (cluster mode)  
 
Mais maintenant j'ai un problème avec le fichier encodé final .
 
DVDrip utilise transcode pour les fonctions de rippage , encodage et groupement des fichiers .
 
Les étapes de rippage et encodage passent apparement très bien .
 
par contre lors du merge j'ai un problème sur le fichier final , j'ai l'audio que 5 à 6 mn .
 
J'utilise transcode 0.6.9 avec transcode 0.6.6 j'arrivais à avoir 60 % d'audio sur tout le film , mais par contre il me prenait trop de ressource cpu le film saccadait trop  
 
ci dessous la commande transcode  
 

Code :
  1. avimerge -i  /mnt/nfsmountpoint/Verite-trail/avi/010/chunks-psu-00/*
  2. -o /mnt/nfsmountpoint/Verite-trail/avi/010/Verite-trail-010.avi -p /mnt/nfsmountpoint/Verite-trail/avi/010/audio-psu-00/Verite-trail-010-audio-psu-00-00.avi


 
peut etre que je devrais faire un nouveau post au sujet du problème transcode ???


Message édité par Vibidoo le 11-09-2003 à 10:31:59
n°330147
phosphorus​68
Pseudo à n°
Posté le 25-09-2003 à 10:08:55  profilanswer
 

:bounce:

n°330216
Vibidoo
Posté le 25-09-2003 à 12:40:53  profilanswer
 

Bon pour avancer .
 
J'ai réussi à avoir un film final (audio parfait) encodé en mode cluster .  :hot:
 
Mais j'ai du sélectionner le format OGG car en AVI l'audio ça passe pas !!!
 
 
Sinon , savez vous si avec transcode on peut convertir un fçichier OGG en AVI ?


Message édité par Vibidoo le 25-09-2003 à 12:41:18
n°343971
Vibidoo
Posté le 25-10-2003 à 00:35:09  profilanswer
 

houla  
 
:hot:
 

n°343990
Vibidoo
Posté le 25-10-2003 à 07:34:29  profilanswer
 

c'est un peu tard , mais mieux vaut tard que jamais .
Je vais présenter aujourd'hui au salon de thoiry mon Cluster .
 
C'est une machine conçu de A à Z et elle est assez particulière .
 
|----------------|
| 4 cartes mères  |  
| 1 alimentation   |-------> le tout dans un seul boitier
| 1 disque dur      |
|-----------------|
 
OS : Gentoo Linux  
OpenMosix  
 
Et soft pour fonction cluster : DvdRip  
 
:hap:


Message édité par Vibidoo le 25-10-2003 à 07:37:56
n°346580
phosphorus​68
Pseudo à n°
Posté le 29-10-2003 à 13:06:45  profilanswer
 

wow les CM qui se partagent l'alim je peux imaginer mais se partager le DD ...
Comment tu t'y es pris? Chacune y a directement accès ou bien seule une des CM a physiquement accès au DD et ensuite l'OS rend transparent tout ça?

n°350700
phosphorus​68
Pseudo à n°
Posté le 04-11-2003 à 21:26:29  profilanswer
 

Oooh pouvoir tester sans se casser la tête!
 
http://bofh.be/clusterknoppix/
 
Knoppix + cluster = ben je vous dirai ça dans la semaine avec un "parc" (hum) bien hétérogène ;)

n°350753
Gwarm
Posté le 04-11-2003 à 23:33:32  profilanswer
 

vibidoo a écrit :

Bon pour avancer .
 
J'ai réussi à avoir un film final (audio parfait) encodé en mode cluster .  :hot:
 
Mais j'ai du sélectionner le format OGG car en AVI l'audio ça passe pas !!!
 
 
Sinon , savez vous si avec transcode on peut convertir un fçichier OGG en AVI ?


 
C'est pas plutôt un fichier OGM (OGG Media = avi + son(ogg) ) ?  
Pour passer de l'OGM à l'AVI il faut passer le flux audio en mp3.

n°350755
coda
Posté le 04-11-2003 à 23:58:29  profilanswer
 

http://www.open-cluster.com/tmp/cluster_inria.jpg
 

n°350757
coda
Posté le 05-11-2003 à 00:02:53  profilanswer
 

Au fait... vous etes au courant que pendant Linux Expo en février il y aura un Salon Clustering ? ;)

mood
Publicité
Posté le   profilanswer
 

 Page :   1  2  3  4  5  6  7

Aller à :
Ajouter une réponse
 

Sujets relatifs
Pack Extense Wifi et Linuxlinux sur portable ...
Linux sur mon portable ... ?[ LCD sous linux ] Vous utilisez quoi ? satisfait ? vos avis ...
[Linux] Tunneling HTTP ? c'est bien ?[FW] Linux ou BSD ?
P4 C, P4P800 Deluxe et linuxWiniso-like?? ya quoi sous linux??
Profils de couleurs sous Linux ? 
Plus de sujets relatifs à : [Topic Unique] Clustering sous Linux : comment s'initier ?


Copyright © 1997-2022 Hardware.fr SARL (Signaler un contenu illicite / Données personnelles) / Groupe LDLC / Shop HFR