Forum |  HardWare.fr | News | Articles | PC | S'identifier | S'inscrire | Shop Recherche
1443 connectés 

  FORUM HardWare.fr
  Linux et OS Alternatifs
  Codes et scripts

  accélérer l'écécution d'un script shell

 


 Mot :   Pseudo :  
 
Bas de page
Auteur Sujet :

accélérer l'écécution d'un script shell

n°1334059
bloomingda​ls
Posté le 02-04-2013 à 16:16:38  profilanswer
 

bonjour tout le monde,
j'ai un script shell qui exécute une requếte snmp et renvoie le resultat dans un fichier
il met 15 min pour terminer son exécution car la requête snmp retourn plus que 400 000 lignes.
 
je voudrai trouver un moyen pour rendre ce temps d'éxécution de l'ordre de secondes
est ce que c'est possible???
 
merci

mood
Publicité
Posté le 02-04-2013 à 16:16:38  profilanswer
 

n°1334060
Mysterieus​eX
Chieuse
Posté le 02-04-2013 à 16:17:49  profilanswer
 

Passer par un parser externe plus performant.

n°1334063
bloomingda​ls
Posté le 02-04-2013 à 16:20:11  profilanswer
 

désolé mai j'ai pas compris

n°1334067
akizan
Eye Sca Zi
Posté le 02-04-2013 à 16:23:11  profilanswer
 

peut être regarder si tu pourrais pas éliminer certaines choses dans tes 400 000 lignes, je veux dire, toutes les informations t'intéressent-elles ?
Est-ce vraiment un problème lié au script ou plutôt au réseau où à la requête snmp elle même ?
Et si possible, peut être mettre ton script ici pour que ceux qui connaissent bien puissent mieux cerner la chose :)

n°1334070
bloomingda​ls
Posté le 02-04-2013 à 16:27:19  profilanswer
 

les lignes sont celles d'une table de routage internet donc oui je dois les avoir toute.
et non le probleme ne vient pas du script mais de l'éxécution de la commande snmp je veux trouver un moyen pour qu'elle retourne toutes ces ligne en un lapse de temps très court

n°1334078
akizan
Eye Sca Zi
Posté le 02-04-2013 à 16:34:48  profilanswer
 

Un parser, c'est en gros l'outil qui va mettre en forme ton fichier (si je raconte pas de bêtises)
Donc soit les lenteurs peuvent venir de la partie qui récupère, soit c'est la partie réseau. As tu fais des tests sur la partie réseau ? Vitesse du lien entre le PC qui exécute le script et le périphérique qui envoie les infos.Pas de problème de connectivité ? si tu te branches en direct live, ça va plus vite ou pas ? si tu sniffe le traffic en temps réel, t'as pas remarqué des "pauses" dans la récup des données ?
Est-ce que le périphérique qui envoi les données est saturé niveau puissance quand la requête est en cours ? (ressource CPU /RAM ?)


Message édité par akizan le 02-04-2013 à 16:35:45
n°1334080
bloomingda​ls
Posté le 02-04-2013 à 16:38:54  profilanswer
 

je vais essayer de voir merci

n°1334083
O'Gure
Modérateur
Multi grognon de B_L
Posté le 02-04-2013 à 17:00:18  profilanswer
 

bloomingdals a écrit :

les lignes sont celles d'une table de routage internet donc oui je dois les avoir toute.
et non le probleme ne vient pas du script mais de l'éxécution de la commande snmp je veux trouver un moyen pour qu'elle retourne toutes ces ligne en un lapse de temps très court


Au final, tu as trouver quels étaient les bons oid ?

 

Sinon pour ta question, pour moi SNMP n'est pas l'outils pour récupérer ces routes... snmp n'est pas conçu pour échanger les routes des tables pour faire du monitoring derrière. Tu as regardé la charge sur le routeur lorsque tu récupères ces routes ? Tu récupères tes routes entièrement tous les combien de temps ?

 

Pourquoi ne pas peerer en bgp entre ton routeur et ta station de supervision pour récupérer ces routes. En plus les updates se feront automatiquement.

 

(Ou mais ça m'étonnerait vérifier si ton routeur supporte BMP et regarder comment le gérer côté station de supervision)


Message édité par O'Gure le 02-04-2013 à 17:06:27

---------------
Relax. Take a deep breath !
n°1334087
akizan
Eye Sca Zi
Posté le 02-04-2013 à 17:29:34  profilanswer
 

+1 c'est vrai, récupérer la config des routes par snmp, c'est pas forcément un bon choix. A moins qu'elles changent vraiment constamment, le snmp à pour "but" d'informer d'un état d'un périphérique a un instant t (par les oid) plutôt que de donner de la configuration.

Message cité 1 fois
Message édité par akizan le 02-04-2013 à 17:30:10
n°1334088
O'Gure
Modérateur
Multi grognon de B_L
Posté le 02-04-2013 à 17:39:12  profilanswer
 

akizan a écrit :

+1 c'est vrai, récupérer la config des routes par snmp, c'est pas forcément un bon choix. A moins qu'elles changent vraiment constamment, le snmp à pour "but" d'informer d'un état d'un périphérique a un instant t (par les oid) plutôt que de donner de la configuration.


De ce que je comprends, ce n'est pas la configuration des routes. D'après ses autres topics, bloomingdals crée une station de supervision de routeur BGP. Là il souhaite récupérer les routes apprises via bgp. A priori ses routeurs se tapent la full routing table, 400k routes à récupérer en snmp... Les refresh ne seront pas automatiques, je suppose qu'il faut repoller en entier...  Je serais curieux de savoir ce qu'il y a en face comme routeur...

 

le taf snmp c'est de récupérer des indicateurs, des remontées d'alarme, éventuellement des modifications de conf, etc... mais pas du monitoring de table de cette dimension.

 

Je ne comprends pas ton "à moins qu'elle change vraiment constamment: amha, si elle change souvent, c'est encore plus lourd d'utiliser snmp...

Message cité 2 fois
Message édité par O'Gure le 02-04-2013 à 17:40:40

---------------
Relax. Take a deep breath !
mood
Publicité
Posté le 02-04-2013 à 17:39:12  profilanswer
 

n°1334093
akizan
Eye Sca Zi
Posté le 02-04-2013 à 18:51:42  profilanswer
 

O'Gure a écrit :


Je ne comprends pas ton "à moins qu'elle change vraiment constamment: amha, si elle change souvent, c'est encore plus lourd d'utiliser snmp...


 
Je voulais dire que c'était pas fait pour. A la limite si les routes changent méga super souvent, bon admettons...(et c'est comme utiliser un taille haies pour tondre la pelouse, ça pourrait le faire mais c'est pas trop fait pour à la base.)
Je suis donc d'accord avec toi mais mal exprimé ma pensée. :)

Message cité 1 fois
Message édité par akizan le 02-04-2013 à 18:52:13
n°1334095
O'Gure
Modérateur
Multi grognon de B_L
Posté le 02-04-2013 à 18:56:55  profilanswer
 

akizan a écrit :

A la limite si les routes changent méga super souvent, bon admettons...(


Mais pourquoi "à la limite" ? qu'est ce qui fait qu'un changement de la table fréquent renderait des get snmp intéressant à cette échelle [:pingouino dei]

Message cité 1 fois
Message édité par O'Gure le 02-04-2013 à 18:59:18

---------------
Relax. Take a deep breath !
n°1334096
O'Gure
Modérateur
Multi grognon de B_L
Posté le 02-04-2013 à 19:02:40  profilanswer
 

Au fait, bloomingdals, tu en fais quoi des routes après ?


Message édité par O'Gure le 02-04-2013 à 19:04:01

---------------
Relax. Take a deep breath !
n°1334104
akizan
Eye Sca Zi
Posté le 02-04-2013 à 22:13:19  profilanswer
 

O'Gure a écrit :


Mais pourquoi "à la limite" ? qu'est ce qui fait qu'un changement de la table fréquent renderait des get snmp intéressant à cette échelle [:pingouino dei]


A la limite = c'est son choix personnel, s'il veut vraiment continuer dans cette "voie".
En fait j'penses que c'est pas forcément évident de savoir s'il souhaite reconsidérer le type de solution déjà mise en place par quelque chose d'autre (même si c'est plus performant), du coup, j'suis plus dans la recherche de garder son système en essayant de trouver des solutions à sa demande originelle : accélérer la récupération :)
Malgré tout, tu as raison de vouloir revoir "à la base" l'environnement et les moyens techniques utilisés.
J'espère avoir été plus clair héhé
 

n°1334276
bardiel
Debian powa !
Posté le 04-04-2013 à 09:08:57  profilanswer
 

O'Gure a écrit :

le taf snmp c'est de récupérer des indicateurs, des remontées d'alarme, éventuellement des modifications de conf, etc... mais pas du monitoring de table de cette dimension.
 
Je ne comprends pas ton "à moins qu'elle change vraiment constamment: amha, si elle change souvent, c'est encore plus lourd d'utiliser snmp...


J'ajouterais aussi qu'il faudrait savoir la gueule du script en question.
Bash par exemple ce n'est pas fait pour ça. Python pareil.
Perl peut à la rigueur le faire, mais le top restera du C compilé. Ce n'est pas comme s'il n'y avait pas les outils pour faire un truc à peu près potable sous la majorité des *nix [:spamatounet]  
 
Après j'ai vu passé ça, mais ça ne change rien au fait que pour moi, bash ce n'est pas fait pour.


---------------
Grippe ? Coronavirus ? Portez votre masque correctement ! :D

Aller à :
Ajouter une réponse
  FORUM HardWare.fr
  Linux et OS Alternatifs
  Codes et scripts

  accélérer l'écécution d'un script shell

 

Sujets relatifs
Script de sauvegarde Rsync à distancescript en remplacement de igoogle et owncloud
Retour différents selon script lancé en crontab ou promptscript de compilation c++ configure.ac
Script de sauvegarde incrémentalePOWERCLI Script ESX
résultat df et ping en ordre scrip shellScript bash, fichier txt par mail contenant des accents
Aide script AWK pour convertir rang IPScript bash
Plus de sujets relatifs à : accélérer l'écécution d'un script shell


Copyright © 1997-2025 Groupe LDLC (Signaler un contenu illicite / Données personnelles)