Overblog
Suivre ce blog Administration + Créer mon blog
22 décembre 2014 1 22 /12 /décembre /2014 23:50

Lors du séminaire Control-M du BMC Exchange 2014 de Paris le 13 novembre 2014, un groupe du BTP a témoigné sur sa migration de $Universe vers Control-M.

Cette conversion que j'ai eu la chance de mener est fortement d'actualité, en particulier depuis le rachat en 2014 de la société ORSYP (éditeur de $Universe) par la société AUTOMIC (éditeur d'Automic, appelé anciennement UC4).

Ce projet de migration est appuyé sur une architecture Control-M v8.0.00 avec un Control-M/Enterprise Manager et un Control-M/Server par environnement en Windows et utilisant la base de données Post-GRE SQL fournie par BMC Software. Les modules Forecast et SelfService ont été mis en œuvre. Il consistait à migrer les deux ordonnanceurs d'ORSYP ($Universe et Unijob) vers Control-M pour une soixantaine de serveurs (Windows, AIX, Linux) et un millier de jobs à la source.

Un important travail de formation et de normalisation a été réalisé en début de projet, il a pour but de retranscrire au mieux les besoins du client en terme de vue métier et d'exploitabilité de la solution et de constituer les règles de nommage des objets Control-M en ce sens.

La conversion des jobs $Universe a été réalisée avec le Conversion Toolkit v8.0.00 de BMC Software. Le résultat obtenu en termes d'ordonnancement est très satisfaisant. Nous noterons quelques non- prises en charge par l'outil comme le cas des Sessions sans tâche ou ne contenant qu'une Uproc (problèmes remontés aux laboratoires qui sont en cours de traitement).

Le problème de cette conversion automatisée dédiée au plus grand nombre est le nommage des entités. En effet, le toolkit de Conversion fourni des jobs Control-M avec des nommages $Universe. Certains paramètres ne sont pas renseignés, d'autres portent de noms d'Uproc, de taches ou de sessions. Les noms de serveurs sont extraits par $U en numéro IP, donc reconduit dans Control-M sous cette forme. Les ressources portent elles aussi des noms $U et ne sont pas toujours pertinentes. Pour simplifier la conversion, le format des conditions générées par le Conversion toolkit est <Job>_Ok ou <Job>_ENDED-OK, ce qui ne correspondait pas à la norme choisie par l'entreprise de BTP qui est de type <prédécesseur>-to-<successeur>.

Un outillage spécifique que j'ai développé, nous permet d'extraire des XML (deftable) générés par le Toolkit de conversion, un tableau au format EXCEL dans lequel le client peut mettre à jour sa norme. Certains champs, comme ici dans le projet du groupe de BTP, pour la fréquence d'exécution, peuvent être remplis lors de la génération du fichier EXCEL. Le client ne saisit que des codes, les nommages finaux seront créés lors de la renormalisation.

Tableau de normalisation
Tableau de normalisation

Ce fichier une fois complété, d'autres outillages réalisent la renormalisation des fichiers XML issu du toolkit pour générer des fichiers XML à la norme du client. Cette dernière opération permet aussi d'ajouter les spécificités du client, comme l'ajout de ressources quantitatives permettant des blocages, des envois de messages pour l'ouverture de tickets d'incidents lorsqu'un job est en erreur, …). Une variable %%OLD_UPROC est aussi ajoutée afin de faire le lien entre l'ancien et le nouvel ordonnancement. Cette dernière pourra être facilement supprimée avec l'utilitaire de modification en masse de la console.

Outillage de normalisation

Outillage de normalisation

A l'issue de cette livraison, certains ajustements restent à réaliser comme la suppression des doublons issus du contournement mis en place dans $Universe pour gérer l'impossibilité de faire l'action post-exécution : "Si Erreur, alors on continue". Avec $U, dans une chaine A, B, C, si le job A est en erreur, mais que l'on doit continuer la chaine. On prévoit deux jobs D et E. Où D est une copie de B et E, une copie de C. Et en cas d'erreur, on fait continuer la chaine par la branche "erreur" (D et E). Dans Control-M, D et E seront à supprimer, puis il faudra simplement ajouter une condition A-to-B en Do Action lorsque le job est NotOK.

Le groupe de BTP a réalisé cette conversion sur 6 mois, par lots non liés pour ne pas avoir à gérer de communications temporaires entre $Universe et Control-M. Cette durée est liée aussi à la migration de l'ordonnanceur Unijob (ORSYP) qui a été réalisée manuellement, car les exports de ce produit ne permettaient pas d'automatiser la conversion.

Ce type de projet demande une implication des équipes, la constitution d'un document de normes qui ne peut être créé qu'à partir d'une vraie formation. Et un travail important pour normaliser les jobs, coté client, qu'il ne faut pas négliger lors du dimensionnement du projet.

Les outillages utilisés dans ce projet peuvent être mis en œuvre pour tous types de projets de renormalisation, mais aussi dans le cadre de conversions réalisées par le toolkit de BMC (Automic, Autosys, TWS, cron, WinAT, …).

A noter, BMC nous a annoncé au cours du séminaire, que les ordonnancements complexes $Universe permettant d'instancier des chaines seront prochainement pris en compte par le Toolkit de conversion.

Partager cet article
Repost0
22 décembre 2014 1 22 /12 /décembre /2014 18:40

Une discussion récente sur LinkedIn m'amène à parler du mode de pré-montée au plan du Control-M/Server v8.

En effet, depuis le fix pack 100 de la version 8 de Control-M, il est possible de configurer la procédure de nouvelle journée (Newday) de manière à ce qu'elle exécute un pré-calcul d'éligibilité des jobs une heure avant l'heure réelle de Montée au plan. Ce plan (AJF) temporaire est stocké dans une table supplémentaire. C'est pourquoi, le passage à la valeur 1 du paramètre système NEWDAY_MODE doit être précédé d'une augmentation de 30% de la taille de la base de données du Control-M/Server.

Lors de la Montée au plan (Newday) un calcul de delta est effectué. Dans le cas où on aurait fait un "check-in" ou un upload de définitions dans l'heure précédente. Puis le contenu de la table temporaire est copié dans le CMR_AJF.

Cette méthode, a pour but de permettre de ne pas utiliser les Uderdaily (Specifics Order Methods en v8) et d'affecter la méthode de Order "Automatic" (Ex SYSTEM) à tous les folders.

Avec la montée au plan classique, bon nombre de folder "automatic" allongerais la durée de la newday. En faisant une pré-montée au plan, la durée des orders en masse de la newday est non pas raccourcie, mais avancée.

Partager cet article
Repost0
24 novembre 2014 1 24 /11 /novembre /2014 23:14

Elle est attendue officiellement pour juin 2015, date à laquelle la version 6.4.01 ne sera plus supportée.

On nous annonce entre autre pour cette version 9, un mécanisme de haute disponibilité intégré, de la planification dynamique de jobs, le partage de données d'un job à un autre, la sortie au format type Visio des définitions, la mise à jour des fix pack des Agents via le Configuration Manager, une automatisation des changements d'environnements (Recette vers Production), ...

Les deux derniers Add-ons récemment sortis (ou à sortir) et nécessitant la v8, ont été présenté :

Le serveur d'archivage (serveur externe appuyé sur une base Post-GRE compressé) qui doit assurer la collecte des OUTPUT (ex-SYSOUT) pour les conserver suivant des règles à définir. Celles-ci seront consultable depuis la console Workload Automation et le Self-Service.

La console de changement (version Web du planning de la console v8 ou du Desktop pour ceux qui sont restés sur les anciennes versions). Cette console doit permettre à Monsieur Toulemonde de créer des chaines et de les soumettent à l'équipe Control-M. Un mécanisme d'annotations et d'échanges est mis à disposition. En fonction des profils, les utilisateurs pourront avoir un accès partiel au formulaire de définitions. Le Scheduling et les Actions pouront, par exemple, rester dans le périmètre de l'équipe Control-M. En ce cas, Les onglets Scheduling et Actions ne seront pas affiché et l'utilisateur donnera sa planification dans les commentaires. Enfin, un module de définition et de contrôle des normes est aussi proposer pour obliger l'utilisateur à respecter celle-ci.

Une équipe projet dit "Putois" des labs a réalisé une sorte de Control Module customisable. Manière d'encapsuler par exemple, les commandes de CFT ou de Time Navigator et de les proposer sous la forme d'un Control Module. Le produit présenté en version super Beta est à intégrer par les labs pour en faire un vrai produit qui pourrait être disponible courant 2015 et peut-être inclus dans la licence standard. Espérons qu'ils auront l'idée de nous permettre de partager les modules créés et d'associer à cet outil un forum et une communauté et une plateforme d'échange.

Prochainement, un compte-rendu sur la présentation que j'ai donné conjointement avec la SOCOTEC sur le thème de la Migration de $Universe vers Control-M.

Partager cet article
Repost0
22 août 2014 5 22 /08 /août /2014 09:29

La gestion centralisée des règles de planification nommées Rules Based Calendars (RBC) dans Control-M v8 et surtout la possibilité d'utiliser ces règles dans les jobs de folders (ex-tables) non-SMART, permet d'envisager une standardisation de ces règles.

En effet, pour quelques milliers de jobs définis "à l'ancienne" dans Control-M, on compte pas moins de quelques milliers de définitions de règles (une par job dans certain cas). Seulement, un rapide audit permet de mettre en évidence qu'une cinquantaine de règles sont utilisées et réutilisées dans tous les jobs et même parfois moins.

"Tous les jours appuyé sur le calendrier des jours ouvrés" n'est-elle pas votre règle de planification la plus rependue ?

L'utilisation des RBC dans la v8 permet de définir ces règles une fois pour toute dans le Calendar Manager et de les utiliser en inclusion dans chaque SMART ou dans chaque jobs. Cette pratique permettra l'utilisation des règles en exclusion déjà décrites dans un article précédent (Déplanifier une journée avec Control-M v8).

Cette opération est tout à fait automatisable et peut venir compléter un projet de montée de niveau ou de renormalisation.

Partager cet article
Repost0
12 novembre 2013 2 12 /11 /novembre /2013 10:58

Le BMC Exchange a regroupé mi-novembre la communauté des utilisateurs des produits de BMC Software à la Maison de la Mode et du Design à Paris.

 

La matinée fut consacré à évoquer l'informatique de demain, les quantités d'informations à traiter, l'omniprésence chez les utilisateurs finaux des plateformes mobiles (smart-phones et tablettes), le Cloud et les masses de changements que leurs mises en œuvre représentent.

 

Le séminaire Control-M de l'après-midi, nous a replongés dans la réalité de la Production. Présentation du nouveau Control Module pour Big Data (Hadoop) ou Frédéric Le Saux de BMC Software a su nous montrer avec des exemples simples la nécessité pour une production de gérer prochainement des centaines de millions de données.

 

Puis il nous a été présenté une peinture assez réaliste des habitudes et besoins des sociétés utilisatrices de Control-M en France (a partir des statistiques de l'avant-vente), qui proposait en regard les modules développés par les labs pour répondre à ces problématiques. Reste en attente, un environnement Business Object dédié à Control-M, que la communautée d'utilisateurs est invitée à partager via les reseaux sociaux si des travaux on déjà été menés.

 

Le produit phare de cette présentation a été sans conteste l'outil de gestion des changements et de créations simplifiée de jobs (Workload Change Manager). Présenté en version Beta, et livré d'ici 9 mois, se module permettant à des non-initiés Control-M de définir des traitements en s'appuyant sur les règles de nommages propre à l'entreprise et configurées par l'administrateur, devrait révolutionner les phases de développement des ordonnancements.

 

Mon seul petit reproche sera peut-être que la road map de la version 9 qui ne fut que survolée par le représentant des labs, nous laissant un peu sur notre faim. Mais le rendez-vous est pris pour l'année prochaine avec un Control-M en version 9.

 

 

 

Partager cet article
Repost0

Présentation

  • : Batch Processing blog
  • : Blog d'Alain LECLAIR consultant expert en Workload Automation et Industrialisation de Productions informatiques.
  • Contact

Recherche

Catégories