[Cluster] Linux

Répondre
Partager Rechercher
Bonjour a vous chers joliens joliennes!

Mon problème de base est que pour l'instant certaines machines peuvent se retrouvées saturées pendant que certes sont vides ... La solution m'est donc apparu comme une évidence, monter mes machines en cluster!

Tout d'abord je vous explique à peu près dans quel cadre j'en ai besoin:
J'ai une 10aine de serveurs dédiés homogènes ou avec des configs très semblables. (favorable a un cluster)
Il faut savoir que j'ai besoin de ce cluster pour des applications "temps réel" avec connexion persistante comme des jeux en réseau. (apriori très défavorable a un cluster)

Je suis venu vous demander votre avis cette fois ci vis a vis des logiciels qui permettent la mise en place de celui-ci, j'ai lu beaucoup de choses sur google mais j'ai du mal a me décider.

je voudrait que celui-ci ait un peu près la même fonction qu'un raid 5 pour des disques durs .
Tu peu aussi cluster plus ou moins toi même tes machines.

Un bon gestionnaire de tâches , un compilateur MP et un ptit shell genre Mpich ou OpenMpi pour balancer les jobs et un ptit ganglia pour surveiller le tout et roulez petit bolide.

Sinon y a aussi des distros "cluster" toutes faites genre Rocks mais c'est un peu des usines à Gaz pas trop flexibles , même si elles ont plein de petites fonctions super des l'install (tentakle , ganglia , insert-ethers etc ...)
L'exemple type de truc ou tu misère quand tu dois utiliser un compilateur à la con.
J'ai utilisé Heartbeat, mais je suis pas sûr que ça corresponde à ton besoin... du moins, quand je l'ai utilisé, ça servait juste à définir une IP virtuelle et à gérer l'attribution de cette adresse à tel ou tel serveur en fonction de leur état (up/down), je ne sais pas si c'est utile si tu comptes utiliser tes serveurs en parallèle.
Disons que c'était très performant couplé à DRBD pour avoir plusieurs serveurs disposant des mêmes données synchros en temps réel et qui prennent le relais en moins de 30 sec dans le cas où l'un tombe, mais je sais pas si Heartbeat peut diriger les connexions vers un serveur spécifique en fonction de son activité.
Message supprimé par son auteur.
Citation :
Publié par Midgorn
Tu cherches un répartiteur de charge? Tu as LVS qui marche bien
Non je ne peux pas utiliser de loadbalancer les services doivent restés allumés 24/24 7/7, Ce sont des serveurs de jeux qui sont hébergés dessus en majorité.
Le temps du déplacement de votre serveur de jeux d'une machine à une autre est de plus de quelques centièmes de seconde alors que je recherche des performances au niveau de la milliseconde...

Ma solution la plus simple à laquelle j'ai pensé est de mettre en cluster mes 10 machines et d'héberger par exemple mon service 1 sur le serveur virtuelle 1(serveur de jeux), service 2 sur le serveur virtuelle 2(apache) etc...

Je rappel mon problème majeur:

Trouvé un système de cluster (avec le moins possible de latence) sous linux bien évidemment et le must serait qu'il marche sur la même schéma que le raid 5

je n'ai pas encore trouvé mon bonheur sur mon moteur de recherche préféré...
Pour un cluster haute performances il faut beaucoups de sous
Donc pour le réseau, 3 solutions (de la meilleur a la pire):
- Tu fout tout dans un chassis blade style BladeSystem C7000 ( http://h18000.www1.hp.com/products/b...c-class/c7000/ )
- Tu fait un réseau en mesh (donc chaque node est connecté a tout les autres nodes, il faut énormément de cartes réseaux et de câbles réseaux n^n cable/ports donc avec 5 nodes il en faut 25 par exemple) ( http://en.wikipedia.org/wiki/Mesh_networking )
- Tu fais un réseau en étoile dédié a la communication entre les nodes mais avec des cartes réseaux haut de gamme et un switch haut de gamme (style HP Procurve, ou Cisco Catalyst)

Si non il faut que les serveurs de jeux soit prévu pour fonctionner en cluster aussi, si non c'est impossible de le faire

Citation :
Non je ne peux pas utiliser de loadbalancer les services doivent restés allumés 24/24 7/7
L'un n'empêche pas l'autre, si tu veux un LoadBalander (HTTP / TCP) simple et performant: HAProxy

Pour que la communication prenne quelques centième de seconde me semble bizarre, ton switch doit être naze ou tu t'es planté quelque part, si tu cherche un bon switch 100mb pas trop chère et de bonne qualité, je te recommande le HP Procurve 2524
En gros tu veux cluster tes machines et reconstruire ton parc en virtuel sur l'ensemble si j'ai bien compris.
Sur le papier c'est pas trop mal mais gaffe, un cluster c'est très bien quand le code qui le nourris est parallélisable. Et je doute que tous les services que tu va exécuter le soit.
Il faut bien faire la différence entre un load balancing et une parallélisation , on ne parle pas du tout de la même chose, et surtout les contraintes sont très différentes. Par exemple; avoir un environnement matériel hétérogène ne gêne pas beaucoup en load-balancing , pour exécuter un code parallèle c'est déjà beaucoup plus chiant.

Si tu cherche de quoi faire du vrai cluster parallèle il y a pas mal d'idées ici ;

https://www.grid5000.fr/mediawiki/in...d5000:Software


Autre chose; on parle sur ce fil de réseau. Il faut savoir que la plupart des cluster fonctionnent non pas sur un mais plusieurs réseaux. Un réseau externe avec lequel communique le cluster , et un réseau interne , qui inter connecte les noeuds et la frontale. On utilise souvent des réseaux dédiés pour l'interconnexion des noeuds (Fiber Chanel , Mirynet ,Infini Band) mais cela se fait aussi pas mal en Ethernet 1G de base. L'ethernet 10G étant quand à lui courant sur les interconnexions entre l'extérieur et le cluster.
Les réseau 100 ça sert pour le management ... ipmi , E-kvm, PDU et encore , de nos jours au prix d'un bon switch 1000 on se casse même plus les couilles.

Si tu as besoin d'un switch qui envoie , après pas mal de test celui qui envoie le plus reste le 4500g 3com , mais nous on l'aime bien surtout parce qu'on peut leur colle 4*10Gb et deux Gbic Fc Multinode en même temps. (Très pratique pour interconnecter les switch quand tu monte quelques centaines de noeuds.) Vu que la matrice interne du bébé est en IB DDR on est large sur les débit et la latence reste très faible même avec beaucoup de trafic.
Répondre

Connectés sur ce fil

 
1 connecté (0 membre et 1 invité) Afficher la liste détaillée des connectés