"Si un ouvrier veut bien faire son travail, il doit d'abord affûter ses outils." - Confucius, "Les Entretiens de Confucius. Lu Linggong"
Page de garde > La programmation > gs-fastcopy : obtenir le nombre de processeurs pour les travailleurs de téléchargement

gs-fastcopy : obtenir le nombre de processeurs pour les travailleurs de téléchargement

Publié le 2024-08-09
Parcourir:254

Voir le post précédent : Présentation de gs-fastcopy

J'ai livré l'amélioration gs-fastcopy-python#10 : Inspecter le nombre de processeurs pour de meilleurs paramètres de téléchargement par défaut.

Auparavant, nous utilisions par défaut 8 travailleurs (valeur par défaut de Google). Sur un système avec plus de 8 cœurs, cela laisse beaucoup d'inactivité !

Maintenant, nous inspectons le nombre de processeurs disponibles. Nous honorons os.get_schedaffinity sur les systèmes qui le prennent en charge (processeurs disponibles pour ce processus pas seulement en général), sinon nous utilisons os.cpu_count().

Résultats de l'analyse comparative : [fiche source]

Bar chart showing time taken to complete upload operation, with and without compressing first

Notez comment l'ajout de travailleurs accélère le processus, mais produit des rendements décroissants. Je pense que c'est à ce moment-là que le transfert réseau lui-même devient davantage un goulot d'étranglement, mais il est probable que modifier la taille des morceaux serait également utile.

Notez également les effets plus spectaculaires lors de l'utilisation de la compression (en utilisant pigz, gzip parallèle). pigz aurait déjà repéré les max Workers, la nouveauté ici est de les inclure également dans le téléchargement.

Déclaration de sortie Cet article est reproduit sur : https://dev.to/dchaley/gs-fastcopy-get-cpu-count-for-upload-workers-3ke7?1 En cas d'infraction, veuillez contacter [email protected] pour supprimer il
Dernier tutoriel Plus>

Clause de non-responsabilité: Toutes les ressources fournies proviennent en partie d'Internet. En cas de violation de vos droits d'auteur ou d'autres droits et intérêts, veuillez expliquer les raisons détaillées et fournir une preuve du droit d'auteur ou des droits et intérêts, puis l'envoyer à l'adresse e-mail : [email protected]. Nous nous en occuperons pour vous dans les plus brefs délais.

Copyright© 2022 湘ICP备2022001581号-3