mémoire partagée vs mémoire distribuée et multithread vs multitraitement

Question

J'apprends la programmation parallèle par moi-même. Je me demande si la mémoire distribuée est toujours multiprocessus et le multithread est toujours une mémoire partagée? si le multiprocessus peut être à la fois pour la mémoire distribuée et pour la mémoire partagée? Merci et salutations!

Answer 1

Oui, oui et "oui, dans un sens"

Dans un système à mémoire distribuée, différentes UC disposent de leurs propres systèmes de mémoire. L'accès à partir d'un autre processeur sera probablement plus lent ou avec un modèle de cohérence plus limité, si possible. Ce sera plus typique d’un multiprocesseur de transmission de messages.

L'utilisation de plusieurs threads pour la programmation parallèle est plus un paradigme logiciel qu'un problème matériel, mais vous avez raison, l'utilisation du terme thread indique essentiellement qu'une seule mémoire partagée est en cours d'utilisation. peut ou peut ne pas inclure plusieurs processeurs réels. Il peut même ne pas inclure plusieurs threads du noyau, auquel cas les threads ne seront pas exécutés en parallèle.

Je ne suis pas tout à fait clair sur le sens de la dernière question. Certainement, en disant "mémoire distribuée" ou "mémoire partagée" cela implique " distribué sur les processeurs " et "partagé par les processeurs", donc je suppose que les termes ne s'appliquent que raisonnablement aux systèmes multiprocesseurs ou potentiellement multiprocesseurs. Si nous parlons de plusieurs processus au sens logiciel, je suppose que c'est plutôt une exigence pour les systèmes de mémoire distribuée, et essentiellement une exigence (ils peuvent être appelés ) pour un système de mémoire partagée.

J'ajouterais que les systèmes à mémoire distribuée mais à cache-cohérent existent et constituent un type de conception multiprocesseur à mémoire partagée appelé NUMA. Il y a quelques années à peine, ces machines constituaient la frange folle du calcul parallèle, mais les processeurs Intel Core i7 NUMA introduit dans le courant dominant.