معماری کامپیوتر موازی در طیف گسترده ای از کامپیوترهای موازی وجود دارد که بر اساس سطحی که سخت افزار از موازی سازی پشتیبانی می کند طبقه بندی می شود. معماری موازی کامپیوتر و تکنیک های برنامه نویسی با هم کار می کنند تا به طور موثر از این ماشین ها استفاده کنند. کلاس های معماری موازی کامپیوتر عبارتند از:

• محاسبات چند هسته ای: یک پردازنده چند هسته ای یک مدار مجتمع پردازنده کامپیوتری با دو یا چند هسته پردازش مجزا است که هر کدام دستورات برنامه را به صورت موازی اجرا می کنند. هسته‌ها روی چندین قالب در یک بسته تراشه یا روی یک قالب مدار مجتمع ادغام می‌شوند و ممکن است معماری‌هایی مانند multithreading، superscalar، vector یا VLIW را پیاده‌سازی کنند. معماری‌های چند هسته‌ای به‌عنوان همگن، که فقط شامل هسته‌های یکسان است، یا ناهمگن، که شامل هسته‌هایی که یکسان نیستند، دسته‌بندی می‌شوند. 
• چند پردازش متقارن : معماری سخت‌افزار و نرم‌افزار رایانه چند پردازنده‌ای که در آن دو یا چند پردازنده مستقل و همگن توسط یک نمونه سیستم عامل کنترل می‌شوند که با همه پردازنده‌ها به طور یکسان رفتار می‌کند، و به یک حافظه اصلی مشترک و با دسترسی کامل به همه منابع مشترک وصل می‌شود. دستگاه ها هر پردازنده دارای یک حافظه کش خصوصی است، ممکن است با استفاده از شبکه های مش روی تراشه متصل شود، و بدون توجه به اینکه داده های آن کار در کجای حافظه قرار دارد، می تواند روی هر کاری کار کند.
• محاسبات توزیع شده: اجزای سیستم توزیع شده در رایانه های شبکه ای مختلف قرار دارند که اقدامات خود را با برقراری ارتباط از طریق HTTP خالص، اتصال دهنده های RPC مانند و صف های پیام هماهنگ می کنند. ویژگی های مهم سیستم های توزیع شده شامل خرابی مستقل اجزا و همزمانی اجزا است. برنامه نویسی توزیع شده معمولاً به عنوان معماری مشتری-سرور، سه لایه، n-سطح یا همتا به همتا طبقه بندی می شود. همپوشانی زیادی در محاسبات توزیع شده و موازی وجود دارد و اصطلاحات گاهی اوقات به جای یکدیگر استفاده می شوند. ‌
• محاسبات موازی انبوه : به استفاده از رایانه های متعدد یا پردازنده های رایانه ای برای اجرای همزمان مجموعه ای از محاسبات به صورت موازی اشاره دارد. یک رویکرد شامل گروه بندی چندین پردازنده در یک خوشه کامپیوتری متمرکز و ساختار یافته است. روش دیگر محاسبات شبکه ای است که در آن بسیاری از کامپیوترهای پراکنده با هم کار می کنند و از طریق اینترنت برای حل یک مشکل خاص ارتباط برقرار می کنند.

دیگر معماری‌های کامپیوتری موازی شامل رایانه‌های موازی تخصصی، محاسبات خوشه‌ای، محاسبات شبکه‌ای، پردازنده‌های برداری، مدارهای مجتمع ویژه برنامه، محاسبات همه منظوره بر روی واحدهای پردازش گرافیکی ( GPGPU ) و محاسبات قابل تنظیم مجدد با آرایه‌های دروازه قابل برنامه‌ریزی میدانی است. حافظه اصلی در هر ساختار کامپیوتری موازی یا حافظه توزیع شده یا حافظه مشترک است.