Ο παράλληλος υπολογισμός προϋποθέτει την ύπαρξη πολλών επεξεργαστών (ή υπολογιστών) που δουλεύουν μαζί για ένα κοινό πρόβλημα. Κάθε επεξεργαστής δουλεύει για μέρος του προβλήματος που του έχει ανατεθεί. Οι επεξεργαστές μπορούν να ανταλλάσσουν πληροφορία. Στον ακολουθιακό υπολογισμό (όταν δηλ., υπάρχει ένας επεξεργαστής), το λογισμικό και το υλικό στο οποίο εκτελείται ακολουθεί το μοντέλο RAM που βασίζεται στο μοντέλο αποθηκευμένου προγράμματος (stored program model) του Von Neumann. 

Πολλές διεργασίες στη φύση και την καθημερινότητα ενέχουν παραλληλισμό, π.χ., καιρικά φαινόμενα, κίνηση τεκτονικών πλακών, σχηματισμός γαλαξιών, οδική κυκλοφορία, συναρμολόγηση αυτοκινήτων, κατασκευή αεροσκαφών, κτλ. Παράλληλος υπολογισμός χρησιμοποιείται σε πολλές περιοχές έρευνας και ανάπτυξης (όπως Επιστήμη των Υπολογιστών, Μαθηματικά, Ηλεκτρολογία, Μηχανολογία, Φυσική, Βιοεπιστήμες, Βιοτεχνολογία, Γενετική, Χημεία, Γεωλογία, Σεισμολογία, κτλ). Ειδικά, στην Επιστήμη των Υπολογιστών, παράλληλος υπολογισμός χρησιμοποιείται για εργασίες όπως εξόρυξη πληροφορίας, αναζήτηση στον Παγκόσμιο Ιστό, επεξεργασία εικόνας, εικονική πραγματικότητα, χρηματική και οικονομική μοντελοποίηση, διαχείριση οργανισμών, δικτυακές τεχνολογίες video και πολυμέσων, συνεργατικά περιβάλλοντα εργασίας.

Ο παράλληλος υπολογισμός χρησιμοποιείται προκειμένου να ξεπερατούν οι περιορισμοί που επιβάλλονται από τον ακολουθιακό υπολογισμό και ειδικότερα για για εξοικονόμηση χρόνου και χρηματικών δαπανών, για επίλυση μεγάλων προβλημάτων, για εξασφάλιση ταυτόχρονης πρόσβασης σε πληροφορίες/υπηρεσίες καθώς και για χρήση μη τοπικών πληροφοριών (π.χ., SETI@home). Στο πλαίσιο του μαθήματος εξετάζεται η έννοια, η εφαρμογή και η αποδοτικότητα του παραλληλισμού στο σχεδιασμό και την εκτέλεση υπολογιστικών εργασιών (αλγορίθμων). Τα προβλήματα και οι αντίστοιχοι αλγόριθμοι που μελετώνται περιλαμβάνουν υπολογιστικές εργασίες που γίνονται μέσα σε ένα ολοκληρωμένο κύκλωμα (chip) ή σε ένα μικροεπεξεργαστή, όπως  π.χ., ταξινόμηση, μέτρηση, πρόσθεση, πολλαπλασιασμός, υπολογισμός προθεμάτων, συνέλιξη, κτλ, υπολογιστικές εργασίες που γίνονται σε ένα υπολογιστικό σύστημα, όπως π.χ., ταξινόμηση, δρομολόγηση, κτλ και άλλες υπολογιστικές εργασίες σχετικές με επικοινωνία σε δίκτυα δεδομένων, κατανομή πόρων, κτλ. Εξετάζονται διάφορες μορφές δικτύων σταθερών συνδέσεων όπως γραμμές, πλέγματα, δέντρα, υπερκύβους, πεταλούδες. Οι προτεινόμενοι παράλληλοι αλγόριθμοι αναλύονται ως προς την επιτάχυνση που επιτυγχάνουν σε σύγκριση με τους αντίστοιχους ακολουθιακούς, την αποδοτικότητα και το έργο τους, δηλ., το πόσο ομοιόμορφα χρησιμοποιούνται οι διαθέσιμοι πόροι. Χρησιμοποιείται ασυμπτωτική ανάλυση για την εκτίμηση της απόδοσης μέσω υπολογισμό άνω και κάτω φραγμάτων. Η ανάλυση είναι κυρίως θεωρητική αλλά μπορεί να στηριχθεί και σε πειραματισμό.

Τα άτομα που συμμετέχουν συστηματικά στις δραστηριότητες του μαθήματος Θεωρία Υπολογισμού και ολοκληρώνουν επιτυχώς την παρακολούθησή του:

• διαθέτουν αποδεδειγμένη γνώση και κατανόηση για βασικές αρχές και μεθόδους σχεδιασμού και ανάλυσης παράλληλων αλγορίθμων και, επομένως, είναι σε θέση να παρακολουθούν τις σύγχρονες εξελίξεις στην αιχμή του γνωστικού τους πεδίου

• είναι σε θέση να χρησιμοποιούν τη γνώση και την κατανόηση που απέκτησαν με τρόπο που δείχνει επαγγελματική προσέγγιση της εργασίας ή του επαγγέλματός τους και διαθέτουν ικανότητες που αποδεικνύονται με το σχεδιασμό και την ανάλυση παράλληλων αλγορίθμων για μελέτη και επίλυση προβλημάτων στο πλαίσιο του γνωστικού τους πεδίου

• διαθέτουν την ικανότητα να συγκεντρώνουν και να ερμηνεύουν συναφή στοιχεία (κατά κανόνα εντός του γνωστικού τους πεδίου) για να διαμορφώνουν κρίσεις που περιλαμβάνουν προβληματισμό σε συναφή κοινωνικά, επιστημονικά ή ηθικά ζητήματα

• είναι σε θέση να κοινοποιούν πληροφορίες, ιδέες, προβλήματα και λύσεις τόσο σε ειδικευμένο όσο και σε μη-εξειδικευμένο κοινό

• έχουν αναπτύξει εκείνες τις δεξιότητες απόκτησης γνώσεων, που τους χρειάζονται για να συνεχίσουν σε περαιτέρω σπουδές με μεγάλο βαθμό αυτονομίας

• αποκτούν εξοικείωση με τον "υπολογιστικό τρόπο σκέψης" (computational thinking)

Ειδικότερα, τα άτομα που συμμετέχουν συστηματικά στις δραστηριότητες του μαθήματος Εισαγωγή στους Αλγόριθμους και ολοκληρώνουν επιτυχώς την παρακολούθησή του:

1. γνωρίζουν βασικές αρχές και μεθόδους σχεδιασμού και ανάλυσης παράλληλων αλγορίθμων

2. κατανοούν πώς μπορούν να χρησιμοποιούν παράλληλο υπολογισμό και πώς να εκτιμούν την ορθότητα και την απόδοση σχετικών αλγορίθμων 

3. εφαρμόζουν αρχές και μεθόδους σχεδιασμού και ανάλυσης παράλληλων αλγορίθμων  για την επίλυση σχετικών προβλημάτων

4. αναλύουν προβλήματα/ερωτήματα με στόχο την κατανόηση της δομής τους και των συστατικών τους μερών καθώς και τη δυνατότητα επίλυσής τους με χρήση παράλληλων αλγορίθμων

5. συνθέτουν λύσεις για τα προβλήματα αυτά με βάση γνωστές μεθόδους σχεδιασμού και ανάλυσης παράλληλων αλγορίθμων

6. αξιολογούν την ορθότητητα και την απόδοση των προτεινόμενων παράλληλων αλγορίθμων καθώς και τη βελτίωση που επιτυγχάνουν σε σύγκριση με ακολουθιακές προσεγγίσεις

αποκτούν εξοικείωση με τον "υπολογιστικό τρόπο σκέψης" (computational thinking)