Khoa học kỹthuật ngày càng phát triển, ñặt ra nhiều bài toán với khối lượng tính toán rất lớn. Trong số ñó có những bài toán mà kết quảchỉ có ý nghĩa nếu ñược hoàn thành trong khoảng thời gian cho phép. Ví dụ nhưcác tính toán trong thời gian thực, mô phỏng sựchuyển ñộng của các phân tử, tính quĩ ñạo chuyển ñộng của vật thểtrong không gian, dự báo thời tiết. Đểgiải quyết những bài toán này, người ta ñã nghiên cứu tăng tốc ñộtính toán bằng hai phương pháp hay kết hợp cảhai: Phương pháp 1: Cải tiến công nghệ, tăng tốc ñộ xử lý của máy tính. Công việc này ñòi hỏi nhiều thời gian, công sức và tiền của, nhưng tốc ñộcũng chỉ ñạt ñược ñến một giới hạn nào ñó. Phương pháp 2: Chia bài toán ra thành những công việc nhỏ ñểcó thểchạy song song trên nhiều bộxửlý. Việc phát triển công nghệtính toán theo phương pháp 2 ñã cho ra ñời công nghệtính toán song song, ñó là việc sửdụng ñồng thời nhiều tài nguyên tính toán ñểgiải quyết một bài toán. Các tài nguyên tính toán có thể bao gồm một máy tính với nhiều bộvi xửlý hay một tập các máy tính kết nối mạng hay là một sự kết hợp của hai dạng trên. Công nghệ tính toán song song cho phép giảm thời gian thực thi bài toán tùy thuộc cách phân chia và sốbộxửlý thực thi chương trình. Nguyên tắc quan trọng nhất của tính toán song song chính là tính ñồng thời hay xửlý nhiều tác vụcùng một lúc.