假設有一個物理模擬,需要對大量資料反覆進行相同的計算。
當資料量不大時,自己的筆電可能幾分鐘就能完成。但當資料變成原本的幾十倍、幾百倍,或一次計算本身就需要更多 CPU 、更多 Memory ,甚至需要 GPU 這類適合處理大量計算的硬體時,原本幾分鐘的工作可能逐漸變成幾個小時、幾天,甚至超過一台普通電腦能有效處理的範圍。
如果問題本身不能再縮小,還能怎麼讓它跑得動?
最直接的方向,是使用更多或更強的計算資源。
因此,可以先把 **High Performance Computing(高效能計算,HPC)**理解成:
使用更多或更強的計算資源,處理一般電腦難以有效完成的大型計算問題
這類需求可能出現在科學模擬、AI training,以及其他需要大量計算的工作中。
這些計算能力可以集中在一台更強的電腦,也可能來自多台電腦一起工作。
但當可用的電腦不只一台時,使用者要怎麼操作這些資源?
當多台電腦被組織在一起、共同提供計算資源時,可以形成一個 Cluster。
Cluster 中的一台電腦通常稱為一個 Node。
假設現在有一個包含 100 個 Nodes 的 Cluster,但同時有 1000 個使用者想要使用它。