Bạn đang cần một chiếc máy có thể cung cấp hàng trăm nghìn tỷ phép tính dấu phẩy động mỗi giây? Hay bạn đang cần một câu chuyện quán bar về việc siêu máy tính trong tầng hầm của bạn đã lật một cầu dao như thế nào? Xây dựng cụm Máy tính Hiệu suất cao của riêng bạn, hay còn gọi là siêu máy tính, là một thách thức mà bất kỳ chuyên gia sành sỏi nào có thời gian rảnh cuối tuần và một số tiền để đốt đều có thể giải quyết. Về mặt kỹ thuật, một siêu máy tính đa vi xử lý hiện đại là một mạng lưới các máy tính làm việc song song với nhau để giải quyết một vấn đề. Bài viết này sẽ mô tả ngắn gọn từng bước trong quy trình, tập trung vào phần cứng và phần mềm.
Các bước
Bước 1. Đầu tiên xác định các thành phần phần cứng và tài nguyên cần thiết
Bạn sẽ cần một nút đầu, ít nhất một chục nút tính toán giống hệt nhau, một bộ chuyển mạch Ethernet, một bộ phân phối điện và một giá đỡ. Xác định nhu cầu điện, làm mát và không gian cần thiết. Đồng thời quyết định địa chỉ IP nào bạn muốn cho các mạng riêng của mình, đặt tên cho các nút, gói phần mềm nào bạn muốn cài đặt và công nghệ nào bạn muốn cung cấp khả năng tính toán song song (sẽ nói thêm về điều này sau).
- Mặc dù phần cứng đắt tiền, nhưng tất cả phần mềm được liệt kê trong hướng dẫn này đều miễn phí và hầu hết đều là mã nguồn mở.
- Nếu bạn muốn xem về lý thuyết, siêu máy tính của mình sẽ nhanh như thế nào, hãy sử dụng công cụ này:
Bước 2. Xây dựng các nút tính toán
Bạn sẽ cần phải tập hợp các nút tính toán hoặc có được các máy chủ xây dựng trước.
- Chọn một khung máy chủ máy tính tối đa hóa không gian, làm mát và hiệu quả năng lượng.
- Hoặc bạn có thể sử dụng hàng tá máy chủ đã qua sử dụng, lỗi thời - mà tổng thể của chúng sẽ lớn hơn tổng các bộ phận của chúng nhưng lại giúp bạn tiết kiệm được một khoản tiền mặt khá lớn. Tất cả các bộ xử lý, bộ điều hợp mạng và bo mạch chủ phải giống hệt nhau để toàn bộ hệ thống có thể kết hợp hài hòa với nhau. Tất nhiên, đừng quên RAM và bộ nhớ cho mỗi nút và ít nhất một ổ đĩa quang cho nút đầu.
Bước 3. Cài đặt các máy chủ vào giá đỡ
Bắt đầu từ phía dưới để giá đỡ không quá nặng. Bạn sẽ cần một người bạn để giúp bạn việc này - các máy chủ dày đặc có thể rất nặng và việc hướng dẫn chúng vào đường ray để giữ chúng vào giá đỡ là rất khó.
Bước 4. Cài đặt bộ chuyển mạch Ethernet phía trên khung máy chủ
Hãy dành thời gian này để định cấu hình công tắc: cho phép kích thước khung jumbo là 9000 byte, đặt địa chỉ IP thành địa chỉ tĩnh mà bạn đã quyết định ở bước 1 và tắt các giao thức định tuyến không cần thiết như SMTP Snooping.
Bước 5. Cài đặt PDU (Bộ phân phối điện)
Tùy thuộc vào dòng điện mà các nút của bạn có thể cần ở mức tải tối đa, bạn có thể cần 220 volt để tính toán hiệu suất cao.
Bước 6. Với mọi thứ đã được cài đặt, bạn có thể bắt đầu quá trình cấu hình
Linux là hệ điều hành trên thực tế dành cho các cụm HPC - nó không chỉ là môi trường lý tưởng cho tính toán khoa học mà còn không tốn một khoản phí nào để cài đặt nó trên hàng trăm hoặc thậm chí hàng nghìn nút. Hãy tưởng tượng sẽ tốn bao nhiêu để cài đặt Windows trên tất cả các nút đó!
- Bắt đầu bằng việc cài đặt phiên bản mới nhất của BIOS và phần sụn bo mạch chủ, phiên bản này phải giống nhau trên tất cả các nút.
- Cài đặt bản phân phối linux ưa thích của bạn trên mỗi nút, với giao diện người dùng đồ họa cho nút đầu. Các lựa chọn phổ biến bao gồm CentOS, OpenSuse, Scientific Linux, RedHat và SLES.
- Tác giả này thực sự khuyên bạn nên sử dụng Phân phối cụm đá. Ngoài việc cài đặt tất cả các công cụ cần thiết để một cụm máy tính hoạt động, Rocks sử dụng một phương pháp tuyệt vời để 'phân phối' nhiều phiên bản của chính nó đến các nút một cách nhanh chóng bằng cách sử dụng khởi động PXE và quy trình 'Kick Start' của Red Hat.
Bước 7. Cài đặt giao diện chuyển thư, trình quản lý tài nguyên và các thư viện cần thiết khác
Nếu bạn không cài đặt Rocks ở bước trước, bạn sẽ phải thiết lập thủ công phần mềm cần thiết để kích hoạt các cơ chế tính toán song song.
- Trước tiên, bạn sẽ cần một hệ thống quản lý bash di động, chẳng hạn như Trình quản lý tài nguyên mô-men xoắn, cho phép bạn chia nhỏ và phân phối tác vụ cho nhiều máy.
- Ghép nối Mô-men xoắn với Bộ lập lịch cụm Maui để hoàn tất thiết lập.
- Tiếp theo, bạn sẽ cần cài đặt giao diện truyền thông báo, cần thiết cho các quá trình riêng lẻ trên các nút tính toán riêng biệt để chia sẻ cùng một dữ liệu. OpenMP là một điều không cần bàn cãi.
- Đừng quên các thư viện và trình biên dịch toán học đa luồng để xây dựng các chương trình tính toán song song của bạn. Tôi đã đề cập rằng bạn chỉ nên cài đặt Rocks?
Bước 8. Nối mạng các nút tính toán lại với nhau
Nút đầu gửi các nhiệm vụ tính toán đến các nút tính toán, đến lượt nó, nút này phải gửi lại kết quả, cũng như gửi các thông điệp cho nhau. Càng nhanh càng tốt.
- Sử dụng mạng ethernet riêng để kết nối tất cả các nút trong cụm.
- Nút đầu cũng có thể hoạt động như một máy chủ NFS, PXE, DHCP, TFTP và NTP qua mạng Ethernet.
- Bạn phải tách mạng này khỏi các mạng công cộng, điều này đảm bảo rằng các gói quảng bá không can thiệp vào các mạng khác trong mạng LAN của bạn.
Bước 9. Kiểm tra cụm
Điều cuối cùng bạn có thể muốn làm trước khi giải phóng tất cả sức mạnh tính toán này cho người dùng là kiểm tra hiệu suất của nó. Điểm chuẩn HPL (Lynpack hiệu suất cao) là một lựa chọn phổ biến để đo tốc độ tính toán của cụm. Bạn sẽ cần phải biên dịch nó từ nguồn với tất cả các tối ưu hóa có thể mà trình biên dịch của bạn cung cấp cho kiến trúc bạn đã chọn.
- Tất nhiên, bạn phải biên dịch từ nguồn với tất cả các tùy chọn tối ưu hóa có thể có cho nền tảng của mình. Ví dụ: nếu sử dụng CPU AMD, hãy biên dịch bằng Open64 với mức tối ưu hóa -0fast.
- So sánh kết quả của bạn trên TOP500.org để so sánh cụm của bạn với 500 siêu máy tính nhanh nhất trên thế giới!
Video - Bằng cách sử dụng dịch vụ này, một số thông tin có thể được chia sẻ với YouTube
Lời khuyên
- Để có tốc độ mạng thực sự cao, hãy xem xét các giao diện mạng InfiniBand. Hãy chuẩn bị để trả giá cao hơn mặc dù.
- IPMI có thể giúp việc quản lý một cụm lớn trở nên dễ dàng bằng cách cung cấp KVM-over-IP, luân chuyển nguồn từ xa, v.v.
- Sử dụng Ganglia để theo dõi tải tính toán trên các nút.
