webdonsk.ruКак сделать кластер из raspberry
Добавил пользователь Владимир З. Обновлено: 10.09.2024
Представлены решения Cluster HAT и Turing Pi, позволяющие формировать вычислительные кластеры с применением одноплатных компьютеров и модулей Raspberry Pi.
Cluster HAT (Hardware Attached on Top) — это небольшая плата, которая подключается к компьютеру Raspberry Pi A+/B+/2/3/4 посредством интерфейса USB. К самой плате могут быть подключены четыре модуля Raspberry Zero 1.2, Raspberry Pi Zero 1.3 или Raspberry Pi Zero W.
Решение Cluster HAT может применяться для тестирования небольших кластерных систем. Кроме того, новинка может использоваться в обучающих целях. Цена — приблизительно 50 долларов США.
Что касается решения Turing Pi , то оно представляет собой плату для установки семи модулей Raspberry Pi Compute Module 3/3+. Габариты изделия составляют 170 x 170 мм.
Плата Turing Pi располагает семью слотами для карт microSD, восемью USB-портами, интерфейсом HDMI, стандартным 3,5-миллиметровым аудиоразъёмом, а также портом Gigabit Ethernet.
Приобрести решение Turing Pi можно будет по ориентировочной цене 130 долларов США.
Как вы, скорее всего, уже знаете, компактный компьютер Raspberry Pi используется энтузиастами для самых различных целей. Так, например энтузиаст Дэвид Гилл (David Guill) решил использовать его для постройки кластера — группы компьютеров, соединенных между собой и представляющих, с точки зрения пользователя, единый аппаратный ресурс. Проект решено было назвать 40-Node Raspi Cluster. Стоит заметить, что кластер Дэвиду был необходим для того, чтобы набраться опыта в программировании на распределенных системах, так что кластер из Raspberry Pi будет заменять собой, на время обучения, настоящий супер-компьютер.
Общий вид на моддинг проект 40-Node Raspi Cluster
По простому можно было бы собрать кластер из Raspberry Pi, используя вместо корпуса стелаж или недорогой шкаф (как в случаи с HELMER’ом), но поскольку Дэвид увлекается моддингом, то и кластер он решил сделать стильный, максимально приближенный по своему виду и удобству к серийным решениям. И, надо сказать, у Дэвида это получилось, ведь его проект намного более продуман, чем многие серийные корпуса. Кстати, сделан корпус проекта 40-Node Raspi Cluster из акриловых панелей, нарезанных по размеру с помощью лазера и склеенных вручную.
Основными отличительными особенностями проекта 40-Node Raspi Cluster стали: крутой внешний вид, достаточно компактный размер (как большая башня), удобный доступ ко всем компонентам и возможность их замены без необходимости разбирать корпус, безвинтовое крепление частей коруса и многих комплектующих, а также порядок в проводах (а их в данном проекте ой как не мало). Данный проект включает в себя 40 компактных компьютеров Raspberry Pi (40 ядер Broadcom BCM2835 с частотой 700 МГц, 20 ГБ распределенной оперативной памяти), два 24-портовых свитча, один блок питания форм-фактора ATX, пять жестких дисков емкостью по 1 ТБ (с возможностью расширения до 12 штук), 440 ГБ флеш-памяти, а также роутер с возможностью беспроводного подключения.
Компьютеры Raspberry Pi в данном проекте сгруппированы по четыре штуки на кастомных акриловых креплениях, которых в данном проекте десять штук. Благодаря такому креплению (как в блейд-серверах), обеспечивается удобный доступ и легкая замена компактных компьютеров. Для каждого блейда с Raspberry Pi предусмотрен свой компактный DC-DC преобразователь, питающийся от общего ATX блока питания. Охлаждение кластера реализовано с помощью четырех 140 мм вентиляторов, за которыми установлены фильтры.
С внешним и внутренним видом, а также с особенностями, проекта 40-Node Raspi Cluster вы можете ознакомиться по прикрепленным фото и видео. Если же данный проект вас заинтересовал, то ознакомиться с ним детальней, а Дэвид описал постройку этого монстра очень детально, можно посетив соответствующую заметку на его личном сайте.
На конференции Oracle OpenWorld 2019 организатор Oracle показал интересный кластер, состоящий из 1.060 одноплатных компьютеров Raspberry Pi 3 B+. Платы Raspberry установлены в стойку, в модули 2U. В каждом модуле 2U присутствует 21 одноплатный компьютер Raspberry Pi 3B+. Они установлены в рамки, напечатанные на 3D-принтере. Наши коллеги ServeTheHome более внимательно рассмотрели систему на выставке.
Одноплатный компьютер Raspberry Pi 3 B+ опирается на процессор Broadcom BCM2837B0 с четырьмя ядрами Cortex-A53. Они работают на тактовой частоте до 1.400 МГц. Также доступны 1.024 Мбайт оперативной памяти. Активное охлаждение не планируется. Системы Raspberry Pi подключаются в кластер через Gigabit Ethernet. Блоки из 48 Raspberry Pi подключается к коммутатору Ubiquiti UniFi, которые через SFP+ 10GbE подсоединены к коммутатору 10 GbE, тоже от Ubiquiti.
Одноплатные компьютеры Raspberry Pi питаются уже не от PoE, несмотря на подобную теоретическую возможность, а от блоков питания USB. Конечно, на рынке уже есть блоки питания, которые могут питать десятки устройств USB. Если верить Oracle, потери на PoE слишком велики, поэтому питание USB более эффективно.
Конечно подобная система играет больше демонстрационную роль. В качестве операционной системы используется Oracle Autonomous Linux. На конференции кластер демонстрировал решение визуализации, однако при этом были загружены порядка 500 Pi, так что демо нельзя назвать самым эффективным. Впрочем, вычислительная производительность, даже для более 1.000 Raspberry Pi, остается довольно скромной, учитывая размер системы. Raspberry Pi 3 B+ дает порядка 0,2 GFLOPS одинарной точности в Linpack. Процессор Intel Core i9-9900K, например, показывает на несколько порядков больше - 475 GFLOPS. Даже 1.060 Raspberry Pi обеспечат всего 212 GFLOPS. Однако сфера применения подобных систем может зависеть не только от вычислительной производительности.
С представлением нынешней Raspberry Pi 4, Raspberry Foundation использовала для работы web-магазина 14 Raspberry Pi 4 для обработки PHP (56 ядер и 56 Гбайт ОЗУ). Их дополняли два файловых сервера (8 ядер и 8 Гбайт ОЗУ) и два сервера Memcache (тоже 8 ядер и 8 Гбайт ОЗУ). Впрочем, и здесь система предназначалась, главным образом, для демонстрации собственных продуктов. Но мы все равно получаем интересную сферу использования, которой могут заинтересоваться энтузиасты.
Этот небольшой пост — продолжение статьи о создании специализированный вентилятор Fan SHIM Pimoroni для Raspberry Pi . Этот вентилятор идеально подходит для моей кластерной структуры и не требует установки дополнительных разделителей, увеличивающих высоту платы Pi. Для управления работой вентиляторов можно воспользоваться кодом из моей предыдущей статьи, изменив его так, чтобы он соответствовал целям управления.
Вентиляторы работают отлично, особенно в связке с радиаторами. Я был так ими доволен, что вначале даже не обратил внимания на их светодиодную индикацию. Тепло идёт вверх, поэтому нижняя часть платы Pi в объединённой конструкции подогревает верхнюю.
После того как я разместил платы горизонтально (я сделал только это, ничего больше), температура упала на 10 градусов (!).
Хранение данных и долговечность
Запуск Raspberry Pi с карты памяти по определению может вызвать проблемы. К счастью, почти за весь год, пока у меня на Raspberry Pi работал Kubernetes, я не испытывал никаких проблем; но возникали случаи, когда при определённых настройках конфигурации скорость записи на основной плате падала до 30 кбит/с, а на рабочих платах — до 5 кбит/с.
В качестве хранилища я использую NFS: у меня есть свободный прекрасно работающий мини-компьютер Intel NUC, и я его настроил как сетевое хранилище, поэтому могу ограничивать запись на карты памяти плат, а с помощью утилиты Сетевой трафик незадействованного кластера
Подключение кластера напрямую к домашнему Wi-Fi-маршрутизатору, особенно к типовому маршрутизатору от провайдера Интернета, — не самая хорошая идея, так как характеристики таких маршрутизаторов оставляют желать лучшего, ведь они оптимизированы под обычного пользователя.
Использование сетевых ресурсов активным кластером
Raspberry Pi практически не потребляет мощности и имеет высококачественные разъёмы, поэтому я решил использовать блок питания с несколькими розетками. Мой выбор пал на RAVPower Official — блок питания на 60 Вт (ссылка на Amazon ). Он отлично справляется с работой: при шести подключённых Raspberry Pi у меня не было ни одного сбоя электропитания.
Разгон процессора Pi
Разгон процессора Raspberry Pi может повлечь за собой снятие гарантии!
После обязательного предупреждения хочу затронуть тему регулировки параметров Pi. Да, разогнать процессор Pi даже проще, чем можно было подумать. Сделать это можно, просто изменив значения параметров файла /boot/userconfig.txt, используемого rPI (и включённого в /boot/config.txt) в процессе загрузки.
С подробностями о разгоне процессоров можно ознакомиться в алгоритмах — можно ознакомиться на нашем сайте, где также можно скачать программы курсов, чтобы составить представление о том, что вам предстоит изучить.
Вячеслав Ульянов
Андрей, испытывать работу кластера, держать мини сайт, участвовать в boinc, мелкие вычислительные мащинки
Кирилл Као
Кирилл,
Кирилл, а эту крипту - до сих пор майнят ?? Я думал , что уже попустило . А гляди - ещё пока этой дурью и по сей день занимаются
Единственное к чему смог её приспособить, это торенткачалка с докстанцией и шара мультимедиа. И да. Она питается от самой докстанции)
Андрей Климович
Максим Вальтер ответил Андрею
Андрей Деканович
Андрей, при чём тут стоимость битка, если сложность его майнинга растёт в геометрической прогрессии? Ты рофлишь?
Вячеслав, проще в kubernetes поднять все это за 5 минут
Виталий, хм чувак, kubernetes это ПО для контейнеризации, как оно может заменить отдельную физическую машину?)
Вадим Андреевич
Павел Копков
Владимир Малинин
Интересно что за блок питания там такой, с одного сразу 4 малинки. А каждая жрать может стабильные 5в, и если не ошибаюсь, 2а. Во всяком случае, если поднимать Octoprint на малинке, то любые просадки чреваты косяками в печати. А тут сборка вона какая.
Павел Сухарев
Илья Глуховцов
Владимир, это ещеи опасно, т. к. по сути это одна линия на сколько-то там ват и если у одной карты кз на общем фоне это не будет выделяться, блок в защиту не уйдёт и продолжит выжигать плату. Будет хорошо, если не будет пожара.
Тот же принцип в майнинге, когда берут дешевые бп с малым кол-вом линий 12в
Владимир Малинин ответил Илье
Прикинул тут. Херовато прикинул есчесна, но навскидку, максимальное потребление малинки (беру из своей дырявой памяти) - 2а. при 5в получаем 10вт, а хаброводы говорят, что при нагрузке потребление 5.77вт для 3б+, то бишь 1с гаком амперок. берем 4 малинки под нагрузкой - максимум 10а, что очень невкусно по сечению такого кабеля, но в реальности 5-6а, что тоже не очень вкусно, но более терпимо.
они же параллельно запитаны, а не последовательно. Там просто напряжение упадет, пока кабель не расплавится или бп не вспыхнет, а вот перед смертью он и может с собой забрать что-нибудь.
Если боишься, поставь предохранитель, простой, советский.
Илья Глуховцов ответил Евгению
если питание по разным линиям организованно, то защита их индивидуально мониторит. Однако, если все весит на одной линии и выходит из строя одно устройство, то сам блок не заметит на линии проблем, т.к. общая мощность не сильно изменится. Блок не уйдет в защиту. В майнинге часто по этой причине происходят пожары. Типа 5 карт на одной мощной (2kWh) линии. Если одна карта выходит из строя, то все равно блок справляется и продолжает жечь карту, т.к. в общей сложности превышения незначительны относительно мощности блока питания
Владимир, 3 ампера надо! От 2х амперных заводится, работает, но всегда показывает что недостаточно питания. Проверено неоднократно, на разных блоках питания.
Лёша Панасов
Владимир, там можно подключить обычный atx блок питания, повесив все на 5v линию, а тут скорее всего все просто подключено к компу через хаб
Вячеслав Вераксич
Минималистично и аккуратно
Павел Герцев
Павел, ни как
Было бы точнее спросить - как средние охлаждаются ??
Так как верхний - понятно
Нижний - будет подогревать выше
А вот средним там будет тяжело
Нужен будет продув , но это лишняя трата энергии
Павел Герцев ответила Евгению
Evgeny, зачем тогда на верхнем вентилятор?) Если уж пекло, так всем разом
У каждого свой вентилятор и место между ними есть, да и не греются они сильно. Вот только вопрос ?для чего всё это?
Сильный , но лёгкий
Антон Белов
Святослав Фирсов
Александр Персиц
Илья Титов ответил Кирьянову
Во-первых:
Смысл имеет делать из последних версий, так как там гигабитная вмазанная сеть.
Во-вторых:
С четырех штук имеет смысл делать скорее для ознакомления и обучения построения кластера.
Показать полностью.
Далее. Кластер можно натравить на запароленный архив. Из практических нужд. Запаролили свои фотки интимные, а пароль забыли. Если пароль среднесложный был - кластер справится за несколько часов.
В остальном же - только для науки.
Про майнинг. За неделю работы кластер из 4 штук намайнит вам 0.0014 цента. Не доллара, а цента. Очень выгодно.
Рендеринг видео также не прокатит. Играть мощнее тоже не поможет.
Штука интересная, затягивает.
Вводишь формулу, он считает. Смотришь в итоге через какое время сотрётся подшипник, к примеру.
Или число Пи.
бОльшую же пользу имхо приносят малинки сами по себе.
Из малины вы можете сделать игровую приставку со ВСЕМИ играми сеги, денди и многих других платформ, включая DOS. В том числе можно собрать себе аналоговый ретро-игровой аппарат.
Малина, как было сказано выше будет вам качалкой торрентов.
Малина может быть сердцем умного дома, бестолкового посёлка, или глупого города.
Малина тупо (совсем тупо и на худой конец) может вам быть точкой вайфай доступа. Но это тоже самое, что купить Оку вместо будки для собаки.
Ну и наконец - Малина может вам быть отличным ПК! Более 20 операционок под разные цели и задачи от сурового Арча до банального Андроида.
Как интернет медиацентр - тем более.
И всё это - за 2000 рублей.
А кластер - это так, поиграться.
P. S. Просьба гуру IT не кидаться ссаными тряпками - пост для тех, кто не в курсе.
Читайте также: