$48 000 за GPU-сервер: оправдан ли такой кошелёк?

Один инженер решил, что аренда облачных GPU — это для слабаков, и выложил $48 000 за собственный сервер с видеокартами. Теперь он делится опытом: было ли это разумным вложением или просто способом согреть комнату зимой?

Спойлер: если вы думаете, что покупка железа спасёт от облачных счетов, — у нас для вас плохие новости. Сервер оказался шумным, как взлетающий Boeing, и требовал постоянного внимания, будто новорождённый. Зато теперь автор может локально запускать нейросети, не боясь, что кто-то в облаке накрутит счёт.

Главный вывод: такой сервер оправдан, если вы используете его 24/7 на полную катушку. В противном случае дешевле арендовать GPU у облачных провайдеров, даже с учётом их наценок. А ещё автор признался, что не учёл стоимость охлаждения и электроэнергии — классика жанра.

Комментарий студии METABYTE: Мы тоже любим мощное железо, но напоминаем: иногда проще заплатить за облако, чем потом разбираться, почему сервер гудит как трансформаторная будка. Если не хотите экспериментов с шумом и перегревом — доверьте инфраструктуру профессионалам.