Server GPU de 48.000$: a meritat sau e doar un radiator scump?

Un inginer a decis că închirierea GPU-urilor în cloud e pentru cei slabi și a dat 48.000$ pe un server propriu cu plăci video. Acum împărtășește experiența: a fost o investiție înțeleaptă sau doar o metodă de a încălzi camera iarna?

Spoiler: dacă credeți că cumpărarea hardware-ului vă scapă de facturile cloud, avem vești proaste. Serverul s-a dovedit a fi zgomotos ca un avion la decolare și a necesitat atenție constantă, ca un copil nou-născut. În schimb, autorul poate rula rețele neuronale local, fără teama că cineva din cloud îi umflă factura.

Concluzia principală: un astfel de server merită doar dacă îl folosești non-stop la capacitate maximă. Altfel, e mai ieftin să închiriezi GPU-uri de la furnizorii cloud, chiar și cu adaosurile lor. Autorul a recunoscut că nu a calculat costurile de răcire și electricitate — clasic.

Comentariul studioului METABYTE: Și nouă ne place hardware-ul puternic, dar reamintim: uneori e mai simplu să plătești pentru cloud decât să te chinui cu un server care urlă ca o transformator. Dacă nu vreți experimente cu zgomot și supraîncălzire, lăsați infrastructura pe seama profesioniștilor.