Poszukuję maszyny do trenowania AI

Słuchajcie poszukuję maszynki do treningu wstępnie coś takiego:

Intel Core i7-14700F | B760 | RAM: 64GB 6000MHz | RTX 5060 Ti 16GB | SSD: 2TB | HDD: 4TB | noOS
Model procesora: i7-14700F (2.1 GHz, 5.4 GHz Turbo, 33MB Cache, 65W)
Karta graficzna: GeForce RTX 5060 Ti
Ilość pamięci RAM: 64 GB
Typ dysku 1: SSD
Pojemność dysku: 2000 GB
Pojemność dysku 2: 4000 GB

Znalazłem taką maszynkę ale koszuje to prawie 11k netto, a projekt, który chcę na tym realizować na ten moment nie ma perspektyw zysku. Czy możecie podpowiedzieć skąd wziąć (np wypożyczyć taką maszynkę na 3-6 mc)? Może macie jakiś pomysł jak to ogarnąć? Może jakaś dobra firma leasingowa? Będę wdzięczny za wszelkie podpowiedzi.

wykup na godziny w chmurze, będziesz miał dostęp do znacznie lepszej jednostki, na 5060 Ti to za wiele nie podziałasz i więcej zapłacisz za prąd. Na takim 5090 za $0.99/h wytrenujesz model w 50h to zapłacisz $50, a na 5060Ti trenowałbyś jakieś 150-200h i za sam prąd byś zapłacił około 50-100 zł

zobacz na używany macbook m1 pro max 64gb ram lub m2-m3 z duża ilościa ram, lub mac studio może okazać się lepsze, niż maszynka ta co wysłałeś jest w sumie słabiutka.

Znalazłem taką maszynkę ale koszuje to prawie 11k netto,

To jest dobra cena jak ją podzielisz razy 2. Do tego 6TB dysku, który jest teraz bardzo drogi a w sumie to nie wiem po co ci tyle. Taką maszynę spokojnie poskładasz na jakimś xkomie czy ceneo + usługa złożenia

Moja rada: policz sobie dokładnie ile będziesz używał tego GPU i jak to wynosi cenowo dla każdej opcji (usługa w chmurze, komputer w chmurze, własny komputer, wypożyczony komputer)

wynajmij sobie zasoby na jakims AWS lepiej, bo taka maszyna to marny sprzet

nulled napisał(a):

zobacz na używany macbook m1 pro max 64gb ram lub m2-m3 z duża ilościa ram, lub mac studio może okazać się lepsze, niż maszynka ta co wysłałeś jest w sumie słabiutka.

Odnośnie tego co pisał kolega obscurity, to istotnie, taki mac pewnie będzie 4 razy wolniejszy, ale trzeba wziąć pod uwagę, że jeśli Ci się nie spieszy, to też zużyje on kilkakrotnie mniej prądu z uwagi na technologię arm tych procków, do tego 64gb pozwoli bazować na większych modelach, do tego apple ma jakąś bibliotekę mlx, która też coś tam pomaga.

Natomiast ja się nie miałem okazji tym bawić, więc jak to w praktyce by wyglądało, to ciężko powiedzieć. Ale jeśli ktoś ma takie doświadczenia, to też chętnie poczytam. Ja w moim maku M3pro Max mam za mało ramu do takiej zabawy, bo 36gb, więc nie mam jak potestować.

Tu jakiś gość robi ciekawą analizę jaki jest sens lokalnej maszynki pod AI i co należy optymalizować.
Nie wiem, co konkretnie będzisz trenował, więc trudno powiedzieć jak bardzo się do ciebie to stosuje, ale jest to dobra wskazówka na co trzeba zwracać uwagę.