Maszyna wirtualna do AI

Maszyna wirtualna do AI
TT
  • Rejestracja: dni
  • Ostatnio: dni
  • Postów: 97
0

Hej, w moim projekcie zamierzam użyć AI ProPainter do wymazywania fragmentów z wideo i inpaintingu. Jestem trochę zielony w AI ale domyślam się że do używania/trenowania będę musiał mieć bardzo mocna maszynę. Mógłby ktoś dać parę wskazówek o jakich mniej więcej rozmiarach maszyn tutaj mówimy i ile to kosztuje? Google podpowiedział mi Microsoft Azure i tam widzę jest masa maszyn z 200gb+ RAM po 3$/godzinę. Będę wdzięczny za każdą wskazówkę 😀

bagietMajster
  • Rejestracja: dni
  • Ostatnio: dni
  • Postów: 447
0

Weź pierwsza lepsza jaka pomyślisz. Postaw tam wszystko, wyślij kilka requestow, wyślij ich dużo żeby zasymulować duży ruch. Będziesz wiedział jak to działa i czy się sprawuje, jak będzie okej albo super to poszukaj czegoś trochę gorszego i powtórz testy. Dzięki z temu znajdziesz maszyne o minimalnych parametrach pod twoj projekt a wtedy szukasz kto oferuje ja najtaniej.

hzmzp
  • Rejestracja: dni
  • Ostatnio: dni
  • Postów: 741
0

Dużo zależy jakiego modelu użyjesz, i na czym liczonego (cpu/gpu). Dla przykładu meta llama3 8B potrzebuje 16GB hdd, 20GB of VRAM (GPU)

Zarejestruj się i dołącz do największej społeczności programistów w Polsce.

Otrzymaj wsparcie, dziel się wiedzą i rozwijaj swoje umiejętności z najlepszymi.