Web scraper do systemow aukcyjnych

Web scraper do systemow aukcyjnych
DZ
  • Rejestracja: dni
  • Ostatnio: dni
  • Postów: 52
0

Nie jestem programistą w czystym tego słowa znaczeniu, ale mam spore doświadczenie w bazach danych, jakieś podstawy w Javie, programowanie n-code i integracja danych - Mulesoft czy Dell Boomi.
Chciałbym zrobić web scrapera do przeszukiwania aukcji z autami z US - narzędzie z którego sam bym korzystał, więc nie musi być super konfigurowalne, czy z super prezentacją grafiki. Co możecie do tego polecić - najlepsze będzie uczenie się Pytahona, czy może próbować w Javie? Czy będzie to skomplikowane dla kogoś kto nie zna Pythona i zacznie od poczatku?

marian pazdzioch
  • Rejestracja: dni
  • Ostatnio: dni
  • Postów: 789
2

Język nie ma znaczenia. To zależy.

OT
  • Rejestracja: dni
  • Ostatnio: dni
  • Postów: 20
2

Zerknij na Selenium. Można z tego skorzystać zarówno z poziomu Pythona, jak i Javy.
Na początek spróbuj zrobić web scrapping czegoś prostego, aby zobaczyć jak Ci się pracuje z tym narzędziem, a potem zabierz się za projekt docelowy.

ledi12
  • Rejestracja: dni
  • Ostatnio: dni
  • Lokalizacja: Wrocław
49

Python nada się do tego świetnie. Są dedykowane moduły do tego, takie jak np scrapy, beautiful soup itp.

IN
  • Rejestracja: dni
  • Ostatnio: dni
  • Postów: 110
2

a może python + https://scrapy.org/ ?

MM
  • Rejestracja: dni
  • Ostatnio: dni
  • Postów: 7
1

Jeśli znasz Javę, to Java + Selenium sobie spokojnie poradzą :)

Dawno temu napisałem na zlecenie projekt z interfejsem graficznym, który na bet365 obstwiał na wielu kontach jednocześnie - i napisałem go właśnie w Java + Selenium.

Nie jest to najlepsze rozwiązanie, ale jak na Twoje potrzeby wystarczająco dobre

DZ
  • Rejestracja: dni
  • Ostatnio: dni
  • Postów: 52
0

W końcu się okazało, że znalazłem na ryku narzędzie za grosze, które robi to co planowałem. Dziękuję wszystkim za odpowiedz, ale uczę się Selenium, bo podoba mi się to narzędzie :)

Zarejestruj się i dołącz do największej społeczności programistów w Polsce.

Otrzymaj wsparcie, dziel się wiedzą i rozwijaj swoje umiejętności z najlepszymi.