Dwa eventy odebrane w zbyt krótkim czasie.

Dwa eventy odebrane w zbyt krótkim czasie.
Bambo
  • Rejestracja:ponad 10 lat
  • Ostatnio:8 miesięcy
  • Postów:779
0

Hej, mam taki case, że reaguję na dwa eventy, załóżmy A i B i eventy te dochodzą po sobie w przeciągu 300-400 milisekund.

Na event A pobieram encję, dokonuję zmian i zapisuję. Na event B pobieram tą samą encję (z tym samym id) i dokonuję innych zmian. Problem w tym, że w przetwarzaniu eventu B muszę znać zmiany z eventu A, a jak debuguję to to jeszcze tych zmian tam nie widać.

Brokker to RabbitMQ + standardowo Spring na Tomcacie.

Wstawianie na pałe delaya do obsługi eventu B wydaje się średnie. Co się robi w takich momentach?

edytowany 1x, ostatnio: Bambo
Shalom
  • Rejestracja:około 21 lat
  • Ostatnio:około 3 lata
  • Lokalizacja:Space: the final frontier
  • Postów:26433
9

Coś średnio tu te eventy pasują w takim razie. A co jak event A w ogóle zaginie, albo przyjdzie dużo później albo przynajmniej później niż B? Boję się w ogóle pytać co byś zrobił jakby aplikacja miała więcej niz 1 node.
Jeśli masz takie powiązanie między eventami to czemu to nie jest 1 event? Albo musisz sobie zrobić jakiś stateful handler tych eventów, który będzie synchronizować ten odbiór i wykonywać akcje dopiero jak przyjdą oba.


"Nie brookliński most, ale przemienić w jasny, nowy dzień najsmutniejszą noc - to jest dopiero coś!"
jarekr000000
  • Rejestracja:ponad 8 lat
  • Ostatnio:około 6 godzin
  • Lokalizacja:U krasnoludów - pod górą
  • Postów:4707
9

Jak wyżej - być może to jest jeden event, być moze używasz złej architektury.

W architekturze eventowej - musisz być przygotowany, że eventy dojdą w zupełnie dowolnej kolejności( czasem są pewne gwarantowane "zależności" - ale w ogólności, mając kolejki perzystentne przeważnie nie możesz na zależnościach czasowych polegać).
To jakby podstawa takiej architektury.

Najpierw dostajesz event o wycofaniu zamówienia, a potem dopiero to zamówienie - normalka.
Jak sobie z tym radzić? są różne metody:

Napisac tak kod obsługi B tak, że jeśli nie ma jeszcze A - to zapisze co trzeba zrobić jak przyjdzie A i handler A to zrobi.
(w przypadku wyżej tabelka "cancelled orders" - do której zaglądamy jak przychodzi event - zamówienie złożone).

Ewentualnie jeśli teraz eventu nie da się przetworzyć to wstaw na nowo na koniec kolejki - to drugie rozwiązanie zwykle szybko kończy się jakimś never ending zapętleniem (ale temu też można zapobiec).

Wszelkie pomysły z delayem w event handlerze itp NIE BĘDĄ DZIAŁAĆ.


jeden i pół terabajta powinno wystarczyć każdemu
edytowany 6x, ostatnio: jarekr000000
BC
  • Rejestracja:prawie 13 lat
  • Ostatnio:około 24 godziny
  • Postów:159
0

Jeżeli eventy mają realizować jakiś biznes to można sprawdzać status encji np. czy aktualnie czeka na event B czy na event A.

Bambo
Ja mam taką logikę ... ale odstęp czasu między eventami jest tak mały, że obsługa eventu B nie widzi zmian po evencie A
M9
  • Rejestracja:około 4 lata
  • Ostatnio:około 4 lata
  • Postów:42
0

W takiej sytuacji, po pierwsze trzeba https://www.rabbitmq.com/tutorials/tutorial-six-python.html. Nie jest to niestety ładne rozwiązanie, chodzi tutaj tylko o synchronizację i z obu stron jest coś wrzucane na kolejki B możesz dopiero wysłać jak dostałeś response z odpowiednymi danymi na kolejke. Alternatywa https://www.rabbitmq.com/direct-reply-to.html. Jeżeli chodzi o widoczność zmian załatwia się to po prostu transakcjami i lockami

Charles_Ray
Transakcje i locki przy eventach => coś poszło grubo nie tak. Poza tym eventy mogą wpaść w odwrotnej kolejności
M9
przecież podałem rozwiązanie wzorca RPC w pierwszym zdaniu co spowoduje, że eventy wpadną w odpowiedniej kolejności. Nie rozumiem, chcesz bez locków wykonywać operacje na bazie relacyjnej? Oczywiście, że encja B musi poczekać na zwolnienie locka przez przez encje A i wtedy może wykonywać operacje, inaczej to nie przejdzie. Dodatkowo wyflushowałbym dane w klastrze po operacjach na A. Nie kłócę się nad niesłusznością rozwiązania takiego problemu za pomocą kolejek, daje realne rozwiązanie i niepochwalam takiego podejścia.
Bambo
  • Rejestracja:ponad 10 lat
  • Ostatnio:8 miesięcy
  • Postów:779
0

Nie ja projektowałem mikroserwis, który rzuca te eventy ;p

Mamy w systemie wersjonowanie eventów, aby nie przetwarzać jakiś zagubionych albo zduplikowanych. Wersja eventu jest wstawiana na podstawie wersji encji.

W moim przykładzie chodzi o dwa eventy:

order.accepted oraz oraz.completed.

Flow wygląda tak:

  1. User klika w apce, że przekazał przedmiot odbiorcy
  2. Idzie request do backendu (mikroserwisu od zamówień), zamówienie zmienia status i emituje order.accepted
  3. Z mikroserwisu zamówień idzie request do mikroserwisu z płatnościami i jak wszystko pójdzie ok to order zmienia status na completed i emituje order.completed.
  4. Response wraca na front

Punkt 3 trwa generalnie szybko, więc czas między order.accepted i order.completed jest bardzo krótki.

Jestem przygotowany, że te dwa eventy przyjdą w odwrotnej kolejności czy najpierw order.completed a potem .accepted ale to nie rozwiązuje tego problemu zbyt krótkiego czasu między nimi.
Ba! Gdyby najpierw przyszło order.completed a potem po dłuższym czasie order.accepted (czyli odwrotnie ale z dłuższym odstępem czasu między nimi) to by mi to zadziałało.

Dzięki za odp.

edytowany 3x, ostatnio: Bambo
Charles_Ray
  • Rejestracja:około 17 lat
  • Ostatnio:około 14 godzin
  • Postów:1875
2

No to wersjonowanie na poziomie encji, np. optimistic locking. Jak będziesz miał race condition, to przetwarzanie drugiego eventu zostanie odbite przez bazę i będzie musiało zostać ponowione po czasie zależnym od tego jaki tam masz ustawiony retry backoff. Dzięki optimistic locking nie masz... locków.


”Engineering is easy. People are hard.” Bill Coughran

Zarejestruj się i dołącz do największej społeczności programistów w Polsce.

Otrzymaj wsparcie, dziel się wiedzą i rozwijaj swoje umiejętności z najlepszymi.