7 min czytaniaInżynieria

Fire-and-forget: zliczanie kliknięć poza gorącą ścieżką

Jak skracacz URL zapisuje kliknięcia bez spowalniania przekierowania: asynchroniczna emisja na brzegu, zapisy wsadowe, offsety po insercie i kompromisy.

Marius Voß
DevRel · edge infra

Fire-and-forget w zliczaniu kliknięć oznacza, że serwer przekierowań zapisuje kliknięcie, przekazując zdarzenie producentowi działającemu w tle i od razu zwracając przekierowanie (302, chyba że link ustawiono na 301 lub 307), bez czekania na informację, że zdarzenie zostało zapisane. Osobny worker odczytuje później zdarzenia z magistrali, zapisuje je wsadowo do magazynu analitycznego i obsługuje wszystko inne, co chce mieć kopię. Odwiedzający dostaje przekierowanie szybko. Ceną jest małe okno, w którym zdarzenie może zginąć.

To cały pomysł. Reszta wpisu opisuje, jak działa potok zdarzeń kliknięć w Elido, od handlera przekierowania po wsadowy insert, gdzie zdarzenia mogą się zgubić i co byśmy zmienili. Opóźnieniami zajmuje się wpis filarowy, jak utrzymujemy p95 przekierowania poniżej 15 ms.

Co oznacza fire-and-forget na ścieżce przekierowania

Handler przekierowania ma jedno zadanie. Rozwiązać slug, wybrać cel, wysłać nagłówek Location. Gdy cel jest znany (zwykle z dwupoziomowej pamięci podręcznej), handler buduje zdarzenie kliknięcia: slug, identyfikatory workspace'u i linku, user agent, referrer, IP, kraj, region, miasto i współrzędne z lokalnego wyszukiwania GeoIP, urządzenie i przeglądarka oraz ewentualne flagi podejrzeń z wykrywania botów.

Następnie uruchamia emisję we własnej goroutine i dalej zapisuje odpowiedź. Oto producent, skrócony tylko pod względem szerokości:

func (p *Producer) Emit(ctx context.Context, e Event) {
    if p == nil {
        return
    }
    b, err := json.Marshal(e)
    if err != nil {
        p.log.Warn("click marshal", zap.Error(err))
        return
    }
    rec := &kgo.Record{Topic: p.topic, Value: b}
    p.client.Produce(ctx, rec, func(_ *kgo.Record, err error) {
        if err != nil && p.log != nil {
            p.log.Warn("click produce", zap.Error(err))
        }
    })
}

Produce jest asynchroniczne. Biblioteka kliencka buforuje rekord i wysyła go w tle, a callback tylko loguje. Brak kolejki ponowień w procesie przekierowania, brak bufora na dysku, brak czekania na ack.

Sprawdzenie nil służy lokalnemu developmentowi. Bez skonfigurowanego brokera konstruktor zwraca producenta nil, a każda emisja staje się operacją pustą, więc serwer przekierowań można uruchomić na laptopie bez niczego więcej.

Handler przekierowania buduje zdarzenie kliknięcia, uruchamia asynchroniczną emisję i zapisuje przekierowanie, podczas gdy producent w tle wysyła rekord do magistrali zdarzeń

Dlaczego nie zapisywać kliknięć synchronicznie

Zapis każdego kliknięcia prosto do bazy analitycznej z serwera przekierowań wygląda prościej. Elido tego nie robi z trzech powodów, które się kumulują.

Pierwszy to opóźnienie. Każde synchroniczne wywołanie sieciowe na ścieżce przekierowania dodaje całą swoją rundę do czasu oczekiwania odwiedzającego, a ogon tej rundy psuje p95. Nasz budżet nie ma na to miejsca.

Drugi to kształt wsadu. Magazyny kolumnowe są budowane pod duże inserty. Typowe zalecenia producentów mówią, by wstawiać duże wsady zamiast wiersz po wierszu, bo każdy insert tworzy part, który potem muszą scalić scalenia w tle. Zapisy jednowierszowe z wielu serwerów przekierowań to najgorszy możliwy wzorzec.

Trzeci to izolacja awarii. Gdy baza się restartuje lub zwalnia, projekt synchroniczny przenosi to wprost na przekierowania: albo przekraczają limit czasu, albo kliknięcia znikają. Przy magistrali pośrodku każda strona zawodzi osobno. Przekierowania działają dalej, gdy analityka jest zdegradowana, a zaległości czekają na magistrali, aż baza wróci, dopóki trwa retencja tematu.

Jak worker zliczania kliknięć grupuje zdarzenia we wsady

Worker to usługa w Go należąca do grupy konsumentów tematu kliknięć. Auto-commit jest wyłączony. Jego pętla jest krótka:

  • Pobierz wsad rekordów z tematu.
  • Zdekoduj każdy rekord do typowanego zdarzenia.
  • Wrzuć zdarzenie wraz z rekordem do bufora w pamięci writera.
  • Przekaż kliknięcie skonfigurowanym pikselom i forwarderom zdarzeń oraz opublikuj małe zdarzenie dla licznika kliknięć na żywo.

Writer zapisuje wsad po 1000 zdarzeń lub co 5 sekund, zależnie od tego, co nastąpi pierwsze. Obie wartości to domyślne ustawienia w konfiguracji usługi. Zapis przygotowuje jeden wsadowy insert do tabeli click_events z 30-sekundowym limitem czasu i wysyła go jako pojedyncze polecenie.

Kolejność operacji sprawia, że to at-least-once. Dopiero po udanym insercie writer oznacza te rekordy i zatwierdza ich offsety. Jeśli insert się nie powiedzie, wsad wraca na początek bufora, a następny zapis próbuje ponownie. Jeśli proces padnie przed zatwierdzeniem, grupa wykona rebalans, a kolejny właściciel czyta od ostatnio zatwierdzonego offsetu, więc zdarzenia zostaną zapisane ponownie.

To ma koszt, który wolę nazwać wprost. Tabela to zwykły MergeTree bez klucza deduplikacji, więc awaria między insertem a zatwierdzeniem zostawia zduplikowane wiersze. Komentarz w kodzie nazywa to rzadkim i mówi, że analityka to toleruje, co zgadza się z tym, co obserwujemy. To wciąż znana luka, a nie gwarancja exactly-once.

Zatrute wiadomości są obsługiwane odwrotnie. Rekord, którego nie da się zdekodować, trafia do logu, a jego offset jest oznaczany, więc jeden uszkodzony rekord nie zablokuje partycji na zawsze. To zdarzenie przepada, a dziś nic nie zachowuje surowych bajtów.

Gdzie zdarzenia kliknięć mogą zginąć

Fire-and-forget świadomie rezygnuje z części zdarzeń. Warto dokładnie wiedzieć, gdzie.

  • Między przekierowaniem a magistralą. Rekordy chwilę leżą w buforze producenta, zanim zostaną wysłane. Przy zamykaniu serwer przekierowań zamyka klienta, ale nie ma osobnego kroku drain, który czeka na opróżnienie bufora, więc wdrożenie może zgubić to, co było w locie.
  • Gdy magistrala jest niedostępna. Klient ponawia, ale nie w nieskończoność. Jeśli magistrala pozostaje wyłączona dłużej, callback produce loguje ostrzeżenie, a rekord jest odrzucany.
  • Uszkodzone rekordy. Jak wyżej, pomijane i logowane.

Gdy zdarzenie dotrze do magistrali, strona konsumenta go nie gubi. Może je zduplikować.

Nie ma opublikowanego wskaźnika strat. Nie zmierzyłem takiego, za którym bym stał, a zmyślanie ułamka byłoby gorsze niż przyznanie tego. Możemy za to powiedzieć, dlaczego ten projekt jest akceptowalny przy tym obciążeniu: kliknięcia to sygnał statystyczny. Podział geograficzny, miks referrerów i porównania kampanii wytrzymują niewielki odsetek braków. Wszystko, co rozlicza się za kliknięcie, albo co audytor uzgadnia wiersz po wierszu, wymaga trwałej ścieżki zapisu, której ten potok nie oferuje. Jeśli to Twój przypadek, zajrzyj do wpisu webhooki vs polling w śledzeniu kliknięć i pobieraj liczby z API analitycznego zamiast polegać na strumieniu.

Co się dzieje, gdy magazyn analityczny nie działa

Gdy inserty zawodzą, writer trzyma wsad i ponawia przy każdym zapisie. Offsety nie są zatwierdzane, więc magistrala nadal trzyma każde nieprzetworzone zdarzenie.

Słabym punktem jest pamięć. Konsument dalej pobiera rekordy, gdy inserty zawodzą, a bufor writera rośnie bez żadnego limitu. Krótka awaria nie jest problemem. Długa przy realnym ruchu mogłaby zbliżyć workera do limitu pamięci, a po restarcie po prostu czyta od ostatnio zatwierdzonego offsetu. W ten sposób nic nie ginie, ale to też niezbyt eleganckie. Oczywistą poprawką jest wstrzymanie pętli pobierania, gdy writer zawodzi.

To, jak długą awarię przetrwasz, zależy od retencji tematu ustawionej w magistrali, a nie od czegokolwiek w workerze. Ustaw ją dłużej niż najgorsza odbudowa, jaką potrafisz sobie wyobrazić.

Fan-out: piksele, forwardery i kliknięcia na żywo

Worker jest też miejscem, w którym każdy inny odbiorca kliknięcia dostaje swoją kopię.

  • Forwardery zdarzeń server-side. Per workspace worker może przekazywać kliknięcia do GA4 (Measurement Protocol), Klaviyo, Mixpanel, Brevo lub Datadog, korzystając z konfiguracji w pamięci podręcznej. Każde wywołanie HTTP ma 5-sekundowy limit czasu klienta. Więcej o stronie GA4 w śledzeniu server-side GA4 przez przekierowania.
  • Zdarzenia reklamowe po stronie serwera. Gdy workspace zapisał token dostępu Meta Conversions API lub TikTok Events API, worker wysyła każde kliknięcie jako PageView do Meta lub ViewContent do TikToka, z tym samym 5-sekundowym limitem czasu, co najwyżej 64 żądaniami w locie na instancję i bez ponowień. To są kliknięcia, nie zakupy; śledzenie konwersji server-side opisuje stronę zakupów.
  • Webhooki kliknięć. Workspace'y z endpointem zasubskrybowanym na click.created dostają kompaktowe zdarzenie o ograniczonej ilości danych prywatnych, produkowane na osobny temat, które api-core rozsyła do endpointów z limitem 50 zdarzeń na sekundę dla każdego.
  • Strumień kliknięć na żywo. Minimalne zdarzenie trafia do kanału pub/sub, który zasila licznik na żywo w panelu.

Nic z tego nie działa na przekierowaniu. Dzieje się to w momencie dekodowania, przed zapisem wsadu, więc kliknięcie może dotrzeć do Mixpanel kilka sekund przed pojawieniem się w Twoich raportach. Webhook click.created dociera kilka sekund po kliknięciu, bo przechodzi przez temat i worker dostarczający, który odpytuje co 5 sekund; webhooki dla zdarzeń linków zawierają payload. Jeśli ciekawi Cię powiązanie z planami, strona funkcji analityki wymienia, co dostaje każdy poziom.

Worker kliknięć konsumujący temat, zatwierdzający offsety dopiero po udanym insercie wsadu i rozsyłający zdarzenia do forwarderów server-side, pikseli konwersji i strumienia kliknięć na żywo

Dlaczego log, a nie kolejka

Magistrala musiała być powtarzalnym logiem, a nie kolejką zadań. Kolejka usuwa wiadomość po potwierdzeniu. Log przechowuje zdarzenia przez okno retencji, więc nowy konsument albo taki, który musi się cofnąć, może znów przeczytać historię. Musiała też działać na naszej własnej infrastrukturze w tym samym regionie UE co reszta i mówić protokołem zgodnym z Kafką, żeby klient Enterprise, który hostuje Elido u siebie na mocy umowy, mógł wskazać broker, który już obsługuje. Konfiguracja warstwy przekierowań jest opisana na stronie architektury przekierowania edge.

Jeśli chcesz zobaczyć wynik tego potoku na własnych linkach, załóż darmowy workspace i obserwuj, jak kliknięcia lądują w panelu kilka sekund po przekierowaniu.

Co zmienilibyśmy w następnej kolejności

Wzorzec jest właściwy dla tego obciążenia. Implementacja ma krawędzie, o których warto wspomnieć, jeśli ją kopiujesz.

Drain przy zamykaniu. Jawnie opróżnić producenta z limitem czasu przed zamknięciem klienta. Dziś wdrożenie może zgubić rekordy z bufora.

Magazyn dead-letter dla błędów dekodowania. Pomijanie zatrutych rekordów utrzymuje ruch partycji, ale poza linią w logu nie zostawia śladu. Zapis surowych bajtów i błędu do tabeli pobocznej umożliwiłby audyt.

Deduplikacja przy ponowieniu. Identyfikator zdarzenia w każdym kliknięciu i tabela świadoma duplikatów zamieniłyby at-least-once w praktyce w exactly-once na potrzeby raportowania.

Backpressure przy niedostępnym magazynie. Wstrzymać pobieranie, gdy writer nie może zapisać, żeby bufor nie rósł bez końca.

Limity forwarderów per workspace. Wszystkie workspace'y współdzielą jednego workera, więc jeden wolny zewnętrzny endpoint spowalnia kliknięcia wszystkim.

Żadna z tych rzeczy nie spowodowała znanego nam incydentu. Są na naszej liście i byłyby też na Twojej.

Przeczytaj wpis filarowy: jak utrzymujemy p95 przekierowania poniżej 15 ms.

Powiązane na blogu

Najczęściej zadawane pytania

Co oznacza fire-and-forget w śledzeniu kliknięć?

Przekierowanie przekazuje zdarzenie kliknięcia producentowi działającemu w tle i zwraca przekierowanie, nie czekając na żadne potwierdzenie. Jeśli zdarzenie nie dotrze do magistrali, zostaje zapisane w logu i odrzucone. Odwiedzający nie płaci za analitykę opóźnieniem.

Czy potok fire-and-forget może gubić kliknięcia?

Tak, między brzegiem a magistralą zdarzeń. Proces zabity z rekordami wciąż w buforze albo magistrala niedostępna dłużej niż pozwalają ponowienia klienta oznaczają, że te zdarzenia przepadły. Po dotarciu zdarzenia do magistrali strona konsumenta działa w trybie at-least-once.

Dlaczego nie zapisywać każdego kliknięcia bezpośrednio do bazy analitycznej?

Z dwóch powodów. Runda sieciowa na każde przekierowanie zjada budżet opóźnienia, a kolumnowe magazyny analityczne wolą duże wsady od pojedynczych insertów. Magistrala pośrodku sprawia też, że awaria bazy nie zamienia się w nieudane przekierowania.

Czym jest dostarczanie at-least-once w potoku kliknięć?

Konsument zatwierdza swoją pozycję w strumieniu dopiero po zapisaniu wsadu. Awaria przed zatwierdzeniem oznacza, że te same zdarzenia zostaną odczytane i zapisane ponownie. Po tej stronie nic nie ginie, ale awaria w nieszczęśliwym momencie może dać zduplikowane wiersze.

Jak często Elido zapisuje wsady kliknięć?

Worker zapisuje wsad po 1000 zdarzeń lub co 5 sekund, zależnie od tego, co nastąpi pierwsze. Obie wartości to domyślne ustawienia konfiguracji w workerze, a nie twarde limity, więc można je zmienić bez zmiany kodu.

Czy forwardery server-side i piksele spowalniają przekierowania?

Nie. Działają w workerze kliknięć, długo po obsłużeniu przekierowania. Wolny zewnętrzny endpoint może spowolnić workera, co nieco opóźni analitykę, ale nigdy nie dotyka odpowiedzi przekierowania.

Wypróbuj Elido

Wklej URL, otrzymaj krótki link

Bez rejestracji. Link działa 30 dni. Zarejestruj się, aby zachować go na zawsze.

Wymagane darmowe konto. Darmowy plan zawiera łącznie 25 linków. Masz już konto? Zaloguj się

Wypróbuj Elido

Skracarka URL hostowana w UE: własne domeny, głęboka analityka i otwarte API. Darmowy plan - bez karty kredytowej.

Tagi
fire and forget click ingestion
click event pipeline
url shortener analytics pipeline
batch insert analytics
at-least-once delivery
click event durability

Czytaj dalej