8 Min. LesezeitEngineering

Fire-and-Forget Click-Ingestion: Analytics ohne Hot Path

Wie ein URL-Shortener Klicks erfasst, ohne den Redirect zu bremsen: asynchrones Senden am Edge, Batch-Writes.

Marius Voß
DevRel · edge infra

Fire-and-Forget Click-Ingestion bedeutet: Der Redirect-Server erfasst einen Klick, indem er ein Event an einen Producer im Hintergrund übergibt und sofort den Redirect zurückgibt (eine 302, sofern der Link nicht auf 301 oder 307 gesetzt ist), ohne abzuwarten, ob das Event gespeichert wurde. Ein separater Worker liest die Events später von einem Bus, schreibt sie in Batches in den Analytics-Speicher und bedient alles andere, das eine Kopie haben will. Der Besucher bekommt seinen Redirect schnell. Der Preis ist ein kleines Zeitfenster, in dem ein Event verloren gehen kann.

Das ist die ganze Idee. Der Rest dieses Beitrags beschreibt, wie die Click-Event-Pipeline von Elido funktioniert, vom Redirect-Handler bis zum Batch-Insert, wo Events verloren gehen können und was wir ändern würden. Die Latenzseite der Geschichte steht im Cornerstone Wie wir den Redirect-p95 unter 15 ms halten.

Was Fire-and-Forget auf dem Redirect-Pfad bedeutet

Der Redirect-Handler hat eine Aufgabe: den Slug auflösen, das Ziel wählen, den Location-Header senden. Sobald das Ziel feststeht (meist aus dem Zweistufen-Cache), baut der Handler ein Click-Event: Slug, Workspace- und Link-IDs, User-Agent, Referrer, IP, Land, Region, Stadt und Koordinaten aus einem lokalen GeoIP-Lookup, Gerät und Browser sowie Verdachts-Flags aus der Bot-Erkennung.

Dann startet er das Senden in einer eigenen Goroutine und schreibt die Antwort weiter. Hier ist der Producer, nur für die Breite gekürzt:

func (p *Producer) Emit(ctx context.Context, e Event) {
    if p == nil {
        return
    }
    b, err := json.Marshal(e)
    if err != nil {
        p.log.Warn("click marshal", zap.Error(err))
        return
    }
    rec := &kgo.Record{Topic: p.topic, Value: b}
    p.client.Produce(ctx, rec, func(_ *kgo.Record, err error) {
        if err != nil && p.log != nil {
            p.log.Warn("click produce", zap.Error(err))
        }
    })
}

Produce ist asynchron. Die Client-Bibliothek puffert den Record und sendet ihn im Hintergrund, und der Callback loggt nur. Keine Retry-Queue im Redirect-Prozess, kein Disk-Spool, kein Warten auf ein Ack.

Der Nil-Check ist für die lokale Entwicklung da. Ist kein Broker konfiguriert, gibt der Konstruktor einen Nil-Producer zurück, und jedes Senden wird zum No-op. So lässt sich der Redirect-Server auf einem Laptop ohne weitere Installation starten.

Redirect-Handler, der ein Click-Event baut, ein asynchrones Senden startet und den Redirect schreibt, während der Producer den Record im Hintergrund an den Event-Bus schickt

Warum Klicks nicht synchron geschrieben werden

Jeden Klick direkt vom Redirect-Server in die Analytics-Datenbank zu schreiben, wirkt einfacher. Elido macht es aus drei Gründen nicht, die sich addieren.

Latenz ist der erste. Jeder synchrone Netzwerkaufruf auf dem Redirect-Pfad addiert seinen vollen Roundtrip zu dem, worauf der Besucher wartet, und der Tail dieses Roundtrips schadet dem p95. Unser Budget hat dafür keinen Platz.

Die Batch-Form ist der zweite. Spaltenorientierte Speicher sind für große Inserts gebaut. Die übliche Herstellerempfehlung lautet, in großen Batches statt Zeile für Zeile einzufügen, weil jeder Insert einen Part erzeugt, den Hintergrund-Merges danach zusammenführen müssen. Einzelzeilen-Writes von vielen Redirect-Servern wären das schlechteste denkbare Muster.

Fehlerisolation ist der dritte. Startet die Datenbank neu oder wird langsam, reicht ein synchrones Design das direkt an die Redirects weiter: Entweder laufen sie in Timeouts, oder Klicks verschwinden. Mit einem Bus in der Mitte fällt jede Seite für sich aus. Redirects laufen weiter, während Analytics gestört ist, und der Rückstau wartet auf dem Bus, bis die Datenbank zurück ist, solange die Retention des Topics reicht.

Wie der Click-Ingestion-Worker Events bündelt

Der Worker ist ein Go-Service in einer Consumer Group auf dem Click-Topic. Auto-Commit ist aus. Seine Schleife ist kurz:

  • Einen Batch von Records aus dem Topic abrufen.
  • Jeden Record in ein typisiertes Event dekodieren.
  • Das Event zusammen mit seinem Record in den In-Memory-Puffer des Writers legen.
  • Den Klick an konfigurierte Pixel und Event-Forwarder übergeben und ein kleines Event für den Live-Klickzähler veröffentlichen.

Der Writer schreibt bei 1.000 Events oder alle 5 Sekunden, je nachdem, was zuerst eintritt. Beides sind Defaults in der Service-Konfiguration. Ein Flush bereitet einen Batch-Insert in die Tabelle click_events mit 30 Sekunden Timeout vor und sendet ihn als ein einziges Statement.

Die Reihenfolge der Schritte macht das At-least-once aus. Erst nach erfolgreichem Insert markiert der Writer diese Records und committet ihre Offsets. Schlägt der Insert fehl, wandert der Batch an den Anfang des Puffers, und der nächste Flush versucht es erneut. Stirbt der Prozess vor dem Commit, führt die Gruppe ein Rebalance durch, und der nächste Besitzer liest ab dem letzten committeten Offset, die Events werden also erneut geschrieben.

Das hat einen Preis, den ich lieber offen nenne. Die Tabelle ist eine einfache MergeTree ohne Dedup-Schlüssel, ein Absturz zwischen Insert und Commit hinterlässt also doppelte Zeilen. Der Code-Kommentar nennt das selten und sagt, Analytics vertrage es, was zu dem passt, was wir sehen. Es bleibt trotzdem eine bekannte Lücke und keine Exactly-once-Garantie.

Poison Messages werden andersherum behandelt. Ein Record, der sich nicht dekodieren lässt, wird geloggt und sein Offset markiert, damit ein einzelner kaputter Record die Partition nicht dauerhaft blockiert. Dieses Event ist weg, und heute behält niemand die Rohbytes.

Wo Click-Events verloren gehen können

Fire-and-Forget gibt absichtlich einige Events auf. Es hilft, genau zu sein, wo.

  • Zwischen Redirect und Bus. Records liegen kurz im Puffer des Producers, bevor sie gesendet werden. Beim Shutdown schließt der Redirect-Server den Client, aber es gibt keinen eigenen Drain-Schritt, der auf das Leeren des Puffers wartet, ein Deploy kann also verlieren, was gerade unterwegs war.
  • Wenn der Bus nicht erreichbar ist. Der Client wiederholt, aber nicht ewig. Bleibt der Bus länger unten, loggt der Produce-Callback eine Warnung, und der Record wird verworfen.
  • Fehlerhafte Records. Wie oben: übersprungen und geloggt.

Hat ein Event den Bus erreicht, verwirft die Consumer-Seite es nicht. Sie kann es duplizieren.

Eine veröffentlichte Verlustrate gibt es nicht. Ich habe keine gemessen, hinter der ich stehen würde, und eine erfundene Dezimalzahl wäre schlimmer, als das zu sagen. Sagen können wir, warum das Design für diese Last akzeptabel ist: Klicks sind ein statistisches Signal. Geo-Verteilung, Referrer-Mix und Kampagnenvergleiche halten eine kleine Ausfallquote gut aus. Alles, was pro Klick abgerechnet wird oder was ein Prüfer Zeile für Zeile abgleicht, braucht einen dauerhaften Schreibpfad, den diese Pipeline nicht bietet. Wenn das auf Sie zutrifft, lesen Sie Webhooks vs. Polling für Click-Tracking und holen Sie die Zahlen aus der Analytics-API, statt sich auf einen Stream zu verlassen.

Was passiert, wenn der Analytics-Speicher ausfällt

Schlagen Inserts fehl, behält der Writer den Batch und versucht es bei jedem Flush erneut. Offsets werden nicht committet, der Bus hält also weiterhin jedes unverarbeitete Event.

Die Schwachstelle ist der Speicher. Der Consumer pollt weiter, während Inserts scheitern, und der Puffer des Writers wächst ohne Obergrenze. Ein kurzer Ausfall ist unproblematisch. Ein langer unter echtem Traffic könnte den Worker an sein Speicherlimit treiben, und bei einem Neustart liest er einfach ab dem letzten committeten Offset neu. Dabei geht nichts verloren, elegant ist es trotzdem nicht. Die Fetch-Schleife anzuhalten, solange der Writer scheitert, ist der naheliegende Fix.

Wie lange ein Ausfall überstanden wird, hängt von der Topic-Retention ab, die Sie am Bus konfigurieren, nicht von etwas im Worker. Setzen Sie sie länger als den schlimmsten Rebuild, den Sie sich vorstellen können.

Fan-out: Pixel, Forwarder und Live-Klicks

Im Worker bekommt auch jeder andere Abnehmer eines Klicks seine Kopie.

  • Server-Side-Event-Forwarder. Pro Workspace kann der Worker Klicks mit einer gecachten Konfiguration an GA4 (Measurement Protocol), Klaviyo, Mixpanel, Brevo oder Datadog weiterleiten. Jeder HTTP-Aufruf hat ein Client-Timeout von 5 Sekunden. Mehr zur GA4-Seite in GA4 Server-Side-Tracking über die Redirect-Ebene.
  • Serverseitige Werbe-Events. Hat ein Workspace ein Zugriffstoken für die Meta Conversions API oder die TikTok Events API gespeichert, sendet der Worker jeden Klick als Meta-PageView oder TikTok-ViewContent, mit demselben 5-Sekunden-Timeout, höchstens 64 Requests gleichzeitig pro Instanz und ohne Wiederholungen. Das sind Klicks, keine Käufe; serverseitiges Conversion-Tracking behandelt die Kaufseite.
  • Klick-Webhooks. Für Workspaces mit einem Endpunkt, der click.created abonniert hat, wird ein kompaktes, datenschutzreduziertes Event auf ein separates Topic geschrieben, das api-core mit einer Grenze von 50 Events pro Sekunde an die Endpunkte verteilt.
  • Live-Click-Stream. Ein minimales Event geht an einen Pub/Sub-Kanal, der den Live-Zähler im Dashboard speist.

Nichts davon läuft beim Redirect. Es läuft beim Dekodieren, bevor der Batch geschrieben wird, ein Klick kann Mixpanel also ein paar Sekunden erreichen, bevor er in Ihren eigenen Reports auftaucht. Ein click.created-Webhook trifft einige Sekunden nach dem Klick ein, weil er über das Topic und einen Delivery-Worker läuft, der alle 5 Sekunden abfragt; Webhooks für Link-Events zeigt den Payload. Wenn Sie wissen wollen, wie das mit den Tarifen zusammenhängt, listet die Analytics-Funktionsseite auf, was jede Stufe bekommt.

Click-Worker, der das Topic konsumiert, Offsets erst nach erfolgreichem Batch-Insert committet und an Server-Side-Forwarder, Conversion-Pixel und den Live-Click-Stream verteilt

Warum ein Log und keine Queue

Der Bus musste ein wiederabspielbares Log sein, keine Work-Queue. Eine Queue löscht eine Nachricht, sobald sie bestätigt ist. Ein Log behält Events für das Retention-Fenster, sodass ein neuer Consumer oder einer, der zurückspulen muss, die Historie erneut lesen kann. Außerdem musste er selbst gehostet in derselben EU-Region wie alles andere laufen und ein Kafka-kompatibles Protokoll sprechen, damit ein Enterprise-Kunde, der per Vertrag selbst hostet, ihn auf einen bereits betriebenen Broker richten kann. Die Konfiguration der Redirect-Ebene ist auf der Seite zur Edge-Redirect-Architektur dokumentiert.

Wenn Sie die Ausgabe dieser Pipeline an Ihren eigenen Links sehen möchten, erstellen Sie einen kostenlosen Workspace und beobachten Sie, wie Klicks wenige Sekunden nach einem Redirect im Dashboard landen.

Was wir als Nächstes ändern würden

Das Muster passt zu dieser Last. Die Implementierung hat Kanten, die man kennen sollte, wenn man sie kopiert.

Ein Drain beim Shutdown. Den Producer vor dem Schließen des Clients explizit mit Timeout flushen. Heute kann ein Deploy gepufferte Records verlieren.

Ein Dead-Letter-Speicher für Dekodierfehler. Das Überspringen von Poison Records hält die Partition in Bewegung, hinterlässt aber nur eine Logzeile. Die Rohbytes und den Fehler in eine Nebentabelle zu schreiben, machte sie prüfbar.

Dedup bei Retries. Eine Event-ID pro Klick und eine Dedup-fähige Tabelle würden aus At-least-once für das Reporting ein Effectively-once machen.

Backpressure, solange der Speicher ausfällt. Das Polling pausieren, wenn der Writer nicht flushen kann, damit der Puffer nicht unbegrenzt wächst.

Limits pro Workspace für Forwarder. Alle Workspaces teilen sich einen Worker, ein langsamer Drittanbieter-Endpunkt bremst also Klicks für alle.

Keines davon hat nach unserem Wissen einen Vorfall verursacht. Sie stehen auf unserer Liste, und sie würden auch auf Ihrer stehen.

Lesen Sie den Cornerstone: Wie wir den Redirect-p95 unter 15 ms halten.

Weiterlesen im Blog

Häufig gestellte Fragen

Was bedeutet Fire-and-Forget beim Click-Tracking?

Der Redirect übergibt das Click-Event an einen Producer im Hintergrund und liefert den Redirect aus, ohne auf eine Bestätigung zu warten. Erreicht das Event den Bus nicht, wird es geloggt und verworfen. Der Besucher zahlt für Analytics nie mit Latenz.

Kann eine Fire-and-Forget-Pipeline Klicks verlieren?

Ja, zwischen Edge und Event-Bus. Wird ein Prozess beendet, während noch Records im Puffer liegen, oder bleibt der Bus länger unerreichbar, als die Retries des Clients reichen, sind diese Events weg. Sobald das Event den Bus erreicht hat, arbeitet die Consumer-Seite at-least-once.

Warum nicht jeden Klick direkt in die Analytics-Datenbank schreiben?

Zwei Gründe. Ein Netzwerk-Roundtrip pro Redirect frisst das Latenzbudget, und spaltenorientierte Analytics-Speicher wollen große Batches statt Einzelzeilen-Inserts. Ein Bus dazwischen sorgt außerdem dafür, dass ein Datenbankausfall nicht zu fehlgeschlagenen Redirects wird.

Was ist At-least-once-Delivery in einer Click-Pipeline?

Der Consumer committet seine Position im Stream erst, nachdem ein Batch geschrieben wurde. Ein Absturz vor dem Commit bedeutet, dass dieselben Events erneut gelesen und geschrieben werden. Auf dieser Seite geht nichts verloren, aber ein Absturz im falschen Moment kann doppelte Zeilen erzeugen.

Wie oft schreibt Elido Click-Batches?

Der Worker schreibt bei 1.000 Events oder alle 5 Sekunden, je nachdem, was zuerst eintritt. Beide Werte sind Konfigurations-Defaults, es sind Konfigurations-Defaults.

Bremsen Server-Side-Forwarder und Pixel die Redirects?

Nein. Sie laufen im Click-Worker, lange nachdem der Redirect ausgeliefert wurde. Ein langsamer Drittanbieter-Endpunkt kann den Worker verlangsamen und Analytics etwas verzögern, berührt aber nie die Redirect-Antwort.

Elido testen

URL einfügen, kurzer Link in Sekunden

Kein Konto nötig. Link bleibt 30 Tage aktiv. Konto erstellen, um ihn dauerhaft zu behalten.

Kostenloses Konto erforderlich. Der Free-Plan enthält insgesamt 25 Links. Du hast schon ein Konto? Anmelden

Elido testen

URL-Shortener mit EU-Hosting: eigene Domains, tiefe Analytik und eine offene API. Kostenloser Tarif - keine Kreditkarte nötig.

Tags
fire and forget click ingestion
click event pipeline
url shortener analytics pipeline
batch insert analytics
at-least-once delivery
click event durability

Weiterlesen