Fire-and-forget型のクリック取り込みとは、リダイレクト・サーバーがバックグラウンドのプロデューサーにイベントを渡し、保存されたかどうかを待たずにすぐリダイレクトを返す(リンクで301または307を設定していない限り302)ことでクリックを記録する方式です。別のワーカーが後からバスのイベントを読み、バッチで解析ストアに書き込み、コピーを必要とする他の処理も受け持ちます。訪問者のリダイレクトは速くなります。代償として、イベントが失われ得る小さな時間窓が生じます。
考え方はそれだけです。この記事の残りでは、Elidoのクリック・イベント・パイプラインがリダイレクト・ハンドラーからバッチ挿入までどう動くか、どこでイベントが欠落し得るか、そして何を変えたいかを説明します。レイテンシ側の話は、コーナーストーン記事のリダイレクトp95を15ms未満に保つ方法にあります。
リダイレクト経路での fire-and-forget とは
リダイレクト・ハンドラーの仕事は一つです。スラッグを解決し、宛先を選び、Locationヘッダーを送る。宛先が分かった時点で(多くは2層キャッシュから)、ハンドラーはクリック・イベントを組み立てます。スラッグ、ワークスペースとリンクのID、ユーザーエージェント、リファラー、IP、ローカルGeoIP照会による国・地域・市区町村・座標、デバイスとブラウザ、さらにボット検知による疑わしさのフラグが含まれます。
その後、専用のgoroutineで送信を開始し、そのままレスポンスの書き込みを続けます。以下がプロデューサーです(幅の都合で整形のみ)。
func (p *Producer) Emit(ctx context.Context, e Event) {
if p == nil {
return
}
b, err := json.Marshal(e)
if err != nil {
p.log.Warn("click marshal", zap.Error(err))
return
}
rec := &kgo.Record{Topic: p.topic, Value: b}
p.client.Produce(ctx, rec, func(_ *kgo.Record, err error) {
if err != nil && p.log != nil {
p.log.Warn("click produce", zap.Error(err))
}
})
}
Produceは非同期です。クライアント・ライブラリがレコードをバッファし、バックグラウンドで送信し、コールバックはログを出すだけです。リダイレクト・プロセス内にリトライ・キューはなく、ディスクへのスプールもなく、ackを待つこともありません。
nilチェックはローカル開発のためのものです。ブローカーが設定されていないとコンストラクターはnilのプロデューサーを返し、あらゆる送信が何もしない処理になるので、他に何もインストールせずノートPCでリダイレクト・サーバーを動かせます。
なぜクリックを同期的に書き込まないのか
リダイレクト・サーバーからクリックを解析データベースへ直接書き込むほうが単純に見えます。Elidoがそうしないのは、重なり合う三つの理由からです。
一つ目はレイテンシです。リダイレクト経路での同期ネットワーク呼び出しは、その往復時間の全体が訪問者の待ち時間に加わり、その往復のテールがp95を悪化させます。私たちの予算にその余裕はありません。
二つ目はバッチの形です。列指向ストアは大きな挿入向けに作られています。ベンダーの一般的な指針は、行ごとではなく大きなバッチで挿入することです。挿入のたびにパートが作られ、バックグラウンドのマージがそれらをまとめ直す必要があるからです。多数のリダイレクト・サーバーからの1行書き込みは、考え得る最悪のパターンです。
三つ目は障害の分離です。データベースが再起動したり遅くなったりすると、同期設計ではそれがそのままリダイレクトに伝わります。タイムアウトするか、クリックが消えるかのどちらかです。間にバスがあれば、それぞれが独立して障害を起こします。解析が劣化していてもリダイレクトは動き続け、データベースが戻るまでバックログはバスで待機します。トピックの保持期間が続く限りです。
クリック取り込みワーカーはどうイベントをバッチ化するか
ワーカーはクリック用トピックのコンシューマーグループで動くGoサービスです。自動コミットはオフです。ループは短く、次のとおりです。
- トピックからレコードのバッチをポーリングする。
- 各レコードを型付きイベントにデコードする。
- イベントをレコードごと、ライターのメモリ内バッファへ積む。
- 設定されているピクセルやイベント・フォワーダーにクリックを渡し、ライブ・クリックカウンター用の小さなイベントを発行する。
ライターは1,000イベントに達するか5秒経過するかの、早い方でフラッシュします。どちらもサービス設定のデフォルトです。フラッシュではclick_eventsテーブルへの1回のバッチ挿入を30秒のタイムアウトで準備し、単一のステートメントとして送ります。
この操作の順序が at-least-once を成り立たせています。挿入が成功した後で初めて、ライターはそれらのレコードに印を付けてオフセットをコミットします。挿入が失敗するとバッチはバッファの先頭に戻され、次のフラッシュで再試行されます。コミット前にプロセスが落ちると、グループがリバランスされ、次の担当が最後にコミットされたオフセットから読み直すので、イベントは再度書き込まれます。
これにはコストがあり、はっきり述べておきたいと思います。テーブルは重複排除キーのない素のMergeTreeなので、挿入とコミットの間でクラッシュすると重複行が残ります。コード中のコメントはこれを稀であり解析では許容できるとしており、実際の観測とも合っています。それでも既知のギャップであり、exactly-onceの保証ではありません。
ポイズン・メッセージの扱いは逆です。デコードに失敗したレコードはログに記録してオフセットに印を付けるので、不正なレコード一つでパーティションが永久に止まることはありません。そのイベントは失われ、現状では生のバイト列は残りません。
クリック・イベントはどこで失われ得るか
Fire-and-forgetは意図的に一部のイベントを諦めています。どこで諦めているかを正確に把握しておくと役立ちます。
- リダイレクトとバスの間。 レコードは送信されるまで、プロデューサーのバッファにしばらく留まります。シャットダウン時にリダイレクト・サーバーはクライアントを閉じますが、バッファが空になるのを待つ専用のドレイン処理はないため、デプロイで送信中のものが失われ得ます。
- バスに到達できないとき。 クライアントはリトライしますが、永遠ではありません。それを超えてバスが落ちたままだと、produceコールバックが警告をログに出し、レコードは破棄されます。
- 不正なレコード。 前述のとおり、スキップされてログに残ります。
イベントがバスに届いた後は、コンシューマー側がそれを落とすことはありません。重複させることはあります。
公表している損失率はありません。自信を持って示せる測定値を持っておらず、小数をでっち上げるよりそう述べるほうがましです。言えるのは、この設計がこのワークロードで許容できる理由です。クリックは統計的なシグナルです。地域の内訳、リファラーの構成、キャンペーンの比較は、少しの取りこぼしがあっても成り立ちます。クリック単位で課金するもの、監査人が行ごとに突き合わせるものには、このパイプラインにはない耐久的な書き込み経路が必要です。それに当てはまる場合は、クリック追跡におけるWebhookとポーリングを見て、ストリームに頼らず解析APIから件数を取得してください。
解析ストアが停止しているとき
挿入が失敗すると、ライターはバッチを保持し、フラッシュのたびに再試行します。オフセットはコミットされないので、未処理のイベントはすべてバスに残ります。
弱点はメモリです。挿入が失敗している間もコンシューマーはポーリングを続け、ライターのバッファには上限がなく増え続けます。短い停止なら問題ありません。実トラフィック下での長い停止では、ワーカーがメモリ上限に近づく可能性があり、再起動すれば最後にコミットされたオフセットから読み直すだけです。それで何も失われませんが、洗練されてもいません。ライターが失敗している間はフェッチ・ループを止めるのが明白な対策です。
停止にどれだけ耐えられるかは、ワーカーの中身ではなく、バスに設定するトピックの保持期間で決まります。想像し得る最悪の復旧時間より長く設定してください。
ファンアウト:ピクセル、フォワーダー、ライブクリック
ワーカーは、クリックの他のすべての消費者がコピーを受け取る場所でもあります。
- サーバーサイドのイベント・フォワーダー。 ワークスペースごとに、キャッシュされた設定を使って、GA4(Measurement Protocol)、Klaviyo、Mixpanel、BrevoまたはDatadogへクリックを転送できます。各HTTP呼び出しのクライアント・タイムアウトは5秒です。GA4側の詳細はリダイレクト経由のGA4サーバーサイド計測にあります。
- サーバーサイドの広告イベント。 ワークスペースがMeta Conversions APIまたはTikTok Events APIのアクセストークンを保存している場合、ワーカーは各クリックをMetaの
PageViewまたはTikTokのViewContentとして、同じ5秒のタイムアウト、インスタンスあたり同時最大64リクエスト、再試行なしで送信します。これらはクリックであり購入ではありません。購入側はサーバーサイドのコンバージョン計測を参照してください。 - クリックWebhook。
click.createdを購読するエンドポイントがあるワークスペースでは、プライバシーを抑えた簡潔なイベントが別のトピックに生成され、api-coreがそれをエンドポイントへ、各エンドポイント1秒あたり50件の上限付きで振り分けます。 - ライブ・クリックストリーム。 最小限のイベントがpub/subチャンネルに送られ、ダッシュボードのライブカウンターに反映されます。
これらはどれもリダイレクト上では動きません。デコード時、バッチが書き込まれる前に実行されるので、クリックは自分のレポートに現れる数秒前にMixpanelへ届くことがあります。click.created のWebhookは、クリックの数秒後に届きます。トピックと、5秒ごとにポーリングする配信ワーカーを経由するためです。ペイロードはリンク・イベントのWebhookにあります。プランとの関係が気になる方は、アナリティクス機能のページに各ティアで利用できる内容があります。
キューではなくログである理由
バスは、ワークキューではなく再生可能なログである必要がありました。キューはメッセージが確認応答された時点で削除します。ログは保持期間の間イベントを保持するので、新しいコンシューマーや巻き戻しが必要なコンシューマーが履歴を読み直せます。また、他のすべてと同じEUリージョンの自社インフラで動かせ、Kafka互換のプロトコルであることも条件でした。契約によりセルフホストするEnterpriseのお客様が、すでに運用しているブローカーを指定できるようにするためです。リダイレクト層の設定はエッジ・リダイレクトのアーキテクチャ・ページに記載されています。
このパイプラインの出力を自分のリンクで確認したい場合は、無料のワークスペースを作成して、リダイレクトの数秒後にクリックがダッシュボードに現れるのをご覧ください。
次に変えたいこと
このワークロードに対してパターンは正しいと考えています。実装には、真似する場合に知っておくべき粗があります。
シャットダウン時のドレイン。 クライアントを閉じる前に、タイムアウト付きでプロデューサーを明示的にフラッシュすること。現状ではデプロイでバッファ内のレコードが落ちることがあります。
デコード失敗用のデッドレター・ストア。 ポイズン・レコードをスキップすればパーティションは進みますが、ログの1行以外に痕跡が残りません。生のバイト列とエラーを別テーブルに書けば、監査できるようになります。
リトライ時の重複排除。 各クリックにイベントIDを付け、重複排除に対応したテーブルを使えば、レポート上は at-least-once が実質 exactly-once になります。
ストア停止中のバックプレッシャー。 ライターがフラッシュできないときはポーリングを止め、バッファが際限なく増えないようにします。
フォワーダーのワークスペース単位の制限。 すべてのワークスペースが一つのワーカーを共有するため、遅いサードパーティのエンドポイントが一つあると、全員のクリック処理が遅れます。
これらのいずれも、私たちの知る限りインシデントを起こしたことはありません。私たちのリストに入っていますし、皆さんのリストにも入るはずです。
コーナーストーン記事はこちら:リダイレクトp95を15ms未満に保つ方法。
ブログの関連記事
よくある質問
クリック計測における fire-and-forget とは何ですか?
リダイレクト処理はクリック・イベントをバックグラウンドのプロデューサーに渡し、確認応答を待たずにリダイレクトを返します。イベントがバスに届かなかった場合は、ログに記録して破棄します。訪問者が解析のためにレイテンシを払うことはありません。
fire-and-forget 型のパイプラインでクリックが失われることはありますか?
あります。エッジとイベントバスの間で起こり得ます。レコードがバッファに残ったままプロセスが終了した場合や、クライアントのリトライを超えてバスに到達できない状態が続いた場合、そのイベントは失われます。イベントがバスに到達した後のコンシューマー側は at-least-once です。
なぜクリックを解析データベースへ直接書き込まないのですか?
理由は二つあります。リダイレクトごとのネットワーク往復がレイテンシ予算を食いつぶすこと、そして列指向の解析ストアは1行ずつの挿入ではなく大きなバッチを好むことです。間にバスがあれば、データベースの障害がリダイレクトの失敗にもなりません。
クリック・パイプラインにおける at-least-once 配信とは何ですか?
コンシューマーは、バッチの書き込みが終わった後にだけストリーム内の位置をコミットします。コミット前にクラッシュすると、同じイベントが再度読まれて書き込まれます。この側で失われるものはありませんが、タイミング次第で重複行が生じることがあります。
Elido はクリックのバッチをどのくらいの頻度でフラッシュしますか?
ワーカーは1,000イベントに達するか5秒経過するかの、早い方でフラッシュします。どちらの値もワーカーの設定のデフォルトでハードな上限ではないため、コードを変更せずに調整できます。
サーバーサイドのフォワーダーやピクセルはリダイレクトを遅くしますか?
いいえ。これらはリダイレクトを返した後の、クリック・ワーカー内で動きます。サードパーティのエンドポイントが遅い場合はワーカーが遅れて解析の反映が少し遅くなりますが、リダイレクトのレスポンスには影響しません。
Elidoを試す
URLを貼り付けて短縮リンクを取得
登録不要。リンクは30日間有効。永久に保存するには登録してください。
無料アカウントが必要です。無料プランには合計 25 件のリンクが含まれます。 アカウントをお持ちですか? ログイン
