スキップしてメイン コンテンツに移動

投稿

12月, 2024の投稿を表示しています

Apache Hudiを巨大トラフィックのシステムに導入しようと検証して得た知見 (#19, #20)

OTF Talk は、OTF = Open Table Format の技術的な解説や最新トピック等を、ゲストをむかえてお話をうかがうPodcastです。 #19と#20では、joker1007さんに、「Apache Hudiを巨大トラフィックのシステムに導入しようと検証して得た知見」について、前後編でお話をうかがいました。 guest: @joker1007 Repro チーフアーキテクト  host: @simosako (下佐粉 昭) AWSのソリューションアーキテクト。 専門はデータレイク 、データウェアハウス。 ※感想は #OTFTalk でポストいただけると励みになります。 ※発言は各個人のものであり、所属組織を代表するものではありません。 第19回: Apache Hudiを巨大トラフィックのシステムに導入しようと検証して得た知見(前編) 既存システムとその特性/将来に向けて解消したい課題/OTF(Hudi)に着目した理由 https://creators.spotify.com/pod/show/otftalk/episodes/19-Apache-Hudi-e2rmfea https://youtu.be/Z9kT1xmSqN4 第20回:Apache Hudiを巨大トラフィックのシステムに導入しようと検証して得た知見(後編) Hudiを選択した背景/検証環境/インデックス設定による変化/結果と考察 https://creators.spotify.com/pod/show/otftalk/episodes/20-Apache-Hudi-e2rmfj2 https://youtu.be/cNpG_XfTRbo 参考) joker1007さんXアカウント https://x.com/joker1007 Repro https://repro.io/ 更新可能なデータレイクを構築するテーブルフォーマットApache Hudiについて (joker1007さんによるHudi解説) https://tech.repro.io/entry/2024/07/26/141233 本番のトラフィック量でHudiを検証して見えてきた課題 (otfst_tokyo #4 でのjoker1007さん登壇資料) https://speakerdeck.com/j...