Fluentd

Fluentdの最新動向について発表しました: 【GOJAS Meetup-24】SplunkケーススタディVol.8 #gojas_jp

こんにちは。データ収集ツールFluentdのメンテナーの福田です。

2024年9月19日に開催された【GOJAS Meetup-24】SplunkケーススタディVol.8において、 「データ収集ツール Fluentdの最新動向 With Splunk」というタイトルで発表(LT)しました。

Fluentdから見て、統合ログ管理プラットフォームであるSplunkは親和性が高く、Splunkと連携するためのプラグインもいくつかあります。 しかしその一方で、最近はSplunk関連のプラグイン開発が停滞しがちであるという課題があります。

今回は本イベントに参加して、主にSplunkのデータの前処理事情について勉強しつつ、 懇親会のLTでFluentdの最新動向やSplunk関連の開発におけるFluentdの課題について発表をしてきました。

本記事では、私の発表内容とSplunkのデータの前処理事情について勉強したことについて紹介します。

もっと読む

Fluentdを安全にバージョンアップしよう(td-agent -> Fluent Package)

こんにちは。データ収集ツールFluentdのメンテナーの福田です。

Fluentdのパッケージとして有名だったtd-agent v4が2023年12月31日にEOLとなり、 その後継パッケージとしてFluent Package(fluent-package) v5をリリースしています。

Fluent Packageでは多くのバグ修正や脆弱性対応が入っているので、 ぜひ最新版にアップデートをしていただきたいですが、 互換性は大丈夫なのか、アップデート前後でデータの収集はどうなるのか、 といった不安もあるかと思います。

本記事では、Fluentdを安全にアップデートするためのポイントを紹介します。

もっと読む

通常版Fluent Package v5.1.0をリリース

こんにちは。Fluentdチームの藤田です。

2024年8月2日に通常版Fluent Package v5.1.0をリリースしました。 バグ修正やセキュリティ対応を主とするLTS版とは異なり、通常版は新機能などもリリースに含まれます。

本リリースでは、パッケージでいくつかの修正と改善を行い、さらにFluentdをv1.17.0に更新しました。

本記事ではFluent Packageの変更内容について紹介します。

もっと読む

LTS版 Fluent Package v5.0.4をリリース

こんにちは。Fluentdチームの藤田です。

2024年7月2日にFluent PackageのLTSの最新版となるv5.0.4をリリースしました。

本リリースでは、パッケージでいくつかの修正と改善が行われています。

本記事ではFluent Packageの変更内容について紹介します。

もっと読む

サポート事例紹介: Redisのフェールオーバーの原因調査

こんにちは。データ収集ツールFluentdのメンテナーの福田です。

今回の記事では、有名なインメモリデータベースであるRedisの障害調査を行った事例を紹介します。

また、この調査はクリアコードのFluentd法人様向けサポートサービスの一貫で実施したもので、 Fluentdとセットで周辺のフリーソフトウェアのサポートを実施した事例となっています。

Redisのトラブルシューティングや、クリアコードの法人様向けサポートサービスに興味のある方は、ぜひ本記事をご覧ください。

もっと読む

Treasure Agent (td-agent) v3からFluent Package v5へのアップグレード方法

Treasure Agent (td-agent)はログ収集ソフトウェアであるFluentdに各種プラグインを同梱したパッケージです。 deb、rpmだけでなくWindows向けのパッケージも提供していたことから広く使われています。

Treasure Agent (td-agent)には後継となるパッケージがあり、、それがFluent Packageです。 通常版だけでなく、長期サポートを提供するためのLTS版の2つがあります。 本記事を執筆時点の通常版の最新はv5.1.0であり、LTS版の最新はv5.0.4がリリースされています。

Treasure Agent (td-agent)は、後継であるFluent Packageのリリース後しばらくして2023年12月にサポートを終了しました。 しかしながら、なかなかバージョンアップに踏み切れていないままだったお客様からの問い合わせが発生することがあります。

今回は、Treasure Agent (td-agent) v3系から最新のFluent Package v5 (LTS版)へのアップグレード方法と注意点について紹介します。

もっと読む

Fluentdサポート事例: Postfixのログが途中で途切れてしまう

こんにちは。Fluentdのメンテナーの福田です。

Fluentdを使うと、いい感じに様々なアプリケーションのログを集中管理できて便利です。 例えば、メール転送エージェント(MTA)であるPostfixのログをFluentdに送信して管理することができます。

クリアコードはFluentdの法人様向けサポートサービスを行っていますが、 Fluentdに送信したPostfixの特定のログが途中で途切れてしまっている、 という問題がとあるお客様で発生し、調査して原因を明らかにしました。 結論としては、Postfixの仕様の問題でした。

この記事では、このサポート事例について紹介します。 Fluentdの使用例、トラブルシューティングの仕方に興味がある方はぜひご覧ください。 また、クリアコードのFluentdサポートサービスに興味のある方もぜひご覧ください。

もっと読む

Fluentdができること

はじめまして。今年の4月からアルバイトとして勤務している中山です。

実は入社前までフリーソフトウェアとほとんど無縁の生活を送っていたのですが、あるきっかけがあってクリアコードにお世話になることになりました。

さて、フリーソフトウェア開発未経験の私が入社して初めて担当したのがFluentdのメンテナンスです。

入社時のFluentdに対する私の知識は、「ログを集める有名なフリーソフトウェア」くらいしかなかったので、Fluentdの先輩メンテナーの方々にいろいろ教えていただきました。

そこでこの記事では、Fluentdの公式ドキュメントの内容とFluentdの先輩メンテナーの方々に教えていただいた内容をもとに、タイトルの通り「Fluentdは何ができるのか」についてまとめていきます。

「Fluentdって聞いたことはあるけど実際何をするの?」と思っている方や「Fluentdを導入したいけど、こういうことはできるのか?」と思っている方はぜひ参考にしていただければ幸いです。

もっと読む

Fluent Package v5.0.3リリース - Windows版でサービス起動が遅い問題を修正

こんにちは。Fluentdのメンテナーの福田です。

2024年3月29日にFluent Packageの最新版となる v5.0.3 をリリースしました。

Fluent Packageとは、コミュニティーが提供しているFluentdのパッケージです。 これまで提供していたtd-agentが2023年12月31日限りでEOLとなり、 Fluent Packageはその後継パッケージにあたります。

本リリースでは、いくつかの重要なバグ修正を行いました。 特にWindows版に関しては、サービス起動が遅いため起動がタイムアウトすることがあるなど、起動に関する不具合を修正しています。 この記事では、メンテナーの観点からFluentdの最新パッケージの動向を詳しく解説します。

もっと読む

Fluentd: in_tailプラグインの基本的な使い方をメンテナーが解説

こんにちは。Fluentdのメンテナーの福田です。

Fluentdは、様々なデータソースからデータを収集し、様々な出力先へ転送することができる便利なフリーソフトウェアです!

Fluentdでは、プラグインを組み合わせることで様々な用途を実現できます。 その中でも、ファイルからログを収集したい場合にはin_tailプラグインがよく使われます。

しかし、ファイルと一言で言っても、その更新のされ方やログローテートのされ方は様々です。 加えて、in_tailプラグインにはとても多くの設定項目があります。

本記事では、

  • まずはこれを把握すれば、大体のケースでin_tailプラグインを問題なく使える!

という点をFluentdメンテナー視点でいくつか解説します。

Fluentdを使ってみたいけど設定がよく分からず使えていない、とか、使っているけど設定にあまり自信がない、という方は、ぜひご覧ください。

もっと読む