BLOG::はるかさん

はるかさん のブログです。近況情報や技術的な話題など。

Norikra meetup #2で発表してきました #norikra

Norikra meetup #2でNorikraをログ解析に使うというごくごく一般的な内容の発表をしてきました。主催の@tagomorisさん、会場を提供頂いた:DeNAさん、皆様ありがとうございました。1年前に導入を検討し始めて、別に特段変わったこともしてないし、すごくヘビーに使っている訳でもないので、ゆるくまとめようとおもったらかなり時間余ってしまいました……

speakerdeck.com

最初MongoDBのcapped collectionに入れていたのが、Elasticsearch/Kibanaが流行してElasticsearchが全文検索以外に使われ出したり、ログ解析のトレンドはすごい勢いで変わってきているように感じます。Stream processingを行う方法にはFluentdのプラグインを用いる方法がありましたが、使っているfluent.confの中にfluent-plugin-numeric-counterとかfluent-plugin-numeric-monitorとかそういう集計処理を行うような処理があるようだったら、Norikraを導入することで便利になるかもしれません。

Norikra自体はログ解析以外にもストリーム処理を行うアプリケーションに組み込んで利用するにもとても便利で、@shunsukeaiharaさんの事例や、@fujiwaraさんの事例はとても参考になります。Listener pluginを使えばFluentdを使わなくてもNorikraによるストリーム処理を組み込んだアプリケーションができそうです。

ログ解析に関しては、解析に使える基盤はだいぶ出そろってきた感じがあります。次は可視化であったりとかオフラインに落とすところだったりとか、前処理であったりとか、そのへんもう少し工夫が必要かなと最近感じているところです。