2021年12月17日金曜日

大量のログを記録して、期間を指定して抜き出したい。

大量のログを記録して、期間を指定して高速に抜き出したい。

しかも時間もお金も掛けずに。

mysqlでやろうと思ったけど、量が多すぎて辛い気がしたので、探してみた。

ちなみに15年ぐらい前にmysqlで毎秒に1回、100人ぐらいが追記するのを書いたが、その時は専用マシンを用意してなんとか間に合っていた。

あれから時代も経ったのでmysqlでも行けそうな気がするけど、他の方法を調べる。


http://fallabs.com/tkrzw-rpc/

Kyoto Tycoonの作者

見た感じ早そう!


ログの記録は多いが、計算する回数は少ないのでpythonで操作する。

https://github.com/estraier/tkrzw-python


だけど、仕様的にvalueで日時範囲抜き出しできないかも・・・(T_T

keyを工夫するか、index貼りなおすか。

https://mikio.hatenablog.com/entry/2020/05/24/014517



ついでに為になる記事。

https://mikio.hatenablog.com/search?q=DB%E3%82%B5%E3%83%BC%E3%83%93%E3%82%B9%E3%82%92%E4%BD%9C%E3%82%8D%E3%81%86



0 件のコメント:

コメントを投稿