码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • file2Udp增量日志转出Udp简介


    54f3f98c7b2221a2fedc69bef786f1a8.png      

    https://gitee.com/tianjingle/file2udp

    很多时候服务产生的日志需要进行汇总,这种统一日志处理的方式有elb,而且很多日志组件也支持日志转出的能力。但是从广义上来说是定制化的,我们需要一个小工具实现tail -f的能力,将增量日志转到udp,然后通过logstash进行集中汇总进行外发。

    77ba9db0c599f23193d7a5dc5f5105d4.png

    基于此,作者利用周末开发file2Udp工具,实现日志文件增量tail -f能力,以求侵入式采集具有更大的覆盖面。

    https://gitee.com/tianjingle/file2udp/releases

    0b240c55d19d7c468540f16133b30bb2.png

    file2Udp原理

    类似于CAS原理,给予检测时间片之内文件变动,通过指针滑动读时间片内的增量日志,实现`tail -f`的能力。目前支持`window、linux(x86)、linux(arm)`版本.file2udp开发采用第三方组件:

    github.com/hpcloud/tail
    1. https://gitee.com/tianjingle/file2udp/releases

    2. 找到适合自己的版本并下载

    3.  编辑`conf`文件夹下的配置文件server.ini

    1. [system]
    2. collector.default.files = C:\Users\Administrator\GolandProjects\awesomeProject\1.txt,C:\Users\Administrator\GolandProjects\awesomeProject\2.txt
    3. collector.default.addr = 127.0.0.1:8888
    4. collector.test.files = C:\Users\Administrator\GolandProjects\run.txt,C:\Users\Administrator\GolandProjects\test.log
    5. collector.test.addr = 127.0.0.1:8889

    配置说明

    1. collector.类型.files=需要监听的文件,多个文件用,隔开
    2. collector.类型.addr=当前类型的文件需要转出的udp地址

    4. 根据版本执行run.sh、run.vbs启动日志转出,执行stop.sh、stop.vbs停止日志.
    * 注意: 配置变动均需重启file2Udp进程


    功能测试

      1.解压window版本,如下:

    88bc99982b33f2bc1fc3e2f87dc6d8db.png

    2.配置监听文件

    0f30b1d2524a85da1980be0dd3d854ad.png

    c35b8e103492cb4adb4608326d1e4c97.png

    3.启动file2Udp.exe进程

    44b27c84e13bea045cdbbb783d002ee1.png

    4.启动udp服务端,编辑被监听文件

    70ae76cc90be8c51ea55fc5072023979.png

  • 相关阅读:
    Wireshark TS | 消失的 TCP DUP ACK
    TCP的优化
    MySQL执行计划EXPLAIN
    『现学现忘』Git后悔药 — 28、版本回退git reset --soft命令说明
    【计算机网络】实验四 应用层和传输层协议分析(PacketTracer)
    集群脑裂导致数据丢失怎么办?
    Centos7安装mysql详细过程
    疏水18碳磷脂磷脂-聚乙二醇-羧基,DSPE-PEG-Acid,CAS:1403744-37-5
    学习笔记:内存四区
    ZnSe/ZnS量子点,硒化锌量子点,ZnSe/ZnS QDs(发射波长主要覆盖紫光和蓝光应用于QLED)
  • 原文地址:https://blog.csdn.net/tianjingle_blog/article/details/134368704
  • 最新文章
  • 攻防演习之三天拿下官网站群
    数据安全治理学习——前期安全规划和安全管理体系建设
    企业安全 | 企业内一次钓鱼演练准备过程
    内网渗透测试 | Kerberos协议及其部分攻击手法
    0day的产生 | 不懂代码的"代码审计"
    安装scrcpy-client模块av模块异常,环境问题解决方案
    leetcode hot100【LeetCode 279. 完全平方数】java实现
    OpenWrt下安装Mosquitto
    AnatoMask论文汇总
    【AI日记】24.11.01 LangChain、openai api和github copilot
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1
正则表达式工具 cron表达式工具 密码生成工具

京公网安备 11010502049817号