Linux企业实时同步服务---3688字

news/2024/7/6 18:49:52/文章来源:https://blog.csdn.net/2302_78067597/article/details/139862716

实时同步服务

在这里插入图片描述
正常的互联网公司架构:

  • 内容:每天服务器及服务器上的应用程序等正常使用(每天查看)比如:邮件,短信,等信息;巡检内容是否正常使用。
  • 互联网公司就是底层服务+开发、代码运行网站/软件来挣钱,主要负责服务器是否使用(类似于虚拟机能否正常使用,能否互相连通,有没有报错,每天巡检服务器的负载情况,cpu使用率等,大部分公司他们的cpu负载使用率基本在20%以下,超过云服务器等会使前端业务进行堵塞)
  • 架构:lnmp,linux,php(程序运行),mysql(数据),nginx 80,haproxy(将http域名改为https,进行内网的登录解析)
  • 开发环境需要与运维协同工作,开发向运维提出需求(运维职责之内的)提供简便方式!刚入职前1两个月熟悉公司的架构环境,部署,ip等布置信息,职能,公司会对你进行分配任务(部分东西进行容器化,自动化等
  • 每个公司的运维体系不相同,定期完善优化脚本、扩展业务;
  • 有专门的idc测试环境(非常严谨)多次测试完成,然后将其部署,否则一旦没有测试好部署上去,公司业务(网站,软件否则全部崩掉),求稳除非公司业务进行交接
  • 正常架构都会有前后端分离,为(2-3台左右)具体就要看公司的访问量nginx 3 4cpu 16g
  • php api接口服务器 (前端只进行接收请求,后端为数据)一般公司后面都会有后台任务服务器crontab(定时定量处理执行)

1.1说明

前面通过rsync+定时任务+NFS实现备份同步存储
NFS需要进行实时同步(频繁)

选择:

  • 分布式存储
  • 实时同步服务+NFS
  • 选择公有云对象存储OSS,七牛存储,腾讯存储COS(不用关注高可用,厂商直接在后面进行做好)

选择:nfs(单点)+实时同步工具

  • inotify(bug需要书写脚本,不推荐):是个命令监控指定目录是否发生变化
  • sersync(国产开源,内置inotify+rsync命令,一个命令+一个配置文件)
  • lsyncd(部分公司在进行使用)

sersync原理
在这里插入图片描述
在这里插入图片描述

部署

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

目录规划:
/app/tools/sersync/
/app/tools/sersync/bin/
/app/tools/sersync/conf
修改之前
GNU-Linux-x86/
GNU-Linux-x86/sersync2
GNU-linux-X86/confxml.xml

在这里插入图片描述
修改后的样子

cat /app/tools/sersync/conf/confxml.xml
<?xml version="1.0" encoding="ISO-8859-1"?>
<head version="2.5"><host hostip="localhost" port="8008"></host><debug start="false"/><fileSystem xfs="false"/><filter start="false"><exclude expression="(.*)\.svn"></exclude><exclude expression="(.*)\.gz"></exclude><exclude expression="^info/*"></exclude><exclude expression="^static/*"></exclude></filter><inotify><delete start="true"/> 监控是否有删除<createFolder start="true"/> 监控是否有创建目录<createFile start="false"/>监控是否创建文件<closeWrite start="true"/>是否有closewrite事件 修改后的退出 (文件被修改)<moveFrom start="true"/> 移动改名<moveTo start="true"/> 移动改名<attrib start="false"/>文件属性变化<modify start="false"/>文件内容修改</inotify><sersync>   <localpath watch="/opt/tongbu">监控那些目录一般为存储共享的目录<remote ip="127.0.0.1" name="tongbu1"/> rsync服务端ip地址和rsync服务端的模块名称<!--<remote ip="192.168.8.39" name="tongbu"/>--> xml中的注释<!--<remote ip="192.168.8.40" name="tongbu"/>--></localpath><rsync>  <commonParams params="-artuz"/>rsync命令行选项 az delete<auth start="false" users="root" passwordfile="/etc/rsync.pas"/> authstart 是否开启免密码模式true users=rsync虚拟用户<userDefinedPort start="false" port="874"/><!-- port=874 --> rsync服务端端口,默认是873<timeout start="false" time="100"/><!-- timeout=100-->超时时间<ssh start="false"/></rsync><failLog path="/tmp/rsync_fail_log.sh" timeToExecute="60"/><!--default every 60mins execute once--><crontab start="false" schedule="600"><!--600mins--><crontabfilter start="false"><exclude expression="*.php"></exclude><exclude expression="info/*"></exclude></crontabfilter></crontab><plugin start="false" name="command"/></sersync><plugin name="command"><param prefix="/bin/sh" suffix="" ignoreError="true"/>	<!--prefix /opt/tongbu/mmm.sh suffix--><filter start="false"><include expression="(.*)\.php"/><include expression="(.*)\.sh"/></filter></plugin><plugin name="socket"><localpath watch="/opt/tongbu"><deshost ip="192.168.138.20" port="8009"/></localpath></plugin><plugin name="refreshCDN"><localpath watch="/data0/htdocs/cms.xoyo.com/site/"><cdninfo domainname="ccms.chinacache.com" port="80" username="xxxx" passwd="xxxx"/><sendurl base="http://pic.xoyo.com/cms"/><regexurl regex="false" match="cms.xoyo.com/site([/a-zA-Z0-9]*).xoyo.com/images"/></localpath></plugin>
</head>

rsync服务准备

  • rsync’服务端

    [nfsbackup]

    comment = shishi tongbu nfs

    path = /nfsbackup/
    在这里插入图片描述
    在这里插入图片描述
    测试rsync客户端与服务端
    在这里插入图片描述
    修改客户端配置文件

操作前备份,操作后检查

备份原始的配置文件:
在这里插入图片描述
在这里插入图片描述

配置详解

修改前后对比

vimdiff confxml.xml confxml.xml.bak
在这里插入图片描述
启动sersync

没有systemctl启动命令方式

/app/tools/sersync/bin/sersync2 -h
在这里插入图片描述
在这里插入图片描述

ln -s /app/tools/sersync/bin/sersync2 /bin/

sersync2 -rdo /app/tools/sersync/conf/confxml.xml

在这里插入图片描述
在这里插入图片描述

watch ls -l /nfsbackup/(备份服务器backup监听)
在这里插入图片描述

rsync和sersync可以去应对企业tb级数据

在这里插入图片描述
注意:sersync功能(做开机自启动,rc.local,别放在fstab里,否则开机自启动打不开–fstab它是开机启动挂载,挂载磁盘,nfs)

接入nfs服务

服务端配置

[root@nfs01 ~]cat /etc/exports /data/ 172.16.1.0/24(rw)

客户端挂载

mount -t nfs 172.16.1.131:/data/ /upload

在这里插入图片描述
在这里插入图片描述

联调

核心:在web服务端入口创建文件,查看backup服务器是否有文件

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.luyixian.cn/news_show_1092801.aspx

如若内容造成侵权/违法违规/事实不符,请联系dt猫网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

C++ (week8):数据库

文章目录 一、数据库简介1.数据库2.MySQL(1)数据库的结构(2)MySQL的三种使用方式(3)命令行(4)Navicat Premium 二、SQL1.SQL (Structured Query Language)&#xff0c;即结构化查询语言2.数据定义语言 DDL (Data Definition Language) &#xff0c;创建、修改、删除数据库、表结…

QT listView的简单使用

本文章实现了添加数据&#xff0c;插入数据及删除和清空。用到了Qmessage做为消息提示。lineEdit用于数据的收入&#xff0c;lable用来显示所选中的数据位置的索引。具体代码如下&#xff1a;

go gin web服务器使用fvbock/endless优雅地重启或停止

gin使用fvbock/endless gin 正常使用注册路由时&#xff1a; package mainimport "github.com/gin-gonic/gin"func main() {r : gin.Default()r.GET("/ping", func(c *gin.Context) {c.JSON(200, gin.H{"message": "pong",})})r.Run()…

Kompas AI自然语言处理能力对比

一、引言 自然语言处理&#xff08;NLP&#xff09;是衡量人工智能&#xff08;AI&#xff09;系统智能程度的重要指标之一。NLP技术的进步使得机器能够理解、解释和生成人类语言&#xff0c;在各个领域中发挥了巨大的作用。本文将对比Kompas AI与其他主要AI产品在NLP方面的表…

【ARMv8/v9 GIC 系列 3 -- GIC 的 类型寄存器 GICD_TYPER】

文章目录 GIC 类型寄存器 GICD_TYPERESPI_Range, 位[31:27]RSS, 位[26]No1N, 位[25]A3V, 位[24]IDBits, 位[23:19]DVIS, 位[18]LPIs, 位[17]MBIS, 位[16]NUM_LPIs, 位[15:11]SecurityExtn, 位[10]NMI, 位[9]ESPI, 位[8]CPUNumber, 位[7:5]ITLinesNumber, 位[4:0]GIC 类型寄存器…

计算机系统基础知识(上)

目录 计算机系统的概述 计算机的硬件 处理器 存储器 总线 接口 外部设备 计算机的软件 操作系统 数据库 文件系统 计算机系统的概述 如图所示计算机系统分为软件和硬件&#xff1a;硬件包括&#xff1a;输入输出设备、存储器&#xff0c;处理器 软件则包括系统软件和…

成都晨持绪科技:2024年抖音网店做起来难吗

随着抖音平台的日益火爆&#xff0c;越来越多的商家和个人开始关注并尝试开设自己的抖音网店。然而&#xff0c;面对激烈的市场竞争和不断变化的平台规则&#xff0c;许多人都在问&#xff1a;2024年抖音网店做起来难吗? 要回答这个问题&#xff0c;我们首先需要了解抖音网店的…

网络安全等级保护测评

网络安全等级保护 《GB17859 计算机信息系统安全保护等级划分准则》 规定计算机信息系统安全保护等级共分五级 《中华人民共和国网络安全法》 “国家实行网络安全等级保护制度。 等级测评 测评机构依据国家网络安全等级保护制度规定&#xff0c;按照有关 管理规范和…

执行shell脚本出现 $‘ \r‘ 符号导致执行失败【解决】

&#x1f468;‍&#x1f393;博主简介 &#x1f3c5;CSDN博客专家   &#x1f3c5;云计算领域优质创作者   &#x1f3c5;华为云开发者社区专家博主   &#x1f3c5;阿里云开发者社区专家博主 &#x1f48a;交流社区&#xff1a;运维交流社区 欢迎大家的加入&#xff01…

Linux-磁盘管理与文件系统

目录 一、磁盘结构 1、磁盘的物理结构 2、磁盘的数据结构 3、磁盘存储容量 4、接口类型 二、磁盘分区 1、磁盘的两种分区方式 1.1、MBR分区 1.2、GPT分区 三、查看硬盘的分区情况 1、Fdisk—查询磁盘设备 2、lsblk—以树形查看磁盘分区 3、blkid—查看磁盘的UUID …

IDEA集成Docker实现快捷部署

本文已收录于专栏 《运维》 目录 背景介绍优势特点操作步骤一、修改Docker配置二、配置Docker插件三、编写Maven插件四、构建Docker镜像五、创建Docker容器 总结提升 背景介绍 在我们手动通过Docker部署项目的时候&#xff0c;都是通过把打包好的jar包放到服务器上并且在服务器…

SpringCloud之Nacos

SpringCloud之Nacos 一、微服务介绍 1. 什么是微服务 2014年&#xff0c;Martin Fowler&#xff08;马丁福勒 &#xff09; 提出了微服务的概念&#xff0c;定义了微服务是由以单一应用程序构成的小服务&#xff0c;自己拥有自己的进程与轻量化处理&#xff0c;服务依业务功能…

Python处理消息队列库之kombu使用详解

概要 在现代应用程序开发中,消息队列是实现异步任务处理和微服务通信的重要组件。Kombu 是一个用于在 Python 中处理消息的库,它提供了一个统一的接口来访问不同的消息队列后端,如 RabbitMQ、Redis 等。Kombu 设计简洁、功能强大,使得开发者可以轻松地在应用中集成消息队列…

Jetpack数据绑定 (DataBinding)

数据绑定&#xff08;DataBinding&#xff09;是Jetpack库中的一个重要功能&#xff0c;旨在通过减少手动的UI更新和绑定操作来提高开发效率和代码的可维护性。它使我们可以在布局文件中直接绑定UI组件与数据源&#xff0c;从而实现更清晰和模块化的代码结构。 什么是数据绑定…

Excel 快速查询工具 2023.7.1 更新

Excel 快速查询工具作者表示这个软件是因为有时候需要在 Excel 和网站之间进行切换非常的麻烦&#xff0c;这款软件可以以半透明的方框位于桌面上。 特点 软件窗口半透明并至于顶部&#xff0c;无需来回切换界面。 实时查询&#xff0c;不用点击查询或者按回车之类的&#x…

无糖管家,使用语音控制终端

无糖管家&#xff0c;使用语音控制终端。 github传送门 这个项目是目前最成熟的项目 支持英雄联盟自动点击接受等各种功能 支持用户自定义代码&#xff0c;上传审核过后&#xff0c;所有人可以语音调用该代码 官网无糖管家

​Python20 Numpy基础

NumPy&#xff08;Numerical Python&#xff09;是一个开源的Python库&#xff0c;广泛用于科学计算。它提供了一个高性能的多维数组对象&#xff0c;以及用于处理这些数组的工具和函数。NumPy是数据分析、机器学习、工程和科学研究中不可或缺的工具之一&#xff0c;因为它提供…

Linux——ansible里的变量

在ansible里&#xff0c;变量干嘛用的 本身&#xff0c;ansible就是致力于&#xff0c;用尽可能“通用”的剧本&#xff0c;干所有场合的工作…… ansible里的变量怎么写 字母开头&#xff0c;包括&#xff1a;字母数字下划线 变量怎么定义&#xff08;声明&#xff09; 1.…

事件驱动架构详解:触发与响应构建高效系统

目录 前言1. 事件驱动架构概述1.1 什么是事件1.2 事件驱动架构的核心概念 2. 事件驱动架构的实现2.1 基于消息队列的实现2.2 基于发布-订阅模式的实现2.3 基于流处理的实现 3. 事件驱动架构的优势3.1 松耦合性3.2 可扩展性3.3 异步处理3.4 灵活性 4. 事件驱动架构的应用场景4.1…

机器学习-线性回归模型python demo

文章目录 前言机器学习-线性回归模型python demo1. 准备工作2. 实施2.1. 准备样本数据2.2. 创建线性回归模型2.3. 预测新的房价 3. 散点图、线形图 完整demo 前言 如果您觉得有用的话&#xff0c;记得给博主点个赞&#xff0c;评论&#xff0c;收藏一键三连啊&#xff0c;写作不…