Apache Hudi Timeline:支持 ACID 事务的基础
Apache Hudi 维护在给定表上执行的所有操作的Timeline(时间线),以支持以符合 ACID 的方式高效检索读取查询的数据。 在写入和表服务期间也会不断查阅时间线,这是表正常运行的关键。 如果任何时间线操作出现混乱(由于多写入未配置锁提供程序等),则可能导致数据一致性问题(数据丢失或...[2023/11/6]
一篇文章玩透awk
安装新版本gawk
awk有很多种版本,例如nawk、gawk。gawk是GNU awk,它的功能很丰富。
本教程采用的是gawk 4.2.0版本,4.2.0版本的gawk是一个比较大的改版,新支持的一些特性非常好用,而在低于4.2.0版本时这些语法可能会报错。所以,请先安装4.2.0版本或更...[2023/11/3]
Linux运维技能图谱Linux运维技能图谱
前言
该技能图谱依个人经验绘制,不适用于所有运维岗位。对于刚入行的从业者,也不需要按照图谱全学一遍,应该根据岗位工作内容来学习。有些技术我也不会,但作为一个选项我也写进去了,比如容器运行时有Docker、Podman等,但我其实只会Docker。
运维这个岗位本身比较宽泛,也有很多的细分类,比...[2023/11/1]
Apollo 配置中心的部署与使用经验
前言
Apollo(阿波罗)是携程开源的分布式配置管理中心。
本文主要介绍其基于 Docker-Compose 的部署安装和一些使用的经验
特点
成熟,稳定
支持管理多环境/多集群/多命名空间的配置
配置修改发布实时(1s)通知到应用程序
支持权限控制、配置继承,版本管理,灰度发布,使用...[2023/11/1]
【问题复盘】在Ubuntu 20.04下安装OFED驱动【问题复盘】在Ubuntu 20.04下安装OFED驱动
复盘:在Ubuntu 20.04下安装OFED驱动
起因
最近收到两台服务器,都搭载了ConnectX-5 EX网卡。由于供应商预装了Ubuntu 20.04操作系统,而我们的后端代码也是基于Ubuntu开发的,因此需要在Ubuntu上安装ConnectX-5网卡的驱动。
问题
尽管供应商已经...[2023/10/30]
FreeSWITCH的moh使用笔记
操作系统 :CentOS 7.6_x64
FreeSWITCH版本 :1.10.9
之前写过FreeSWITCH安装的文章,今天整理下moh使用过程中遇到的问题及解决方案,并提供moh音频下载途径。FreeSWITCH安装的文章可参考如下链接:
docker构建FreeSWITCH编译环境...[2023/10/30]
实战攻防演练-Linux写入ssh密钥,利用密钥登录
前言
密钥形式登录的原理是利用密钥生成器制作一对密钥,一只公钥和一只私钥。将公钥添加到服务器的某个账户上,然后在客户端利用私钥即可完成认证并登录。这样一来,没有私钥,任何人都无法通过 SSH 暴力破解你的密码来远程登录到系统。此外,如果将公钥复制到其他账户甚至主机,利用私钥也可以登录。
下...[2023/10/30]
LINUX基础知识和命令 二
LINUX
alias (别名)
自定义命令=原始命令
原始命令中有特殊符@#%()请打上 引号,单双无所谓
例:vim /etc ysconfig/network-script ifcfg-ens33
alias myvim=“vim /etc ysconfig/network-scri...[2023/10/25]
Linux账号密码安全运维
前言
随着云计算厂商的兴起,云资源如ECS不再只有企业或者公司才会使用,普通人也可以自己买一台ECS来搭建自己的应用或者网站。虽然云计算厂商帮我们做了很多安全相关的工作,但并不代表我们的机器资源就绝对是安全的。
要知道有很多事情是云计算厂商不能为我们做的,就比如账号密码的安全策略配置,而账号密...[2023/10/25]
Linux内存管理 | 一、内存管理的由来及思想
1、前言
《中庸》有:“九层之台,起于垒土” 之说,那么对于我们搞技术的人,同样如此!
对于Linux内存管理,你可以说没有留意过,但是它存在于我们日常开发的方方面面,你所打开的文件,你所创建的变量,你所运行的程序,无不以此为基础,它可以说是操作系统的基石;只是底层被封装的太好了,以至于我们...[2023/10/25]
Hyper-V 下的 Debian 双网卡配置
Debian 双网卡配置
因为 Hyper-v 不能在 Hyper-v Manger 里设置网卡的静态 IP,
而每次开机自启之后又要连接 Debian 虚拟机,所以使用了双网卡。
双网卡分为内网网卡和外网网卡:
内网网卡设置为静态 IP,供给宿主机连接使用
外网网卡设置为 DHCP 获取...[2023/10/25]
【Noi-Linux 2.0】 装机+使用整合
写在前面
网上的东西比较多,也比较杂乱,不是很方便,所以我整合了一些关于 Noi-Linux2.0 虚拟机装机方法+代码编辑环境+实地编程的介绍,看完至少能用起来打代码了。
NOI 官网公告(JS 开始使用 Noi-Linux2.0 作为唯一操作系统):https: www.noi.cn/gy...[2023/10/19]
Linux 本地部署私有Stackedit Markdown编辑器远程访问
StackEdit是一个受欢迎的Markdown编辑器,在GitHub上拥有20.7k Star!,它支持将Markdown笔记保存到多个仓库,包括Gitee、GitHub和Gitea。此在线笔记工具还提供了一些便捷功能,如拖拽或粘贴上传图片、文件搜索功能,以及可切换为炫酷的暗黑主题,这些功能...[2023/10/17]
Centos7下创建centos-home逻辑分区
1备份要挂载的文件夹
查看home文件夹有无文件,如有文件一定要记得备份
2创建逻辑分区
2.1查看已有逻辑分区
2.2查看磁盘分区情况
2.3查看磁盘PV
2.4创建逻辑分区
lvcreate -n home -l 100%FREE centos
2.5查看逻辑分区...[2023/10/13]
Linux 中如何安全地抹去磁盘数据?
哈喽大家好,我是咸鱼
离过职的小伙伴都知道,离职的时候需要上交公司电脑,但是电脑里面有许多我们的个人信息(聊天记录、浏览记录等等)
所以我们就需要先把这些信息都删除,确保无法恢复之后才上交
即有些情况下我们不得不以一种确保无法恢复的方式从磁盘上擦除所有信息
许多小伙伴可能认为使用文件管理...[2023/10/13]
服务器崩溃前的数据拯救实践
前言
在服务器的VMWARE ESXi系统环境中,我们经常需要创建虚拟机来运行各种应用程序。然而,服务器如果偶尔出现自动重启以及紫屏报错的问题,说明服务器内部出现了故障,一般情况下重启机器能够解决问题,但时间一长,问题会越来越严重,可能会出现无法启动的情况,这就会导致数据丢失,因此为了确保数据的...[2023/10/13]
记一次阿里云日志导致的服务宕机记一次阿里云日志导致的服务宕机
导航
引言
火线告警,访问502
猜测: I/O频繁惹的祸
真相:FullGC突发高频导致程序崩溃
移除阿里云日志,稳了
结语
最后
参考
引言
技术人应该具备系统分析,并快速定位问题的能力。
资深技术人需要具备的核心竞争力有哪些?
系统分析,并快速定位问题的能力
快速地理解需求,转...[2023/9/18]
ES 2023新特性速解
ES 2023新特性速解
一、新增数组方法
操作数组的方法
Array.prototype.toSorted(compareFn) 返回一个新数组,其中元素按升序排序,而不改变原始数组。
Array.prototype.toReversed() 返回一个新数组,该数组的元素顺序被反转,但不...[2023/9/18]
后端常用的Linux命令大全,建议收藏
引言
作为一名后端工程师,使用终端是一种常见的做法,也是你应该学习的技能。许多命令和实用程序可以帮助你在使用 Linux 时更有效地完成任务。
基本 Linux 命令
如果你想使用 Linux 操作系统,学习常用的命令将会大有帮助。本篇将为后端工程师回顾一些基本到高级的 Linux 操作命令...[2023/9/15]
Linux禁止root用户ssh登录
1、背景描述
出于安全考虑,需要禁止使用root用户通过 h远程登录Linux
禁用root用户远程登录后,需要提供一个权限用户用于 h远程登录
2、创建拥有sudo权限的用户
2.1、创建一个普通用户rain
useradd命令用于创建一个用户, 选项 -m 表示创建用户...[2023/9/14]
如何保持 SSH 会话不中断?
哈喽大家好,我是咸鱼
不知道小伙伴们有没有遇到过下面的情况:
使用终端(XShell、secureCRT 或 MobaXterm 等)登录 Linux 服务器之后如果有一段时间没有进行交互,SSH 会话就会断开
如果正在执行一些非后台命令,SSH 会话断开就可能会使得这些命令可能会被中...[2023/9/13]
返璞归真:命令行下逛园子,发布博客园 CLI 预览版 团队
一边在会员救园,一边我们在码不停蹄地加快园子的建设。
为了让大家体验命令行中逛园子的味道,今天发布一个小工具的预览版 —— 博客园命令行工具 cnb 。
该工具用 Rust 开发,代码开源在 github 上:https: github.com/cnblog cli ,帮助文档见 readm...[2023/9/13]
Shell脚本中文英文多语言国际化和命令行批处理(bash sh cmd bat)中定义函数的简单写法
目录命令行脚本参考 - bat命令行脚本参考 - bash值得学习的知识点1. 识别终端使用的语言2. 函数的编写3. 获取用户的输入4. bat文件老是乱码怎么办
有时候为了方便别人使用,我们会选择去编写各种各样的命令行脚本:给Windows用户编写.bat cmd批处理脚本,给macOS...[2023/9/13]
NAT模式LVS负载均衡集群
NAT模式LVS负载均衡集群
负载调度器:内网 网关 ens33:192.168.1.200,外网 网关 ens36:12.0.0.10 Web节点服务器1:192.168.1.100 Web节点服务器2:192.168.1.101 NFS服务器:192.168.1.102 客户端:12.0...[2023/9/10]
Linux虚拟机安装及下载Linux虚拟机安装及下载
centos 7操作系统下载及安装步骤
(仅供参考)
下载:
1.打开如下网站:先下载镜像文件
ping:https: www.centos.org/download/
2.进入到如下界面
3.然后到如下界面
4.点击下载
5.等待下载...[2023/9/10]
安装CentOS7虚拟机
1、前期工作
下载CentOS7镜像:CentOS-7-x86_64-DVD-2009.iso
安装虚拟机工具:VirtualBox
2、新建虚拟机
2.1、设置新建虚拟机的名称、安装路径、类型及版本
注意:CentOS Linux 的发行版本是通过编译 Red Hat...[2023/9/9]
ptp 时钟同步
转载请注明出处:
PTP(Precision Time Protocol)的功能可以帮助实现网络中各个节点的时钟同步,以提供更精确的时间参考。
作用:
时钟同步:通过PTP协议,在网络中不同节点之间实现高精度的时钟同步,确保各设备具有一致的时间参考。
时间敏感应用:在需要高度时间...[2023/9/6]
win11安装ubuntu(by wsl2)
欢迎访问我的GitHub
这里分类和汇总了欣宸的全部原创(含配套源码):https: github.com/zq2599/blog_demos
本机情况
省吃俭用入手了ThinkPad T14,打算装好Linux后作为开发机器使用,本文记录了安装过程,以便将来在新系统上用到
作为参考,机器...[2023/9/6]
深入理解Linux内核——内存管理(4)——伙伴系统(1)
提要:本系列文章主要参考MIT 6.828课程以及两本书籍《深入理解Linux内核》 《深入Linux内核架构》对Linux内核内容进行总结。
内存管理的实现覆盖了多个领域:
内存中的物理内存页的管理
分配大块内存的伙伴系统
分配较小内存的slab、slub、slob分配器
分配非连续内存块...[2023/9/4]
9k+ Star 简洁好用的开源 Linux 运维管理面板
如果你的公司需要进行服务器运维管理,那么运维管理面板就是一个不可或缺的需求。因为并非每一位运维工程师都能在命令行下游刃有余,不需要借助辅助工具就能确保服务器安全、流畅运行。尤其是对于刚刚踏入运维领域的新人来说,拥有一个能够降低运维管理复杂度的面板工具尤为重要。
运维管理面板通过可视化界面和...[2023/9/1]
Linux 内核音频子系统调试
debugfs 文件系统
debugfs 可以为 Linux 内核各个模块的分析调试,提供许多信息,如音频子系统的 ASoC,以及 tracing 等。debugfs 文件系统可以通过命令行工具挂载,如下所示:
root@apollo:~# ls y kernel/debug/
root@a...[2023/8/29]
Linux服务器的性能监控与分析
通过vmstat分析性能
如上图所示,我们在命令vmstat后面添加了两个参数,1表示间隔一秒获取一次,10表示总共获取10次
我们一列一列数据来看:
r:代表目前实际运行的指令队列,很高表示CPU很繁忙通常会CPU使用率过高
这个数据如果高于服务器CPU核数就可能出现瓶颈...[2023/8/21]
【技术积累】Linux中的命令行【理论篇】【九】
blkid命令
命令介绍
blkid命令是一个用于查看块设备属性的Linux命令。它可以识别和显示块设备的文件系统类型、UUID、LABEL、PARTUUID等信息。
命令说明
在Linux下可以使用 blkid命令 对查询设备上所采用文件系统类型进行查询。blkid主要用...[2023/8/18]
【技术积累】Linux中的命令行【理论篇】【十】
bunzip2
命令说明
bunzip2命令是Linux系统中的一个用于解压缩文件的命令。它可以解压缩使用bzip2算法压缩的文件,将其恢复为原始的未压缩文件。
命令介绍
bunzip2命令的语法如下:
bunzip2 [选项] [压缩文件]
常用选项包括: - -c:将解压缩的结果输出到...[2023/8/18]
PXE操作过程 kickstart 无人值守安装
PXE操作过程
分配给同一局域网内新加机器的地址(配置文件) dhcp 分配地址 指明tftp 服务器的地址
tftp服务端开启 udp 配置 默认关闭
安装syslinux 取得 pxelinux.0 文件
安装vsftpd服务挂载软件安装源(mount /dev r0 ...[2023/8/14]
【技术积累】Linux中的命令行【理论篇】【七】
atrm命令
命令介绍
atrm命令是Linux系统中的一个命令行工具,用于取消或删除已经安排的at命令。at命令是一种用于在指定时间执行一次性任务的工具。
命令说明
atrm命令的语法如下:
atrm [选项] [任务编号]
常用选项包括: - -r:删除任务时不显示任何提示信息。 -...[2023/8/11]
【技术积累】Linux中的命令行【理论篇】【八】
basename命令
命令介绍
在Linux中,basename命令用于从给定的路径中提取文件名或目录名。它的语法如下:
basename [选项] [路径]
命令介绍
选项: -s, --suffix=SUFFIX:指定要删除的后缀。 -a, --multiple:处理多个路径参数。 -z...[2023/8/11]
银河麒麟等 Linux系统 安装 .net 5,net 6及更高版本的方法
最近项目上用到 银河麒麟的操作系统,需要搭建 .net 跨平台方案。一开始使用各种命令都安装不上,很多提示命令找不到,或者下载包时候网络无法下载。
网上教程很多,但没有一个是成功的,多数使用 apt -get 等命令,都报错,提示命令未找到。于是开始手动安装。
最终发现还是在Windows ...[2023/8/9]
【技术积累】Linux中的命令行【理论篇】【六】【技术积累】Linux中的命令行【理论篇】【六】
as命令
命令介绍
在Linux中,as命令是一个汇编器,用于将汇编语言源代码转换为可执行的目标文件。它是GNU Binutils软件包的一部分,提供了一系列用于处理二进制文件的工具。
命令说明
as命令的基本语法如下:
as [选项] <源文件> -o <目标文件>...[2023/8/9]
FreeSWITCH添加自定义endpoint之媒体交互
操作系统 :CentOS 7.6_x64
FreeSWITCH版本 :1.10.9
之前写过FreeSWITCH添加自定义endpoint的文章:
https: www.cnblogs.com/MikeZhang/p/fsAddEndpoint20230528.html
今天记录...[2023/8/7]
【技术积累】Linux中的命令行【理论篇】【五】【技术积累】Linux中的命令行【理论篇】【五】
arpd命令
命令介绍
arpd命令是Linux系统中的一个网络工具,用于管理和操作ARP(地址解析协议)缓存。ARP协议用于将IP地址映射到MAC地址,以便在局域网中进行通信。
命令说明
arpd命令的主要功能包括:
1. 显示和管理ARP缓存:arpd命令可以显示当前系统中的ARP缓存表...[2023/8/7]
学习Linux,要把握哪些重点?
学习Linux,要把握哪些重点? 不知道有没有想学习Linux,但又把握不住学习重点,找不到合适的学习方法的小伙伴,反正我刚开始学习Linux时就像无头苍蝇似的“乱撞”,没有把握住学习重点,不知道怎么去学,差点要放弃了,还好在慢慢的摸索中逐渐步入了正轨,找到了适合自己的学习方法。从Linux菜鸟...[2023/8/7]
跟运维学 Linux - 03
权限机制和性能指标
前面我们学完了操作文件和用户相关知识,本篇学习权限和性能相关知识。
文件的属性看起
看 linux 的权限,先从文件的属性看起
ls -l 加 -d 是只看这个文件夹:
pjl@pjl-pc:~$ sudo ls -ld /root
drwx------ 8 root ...[2023/8/4]
Linux文件管理知识查找文件
Linux文件管理知识:查找文件 前几篇文章一一介绍了LINUX进程管理控制命令及网络层面的知识体系,综所周知,一个linux系统是由很多文件组成的,那么既然有那么多文件,那我们该如何管理这些文件呢? Linux中的所有数据都是以文件形式存在的,那么所有文件分别被归类到不同的文件系统中。而文件系...[2023/8/4]
【技术积累】Linux中的命令行【理论篇】【三】
apt-get命令
命令介绍
Debian Linux发行版中的APT软件包管理工具,apt-get命令 是Debian Linux发行版中的APT软件包管理工具。所有基于Debian的发行都使用这个包管理系统。deb包可以把一个应用的文件包在一起,大体就如同Windows上的安装文件...[2023/8/2]
开源元数据管理平台Datahub最新版本0.10.5——安装部署手册(附离线安装包)
大家好,我是独孤风。
开源元数据管理平台Datahub近期得到了飞速的发展。已经更新到了0.10.5的版本,来咨询我的小伙伴也越来越多,特别是安装过程有很多问题。本文经过和群里大伙伴的共同讨论,总结出安装部署Datahub最新版本的部署手册,希望能帮助到大家。
文章较长,建议收藏点赞在看后,...[2023/8/2]
【技术积累】Linux中的命令行【理论篇】【一】
7z命令
命令介绍
7z命令是Linux系统中的一个压缩和解压缩工具,它可以用来创建、压缩和解压缩7z格式的文件。7z是一种高压缩率的文件格式,通常比其他常见的压缩格式(如zip和gzip)具有更高的压缩率。
命令安装
在 Linux 中输入以下命令安装 7-Zip。
# Ubuntu 系...[2023/7/31]
Linux下实现程序开机自启(rc.local 和 systemctl)
需求:
实现了一个程序,需要在ubuntu上跑起来。能开机自启,且崩溃了也能自己重启。有两种实现方式,个人推荐第二种。
方式1:
实现方式:
直接将要启动程序的运行命令加在 /etc/rc.local 中,开机时会运行这里的命令。 我使用时:写了一个脚本DDR_Guard.sh,在脚本里面循环...[2023/7/28]
学好Linux的必经之路
学好Linux的必经之路 学习动机的培养对于一个人学习习惯的形成有着重要的作用。当我们在学习某一个事物时,建立属于我们自己的学习方法,以此培养我们学习Linux系统的学习动机。 当前,Linux系统属于热门的计算机操作系统,因此学习Linux显得重要起来。同时,学习Linux可以让我们在计算机领...[2023/7/28]
智能制造之路—从0开始打造一套轻量级MOM平台之基础平台搭建(Linux部署)
一、前言
前面我们选定了Admin.net来搭建我们的MOM快速开发平台,本章主要描述.NET6平台的Linux部署,以及记录搭建过程中坑。
本次搭建我们选择某云的轻量应用服务器,系统选择CentOS 7.6,数据库使用Mysql。参考配置如下:
二、搭建Linux管理...[2023/7/28]