? shell ? ? gitlab ?    2019-09-18 10:38:35    658    0    0

JQ URL

https://stedolan.github.io/jq/download/
https://stedolan.github.io/jq/manual/#Invokingjq
这是一个开源工具,用于处理json 。

前言

"The API uses JSON to serialize data. You don’t need to specify .json at the end of an API URL."

在linux 下使用gitlab API 返回json 对象,经常使用python处理返回结果。 如果只是单纯地使用shell脚本中,常将其当作文本,并用sed ,grep,cut分解。但是因为它不是准确地分解对象中的组成,而是简单地通过关键字进行筛选和切割,所以经常会有遗漏或不够准确。

在linux 中安装jq , 可以在shell 中直接使用jq 对json 对象进行处理。

安装jq

下载 jq 源码包编译安装
  1. # configure ,make ,make install
  2. cd jq
  3. autoreconf -i
  4. ./configure --disable-maintainer-mode
  5. make
  6. sudo make install

下载二进制文件直接使用

  1. [root@huangbei ~]# chmod +x jq-linux64
  2. [root@huangbei ~]# mv jq-linux64 /usr/bin/jq
  3. [root@huangbei ~]# jq
  4. jq - commandline JSON processor [version 1.6]
  5. Usage: jq [options] <jq filter> [file...]
  6. jq [options] --args <jq filter> [strings...]
  7. jq [options] --jsonargs <jq filter> [JSON_TEXTS...]
  8. jq is a tool for processing JSON inputs, applying the given
? shell ?    2019-09-10 15:18:37    404    0    0


包含行首尾的空格

  1. echo ${#Massage}

不包含行首尾的空格

  1. echo $Massage | awk '{print length($0)}'

示例

  1. [lcf@huangbei ~]$ Massage=" Usage: $0 \${RELEASE_NOTE_FULL_PATH} "
  2. [lcf@huangbei ~]$ echo ${#Massage}
  3. 39
  4. [lcf@huangbei ~]$ echo $Massage | awk '{print length($0)}'
  5. 37
  1. [lcf@huangbei ~]$ Massage="Usage: $0 \${RELEASE_NOTE_FULL_PATH}"
  2. [lcf@huangbei ~]$ echo ${#Massage}
  3. 37
? gitlab ?    2019-09-05 15:05:35    1238    0    0


User setting and access

 

User Settings

登录gitlab.XX-company.com 之后在页面右上角头像处点击∨展开菜单,进入setting。

可以设置相关用户信息,常用的包括profile(基本配置),Account(帐户),Preferences(偏好设置),密码,SSH Keys,Notifications(邮件通知范围),Active Session(有效的连接)


Profile

可以在profile 里修改头像,邮箱,状态,及各平台关联帐号

 

Account

可以在account里修改用户名,用户名标识着与用户id 唯一关联的名称空间。一般不建议修改,如果修改,可能引起一些未知的影响,如必要修改,请严格按照修改页面的learn more 到“changing-your-username”根据提示做足步骤。

https://gitlab.XX-company.com/help/user/profile/index#changing-your-username

 

Notifications

全局通知设置:先在全局设置里可以设置通知的级别,然后在然后组/项目里分别设置为不同级别。默认为全局设置,展开可选其他。

 

Password

密码页面,修改密码后,会收到一个邮件,点击链接可以使用新密码登录(稍有延迟)

 

SSH Keys

SSH密钥允许您在计算机和GitLab之间建立安全连接,使用较多的情况是,当我们使用SSH 来 Clone 一个项目时,需要先在gitlab里配置好ssh keys。

一般我们在项目主页里展开clone 选项时,有两种方式,一种是clone with SSH,一种是Clone with HTTPS

 

当我们使用clone with SSH 时,我们需要先配置好ssh keys。

https://gitlab.XX-company.com/help/ssh/README#generating-a-new-ssh-key-pair

步骤是,先在一台linux 设备上生成一个密钥对,公钥拷到gitlab设置页面里,私钥放到需要clone 项目的设置上的默认ssh 配置路径。然后就可以直接使用这样的链接进行clone

Git clone git@gitlab.XX-company.com:vmc/products.git

 

另有直接使用用户/密码

? shell ?    2019-07-10 15:19:11    465    0    0

 

shell 里做 判断时[ 左边一直报错,语法无问题,有redhat 里执行没有问题,脚本放到ubuntu 时报错

[: test: unexpected operator​

 

解决:

ubuntu 的shell 默认指向dash , 需要改回bash

sudo dpkg-reconfigure dash

选择 no

2019-07-05 17:16:06    369    0    0

rel7.1 默认安装的python 没有连带安装python-pip,需要另装。

1.安装epel库

  1. #官方源中无python-pip
  2. yum search pip 发现无python-pip
  3. #搜索后发现需要安装第三方软件库
  4. yum -y install epel-release
  5. vi /etc/yum.repos.d/epel.repo
  6. [epel]
  7. baseurl //打开注释
  8. #metalink //注释
  9. yum clean all
  10. yum makecache

2.安装 pip

  1. yum install python-pip
? gitlab ?    2019-03-27 14:56:31    484    0    0

写在前面

gitlab 的CI/CD ,即持续集成,持续构建并部署测试的过程,实质上是
1. 将持续集成的过程阶段(编译构建/打包/部署/测试)写在gitlab.yml中
2. 并将准备执行gitlab.yml脚本内容的服务器配置为gitlab服务器的一个runner。
3. 当gitlab 库中的提交时,便会自动触发一次在runner 上的持续集成过程。


创建 gitlab-ci.yml

注意: gitlab.yml 是一个yaml文件,对缩进非常严格,需要始终使用空格,而非制表符。
https://gitlab.${company}.com/help/ci/yaml/README.md
具体格式及构成可参考gitlab help/ci/yaml/README.md 文件

  1. 在库中的根目录下,创建一个名为.gitlab.yml的文件
  2. 1. 通过 CI-CD --> jobs --> CI Init 直接编辑初始化文件
  3. 2. 在库中的根目录下,创建一个名为.gitlab.yml的文件

配置库的CI/CD

  1. 在库的设置中Setting--> CI/CD --> runners 展开
  2. 使用共享 runner 去运行 Shared Runners
  3. 使用指定 runner 去运行 Specific Runners //如从新配置一台服务器作为gitlab.yml 中脚本运行的runner,请按如下配置runner执行

配置 Runner

https://docs.gitlab.com/runner/install/

安装GitLab Runner

  1. # Linux x86-64
  2. sudo curl -L --output /usr/local/bin/gitlab-runner https://gitlab-runner-downloads.s3.amazonaws.com/latest/binaries/gitlab-runner-linux-amd64

赋执行权限

  1. sudo chmod +x /usr/local/bin/gitlab-runner

创建 GitLab CI 用户:

? gitlab ?    2019-03-26 17:10:57    376    0    0

  1. git reset test.txt #将指针后移
  2. git checkout test.txt #重新检出一份代码,检出的版本是当前workspace 最新的commit版本


test.txt :modify ,未add ,未commit

撤销修改内容

  1. git reset test.txt #无改变,因为未受控,未追踪
  2. git checkout test.txt #撤销修改内容

test.txt :modify ,add ,未commit

撤销 add

  1. git reset test.txt #返回到未add 的状态
  2. git checkout test.txt #撤销修改内容

test.txt :modify ,add ,commit

撤销commit

  1. ##对于修改已经commit 到本地仓库的
  2. git log -n 2 ##找到上一次commit pre-ID
  3. git reset pre-ID ## 将workspace 恢复到上一条commit,即撤销本次commit
  4. git status ## 可以看到文件又回到add 未commmit状态

对于本地仓库已经更新远程最新,想要撤销更新,回退到未更新前的某个commit 的位置

  1. git reset ID
  2. git status
  3. git checkout XXX XXXXfile

等于

  1. git reset --hard ID ## --hard 表示回退指针再恢复文件内容
  2. ## 即--hard == reset + checkout
  3. git status
  4. # 以下摘自https://git-scm.com/book/zh/v2
  5. 虽然在调用时加上 --hard 选项可以令 git reset 成为一个危险的命令(译注:可能导致工作目录中所有当前进度丢失!),但本例中工作目录内的文件并不会被修改。 不加选项地调用 git reset 并不危险 它只会修改暂存区域。
以上,恢复到远程某个commit 时的版本,等到远程稳定时再用git pull 就可以重新再更新到最新


2019-03-26 14:26:33    359    0    0

merge 和cherry pick

merge

merge也是同一分支的远程和本地的合并,即远程分支有修改但未更新到本地的文件,同时在本地被修改commit . 当进行push 的时候会报错,并提示使用git pull 进行更新合并

  1. git pull = git fetch + git merge
  2. ## git 会进行智能合并,不能自动解决冲突的,会变成nnmerge 状态,需要手动编辑合并

merge是分支和分支之间的合并,从一个分支向另一个分支推送全部修改,可以通过命令merge request 进行合并。

这一种合并一般需要用merge request 进行整个branch的合并

cherry pick

是挑选出特定的commit , 推送到另一个分支中

? linux ?    2019-01-29 16:02:24    542    1    0
grep  查找匹配的行
持续更新 ......
 
? shell ?    2019-01-29 15:36:08    282    1    0
  1. sed -i "/key/c\modify key line " file
  2. #把file 中带有 key 的所有行替换为modify key line

eg.

  1. change_list=`cat temp3.txt `
  2. for i in ${change_list}
  3. do
  4. if [[ $exp ]]; then
  5. sed -i "/${i}/c\\${i} <-- change" temp2.txt
  6. fi
  7. done

在exit 0 前面插入一行:i

  1. sed -i '/^exit 0/i \/sbin\/start ttyS0' /etc/rc.local

在exit 0 后面插入一行:a

  1. sed -i '/^exit 0/a \/sbin\/start ttyS0' /etc/rc.local

处理同一个打印结果 中,取多行标题及关键字匹配行

  1. accurev show wspaces | head -n 5 ; accurev show wspaces | grep EPDG_R16

以上accurev show wspaces 执行了两次,在两次结果里各取结果 再拼接,效率较低

  1. sed -n '1,5p'
  2. sed -n '/xxxxx/p'
  3. sed -n '1,5p;/^EPDG_R16_xxxx/p'

使用sed 将两个条件用分号串成多个条件,对结果进行“或关系”匹配

  1. accurev show wspaces | sed -n '1,5p;/^EPDG_R16_xxxx/p'
  2. Stream #
  3. | Target X-Action
  4. | | X-Action
7/12