mirror of
https://github.com/xmengnet/the-art-of-command-line.git
synced 2024-12-25 00:56:29 +08:00
Merge master into 121.
This commit is contained in:
commit
1559166e32
3 changed files with 665 additions and 184 deletions
449
README-pt.md
Normal file
449
README-pt.md
Normal file
|
@ -0,0 +1,449 @@
|
|||
[ Languages: [English](README.md), [Español](README-es.md), [Português](README-pt.md), [中文](README-zh.md) ]
|
||||
|
||||
|
||||
# A arte da linha de comando
|
||||
|
||||
- [Meta](#meta)
|
||||
- [Básico](#básico)
|
||||
- [Uso diário](#uso-diário)
|
||||
- [Processamento de arquivos e dados](#processamento-de-arquivos-e-dados)
|
||||
- [Debugando o sistema](#debugs-do-sistema)
|
||||
- [One-liners](#one-liners)
|
||||
- [Obscuros mas úteis](#obscuros-mas-úteis)
|
||||
- [Mais conteúdo](#mais-conteúdo)
|
||||
- [Aviso](#aviso)
|
||||
|
||||
|
||||
![curl -s 'https://raw.githubusercontent.com/jlevy/the-art-of-command-line/master/README.md' | egrep -o '`\w+`' | tr -d '`' | cowsay -W50](cowsay.png)
|
||||
|
||||
Fluência na linha de comando é uma habilidade muitas vezes negligenciada ou considerada obsoleta, porém ela aumenta sua flexibilidade e produtividade como *desenvolvedor* de diversas maneiras, sutis ou não. Este texto descreve uma seleção de notas e dicas de uso da linha de comando que me parecem muito uteis, quando usando o Linux. Algumas dicas são elementares, e outras são mais específicas, sofisticadas ou obscuras. Esta página é curta, mas se você souber usar e lembrar todos os items que estão aqui, então você está mandando bem.
|
||||
|
||||
Muito do que está aqui [originalmente](http://www.quora.com/What-are-some-lesser-known-but-useful-Unix-commands)
|
||||
[apareceu](http://www.quora.com/What-are-the-most-useful-Swiss-army-knife-one-liners-on-Unix)
|
||||
no [Quora](http://www.quora.com/What-are-some-time-saving-tips-that-every-Linux-user-should-know),
|
||||
mas dado o interesse por lá, me pareceu importante usar o Github, onde pessoas mais talentosas do que eu, poderiam sugerir melhorias facilmente. Se você descobrir um erro ou algo que poderia ser melhorado, por favor abra um issue ou um PR! (E claro, por favor veja as `meta sections' e PRs/issues existentes, primeiro.)
|
||||
|
||||
## Meta
|
||||
|
||||
Escopo:
|
||||
|
||||
- Este guia é destinado tanto aos iniciantes quanto aos usuários mais experientes. Os objetivos são *abrangencia* (tudo que é importante), *especificidade* (dar exemplos concretos dos casos de usos mais comuns), e *brevidade* (evitar coisas que não são tão essenciais ou digressões que você pode facilmente encontrar pela internet). Todas as dicas são essenciais em alguma situação ou trazem uma economia notável de tempo em relação a outras alternativas.
|
||||
- Este guia é escrito para o Linux. Muitos, mas não todos os items, se aplicam igualmente para o MacOS (ou mesmo o Cygwin).
|
||||
- O foco está na interatividade com Bash, embora muitas dicas aqui sejam aplicáveis a outras `shells' e tambem a scripts em Bash, em geral.
|
||||
- Incluimos tanto comandos no Unix "padrão", quanto comandos que requeiram instalação de pacotes adicionais -- desde que estes sejam importantes o suficiente para merecerem sua inclusão nessa lista.
|
||||
|
||||
Notas:
|
||||
|
||||
- Para manter este guia em uma única página, o conteúdo implícito será incluído por referência. Você é competente o suficiente para verificar mais detalhes em outros lugares, desde que você já tenha entendido a ideia ou saiba o que procurar no Google. Use `apt-get`/`yum`/`dnf`/`pacman`/`pip`/`brew` (quando adequado) para instalar novos programas.
|
||||
- Use [Explainshell](http://explainshell.com/) para encontrar informações úteis sobre o que fazem os comandos, as opções, pipes e etc.
|
||||
|
||||
|
||||
## Básico
|
||||
|
||||
- Aprenda o básico sobre Bash. Na verdade, digite `man bash` e pelo menos entenda superficialmente o seu funcionamento; é bastante simples de ler e nem é tão grande assim. Shells alternativas podem ser legais, mas Bash é a mais poderosa e sempre está disponível (aprender *somente* zsh, fish, etc, é tentador quando você usa o seu próprio notebook, mas restringe você em muitas situações, por exemplo quando você quer usar servidores de outros).
|
||||
|
||||
- Aprenda bem pelo menos um editor de text tradicional. Idealmente o Vim (`vi`), já que nenhum outro funciona tão bem nos terminais aleatórios que a gente encontra por ai (mesmo que você prefira usar o Emacs, um IDE, ou um editor hipster a maior parte do tempo).
|
||||
|
||||
- Saiba como ler a documentação com o `man` (para os curiosos, `man man` lista os números das seções, por exemplo, 1 se refere aos comandos "regulares", 5 é sobre arquivos/convenções, e 8 diz respeito a administração). Procure outros documentos do manual com o `apropos`. Saiba que alguns dos comandos não são executáveis, mas sim built-ins(embutidos) no bash, pra esses você poderá conseguir ajuda com `help` e `help -d`.
|
||||
|
||||
- Aprenda como fazer redirecionamento de saída e entrada usando `>` e `<` e pipes usando `|`. Aprenda sobre o stdout e stdin.
|
||||
|
||||
- Aprenda sobre a expansão de arquivos glob com `*` ( e talvez `?` e `{`...`}`) e entenda as diferenças entre aspas duplas `"` e aspas simples `'`. (Veja mais em variáveis de expansão abaixo.)
|
||||
|
||||
- Se familiarize com o gerenciamento de jobs em Bash: `&`, **ctrl-z**, **ctrl-c**, `jobs`, `fg`, `bg`, `kill`, etc.
|
||||
|
||||
- Aprenda `ssh`, e o básico de autenticação sem senha, através do `ssh-agent`, `ssh-add`, etc.
|
||||
|
||||
- Gerenciamento básico de arquivos: `ls` e `ls -l` (em particular, aprenda o que cada coluna no `ls -l` significa), `less`, `head`, `tail` e `tail -f` (ou melhor ainda, `less +F`), `ln` e `ln -s`(aprenda as diferenças e vantagens de soft links comparados a hard links), `chown`, `chmod`, `du` (para um rápido resumo do uso do disco: `du -sk *`). Para gerenciamento do sistema de arquivos, `df`, `mount`, `fdisk`, `mkfs`, `lsblk`.
|
||||
|
||||
- Gerenciamento básico da rede: `ip` ou `ifconfig`, `dig`.
|
||||
|
||||
- Saiba bem como usar expressões regulares, e as várias flags para `grep`/`egrep`. As `-i`, `-o`, `-A`, e `-B` são opções que é importante conhecer.
|
||||
|
||||
- Aprenda a usar `apt-get`, `yum`, `dnf` ou `pacman` (dependendo da distribuição) para procurar e instalar pacotes. E garanta que você possui o `pip` para instalar ferramentas baseadas em Python (algumas das abaixo são mais fáceis de instalar através do `pip`).
|
||||
|
||||
|
||||
## Uso diário
|
||||
|
||||
- Usando Bash, use **Tab** para completar argumentos e **ctrl-r** para pesquisar através a história dos comandos.
|
||||
|
||||
- Em Bash, utilize **ctrl-w** para deletar a última palavra, e **ctrl-u** para deletar tudo e voltar para o início da linha. Use **alt-b** e **alt-f** para se mover por palavras, **ctrl-k** para apagar até o final da linha, **ctrl-l** para limpar a tela. Consulte `man readline` para todos os keybindings padrões do Bash. Existem muitos. Por exemplo **alt-.** circula através dos argumentos anteriores, e **alt-*** expande um glob.
|
||||
|
||||
- Alternativamente, se você adora os keybinds do vi, use `set -o vi`.
|
||||
|
||||
- Para ver os comandos recentes, `history`. Existem também muitas abreviações como `!$` (último argumento) e `!!` último comando, embora estes sejam muitas vezes facilmente substituídos por **ctrl-r** e **alt-.**.
|
||||
|
||||
- Pra voltar para o diretório anterior de trabalho: `cd -`.
|
||||
|
||||
- Se você está na metade do caminho ao digitar um comando, mas mudou de ideia, tecle **alt-#** para adicionar um `#` ao início da linha e definir esta como um comentário (ou use **ctrl-a**. **#**. **enter**). Mais tarde você poderá recuperar o comando através da `history`.
|
||||
|
||||
- Use `xargs` (ou `parallel`). Estes são muito poderosos. Note que você pode controlar como os vários items são executados por linha (`-L`) assim como o paralelismo (`-P`). Se você não tem certeza se isto é a coisa certa a se fazer, use `xargs echo` primeiro. O `-I{}` também é muito útil. Exemplos:
|
||||
```bash
|
||||
find . -name '*.py' | xargs grep some_function
|
||||
cat hosts | xargs -I{} ssh root@{} hostname
|
||||
```
|
||||
|
||||
- `pstree -p` é um modo de visualização muito útil da árvore de processos.
|
||||
|
||||
- Use `pgrep` e `pkill` para procurar ou sinalizar os processo pelo seu nome (`-f` é muito útil).
|
||||
|
||||
- Saiba os vários sinais que você pode enviar para um processo. Por exemplo, para suspender um processo, use `kill -STOP [pid]`. Para saber a lista completas dos sinais, veja `man 7 signal`.
|
||||
|
||||
- Use `nohup` ou `disown` se você deseja por o processo no background, executando para sempre.
|
||||
|
||||
- Verifique quais processos estão escutando através de `netstat -lntp` ou `ss -plat` (para TCP; adicione `-u` para UDP).
|
||||
|
||||
- Veja também `lsof` para abrir sockets e arquivos.
|
||||
|
||||
- Em scripts Bash, use `set -x` para debugar a saída. Utilize modos estritos sempre que for possível. Use `set -e` para abortar em caso de erros. Use `set -o pipefail` para também ser restrito a respeito dos erros (embora este tópico seja um pouco sútil). Para scripts mais desenvolvidos, use também `trap`.
|
||||
|
||||
- Em Bash scripts, subshells (escrito com parênteses) são formas convenientes de agrupar comandos. Um exemplo comum é temporariamente se mover para um diretório de trabalho diferente, e.g.
|
||||
```bash
|
||||
# faz algo no diretório corrente
|
||||
(cd /some/other/dir && other-command)
|
||||
# continua no diretório atual
|
||||
```
|
||||
|
||||
- No Bash, note que existem muitos tipos de variáveis de expansão. Verificando a existência de uma variável: `${name:?error_messages}`. Por exemplo, se um script Bash requer um único argumento, apenas escreva `input_file=${1:?usage: $0 input_file}`. Expansões aritméticas: `i=$(( (i + 1) % 5 ))`. Sequências: `{1..10}`. Aparando as strings: `${var%suffix}` e `${var#prefix}`. Por exemplo, se `var=foo.pdf`, então `echo ${var%.pdf}.txt` imprime `foo.txt`.
|
||||
|
||||
- A saída de um comando pode ser tratada como um arquivo através `<(algum comando)`. Por exemplo, comparar um arquivo local `/etc/hosts` com um remoto:
|
||||
```sh
|
||||
diff /etc/hosts <(ssh somehost cat /etc/hosts)
|
||||
```
|
||||
|
||||
- Saiba sobre "documentos aqui" no Bash, como em `cat <<EOF ...`.
|
||||
|
||||
- No Bash, redirecionar a saída padrão (stdout) e a saída de erro padrão (stderr) através de: `algum-comando >logfile 2> $1`. Muitas vezes, para garantir que um comando não deixa um arquivo aberto para manipular a entrada padrão, digitando isso no terminal que você está, é uma boa prática adicionar um `</dev/null`.
|
||||
|
||||
- Use `man ascii` para visualizar a tabela ASCII, com valores hexadecimais e decimais. Para informações gerais sobre codificações, `man unicode`, `man utf-8`, e `man latin1` são úteis.
|
||||
|
||||
- Use `screen` ou [`tmux`](https://tmux.github.io/) para multiplexar as telas, especialmente útil em sessões ssh remotas e para desplugar e replugar a uma sessão. Uma alternativa mais simples para a persistência de uma sessão é `dtach`.
|
||||
|
||||
- No ssh, saber como realizar um túnel de portas com `-L` ou `-D` (e ocasionalmente `-R`) é útil, para por exemplo acessar sites webs de um servidor remoto.
|
||||
|
||||
- Pode ser útil realizar algumas otimizações em suas configurações do ssh; por exemplo, o arquivo `~/.ssh/config` contém configurações para evitar que conexões sejam dropadas em certos ambientes de rede, use compressão (muito útil quando se está usando o scp através de uma conexão lenta), e multiplexação de canais do mesmo servidor com um arquivo de controle local:
|
||||
```
|
||||
TCPKeepAlive=yes
|
||||
ServerAliveInterval=15
|
||||
ServerAliveCountMax=6
|
||||
Compression=yes
|
||||
ControlMaster auto
|
||||
ControlPath /tmp/%r@%h:%p
|
||||
ControlPersist yes
|
||||
```
|
||||
|
||||
- Algumas outras opções relevantes para o ssh tem problemas de segurança e devem ser habilitadas com muito cuidado, por exemplo somente para subrede ou host ou em redes confiaveis (de confiança): `StrictHostKeyChecking=no`, `ForwardAgent=yes`
|
||||
|
||||
- Para conseguir as permissões em arquivo em forma octal, o que é útil para a configuraçao do sistema mas não disponível no `ls` e fácil de se confundir, use algo como:
|
||||
```sh
|
||||
stat -c '%A %a %n' /etc/timezone
|
||||
```
|
||||
|
||||
- Para seleção interativas de valores da saída de outro comando, use [`percol`](https://github.com/mooz/percol).
|
||||
|
||||
- Para interação com arquivos baseados na saída de outro comando (like `git`), use `fpp` ([PathPicker](https://github.com/facebook/PathPicker)).
|
||||
|
||||
- Para um simples servidor web para todos os arquivos do diretório atual (e subdiretórios), disponível para alguém na sua rede, use:
|
||||
`python -m SimpleHTTPServer 7777` (para a porta 7777 e Python 2) e `python -m http.server 7777` (para a porta 7777 e Python 3).
|
||||
|
||||
|
||||
## Processamento de arquivos e dados
|
||||
|
||||
- Para localizar um arquivo pelo nome no diretório atual, `find . -iname '*something*'` (ou similar). Para procurar um arquivo em qualquer lugar pelo nome, use `locate something` (mas tenha em mente que o `updatedb` pode não ter indexado arquivos criados recentemente).
|
||||
|
||||
- Para uma busca mais geral através de arquivos de dados ou de códigos (mais avançado do que `grep -r`), use [`ag`](https://github.com/ggreer/the_silver_searcher).
|
||||
|
||||
- Para converter HTML para texto: `lynx -dump -stdin`.
|
||||
|
||||
- Para Markdown, HTML, e todos os demais tipos de conversão de documentos, tente [`pandoc`](http://pandoc.org/).
|
||||
|
||||
- Se você precisa manipular XML, `xmlstarlet` é antigo mas é bom.
|
||||
|
||||
- Para JSON, `jq`.
|
||||
|
||||
- Para Excel ou arquivos CSV, [csvkit](https://github.com/onyxfish/csvkit) que provê `in2csv`, `csvcut`, `csvjoin`, `csvgrep`, etc.
|
||||
|
||||
- Para a Amazon S3, [`s3cmd`](https://github.com/s3tools/s3cmd) é uma forma conveniente e [`s4cmd`](https://github.com/bloomreach/s4cmd) é mais rápido. O [`aws`](https://github.com/aws/aws-cli) da amazon é essencial para outras tarefas relacionadas.
|
||||
|
||||
- Aprenda a respeito do `sort` e `uniq`, incluindo as opções do `-u` e `-d` do `uniq` -- veja os one-liners abaixo. Veja também `comm`.
|
||||
|
||||
- Aprenda a respeito do `cut`, `paste`, e `join` para manipular arquivos de texto. Muitas pessoas usam `cut` mas esquecem do `join`.
|
||||
|
||||
- Aprenda a respeito do `wc` para contar novas linhas (`-l`), caracteres (`-m`), palavras (`-m`) e bytes (`-c`).
|
||||
|
||||
- Aprenda a respeito do `tee` para copiar da entrada padrão (stdin) para um arquivo e também para a saída padrão (stdout), como no `ls -al | tee file.txt`.
|
||||
|
||||
- Aprenda que as configurações de localização afetam várias ferramentas da linha de comando em formas sutis, incluindo a ordem da ordenação e performance. A maioria das instalações do Linux irá definir `LANG` ou outras variáveis de localização para o ingles dos USA. Mas esteja ciente de que a ordem da ordenação irá mudar, caso você altere a localização. E saiba que as rotinas do i18n podem fazer o `sort` ou outros comandos executarem *muitas vezes* mais devagar. Em algumas situações (como o conjunto de operações ou as operações únicas abaixo) você pode seguramente eliminar a lentidão das rotinas do i18n inteiramente e usar a ordem baseada nos bytes, usando `export LC_ALL=C`.
|
||||
|
||||
- Aprenda o básico sobre `awk` e `sed` para obtenção de informações simples de dados. Por exemplo, somar todos os números na terceira coluna de um arquivo de texto: `awk '{ x += $3 } END { print x }'`. Isto é provavelmente 3X mais rápido e 3X mais curto do que o equivalente em Python.
|
||||
|
||||
- Para substituir todas as ocorrências de uma string em um lugar, em um ou mais arquivos:
|
||||
```sh
|
||||
perl -pi.bak -e 's/old-string/new-string/g' my-files-*.txt
|
||||
```
|
||||
|
||||
- Para renomear muitos arquivos de uma vez, de acordo com um padrão, use `rename`. Para renomeações mais complexas, [`repren`](https://github.com/jlevy/repren) pode ajudar.
|
||||
```sh
|
||||
# Recuperar arquivos de backup foo.bak -> foo:
|
||||
rename 's/\.bak$//' *.bak
|
||||
# Renomea completamente o nome dos arquivos, diretórios, e outros conteúdos foo -> bar:
|
||||
repren --full --preserve-case --from foo --to bar .
|
||||
```
|
||||
|
||||
- Utilize o `shuf` para embaralhar ou selecionar linhas randoms de um arquivo.
|
||||
|
||||
- Para as opções do `sort`. Aprenda com as chaves (`-t` e `-k`). Em particular, saiba que precisa escrever `-k1,1` para ordenar somente o primeiro campo; `-k1` significa ordenar de acordo com a linha inteira.
|
||||
|
||||
- Ordenação estável (`sort -s`) pode ser útil. Por exemplo, para ordenar primeiramente pelo campo 2, então secundariamente pelo campo 1, você pode usar `sort -k1,1 | sort -s -k2,2`.
|
||||
|
||||
- Se você precisa escrever literalmente um tab na linha de comando no Bash (por exemplo, para o argumento -t do `sort`), pressione **ctrl-v** **[Tab]** ou escreva `$'\t'` (o último é melhor pois você pode copiar e colar ele).
|
||||
|
||||
- As ferramentas padrão para extrair patches de códigos fonte são `diff`e `patch`. Veja também `diffstat` para um resumo de estatísticas de um diff. Note que `diff -r` funciona para diretórios inteiros. Use `diff -r tree1 tree2 | diffstat` para um resumo das alterações.
|
||||
|
||||
- Para arquivos binários, use `hd` para um simples dump hexadecimal e `bvi` para edição binária.
|
||||
|
||||
- Também para arquivos binários, `strings` (mais `grep`, etc.) deixa você encontrar pedaços de texto.
|
||||
|
||||
- Para diffs binários (compressão delta), use `xdelta3.`
|
||||
|
||||
- Para converter a codificação de textos, tente `iconv`. Ou `uconv` para uso mais avançado; Este suporta algumas funcionalidades avançadas do Unicode. Por exemplo, este comando transforma o texto para minúsculo e remove todos os acentos (expandindo e removendo eles):
|
||||
```sh
|
||||
uconv -f utf-8 -t utf-8 -x '::Any-Lower; ::Any-NFD; [:Nonspacing Mark:] >; ::Any-NFC; ' < input.txt > output.txt
|
||||
```
|
||||
|
||||
- Para dividir um arquivo em pedaços, veja `split` (para dividir por tamanho) e `csplit` (para dividir por um padrão).
|
||||
|
||||
Use `zsless`, `zmore`, `zcat`, and `zgrep` para manipular arquivos comprimidos.
|
||||
|
||||
|
||||
## Debugando o sistema
|
||||
|
||||
- Para web debug, `curl` e `curl -I` são úteis, ou os equivalentes `wget`, or uma alternativa mais moderna [`httpie`](https://github.com/jakubroztocil/httpie).
|
||||
|
||||
- Para saber o status do disco/cpu/rede, use `iostat`, `netstat`, `top` (ou o `htop` como alternativa melhor), e (especialmente) `dstat`. Bom para obter uma ideia rápida do que está acontecendo em um sistema.
|
||||
|
||||
- Para um resumo mais aprofundado do sistema, use [`glances`](https://github.com/nicolargo/glances). Este lhe apresenta vários níveis de estatísticas do sistema em uma janela do terminal. Muito útil para uma rápida verificação em vários subsistemas.
|
||||
|
||||
- Para saber o status da memória, execute e entenda a saída do `free` `vmstat`. Em particular, esteja ciente de que o valor "cached", é mantido pelo kernel Linux como um arquivo de cache, então este efetivamente conta como um valor de memória disponível.
|
||||
|
||||
- Debugar um sistema java é uma outra historia, mas um simples truque nas máquinas virtuais Oracle ou algum outro tipo de JVM é que você pode executar `kill -3 <pid>` e um completo rastreamento da pilha(stack trace) e resumo do heap (incluindo detalhes geracionais do garbage collector, os quais podem ser altamente informativos) serão vazados para stderr/logs.
|
||||
|
||||
- Use `mtr` como uma melhor alternativa ao traceroute, para identificar problemas na rede.
|
||||
|
||||
- Para verificar o porque de um disco estar cheio, `ncdu` economiza bastante tempo em comparação aos comandos usuais como `du -sh *`.
|
||||
|
||||
- Para procurar qual socket ou processo está utilizando a banda de rede, tente `iftop` ou `nethogs`.
|
||||
|
||||
- A ferramenta `ab` (que vem com o Apache) é muito útil para verificação rápida da performance do servidor web. Para mais complexos testes de carga, tente `siege`.
|
||||
|
||||
- Para debugs mais sérios da rede, `wireshark`, `tshark`, ou `ngrep`.
|
||||
|
||||
- Aprenda a respeito do `strace`e `ltrace`. Estes podem ser úteis se um programa está falhando, travado, ou quebrando, e você não sabe o por que, ou se você quer obter uma ideia geral da performance. Note que a opção de perfil (`-c`), e a habilidade de se plugar a um processo em execução (`-p`).
|
||||
|
||||
- Aprenda a respeito do `ldd` para verificar bibliotecas compartilhadas, e etc.
|
||||
|
||||
- Aprenda sobre como se conectar a um processo em execução com o `gdb` e obter informações sobre a stack trace.
|
||||
|
||||
- Utilize `/proc`. Este é incrivelmente útil em algumas vezes quando se deseja debugar problemas ao vivo. Exemplos: `/proc/cpuinfo`, `/proc/xxx/cwd`, `/proc/xxx/exe`, `/proc/xxx/fd/`, `/proc/xxx/smaps`.
|
||||
|
||||
- Quando estiver debugando o porque de algo ter dado errado no passado, `sar` pode ser de muita utilidade. Ele exibe as estatísticas históricas da CPU, memória, rede e etc.
|
||||
|
||||
- Para análises de performance mais profundas do sistema, dê uma olhada em `stap` ([SystemTap](https://sourceware.org/systemtap/wiki)), [`perf`](http://en.wikipedia.org/wiki/Perf_(Linux)), e [`sysdig`](https://github.com/draios/sysdig).
|
||||
|
||||
- Confirme qual a sua distribuição do Linux usando (funciona na maioria das distros): `lsb_release -a`.
|
||||
|
||||
- Use `dmesg` sempre que algo estiver agindo de maneira estranha (isto pode ser um problema de hardware ou problema de driver).
|
||||
|
||||
|
||||
## One-liners
|
||||
|
||||
Alguns exemplos de como reunir os comandos.
|
||||
|
||||
- O seguinte é notavelmente e frequentemente útil: muitas vezes você quer obter a interseção, união e a diferença de arquivos de texto através de `sort`/`uniq`. Suponha que `a` e `b` são arquivos de texto que são "uniqued" únicos. Esse modo é rápido, e funciona em arquivos de tamanhos arbitrários, podem até possuírem gigabytes. (Sorting não é limitado por memória, embora você possa precisar usar a opção `-T` se `/tmp` está em uma partição pequena.) Veja também a nota sobre `LC_ALL` acima e as opções `-u` do `sort`(vamos deixar isso claro abaixo).
|
||||
```sh
|
||||
cat a b | sort | uniq > c # c is a union b
|
||||
cat a b | sort | uniq -d > c # c is a intersect b
|
||||
cat a b b | sort | uniq -u > c # c is set difference a - b
|
||||
```
|
||||
|
||||
- Use `grep . *` para visualmente examinar todo o conteúdo de todos os arquivos de um diretório, por exemplo, para diretórios com arquivos de configurações, como `/sys`, `/proc`, `/etc`.
|
||||
|
||||
|
||||
- Somar todos os números em uma terceira coluna de um arquivo de texto (isto é provavelmente 3X mais rápido e 3X menos linhas de código do que o equivalente em Python).
|
||||
```sh
|
||||
awk '{ x += $3 } END { print x }' myfile
|
||||
```
|
||||
|
||||
- Se você quer visualizar tamanhos/datas em uma árvore de arquivos, isto é como um `ls -l` recursivo, mas é mais fácil de ler do que `ls -lR`:
|
||||
```sh
|
||||
find . -type f -ls
|
||||
```
|
||||
|
||||
- Utilize `xargs` ou `parallel` sempre que você puder. Note que você pode controlar quantos item é executado por linha (`-L`) assim como o paralelismo (`-P`). Se você não tem certeza de que esta é a coisa certa a se fazer, utilize `xargs echo` primeiro.
|
||||
```sh
|
||||
find . -name '*.py' | xargs grep some_function
|
||||
cat hosts | xargs -I{} ssh root@{} hostname
|
||||
```
|
||||
|
||||
- Digamos que você tenha um arquivo de texto, como um log do servidor web, e um certo valor que aparece em algumas linhas, como por exemplo o parâmetro `acct_id` que está presente na URL. Se você quer um cálculo de quantas requisições para este `acct_id`.
|
||||
```sh
|
||||
cat access.log | egrep -o 'acct_id=[0-9]+' | cut -d= -f2 | sort | uniq -c | sort -rn
|
||||
```
|
||||
|
||||
- Execute esta função para obter uma dica random deste documento (analisa a sintaxe Markdown e extrai um item)
|
||||
```sh
|
||||
function taocl() {
|
||||
curl -s https://raw.githubusercontent.com/jlevy/the-art-of-command-line/master/README-pt.md |
|
||||
pandoc -f markdown -t html |
|
||||
xmlstarlet fo --html --dropdtd |
|
||||
xmlstarlet sel -t -v "(html/body/ul/li[count(p)>0])[$RANDOM mod last()+1]" |
|
||||
xmlstarlet unesc | fmt -80
|
||||
}
|
||||
```
|
||||
|
||||
|
||||
## Obscuros mas úteis
|
||||
|
||||
- `expr`: executa operações boleanas ou aritméticas ou avalia expressões regulares.
|
||||
|
||||
- `m4`: simples processador de macros.
|
||||
|
||||
- `yes`: imprime uma string muitas vezes.
|
||||
|
||||
- `cal`: calendário legal.
|
||||
|
||||
- `env`: executa um comando (útil em scripts).
|
||||
|
||||
- `printenv`: imprime as variáveis de ambiente (útil em debug e scripts).
|
||||
|
||||
- `look`: procura palavras inglesas (ou linhas em um arquivo) começando com uma string.
|
||||
|
||||
- `cut ` e `paste` e `join`: manipulação de dados.
|
||||
|
||||
- `fmt`: formata parágrafos de texto.
|
||||
|
||||
- `pr`: formata textos em páginas/colunas.
|
||||
|
||||
- `fold`: envolve linhas de texto.
|
||||
|
||||
- `column`: formata texto em colunas ou tabelas.
|
||||
|
||||
- `expand` e `unexpand`: converte entre tabs e espaços.
|
||||
|
||||
- `nl`: adiciona números as linhas.
|
||||
|
||||
- `seq`: imprime números.
|
||||
|
||||
- `bc`: calculadora.
|
||||
|
||||
- `factor`: fatora inteiros.
|
||||
|
||||
- `gpg`: criptografa e assina arquivos.
|
||||
|
||||
- `toe`: tabela de entradas dos tipos de terminais.
|
||||
|
||||
- `nc`: ferramenta de debug de rede e transferência de dados.
|
||||
|
||||
- `socat`: socket relay e encaminhamento de portas tcp (similar ao `netcat`)
|
||||
|
||||
- `slurm`: visualização do tráfego da rede.
|
||||
|
||||
- `dd`: move os dados entre arquivos ou dispositivos.
|
||||
|
||||
- `file`: identifica o tipo do arquivo.
|
||||
|
||||
- `tree`: mostra os diretórios e subdiretórios como um árvore de dependências; como `ls` mas recursivo.
|
||||
|
||||
- `stat`: informações do arquivo.
|
||||
|
||||
- `tac`: imprime arquivos na ordem reversa.
|
||||
|
||||
- `shuf`: seleção random de linhas de um arquivo.
|
||||
|
||||
- `comm`: compara uma lista de arquivos ordenadas linha por linha.
|
||||
|
||||
- `pv`: monitora o progresso dos dados através de um pipe.
|
||||
|
||||
- `hd` e `bvi`: dump ou edita arquivos binários.
|
||||
|
||||
- `strings`: extrai texto de arquivos binários.
|
||||
|
||||
- `tr`: tradução e manipulação de caracteres.
|
||||
|
||||
- `iconv` ou `uconv`: conversor de codificações de texto.
|
||||
|
||||
- `split ` e `csplit`: divisão de arquivos.
|
||||
|
||||
- `units`: conversor de unidades e cálculos; converte furlongs por quinzena para twips per blink (veja também `/usr/share/units/definitions.units`)
|
||||
|
||||
- `7z`: Compressor de arquivos de alto desempenho.
|
||||
|
||||
- `ldd`: informações dinâmicas das bibliotecas.
|
||||
|
||||
- `nm`: símbolos de arquivos objetos.
|
||||
|
||||
- `ab`: benchmarking para web servers.
|
||||
|
||||
- `strace`: Debug para chamadas de sistema.
|
||||
|
||||
- `mtr`: melhor traceroute para debugar a rede.
|
||||
|
||||
- `cssh`: Visualização concorrente da shell.
|
||||
|
||||
- `rsync`: Sincroniza arquivos e pastas através do SSH.
|
||||
|
||||
- `wireshark` e `tshark`: captura de pacotes e debug de rede.
|
||||
|
||||
- `ngrep`: grep para a camada de rede.
|
||||
|
||||
- `host` e `dig`: Consultas DNS.
|
||||
|
||||
- `lsof`: Arquivo de descritores dos processos e informações dos sockets.
|
||||
|
||||
- `dstat`: Estatísticas úteis do sistema.
|
||||
|
||||
- [`glances`](https://github.com/nicolargo/glances): Resumo de alto nível, de multi subsistemas.
|
||||
|
||||
- `iostat`: Estatísticas de uso do CPU e do disco.
|
||||
|
||||
- `htop`: Versão do top melhorada.
|
||||
|
||||
- `last`: histórico de logins.
|
||||
|
||||
- `w`: quem está logado.
|
||||
|
||||
- `id`: Informações sobre a identidade do user/group.
|
||||
|
||||
- `sar`: histórico dos estados do sistema.
|
||||
|
||||
- `iftop` ou `nethogs`: Utilização da rede por sockets ou processos.
|
||||
|
||||
- `ss`: Estatísticas dos sockets.
|
||||
|
||||
- `dmesg`: Mensagens de erro do sistema e do boot.
|
||||
|
||||
- `hdparm`: Manipulação/performance de discos SATA/ATA.
|
||||
|
||||
- `lsb_release`: Informações sobre a distribuição do Linux.
|
||||
|
||||
- `lsblk`: Lista os blocos dos dispositivos: uma visualização em forma de árvore dos seus discos e partições do disco.
|
||||
|
||||
- `lshw` e `lspci`: informações do hardware, incluindo RAID, gráficos, etc.
|
||||
|
||||
- `fortune`, `ddate`, e `sl`: um, bem, isto depende de você considerar locomotivas a vapor e citações Zippy "úteis".
|
||||
|
||||
## Mais conteúdo
|
||||
|
||||
- [awesome-shell](https://github.com/alebcay/awesome-shell): Uma lista refinada de ferramentas da shell e outros recursos.
|
||||
- [Strict mode](http://redsymbol.net/articles/unofficial-bash-strict-mode/) para escrever shell scripts melhores.
|
||||
|
||||
## Aviso
|
||||
|
||||
Com a exceção de tarefas muito pequenas, código é normalmente escrito para que outros possam ler. Junto com o poder vem a responsabilidade. O fato de você *poder* fazer algo usando Bash não significa necessariamente que você deve! ;)
|
||||
|
||||
|
||||
## Licença
|
||||
|
||||
[![Creative Commons License](https://i.creativecommons.org/l/by-sa/4.0/88x31.png)](http://creativecommons.org/licenses/by-sa/4.0/)
|
||||
|
||||
Este trabalho está licenciado com uma [Creative Commons Attribution-ShareAlike 4.0 International License](http://creativecommons.org/licenses/by-sa/4.0/).
|
330
README-zh.md
330
README-zh.md
|
@ -1,5 +1,9 @@
|
|||
[ Languages: [English](README.md), [Español](README-es.md), [Português](README-pt.md), [中文](README-zh.md) ]
|
||||
|
||||
|
||||
# 命令行的艺术
|
||||
|
||||
[![Join the chat at https://gitter.im/jlevy/the-art-of-command-line](https://badges.gitter.im/Join%20Chat.svg)](https://gitter.im/jlevy/the-art-of-command-line?utm_source=badge&utm_medium=badge&utm_campaign=pr-badge&utm_content=badge)
|
||||
- [必读](#必读)
|
||||
- [基础](#基础)
|
||||
- [日常使用](#日常使用)
|
||||
|
@ -14,70 +18,69 @@
|
|||
|
||||
![curl -s 'https://raw.githubusercontent.com/jlevy/the-art-of-command-line/master/README.md' | egrep -o '`\w+`' | tr -d '`' | cowsay -W50](cowsay.png)
|
||||
|
||||
熟练使用命令行是一种常常被忽视或被认为晦涩难懂,但实际上,它可以提高你作为工程师的灵活性以及生产力。本文是一份我在Linux上工作时发现的一些关于命令行的使用的小技巧的摘要。这些小技巧有基础的、相当复杂的甚至晦涩难懂的。这篇文章并不长,但当你能够熟练掌握这里列出的所有技巧时,你就学会了很多关于命令行的东西了。
|
||||
熟练使用命令行是一种常常被忽视或被认为难以掌握的技能,但实际上,它可以提高你作为工程师的灵活性以及生产力。本文是一份我在 Linux 上工作时发现的一些关于命令行的使用的小技巧的摘要。这些小技巧有基础的、相当复杂的甚至晦涩难懂的。这篇文章并不长,但当你能够熟练掌握这里列出的所有技巧时,你就学会了很多关于命令行的东西了。
|
||||
|
||||
这里的大部分内容
|
||||
[首次](http://www.quora.com/What-are-some-lesser-known-but-useful-Unix-commands)
|
||||
[出现](http://www.quora.com/What-are-the-most-useful-Swiss-army-knife-one-liners-on-Unix)
|
||||
于 [Quora](http://www.quora.com/What-are-some-time-saving-tips-that-every-Linux-user-should-know),
|
||||
但考虑到这里的人们都具有学习的天赋且乐于接受别人的建议,使用Github来做这件事是更佳的选择。如果你在本文中发现了错误或者存在可以改善的地方,请果断提交Issue或Pull Request!(当然在提交前请看一下必读节和已有的issue/PR)。
|
||||
于 [Quora](http://www.quora.com/What-are-some-time-saving-tips-that-every-Linux-user-should-know),但考虑到这里的人们都具有学习的天赋且乐于接受别人的建议,使用 Github 来做这件事是更佳的选择。如果你在本文中发现了错误或者存在可以改善的地方,请果断提交 Issue 或 Pull Request!(当然在提交前请看一下必读节和已有的 PR/issue)。
|
||||
|
||||
|
||||
## 必读
|
||||
|
||||
涵盖范围:
|
||||
涵盖范围:
|
||||
|
||||
- 这篇文章对刚接触命令行的新手以及具有命令行使用经验的人都有用处。本文致力于做到覆盖面广(尽量包括一切重要的内容), 具体(给出最常见的具体的例子)以及简洁(避免一些不必要的东西以及一些偏题的可以在其他地方翻阅到文献的东西)。 每个小技巧在某个特定情境下都是基本的或能够显著地节约时间。
|
||||
- 本文为Linux所写,但很多内容(并非所有的)同样适用于MacOS甚至Cygwin。
|
||||
- 本文关注于交互式Bash,尽管很多技巧适用于其他shell或Bash脚本。
|
||||
- 本文包括了"标准的"Unix命令和需要安装特定包的命令,只要它们足够重要。
|
||||
- 这篇文章对刚接触命令行的新手以及具有命令行使用经验的人都有用处。本文致力于做到覆盖面广(尽量包括一切重要的内容),具体(给出最常见的具体的例子)以及简洁(避免一些不必要的东西以及一些偏题的可以在其他地方翻阅到文献的东西)。 每个小技巧在某个特定情境下都是基本的或能够显著地节约时间。
|
||||
- 本文为 Linux 所写,但很多内容(并非所有的)同样适用于 MacOS 甚至 Cygwin。
|
||||
- 本文关注于交互式 Bash,尽管很多技巧适用于其他 shell 或 Bash 脚本。
|
||||
- 本文包括了“标准的”Unix 命令和需要安装特定包的命令,只要它们足够重要。
|
||||
|
||||
注意事项:
|
||||
注意事项:
|
||||
|
||||
- 为了能在一页内展示尽量多的东西, 一些具体的信息会被间接的包含在引用页里。聪明机智的你如果掌握了使用 Google 搜索引擎的基本思路与命令, 那么你将可以查阅到更多的详细信息。使用 `apt-get`/`yum`/`dnf`/`pip`/`brew` 来安装新程序。
|
||||
- 为了能在一页内展示尽量多的东西,一些具体的信息会被间接的包含在引用页里。聪明机智的你如果掌握了使用 Google 搜索引擎的基本思路与命令,那么你将可以查阅到更多的详细信息。使用 `apt-get`/`yum`/`dnf`/`pacman`/`pip`/`brew`(以及其它合适的包管理器)来安装新程序。
|
||||
- 使用 [Explainshell](http://explainshell.com/) 去获取相关命令、参数、管道等内容的解释。
|
||||
|
||||
|
||||
## 基础
|
||||
|
||||
- 学习Bash的基础知识。具体来说, 输入 `man bash` 并至少全文浏览一遍; 它很简单并且不长。其他的shell可能很好用,但Bash功能强大且几乎所有情况下都是可用的 ( *只*学习 zsh, fish或其他的shell的话, 在你自己的电脑上会显得很方便, 但在很多情况下会限制你, 比如当你需要在服务器上工作时)。
|
||||
- 学习 Bash 的基础知识。具体来说,输入 `man bash` 并至少全文浏览一遍; 它很简单并且不长。其他的 shell 可能很好用,但 Bash 功能强大且几乎所有情况下都是可用的 ( *只*学习 zsh,fish 或其他的 shell 的话,在你自己的电脑上会显得很方便,但在很多情况下会限制你,比如当你需要在服务器上工作时)。
|
||||
|
||||
- 学习并掌握至少一个基于文本的编辑器。通常 Vim (`vi`) 会是你最好的选择。
|
||||
- 学习并掌握至少一个基于文本的编辑器。通常 Vim (`vi`) 会是你最好的选择。
|
||||
|
||||
- 学会如何使用`man`命令去阅读文档。学会使用`apropos`去查找文档。了解有些命令并不对应可执行文件,而是Bash内置的,可以使用`help`和`help -d`命令获取帮助信息。
|
||||
- 学会如何使用 `man` 命令去阅读文档。学会使用 `apropos` 去查找文档。了解有些命令并不对应可执行文件,而是Bash内置的,可以使用 `help` 和 `help -d` 命令获取帮助信息。
|
||||
|
||||
- 学会使用`>`和`<`来重定向输出和输入,学会使用`|`来重定向管道。了解标准输出stdout和标准错误stderr。
|
||||
- 学会使用 `>` 和 `<` 来重定向输出和输入,学会使用 `|` 来重定向管道。了解标准输出 stdout 和标准错误 stderr。
|
||||
|
||||
- 学会使用通配符`*` ( 若能`?`和`{`...`}`更好) 和引用以及引用中`'`和`"`的区别。
|
||||
- 学会使用通配符 `*` (或许再算上 `?` 和 `{`...`}`) 和引用以及引用中 `'` 和 `"` 的区别。
|
||||
|
||||
- 熟悉Bash任务管理工具: `&`, **ctrl-z**, **ctrl-c**, `jobs`, `fg`, `bg`, `kill` 等。
|
||||
- 熟悉 Bash 任务管理工具:`&`,**ctrl-z**,**ctrl-c**,`jobs`,`fg`,`bg`,`kill` 等。
|
||||
|
||||
- 了解`ssh`, 以及基本的无密码认证, `ssh-agent`, `ssh-add`等。
|
||||
- 了解 `ssh`,以及基本的无密码认证,`ssh-agent`,`ssh-add` 等。
|
||||
|
||||
- 学会基本的文件管理: `ls` 和 `ls -l` (了解`ls -l`中每一列代表的意义), `less`, `head`, `tail`和`tail -f` (甚至 `less +F`), `ln` and `ln -s` (了解软连接和硬连接的区别), `chown`, `chmod`, `du` (硬盘使用情况概述: `du -sk *`)。 关于文件系统的管理,学习 `df`, `mount`, `fdisk`, `mkfs`。
|
||||
- 学会基本的文件管理:`ls` 和 `ls -l` (了解 `ls -l` 中每一列代表的意义),`less`,`head`,`tail` 和 `tail -f` (甚至 `less +F`),`ln` 和 `ln -s` (了解硬链接与软链接的区别),`chown`,`chmod`,`du` (硬盘使用情况概述:`du -hk *`)。 关于文件系统的管理,学习 `df`,`mount`,`fdisk`,`mkfs`,`lsblk`。
|
||||
|
||||
- 学习基本的网络管理: `ip` 或 `ifconfig`, `dig`。
|
||||
- 学习基本的网络管理:`ip` 或 `ifconfig`,`dig`。
|
||||
|
||||
- 熟悉正则表达式,以及`grep`/`egrep`里不同参数的作用,例如`-i`, `-o`, `-A`,和 `-B`。
|
||||
- 熟悉正则表达式,以及 `grep`/`egrep` 里不同参数的作用,例如 `-i`,`-o`,`-A`,和 `-B`。
|
||||
|
||||
- 学会使用`apt-get`, `yum`, 或`dnf` (取决于你使用的Linux发行版)来查找或安装包。确保你的环境中有 `pip` 来安装基于Python的命令韩工具 (部分程序使用`pip`来安装会很简单)。
|
||||
- 学会使用 `apt-get`,`yum`,`dnf` 或 `pacman` (取决于你使用的 Linux 发行版)来查找或安装包。确保你的环境中有 `pip` 来安装基于 Python 的命令行工具 (部分程序使用 `pip` 来安装会很简单)。
|
||||
|
||||
|
||||
## 日常使用
|
||||
|
||||
- 在Bash中,可以使用**Tab**自动补全参数,使用**ctrl-r**搜索命令行历史。
|
||||
- 在 Bash 中,可以使用 **Tab** 自动补全参数,使用 **ctrl-r** 搜索命令行历史。
|
||||
|
||||
- 在Bash中,使用**ctrl-w**删除你键入的最后一个单词,使用**ctrl-u**删除整行,使用**alt-b**和**alt-f**按单词移动, 使用**ctrl-k**从光标处删除到行尾,使用**ctrl-l**清屏。键入`man readline`查看Bash中的默认快捷键,内容很多。例如**alt-.** 循环地移向前一个参数, 以及**alt-***展开通配符。
|
||||
- 在 Bash 中,使用 **ctrl-w** 删除你键入的最后一个单词,使用 **ctrl-u** 删除整行,使用 **alt-b** 和 **alt-f** 按单词移动,使用 **ctrl-k** 从光标处删除到行尾,使用 **ctrl-l** 清屏。键入 `man readline` 查看 Bash 中的默认快捷键,内容很多。例如 **alt-.** 循环地移向前一个参数,以及 **alt-*** 展开通配符。
|
||||
|
||||
- 你喜欢的话,可以键入`set -o vi`来使用vi风格的快捷键。
|
||||
- 你喜欢的话,可以键入 `set -o vi` 来使用 vi 风格的快捷键。
|
||||
|
||||
- 键入`history`查看命令行历史记录。其中有许多缩写, 例如`!$` (最后键入的参数)和`!!`(最后键入的命令),尽管通常被 **ctrl-r**和**alt-.**取代。
|
||||
- 键入 `history` 查看命令行历史记录。其中有许多缩写,例如 `!$`(最后键入的参数)和 `!!`(最后键入的命令),尽管通常被 **ctrl-r** 和 **alt-.** 取代。
|
||||
|
||||
- 回到上一个工作路径: `cd -`
|
||||
- 回到上一个工作路径:`cd -`
|
||||
|
||||
- 如果你输入命令的时候改变了注意,按下**alt-#**在行首添加`#`(将你输入的命令视为注释),并回车。这样做的话,之后你可以很方便的利用命令行历史回到你刚才输入到一半的命令。
|
||||
- 如果你输入命令的时候改变了主意,按下 **alt-#** 在行首添加 `#`(将你输入的命令视为注释),并回车。这样做的话,之后你可以很方便的利用命令行历史回到你刚才输入到一半的命令。
|
||||
|
||||
- 使用`xargs` ( 或`parallel`)。他们非常给力。注意到你可以控制每行参数个数(`-L`)和最大并行数 (`-P`)。如果你不确定它们是否会按你想的那样工作,先使用`xargs echo`查看一下。此外, 使用`-I{}`会很方便。例如:
|
||||
- 使用 `xargs` ( 或 `parallel`)。他们非常给力。注意到你可以控制每行参数个数(`-L`)和最大并行数(`-P`)。如果你不确定它们是否会按你想的那样工作,先使用 `xargs echo` 查看一下。此外,使用 `-I{}` 会很方便。例如:
|
||||
```bash
|
||||
find . -name '*.py' | xargs grep some_function
|
||||
cat hosts | xargs -I{} ssh root@{} hostname
|
||||
|
@ -87,41 +90,41 @@
|
|||
|
||||
- 使用 `pgrep` 和 `pkill` 根据名字查找进程或发送信号。
|
||||
|
||||
- 了解你可以发往进程的信号的种类。比如,使用`kill -STOP [pid]`停止一个进程。使用`man 7 signal`查看详细列表。
|
||||
- 了解你可以发往进程的信号的种类。比如,使用 `kill -STOP [pid]` 停止一个进程。使用 `man 7 signal` 查看详细列表。
|
||||
|
||||
- 使用 `nohup` 或 `disown` 使一个后台进程持续运行。
|
||||
|
||||
- 使用`netstat -lntp`或`ss -plat`检查哪些进程在监听端口(默认是检查TCP端口; 使用参数`-u`检查UDP端口)。
|
||||
- 使用 `netstat -lntp` 或 `ss -plat` 检查哪些进程在监听端口(默认是检查 TCP 端口; 使用参数 `-u` 检查 UDP 端口)。
|
||||
|
||||
- 有关打开套接字和文件,请参阅`lsof`。
|
||||
- 有关打开套接字和文件,请参阅 `lsof`。
|
||||
|
||||
- 在Bash脚本中,使用`set -x`去调试输出,尽可能的使用严格模式,使用`set -e`令脚本在发生错误时退出而不是继续运行,使用`set -o pipefail`严谨地对待错误(尽管问题可能很微妙)。当牵扯到很多脚本时, 使用`trap`。
|
||||
- 在 Bash 脚本中,使用 `set -x` 去调试输出,尽可能的使用严格模式,使用 `set -e` 令脚本在发生错误时退出而不是继续运行,使用 `set -o pipefail` 严谨地对待错误(尽管问题可能很微妙)。当牵扯到很多脚本时,使用 `trap`。
|
||||
|
||||
- 在Bash脚本中,子shell(使用括号`(...)`)是一种便捷的方式去组织参数。一个常见的例子是临时地移动工作路径,代码如下:
|
||||
- 在 Bash 脚本中,子 shell(使用括号`(...)`)是一种便捷的方式去组织参数。一个常见的例子是临时地移动工作路径,代码如下:
|
||||
```bash
|
||||
# do something in current dir
|
||||
(cd /some/other/dir && other-command)
|
||||
# continue in original dir
|
||||
```
|
||||
|
||||
- 在Bash中, 注意到其中有许多形式的扩展。检查变量是否存在: `${name:?error message}`。例如, 当Bash脚本需要一个参数时, 可以使用这样的代码`input_file=${1:?usage: $0 input_file}`。数学表达式: `i=$(( (i + 1) % 5 ))`。序列: `{1..10}`。 截断字符串: `${var%suffix}`和`${var#prefix}`。例如,假设`var=foo.pdf`, 那么`echo ${var%.pdf}.txt`将输出`foo.txt`。
|
||||
- 在 Bash 中,注意到其中有许多形式的扩展。检查变量是否存在:`${name:?error message}`。例如,当 Bash 脚本需要一个参数时,可以使用这样的代码 `input_file=${1:?usage: $0 input_file}`。数学表达式:`i=$(( (i + 1) % 5 ))`。序列:`{1..10}`。 截断字符串:`${var%suffix}` 和 `${var#prefix}`。例如,假设 `var=foo.pdf`,那么 `echo ${var%.pdf}.txt` 将输出 `foo.txt`。
|
||||
|
||||
- 通过使用`<(some command)`可以将输出视为文件。例如, 对比本地文件`/etc/hosts`和一个远程文件:
|
||||
- 通过使用 `<(some command)` 可以将输出视为文件。例如,对比本地文件 `/etc/hosts` 和一个远程文件:
|
||||
```sh
|
||||
diff /etc/hosts <(ssh somehost cat /etc/hosts)
|
||||
```
|
||||
|
||||
- 了解Bash中的"here documents", 例如`cat <<EOF ...`。
|
||||
- 了解 Bash 中的“here documents”,例如 `cat <<EOF ...`。
|
||||
|
||||
- 在Bash中,同时重定向标准输出和标准错误,`some-command >logfile 2>&1`。通常,为了保证命令不会在标准输入里残留一个打开了的文件句柄导致你当前所在的终端无法操作,添加`</dev/null`是一个好习惯。
|
||||
- 在 Bash 中,同时重定向标准输出和标准错误,`some-command >logfile 2>&1`。通常,为了保证命令不会在标准输入里残留一个打开了的文件句柄导致你当前所在的终端无法操作,添加 `</dev/null` 是一个好习惯。
|
||||
|
||||
- 使用`man ascii`查看具有十六进制和十进制值的ASCII表。`man unicode`, `man utf-8`,以及 `man latin1` 有助于你去了解通用的编码信息。
|
||||
- 使用 `man ascii` 查看具有十六进制和十进制值的ASCII表。`man unicode`,`man utf-8`,以及 `man latin1` 有助于你去了解通用的编码信息。
|
||||
|
||||
- 使用`screen`或`tmux`来使用多个屏幕, 当你在使用ssh时(保存session信息)将尤为有用。另一个轻量级的解决方案是`dtach`。
|
||||
- 使用 `screen` 或 [`tmux`](https://tmux.github.io/) 来使用多个屏幕,当你在使用 ssh 时(保存 session 信息)将尤为有用。另一个轻量级的解决方案是 `dtach`。
|
||||
|
||||
- ssh中, 了解如何使用`-L`或`-D`(偶尔需要用`-R`)去开启隧道是非常有用的,例如当你需要从一台远程服务器上访问web。
|
||||
- ssh 中,了解如何使用 `-L` 或 `-D`(偶尔需要用 `-R`)去开启隧道是非常有用的,例如当你需要从一台远程服务器上访问 web。
|
||||
|
||||
- 对ssh设置做一些小优化可能是很有用的,例如这个`~/.ssh/config`文件包含了防止特定环境下断开连接、压缩数据、多通道等选项:
|
||||
- 对 ssh 设置做一些小优化可能是很有用的,例如这个 `~/.ssh/config` 文件包含了防止特定环境下断开连接、压缩数据、多通道等选项:
|
||||
```
|
||||
TCPKeepAlive=yes
|
||||
ServerAliveInterval=15
|
||||
|
@ -132,164 +135,162 @@
|
|||
ControlPersist yes
|
||||
```
|
||||
|
||||
- 部分其他的关于ssh的选项是安全敏感且应当小心启用的。例如在可信任的网络中: `StrictHostKeyChecking=no`, `ForwardAgent=yes`
|
||||
- 部分其他的关于 ssh 的选项是安全敏感且应当小心启用的。例如在可信任的网络中:`StrictHostKeyChecking=no`,`ForwardAgent=yes`
|
||||
|
||||
- 获取文件的八进制格式权限,使用类似如下的代码:
|
||||
- 获取文件的八进制格式权限,使用类似如下的代码:
|
||||
```sh
|
||||
stat -c '%A %a %n' /etc/timezone
|
||||
```
|
||||
|
||||
- 使用 [`percol`](https://github.com/mooz/percol) 可以交互式地从另一个命令输出中选取值。
|
||||
|
||||
- 使用`fpp`([PathPicker](https://github.com/facebook/PathPicker))可以与基于另一个命令(例如`git`)输出的文件交互。
|
||||
- 使用 `fpp`([PathPicker](https://github.com/facebook/PathPicker))可以与基于另一个命令(例如 `git`)输出的文件交互。
|
||||
|
||||
- 将web服务器上当前目录下所有的文件(以及子目录)暴露给你所处网络的所有用户,使用:
|
||||
`python -m SimpleHTTPServer 7777` (使用端口7777和Python 2)或`python -m http.server 7777` (使用端口7777和Python 3)。
|
||||
- 将 web 服务器上当前目录下所有的文件(以及子目录)暴露给你所处网络的所有用户,使用:
|
||||
`python -m SimpleHTTPServer 7777` (使用端口 7777 和 Python 2)或`python -m http.server 7777` (使用端口 7777 和 Python 3)。
|
||||
|
||||
|
||||
## 文件及数据处理
|
||||
|
||||
- 在当前路径下通过文件名定位一个文件,`find . -iname '*something*'`(或类似的)。在所有路径下通过文件名查找文件,使用 `locate something` (但请记住`updatedb`可能没有对最近新建的文件建立索引)。
|
||||
- 在当前路径下通过文件名定位一个文件,`find . -iname '*something*'`(或类似的)。在所有路径下通过文件名查找文件,使用 `locate something` (但请记住 `updatedb` 可能没有对最近新建的文件建立索引)。
|
||||
|
||||
- 使用[`ag`](https://github.com/ggreer/the_silver_searcher)在源或文件里检索(比`grep -r`更好)。
|
||||
- 使用 [`ag`](https://github.com/ggreer/the_silver_searcher) 在源代码或数据文件里检索(比 `grep -r` 更好)。
|
||||
|
||||
- 将HTML转为文本: `lynx -dump -stdin`
|
||||
- 将HTML转为文本:`lynx -dump -stdin`
|
||||
|
||||
- Markdown, HTML, 以及所有文档格式之间的转换, 试试 [`pandoc`](http://pandoc.org/)。
|
||||
- Markdown,HTML,以及所有文档格式之间的转换,试试 [`pandoc`](http://pandoc.org/)。
|
||||
|
||||
- 如果你不得不处理XML, `xmlstarlet`宝刀未老。
|
||||
- 如果你不得不处理 XML,`xmlstarlet` 宝刀未老。
|
||||
|
||||
- 使用`jq`处理json。
|
||||
- 使用 `jq` 处理 JSON。
|
||||
|
||||
- Excel或CSV文件的处理, [csvkit](https://github.com/onyxfish/csvkit)提供了`in2csv`, `csvcut`, `csvjoin`, `csvgrep`等工具。
|
||||
- Excel 或 CSV 文件的处理,[csvkit](https://github.com/onyxfish/csvkit) 提供了 `in2csv`,`csvcut`,`csvjoin`,`csvgrep` 等工具。
|
||||
|
||||
- 关于Amazon S3, [`s3cmd`](https://github.com/s3tools/s3cmd)很方便而[`s4cmd`](https://github.com/bloomreach/s4cmd)更快。Amazon官方的[`aws`](https://github.com/aws/aws-cli)是其他AWS相关工作的基础。
|
||||
- 关于 Amazon S3,[`s3cmd`](https://github.com/s3tools/s3cmd) 很方便而 [`s4cmd`](https://github.com/bloomreach/s4cmd) 更快。Amazon 官方的 [`aws`](https://github.com/aws/aws-cli) 是其他 AWS 相关工作的基础。
|
||||
|
||||
- 了解如何使用`sort`和`uniq`,包括uniq的`-u`参数和`-d`参数,详见后文one-liners。
|
||||
- 了解如何使用 `sort` 和 `uniq`,包括 uniq 的 `-u` 参数和 `-d` 参数,详见后文一行代码节。另外可以了解一下 `comm`。
|
||||
|
||||
- 了解如何使用`cut`,`paste`和`join`来更改文件。大部分人都会使用`cut`但忘了`join`。
|
||||
- 了解如何使用 `cut`,`paste` 和 `join` 来更改文件。很多人都会使用 `cut`,但几乎都不会使用 `join`。
|
||||
|
||||
- 了解如何运用`wc`去计算新行数(`-l`), 字符数(`-m`),单词数(`-w`)以及字节数(`-c`)。
|
||||
- 了解如何运用 `wc` 去计算新行数(`-l`),字符数(`-m`),单词数(`-w`)以及字节数(`-c`)。
|
||||
|
||||
- 了解如何使用`tee`将标准输入复制到文件甚至标准输出,例如`ls -al | tee file.txt`。
|
||||
- 了解如何使用 `tee` 将标准输入复制到文件甚至标准输出,例如 `ls -al | tee file.txt`。
|
||||
|
||||
- 了解语言环境对许多命令行工具的微妙影响,包括排序的顺序和性能。大多数Linux的安装过程会将`LANG`或其他有关的变量设置为符合本地的设置。意识到当你改变语言环境时,排序的结果可能会改变。明白国际化可能会时sort或其他命令运行效率下降*许多倍*。某些情况下(例如集合运算)你可以放心的使用`export LC_ALL=C`来忽略掉国际化并使用基于字节的顺序。
|
||||
- 了解语言环境对许多命令行工具的微妙影响,包括排序的顺序和性能。大多数 Linux 的安装过程会将 `LANG` 或其他有关的变量设置为符合本地的设置。意识到当你改变语言环境时,排序的结果可能会改变。明白国际化可能会时 sort 或其他命令运行效率下降*许多倍*。某些情况下(例如集合运算)你可以放心的使用 `export LC_ALL=C` 来忽略掉国际化并使用基于字节的顺序。
|
||||
|
||||
- 了解`awk`和`sed`关于数据的简单处理的用法。例如, 将文本文件中第三列的所有数字求和: `awk '{ x += $3 } END { print x }'`. 这可能比同等作用的Python代码块三倍且代码量少三倍。
|
||||
- 了解 `awk` 和 `sed` 关于数据的简单处理的用法。例如,将文本文件中第三列的所有数字求和:`awk '{ x += $3 } END { print x }'`. 这可能比同等作用的 Python 代码块三倍且代码量少三倍。
|
||||
|
||||
- 替换一个或多个文件中出现的字符串:
|
||||
- 替换一个或多个文件中出现的字符串:
|
||||
```sh
|
||||
perl -pi.bak -e 's/old-string/new-string/g' my-files-*.txt
|
||||
```
|
||||
|
||||
- 依据某种模式批量重命名多个文件,使用`rename`。对于复杂的重命名规则,[`repren`](https://github.com/jlevy/repren)或许有帮助。
|
||||
- 依据某种模式批量重命名多个文件,使用 `rename`。对于复杂的重命名规则,[`repren`](https://github.com/jlevy/repren) 或许有帮助。
|
||||
```sh
|
||||
# Recover backup files foo.bak -> foo:
|
||||
rename 's/\.bak$//' *.bak
|
||||
# Full rename of filenames, directories, and contents foo -> bar:
|
||||
# Full rename of filenames,directories,and contents foo -> bar:
|
||||
repren --full --preserve-case --from foo --to bar .
|
||||
```
|
||||
|
||||
- 使用 `shuf` 从一个文件中随机选取行。
|
||||
|
||||
- 了解`sort`的参数。明白键的工作原理(`-t`和`-k`)。例如,注意到你需要`-k1,1`来仅按第一个域来排序,而`-k1`意味着按整行排序。
|
||||
- 了解 `sort` 的参数。明白键的工作原理(`-t` 和 `-k`)。例如,注意到你需要 `-k1,1` 来仅按第一个域来排序,而 `-k1` 意味着按整行排序。稳定排序(`sort -s`)在某些情况下很有用。例如,以第二个域为主关键字,第一个域为次关键字进行排序,你可以使用 `sort -k1,1 | sort -s -k2,2`。处理可读性数字(例如 `du -h` 的输出)的时候使用 `sort -h` 。
|
||||
|
||||
- 稳定排序(`sort -s`)在某些情况下很有用。例如,以第二个域为主关键字,第一个域为次关键字进行排序,你可以使用`sort -k1,1 | sort -s -k2,2`
|
||||
|
||||
- 如果你想在Bash命令行中写tab制表符,按下**ctrl-v** **[Tab]** 或键入`$'\t'`(后者可能更好,因为你可以复制粘贴它)。
|
||||
- 如果你想在 Bash 命令行中写 tab 制表符,按下 **ctrl-v** **[Tab]** 或键入 `$'\t'` (后者可能更好,因为你可以复制粘贴它)。
|
||||
|
||||
- 标准的源代码对比及合并工具是 `diff` 和 `patch`。使用 `diffstat` 查看变更总览数据。注意到 `diff -r` 对整个文件夹有效。使用 `diff -r tree1 tree2 | diffstat` 查看变更总览数据。
|
||||
|
||||
- 对于二进制文件,使用`hd`使其以十六进制显示以及使用`bvi`来编辑二进制。
|
||||
- 对于二进制文件,使用 `hd` 使其以十六进制显示以及使用 `bvi` 来编辑二进制。
|
||||
|
||||
- 同样对于二进制文件,使用`strings`(包括`grep`等等)允许你查找一些文本。
|
||||
- 同样对于二进制文件,使用 `strings`(包括 `grep` 等等)允许你查找一些文本。
|
||||
|
||||
- 二进制文件对比(Delta压缩),使用`xdelta3`。
|
||||
- 二进制文件对比(Delta 压缩),使用 `xdelta3`。
|
||||
|
||||
- 使用`iconv`更改文本编码。而更高级的用法,可以使用`uconv`,它支持一些高级的Unicode功能。例如,这条命令将所有元音字母转为小写并移除了:
|
||||
- 使用 `iconv` 更改文本编码。而更高级的用法,可以使用 `uconv`,它支持一些高级的 Unicode 功能。例如,这条命令将所有元音字母转为小写并移除了:
|
||||
```sh
|
||||
uconv -f utf-8 -t utf-8 -x '::Any-Lower; ::Any-NFD; [:Nonspacing Mark:] >; ::Any-NFC; ' < input.txt > output.txt
|
||||
```
|
||||
|
||||
- 拆分文件,查看`split`(按大小拆分)和`csplit`(按模式拆分)。
|
||||
- 拆分文件,查看 `split`(按大小拆分)和 `csplit`(按模式拆分)。
|
||||
|
||||
- 使用`zless`, `zmore`, `zcat`和`zgrep`对压缩过的文件进行操作。
|
||||
- 使用 `zless`,`zmore`,`zcat` 和 `zgrep`对压缩过的文件进行操作。
|
||||
|
||||
|
||||
## 系统调试
|
||||
|
||||
- `curl`和`curl -I`可以便捷地被应用于web调试中,它们的好兄弟`wget`也可以,或者是更潮流的[`httpie`](https://github.com/jakubroztocil/httpie)。
|
||||
- `curl` 和 `curl -I` 可以便捷地被应用于 web 调试中,它们的好兄弟 `wget` 也可以,或者是更潮的 [`httpie`](https://github.com/jakubroztocil/httpie)。
|
||||
|
||||
- 使用`iostat`、`netstat`、`top` (`htop`更佳) 和`dstat`去获取硬盘、cpu和网络的状态。熟练掌握这些工具可以使你快速的对系统的当前状态有一个大概的认识。
|
||||
- 使用 `iostat`、`netstat`、`top` (`htop` 更佳)和 `dstat` 去获取硬盘、cpu 和网络的状态。熟练掌握这些工具可以使你快速的对系统的当前状态有一个大概的认识。
|
||||
|
||||
- 若要对系统有一个深度的总体认识, 使用[`glances`](https://github.com/nicolargo/glances)。它在一个终端窗口中向你提供一些系统级的数据。这对于快速的检查各个子系统非常有帮助。
|
||||
- 若要对系统有一个深度的总体认识,使用 [`glances`](https://github.com/nicolargo/glances)。它在一个终端窗口中向你提供一些系统级的数据。这对于快速的检查各个子系统非常有帮助。
|
||||
|
||||
- 若要了解内存状态,运行并理解`free`和`vmstat`的输出。尤其注意"cached"的值,它指的是Linux内核用来作为文件缓存的内存大小,因此它与空闲内存无关。
|
||||
- 若要了解内存状态,运行并理解 `free` 和 `vmstat` 的输出。尤其注意“cached”的值,它指的是 Linux 内核用来作为文件缓存的内存大小,因此它与空闲内存无关。
|
||||
|
||||
- Java系统调试则是一件截然不同的事,一个可以用于Oracle的JVM或其他JVM上的调试的小技巧是你可以运行`kill -3 <pid>`同时一个完整的栈轨迹和堆概述(包括GC的细节)会被保存到标准输出/日志文件。
|
||||
- Java 系统调试则是一件截然不同的事,一个可以用于 Oracle 的 JVM 或其他 JVM 上的调试的小技巧是你可以运行 `kill -3 <pid>` 同时一个完整的栈轨迹和堆概述(包括 GC 的细节)会被保存到标准输出/日志文件。
|
||||
|
||||
- 使用`mtr`去跟踪路由,用于确定网络问题。
|
||||
- 使用 `mtr` 去跟踪路由,用于确定网络问题。
|
||||
|
||||
- 用`ncdu`来查看磁盘使用情况,它比常用的命令,如`du -sh *`,更节省时间。
|
||||
- 用 `ncdu` 来查看磁盘使用情况,它比常用的命令,如 `du -sh *`,更节省时间。
|
||||
|
||||
- 查找正在使用带宽的套接字连接或进程,使用`iftop`或`nethogs`。
|
||||
- 查找正在使用带宽的套接字连接或进程,使用 `iftop` 或 `nethogs`。
|
||||
|
||||
- `ab`工具(捆绑于Apache)可以简单粗暴地检查web服务器的性能。对于更复杂的负载测试,使用`siege`。
|
||||
- `ab` 工具(捆绑于 Apache)可以简单粗暴地检查 web 服务器的性能。对于更复杂的负载测试,使用 `siege`。
|
||||
|
||||
- `wireshark`,`tshark`和`ngrep`可用于复杂的网络调试。
|
||||
- `wireshark`,`tshark` 和 `ngrep` 可用于复杂的网络调试。
|
||||
|
||||
- 了解`strace`和`ltrace`。这俩工具在你的程序运行失败、挂起甚至崩溃,而你却不知道为什么或你想对性能有个总体的认识的时候是非常有用的。注意profile参数(`-c`)和附加到一个运行的进程参数 (`-p`)。
|
||||
- 了解 `strace` 和 `ltrace`。这俩工具在你的程序运行失败、挂起甚至崩溃,而你却不知道为什么或你想对性能有个总体的认识的时候是非常有用的。注意 profile 参数(`-c`)和附加到一个运行的进程参数 (`-p`)。
|
||||
|
||||
- 了解使用 `ldd` 来检查共享库。
|
||||
|
||||
- 了解如何运用 `gdb` 连接到一个运行着的进程并获取它的堆栈轨迹。
|
||||
|
||||
- 学会使用`/proc`。它在调试正在出现的问题的时候有时会效果惊人。比如: `/proc/cpuinfo`, `/proc/xxx/cwd`, `/proc/xxx/exe`, `/proc/xxx/fd/`, `/proc/xxx/smaps`。
|
||||
- 学会使用 `/proc`。它在调试正在出现的问题的时候有时会效果惊人。比如:`/proc/cpuinfo`,`/proc/xxx/cwd`,`/proc/xxx/exe`,`/proc/xxx/fd/`,`/proc/xxx/smaps`。
|
||||
|
||||
- 当调试一些之前出现的问题的时候,`sar`非常有用。它展示了cpu、内存以及网络等的历史数据。
|
||||
- 当调试一些之前出现的问题的时候,`sar` 非常有用。它展示了 cpu、内存以及网络等的历史数据。
|
||||
|
||||
- 关于更深层次的系统分析以及性能分析,看看`stap` ([SystemTap](https://sourceware.org/systemtap/wiki)), [`perf`](http://en.wikipedia.org/wiki/Perf_(Linux)), 以及[`sysdig`](https://github.com/draios/sysdig)。
|
||||
- 关于更深层次的系统分析以及性能分析,看看 `stap`([SystemTap](https://sourceware.org/systemtap/wiki)),[`perf`](http://en.wikipedia.org/wiki/Perf_(Linux)),以及[`sysdig`](https://github.com/draios/sysdig)。
|
||||
|
||||
- 查看你当前使用的Linux发型版(大部分发行版有效): `lsb_release -a`
|
||||
- 查看你当前使用的 Linux 发行版(大部分发行版有效):`lsb_release -a`
|
||||
|
||||
- 无论什么东西工作得很欢乐时试试`dmesg`(可能是硬件或驱动问题)。
|
||||
- 无论什么东西工作得很欢乐时试试 `dmesg` (可能是硬件或驱动问题)。
|
||||
|
||||
|
||||
## 一行代码
|
||||
|
||||
一些命令组合的例子:
|
||||
一些命令组合的例子:
|
||||
|
||||
- 当你需要对文本文件做集合交、并、差运算时,结合使用`sort`/`uniq`很有帮助。假设`a`与`b`是两内容不同的文件。这种方式效率很高, 并且在小文件和上G的文件上都能运用 (`sort`不被内存大小约束,尽管在`/tmp`在一个小的根分区上时你可能需要`-T`参数),参阅前文中关于`LC_ALL`和`sort`的`-u`参数的部分。
|
||||
- 当你需要对文本文件做集合交、并、差运算时,结合使用 `sort`/`uniq` 很有帮助。假设 `a` 与 `b` 是两内容不同的文件。这种方式效率很高,并且在小文件和上G的文件上都能运用 (`sort` 不被内存大小约束,尽管在 `/tmp` 在一个小的根分区上时你可能需要 `-T` 参数),参阅前文中关于 `LC_ALL` 和 `sort` 的 `-u` 参数的部分。
|
||||
```sh
|
||||
cat a b | sort | uniq > c # c is a union b
|
||||
cat a b | sort | uniq -d > c # c is a intersect b
|
||||
cat a b b | sort | uniq -u > c # c is set difference a - b
|
||||
```
|
||||
|
||||
- 使用`grep . *`来阅读检查目录下所有文件的内容,例如检查一个充满配置文件的目录比如`/sys`、`/proc`、`/etc`。
|
||||
- 使用 `grep . *` 来阅读检查目录下所有文件的内容,例如检查一个充满配置文件的目录比如 `/sys`、`/proc`、`/etc`。
|
||||
|
||||
- 计算文本文件第三列中所有数的和(可能比同等作用的Python代码块三倍且代码量少三倍):
|
||||
- 计算文本文件第三列中所有数的和(可能比同等作用的 Python 代码快三倍且代码量少三倍):
|
||||
```sh
|
||||
awk '{ x += $3 } END { print x }' myfile
|
||||
```
|
||||
|
||||
- 如果你想在文件树上查看大小\日期,这可能看起来像递归版的`ls -l`但比`ls -lR`更易于理解:
|
||||
- 如果你想在文件树上查看大小\日期,这可能看起来像递归版的 `ls -l` 但比 `ls -lR` 更易于理解:
|
||||
```sh
|
||||
find . -type f -ls
|
||||
```
|
||||
|
||||
- 尽可能的使用`xargs`或`parallel`。。注意到你可以控制每行参数个数(`-L`)和最大并行数 (`-P`)。如果你不确定它们是否会按你想的那样工作,先使用`xargs echo`查看一下。此外, 使用`-I{}`会很方便。例如:
|
||||
- 尽可能的使用 `xargs` 或 `parallel`。注意到你可以控制每行参数个数(`-L`)和最大并行数(`-P`)。如果你不确定它们是否会按你想的那样工作,先使用 `xargs echo` 查看一下。此外,使用 `-I{}` 会很方便。例如:
|
||||
```sh
|
||||
find . -name '*.py' | xargs grep some_function
|
||||
cat hosts | xargs -I{} ssh root@{} hostname
|
||||
```
|
||||
|
||||
- 假设你有一个类似于web服务器日志文件的文本文件,并且一个确定的值只会出现在某些行上,假设一个`acct_id`参数在URI中。如果你想计算出每个`acct_id`值有多少次请求,使用如下代码:
|
||||
- 假设你有一个类似于 web 服务器日志文件的文本文件,并且一个确定的值只会出现在某些行上,假设一个 `acct_id` 参数在URI中。如果你想计算出每个 `acct_id` 值有多少次请求,使用如下代码:
|
||||
```sh
|
||||
cat access.log | egrep -o 'acct_id=[0-9]+' | cut -d= -f2 | sort | uniq -c | sort -rn
|
||||
```
|
||||
|
||||
- 运行这个函数从这篇文档中随机获取一条小技巧(解析Markdown文件并抽取项目):
|
||||
- 运行这个函数从这篇文档中随机获取一条小技巧(解析 Markdown 文件并抽取项目):
|
||||
```sh
|
||||
function taocl() {
|
||||
curl -s https://raw.githubusercontent.com/jlevy/the-art-of-command-line/master/README.md |
|
||||
|
@ -303,143 +304,148 @@
|
|||
|
||||
## 冷门但有用
|
||||
|
||||
- `expr`: 计算表达式或正则匹配
|
||||
- `expr`:计算表达式或正则匹配
|
||||
|
||||
- `m4`: 简单地宏处理器
|
||||
- `m4`:简单地宏处理器
|
||||
|
||||
- `yes`: 多次打印字符串
|
||||
- `yes`:多次打印字符串
|
||||
|
||||
- `cal`: 漂亮的日历
|
||||
- `cal`:漂亮的日历
|
||||
|
||||
- `env`: 执行一个命令(脚本文件中很有用)
|
||||
- `env`:执行一个命令(脚本文件中很有用)
|
||||
|
||||
- `look`: 查找以特定字符串开头的单词
|
||||
- `printenv`:打印环境变量(调试时或在使用脚本文件时很有用)
|
||||
|
||||
- `cut`、`paste`和`join`: 数据修改
|
||||
- `look`:查找以特定字符串开头的单词
|
||||
|
||||
- `fmt`: 格式化文本段落
|
||||
- `cut`、`paste` 和 `join`:数据修改
|
||||
|
||||
- `pr`: 将文本格式化成页/列形式
|
||||
- `fmt`:格式化文本段落
|
||||
|
||||
- `fold`: 包裹文本中的几行
|
||||
- `pr`:将文本格式化成页/列形式
|
||||
|
||||
- `column`: 将文本格式化成多列或表格
|
||||
- `fold`:包裹文本中的几行
|
||||
|
||||
- `expand`和`unexpand`: 制表符与空格之间转换
|
||||
- `column`:将文本格式化成多列或表格
|
||||
|
||||
- `nl`: 添加行号
|
||||
- `expand` 和 `unexpand`:制表符与空格之间转换
|
||||
|
||||
- `seq`: 打印数字
|
||||
- `nl`:添加行号
|
||||
|
||||
- `bc`: 计算器
|
||||
- `seq`:打印数字
|
||||
|
||||
- `factor`: 分解因数
|
||||
- `bc`:计算器
|
||||
|
||||
- `gpg`: 加密并签名文件
|
||||
- `factor`:分解因数
|
||||
|
||||
- `toe`: terminfo entries列表
|
||||
- `gpg`:加密并签名文件
|
||||
|
||||
- `nc`: 网络调试及数据传输
|
||||
- `toe`:terminfo entries 列表
|
||||
|
||||
- `socat`: 套接字代理,与`netcat`类似
|
||||
- `nc`:网络调试及数据传输
|
||||
|
||||
- `slurm`: 网络可视化
|
||||
- `socat`:套接字代理,与 `netcat` 类似
|
||||
|
||||
- `dd`: 文件或设备间传输数据
|
||||
- `slurm`:网络可视化
|
||||
|
||||
- `file`: 确定文件类型
|
||||
- `dd`:文件或设备间传输数据
|
||||
|
||||
- `tree`: 以树的形式显示路径和文件,类似于递归的`ls`
|
||||
- `file`:确定文件类型
|
||||
|
||||
- `stat`: 文件信息
|
||||
- `tree`:以树的形式显示路径和文件,类似于递归的 `ls`
|
||||
|
||||
- `tac`: 反向输出文件
|
||||
- `stat`:文件信息
|
||||
|
||||
- `shuf`: 文件中随机选取几行
|
||||
- `tac`:反向输出文件
|
||||
|
||||
- `comm`: 一行一行的比较排序过的文件
|
||||
- `shuf`:文件中随机选取几行
|
||||
|
||||
- `hd`和`bvi`: 保存或编辑二进制文件
|
||||
- `comm`:一行一行的比较排序过的文件
|
||||
|
||||
- `strings`: 从二进制文件中抽取文本
|
||||
- `pv`:监视通过管道的数据
|
||||
|
||||
- `tr`: 转换字母
|
||||
- `hd` 和 `bvi`:保存或编辑二进制文件
|
||||
|
||||
- `iconv`或`uconv`: 简易的文件编码
|
||||
- `strings`:从二进制文件中抽取文本
|
||||
|
||||
- `split `和`csplit`: 分割文件
|
||||
- `tr`:转换字母
|
||||
|
||||
- `units`: 将一种计量单位转换为另一种等效的计量单位(参阅`/usr/share/units/definitions.units`)
|
||||
- `iconv` 或 `uconv`:简易的文件编码
|
||||
|
||||
- `7z`: 高比例的文件压缩
|
||||
- `split` 和 `csplit`:分割文件
|
||||
|
||||
- `ldd`: 动态库信息
|
||||
- `units`:将一种计量单位转换为另一种等效的计量单位(参阅 `/usr/share/units/definitions.units`)
|
||||
|
||||
- `nm`: 提取obj文件中的符号
|
||||
- `7z`:高比例的文件压缩
|
||||
|
||||
- `ab`: 性能分析web服务器
|
||||
- `ldd`:动态库信息
|
||||
|
||||
- `strace`: 系统调用调试
|
||||
- `nm`:提取 obj 文件中的符号
|
||||
|
||||
- `mtr`: 更好的网络调试跟踪工具
|
||||
- `ab`:性能分析 web 服务器
|
||||
|
||||
- `cssh`: 可视化的并发shell
|
||||
- `strace`:系统调用调试
|
||||
|
||||
- `rsync`: 通过ssh同步文件和文件夹
|
||||
- `mtr`:更好的网络调试跟踪工具
|
||||
|
||||
- `wireshark`和`tshark`:抓包和网络调试工具
|
||||
- `cssh`:可视化的并发 shell
|
||||
|
||||
- `ngrep`: 网络层的grep
|
||||
- `rsync`:通过 ssh 同步文件和文件夹
|
||||
|
||||
- `host`和`dig`: DNS查找
|
||||
- `wireshark` 和 `tshark`:抓包和网络调试工具
|
||||
|
||||
- `lsof`: 列出当前系统打开文件的工具以及查看端口信息
|
||||
- `ngrep`:网络层的 grep
|
||||
|
||||
- `dstat`: 系统状态查看
|
||||
- `host` 和 `dig`:DNS 查找
|
||||
|
||||
- [`glances`](https://github.com/nicolargo/glances): 高层次的多子系统总览
|
||||
- `lsof`:列出当前系统打开文件的工具以及查看端口信息
|
||||
|
||||
- `iostat`: CPU和硬盘状态
|
||||
- `dstat`:系统状态查看
|
||||
|
||||
- `htop`: top的加强版
|
||||
- [`glances`](https://github.com/nicolargo/glances):高层次的多子系统总览
|
||||
|
||||
- `last`: 登入记录
|
||||
- `iostat`:CPU 和硬盘状态
|
||||
|
||||
- `w`: 查看处于登录状态的用户
|
||||
- `htop`:top 的加强版
|
||||
|
||||
- `id`: 用户/组ID信息
|
||||
- `last`:登入记录
|
||||
|
||||
- `sar`: 系统历史数据
|
||||
- `w`:查看处于登录状态的用户
|
||||
|
||||
- `iftop`或`nethogs`: 套接字及进程的网络利用
|
||||
- `id`:用户/组 ID 信息
|
||||
|
||||
- `ss`: 套接字数据
|
||||
- `sar`:系统历史数据
|
||||
|
||||
- `dmesg`: 引导及系统错误信息
|
||||
- `iftop` 或 `nethogs`:套接字及进程的网络利用
|
||||
|
||||
- `hdparm`: SATA/ATA磁盘更改及性能分析
|
||||
- `ss`:套接字数据
|
||||
|
||||
- `lsb_release`: Linux发行版信息
|
||||
- `dmesg`:引导及系统错误信息
|
||||
|
||||
- `lshw`: 硬件信息
|
||||
- `hdparm`:SATA/ATA 磁盘更改及性能分析
|
||||
|
||||
- `fortune`,`ddate`和`sl`: 额,这主要取决于你是否认为蒸汽火车和莫名其妙的名人名言是否"有用"
|
||||
- `lsb_release`:Linux 发行版信息
|
||||
|
||||
- `lsblk`:列出块设备信息:以树形展示你的磁盘以及磁盘分区信息
|
||||
|
||||
- `lshw`,`lscpu`,`lspci`,`lsusb` 和 `dmidecode`:查看硬件信息,包括 CPU、BIOS、RAID、显卡、USB设备等
|
||||
|
||||
- `fortune`,`ddate` 和 `sl`: 额,这主要取决于你是否认为蒸汽火车和莫名其妙的名人名言是否“有用”
|
||||
|
||||
|
||||
## 更多资源
|
||||
|
||||
- [awesome-shell](https://github.com/alebcay/awesome-shell): 一份精心组织的命令行工具及资源的列表。
|
||||
- [awesome-shell](https://github.com/alebcay/awesome-shell): 一份精心组织的命令行工具及资源的列表。
|
||||
- [Strict mode](http://redsymbol.net/articles/unofficial-bash-strict-mode/): 为了编写更好的脚本文件。
|
||||
|
||||
|
||||
## 免责声明
|
||||
|
||||
除去特别微小的任务,记录下这些代码以便他人查看。责任往往伴随着能力,*可以*做并不意味着应该做。
|
||||
除去特别微小的任务,记录下这些代码以便他人查看。责任往往伴随着能力,*可以*做并不意味着应该做。
|
||||
|
||||
|
||||
## 授权条款
|
||||
|
||||
[![Creative Commons License](https://i.creativecommons.org/l/by-sa/4.0/88x31.png)](http://creativecommons.org/licenses/by-sa/4.0/)
|
||||
|
||||
本文使用授权协议 [Creative Commons Attribution-ShareAlike 4.0 International Licene](http://creativecommons.org/licenses/by-sa/4.0/)。
|
||||
|
||||
本文使用授权协议 [Creative Commons Attribution-ShareAlike 4.0 International License](http://creativecommons.org/licenses/by-sa/4.0/)。
|
||||
|
|
52
README.md
52
README.md
|
@ -1,7 +1,11 @@
|
|||
[ Languages: [中文](README-zh.md) ]
|
||||
[ Languages: [English](README.md), [Español](README-es.md), [Português](README-pt.md), [中文](README-zh.md) ]
|
||||
|
||||
|
||||
|
||||
# The Art of Command Line
|
||||
|
||||
[![Join the chat at https://gitter.im/jlevy/the-art-of-command-line](https://badges.gitter.im/Join%20Chat.svg)](https://gitter.im/jlevy/the-art-of-command-line?utm_source=badge&utm_medium=badge&utm_campaign=pr-badge&utm_content=badge)
|
||||
|
||||
- [Meta](#meta)
|
||||
- [Basics](#basics)
|
||||
- [Everyday use](#everyday-use)
|
||||
|
@ -9,6 +13,7 @@
|
|||
- [System debugging](#system-debugging)
|
||||
- [One-liners](#one-liners)
|
||||
- [Obscure but useful](#obscure-but-useful)
|
||||
- [MacOS only](#macos-only)
|
||||
- [More resources](#more-resources)
|
||||
- [Disclaimer](#disclaimer)
|
||||
|
||||
|
@ -29,7 +34,7 @@ but given the interest there, it seems it's worth using Github, where people mor
|
|||
Scope:
|
||||
|
||||
- This guide is both for beginners and the experienced. The goals are *breadth* (everything important), *specificity* (give concrete examples of the most common case), and *brevity* (avoid things that aren't essential or digressions you can easily look up elsewhere). Every tip is essential in some situation or significantly saves time over alternatives.
|
||||
- This is written for Linux. Many but not all items apply equally to MacOS (or even Cygwin).
|
||||
- This is written for Linux, with the exception of the "[MacOS only](#macos-only)" section. Many of the other items apply or can be installed on other Unices or MacOS (or even Cygwin).
|
||||
- The focus is on interactive Bash, though many tips apply to other shells and to general Bash scripting.
|
||||
- It includes both "standard" Unix commands as well as ones that require special package installs -- so long as they are important enough to merit inclusion.
|
||||
|
||||
|
@ -47,7 +52,7 @@ Notes:
|
|||
|
||||
- Know how to read documentation with `man` (for the inquisitive, `man man` lists the section numbers, e.g. 1 is "regular" commands, 5 is files/conventions, and 8 are for administration). Find man pages with `apropos`. Know that some commands are not executables, but Bash builtins, and that you can get help on them with `help` and `help -d`.
|
||||
|
||||
- Learn about redirection of output and input using `>` and `<` and pipes using `|`. Learn about stdout and stderr.
|
||||
- Learn about redirection of output and input using `>` and `<` and pipes using `|`. Know `>` overwrites the output file and `>>` appends. Learn about stdout and stderr.
|
||||
|
||||
- Learn about file glob expansion with `*` (and perhaps `?` and `{`...`}`) and quoting and the difference between double `"` and single `'` quotes. (See more on variable expansion below.)
|
||||
|
||||
|
@ -55,7 +60,7 @@ Notes:
|
|||
|
||||
- Know `ssh`, and the basics of passwordless authentication, via `ssh-agent`, `ssh-add`, etc.
|
||||
|
||||
- Basic file management: `ls` and `ls -l` (in particular, learn what every column in `ls -l` means), `less`, `head`, `tail` and `tail -f` (or even better, `less +F`), `ln` and `ln -s` (learn the differences and advantages of hard versus soft links), `chown`, `chmod`, `du` (for a quick summary of disk usage: `du -sk *`). For filesystem management, `df`, `mount`, `fdisk`, `mkfs`, `lsblk`.
|
||||
- Basic file management: `ls` and `ls -l` (in particular, learn what every column in `ls -l` means), `less`, `head`, `tail` and `tail -f` (or even better, `less +F`), `ln` and `ln -s` (learn the differences and advantages of hard versus soft links), `chown`, `chmod`, `du` (for a quick summary of disk usage: `du -hk *`). For filesystem management, `df`, `mount`, `fdisk`, `mkfs`, `lsblk`.
|
||||
|
||||
- Basic network management: `ip` or `ifconfig`, `dig`.
|
||||
|
||||
|
@ -96,6 +101,8 @@ Notes:
|
|||
|
||||
- See also `lsof` for open sockets and files.
|
||||
|
||||
- Use `alias` to create shortcuts for commonly used commands. For example, `alias ll='ls -latr'` creates a new alias `ll`.
|
||||
|
||||
- In Bash scripts, use `set -x` for debugging output. Use strict modes whenever possible. Use `set -e` to abort on errors. Use `set -o pipefail` as well, to be strict about errors (though this topic is a bit subtle). For more involved scripts, also use `trap`.
|
||||
|
||||
- In Bash scripts, subshells (written with parentheses) are convenient ways to group commands. A common example is to temporarily move to a different working directory, e.g.
|
||||
|
@ -118,7 +125,7 @@ Notes:
|
|||
|
||||
- Use `man ascii` for a good ASCII table, with hex and decimal values. For general encoding info, `man unicode`, `man utf-8`, and `man latin1` are helpful.
|
||||
|
||||
- Use `screen` or `tmux` to multiplex the screen, especially useful on remote ssh sessions and to detach and re-attach to a session. A more minimal alternative for session persistence only is `dtach`.
|
||||
- Use `screen` or [`tmux`](https://tmux.github.io/) to multiplex the screen, especially useful on remote ssh sessions and to detach and re-attach to a session. A more minimal alternative for session persistence only is `dtach`.
|
||||
|
||||
- In ssh, knowing how to port tunnel with `-L` or `-D` (and occasionally `-R`) is useful, e.g. to access web sites from a remote server.
|
||||
|
||||
|
@ -140,13 +147,15 @@ Notes:
|
|||
stat -c '%A %a %n' /etc/timezone
|
||||
```
|
||||
|
||||
- For interactive selection of values from the output of another command, use [`percol`](https://github.com/mooz/percol).
|
||||
- For interactive selection of values from the output of another command, use [`percol`](https://github.com/mooz/percol) or [`fzf`](https://github.com/junegunn/fzf).
|
||||
|
||||
- For interaction with files based on the output of another command (like `git`), use `fpp` ([PathPicker](https://github.com/facebook/PathPicker)).
|
||||
|
||||
- For a simple web server for all files in the current directory (and subdirs), available to anyone on your network, use:
|
||||
`python -m SimpleHTTPServer 7777` (for port 7777 and Python 2) and `python -m http.server 7777` (for port 7777 and Python 3).
|
||||
|
||||
- For running a command with privileges, use `sudo` (for root) or `sudo -u` (for another user). Use `su` or `sudo bash` to actually run a shell as that user. Use `su -` to simulate a fresh login as root or another user.
|
||||
|
||||
|
||||
## Processing files and data
|
||||
|
||||
|
@ -166,7 +175,7 @@ Notes:
|
|||
|
||||
- For Amazon S3, [`s3cmd`](https://github.com/s3tools/s3cmd) is convenient and [`s4cmd`](https://github.com/bloomreach/s4cmd) is faster. Amazon's [`aws`](https://github.com/aws/aws-cli) is essential for other AWS-related tasks.
|
||||
|
||||
- Know about `sort` and `uniq`, including uniq's `-u` and `-d` options -- see one-liners below.
|
||||
- Know about `sort` and `uniq`, including uniq's `-u` and `-d` options -- see one-liners below. See also `comm`.
|
||||
|
||||
- Know about `cut`, `paste`, and `join` to manipulate text files. Many people use `cut` but forget about `join`.
|
||||
|
||||
|
@ -193,9 +202,7 @@ Notes:
|
|||
|
||||
- Use `shuf` to shuffle or select random lines from a file.
|
||||
|
||||
- Know `sort`'s options. Know how keys work (`-t` and `-k`). In particular, watch out that you need to write `-k1,1` to sort by only the first field; `-k1` means sort according to the whole line.
|
||||
|
||||
- Stable sort (`sort -s`) can be useful. For example, to sort first by field 2, then secondarily by field 1, you can use `sort -k1,1 | sort -s -k2,2`
|
||||
- Know `sort`'s options. For numbers, use `-n`, or `-h` for handling human-readable numbers (e.g. from `du -h`). Know how keys work (`-t` and `-k`). In particular, watch out that you need to write `-k1,1` to sort by only the first field; `-k1` means sort according to the whole line. Stable sort (`sort -s`) can be useful. For example, to sort first by field 2, then secondarily by field 1, you can use `sort -k1,1 | sort -s -k2,2`.
|
||||
|
||||
- If you ever need to write a tab literal in a command line in Bash (e.g. for the -t argument to sort), press **ctrl-v** **[Tab]** or write `$'\t'` (the latter is better as you can copy/paste it).
|
||||
|
||||
|
@ -251,7 +258,7 @@ Notes:
|
|||
|
||||
- For deeper systems and performance analyses, look at `stap` ([SystemTap](https://sourceware.org/systemtap/wiki)), [`perf`](http://en.wikipedia.org/wiki/Perf_(Linux)), and [`sysdig`](https://github.com/draios/sysdig).
|
||||
|
||||
- Confirm what Linux distribution you're using (works on most distros): `lsb_release -a`
|
||||
- Check what OS you're on with `uname` or `uname -a` (general Unix/kernel info) or `lsb_release -a` (Linux distro info).
|
||||
|
||||
- Use `dmesg` whenever something's acting really funny (it could be hardware or driver issues).
|
||||
|
||||
|
@ -363,6 +370,8 @@ A few examples of piecing together commands:
|
|||
|
||||
- `comm`: compare sorted files line by line
|
||||
|
||||
- `pv`: monitor the progress of data through a pipe
|
||||
|
||||
- `hd` and `bvi`: dump or edit binary files
|
||||
|
||||
- `strings`: extract text from binary files
|
||||
|
@ -373,6 +382,8 @@ A few examples of piecing together commands:
|
|||
|
||||
- `split `and `csplit`: splitting files
|
||||
|
||||
- `sponge`: read all input before wriring it, useful for reading from then writing to the same file, e.g., `grep -v something some-file | sponge some-file`
|
||||
|
||||
- `units`: unit conversions and calculations; converts furlongs per fortnight to twips per blink (see also `/usr/share/units/definitions.units`)
|
||||
|
||||
- `7z`: high-ratio file compression
|
||||
|
@ -427,11 +438,26 @@ A few examples of piecing together commands:
|
|||
|
||||
- `lsblk`: List block devices: a tree view of your disks and disk paritions
|
||||
|
||||
- `lshw`: hardware information
|
||||
- `lshw`, `lscpu`, `lspci`, `lsusb`, `dmidecode`: hardware information, including CPU, BIOS, RAID, graphics, devices, etc.
|
||||
|
||||
- `fortune`, `ddate`, and `sl`: um, well, it depends on whether you consider steam locomotives and Zippy quotations "useful"
|
||||
|
||||
|
||||
## MacOS only
|
||||
|
||||
These are items relevant *only* on MacOS.
|
||||
|
||||
- Package management with `brew` (Homebrew) and/or `port` (MacPorts). These can be used to install on MacOS many of the above commands.
|
||||
|
||||
- Copy output of any command to a desktop app with `pbcopy` and paste input from one with `pbpaste`.
|
||||
|
||||
- To open a file with a desktop app, use `open` or `open -a /Applications/Whatever.app`.
|
||||
|
||||
- Spotlight: Search files with `mdfind` and list metadata (such as photo EXIF info) with `mdls`.
|
||||
|
||||
- Be aware MacOS is based on BSD Unix, and many commands (for example `ps`, `ls`, `tail`, `awk`, `sed`) have many subtle variations from Linux, which is largely influenced by System V-style Unix and GNU tools. You can often tell the difference by noting a man page has the heading "BSD General Commands Manual." In some cases GNU versions can be installed, too (such as `gawk` and `gsed` for GNU awk and sed). If writing cross-platform Bash scripts, avoid such commands (for example, consider Python or `perl`) or test carefully.
|
||||
|
||||
|
||||
## More resources
|
||||
|
||||
- [awesome-shell](https://github.com/alebcay/awesome-shell): A curated list of shell tools and resources.
|
||||
|
@ -447,4 +473,4 @@ With the exception of very small tasks, code is written so others can read it. W
|
|||
|
||||
[![Creative Commons License](https://i.creativecommons.org/l/by-sa/4.0/88x31.png)](http://creativecommons.org/licenses/by-sa/4.0/)
|
||||
|
||||
This work is licensed under a [Creative Commons Attribution-ShareAlike 4.0 International Licene](http://creativecommons.org/licenses/by-sa/4.0/).
|
||||
This work is licensed under a [Creative Commons Attribution-ShareAlike 4.0 International License](http://creativecommons.org/licenses/by-sa/4.0/).
|
||||
|
|
Loading…
Reference in a new issue