Мистецтво командного рядка

Опис
Основи
Щоденне використання
Обробка файлів та інформації
Дебаггінг
Одним рядком
Складно але корисно
MacOS only
Інші джерела
Декламація

$curl -s 'https://raw.githubusercontent.com/jlevy/the-art-of-command-line/master/README.md' | egrep -o '\w+' | tr -d '`' | cowsay -W50$

Використанню командного рядка часто не приділяють достатньої уваги. Про термінал говорять, як про щось містичне. Насправді, ці навики явно (і не явно) збільшує Вашу продуктивність в роботі. Даний документ є підбіркою заміток і порад, які я знайшов для себе корисними, працюючи з командним рядком в Linux. Деякі з них - прості й очевидні, але деякі - досить складні та призначені для вирішення конкретних завдань. Це невелика публікація, але якщо Ви вже все це знаєте, що тут написано, і можете згадати як це все використовувати - Ви знаєте багато!

Ця робота є результатом багатьох авторів і перекладачів. Багато з цього спочатку появилось на Quora, почавши там, схоже, що варто розмістити і на Github, де знаходяться дуже талановиті люди і можуть допомогти. Якщо Ви замітили помилки (у всіх варіантах перекладу), будь ласка залиште опис issue або зробіть Pull requests (Звичайно перевіривши уже існуючі)

Опис

Основне:

Дана публікація призначена як для недосвідчених, так і для досвідчених користувачів. Цілі: об'ємість (зібрати всі важливі аспекти використання командного рядка), практичність (надати конкретні приклади для найчастіших задач) та стислість (не варто вдаватись у неочевидні речі, про які можна почитати в інших місцях).
Цей документ написаний для користувачів Linux, із єдиним винятком - розділ "MacOS only". Все інше підходить для всі UNIX/MacOS системи (і навіть для Cygwin).
Сфокусована на інтерактивному Bash, але багато речей також можуть бути використані в інших Шелах; і в застосовні до Bash-скриптів.
Ця інструкція включає в себе стандартні Unix команди і ті, для яких потрібно встановлювати сторонні пакети. Вони настільки корисні, що варті того, щоб їх встановили.

Нотатки:

Що б все вміщалось на одній сторінці, вся інформація вставлена прямо тут. Ви досить розумні для того, щоб самостійно вивчити питання більш детально в іншому місці. Використовуйте apt-get/yum/dnf/pacman/pip/brew (залежно від вашої системи управління пакетами) для установки нових програм.
На Explainshell можна знайти просте і докладне пояснення того, що таке команди, їх опції, пайпи(pipes(|)) і т.д.

##Основи

Вивчіть основи Bash. Просто візьміть і наберіть у командному рядку man bash в терміналі і хоча б перегляньте; він досить просто читається і він не дуже великий. Інші шелли теж можуть бути хороші, але Bash - потужна програма, і Bash завжди під рукою (використання виключно zsh, fish і т.д., які напевно круто виглядають на Вашому лептопі і ні в чому Вас не обмежують, наприклад Ви не зможете використовувати ці можливості Шеллу на вже існуючому сервері).
Вивчіть як використовувати хоча б один консольний редактор тексту. Найкраще Vim (vi), адже у нього немає конкурентів, коли вам потрібно швиденько щось підправити (навіть якщо Ви постійно сидите у Emacs чи, якомусь важкому IDE або на модному хіпстерському редакторі.
Знайте, як читати документацію через man (man man; man у кутах документа в дужках додає номер, наприклад 1 - для звичайних команд, 5 - для файлів, 8 - для адміністративних команд). Шукайте інформацію через apropos, і пам'ятайте, що деякі команди - не виконувані(executables), а вбудовані команди Bash, і допомогу по них можна отримати через команду help і help -d.
Можна перенаправляти введення та виведення через > і < і пайпи |. Пам'ятайте, що > - переписує вихідний файл, а >> додає до нього. Дізнайтеся побільше про stdout і stderr.
Дізнайтеся побільше про * (а також ? і [...]), кавички, а також різницю між подвійними " і одинарними ' кавичками.
Знайте як працювати із процесами в Bash: &, ctrl-z, ctrl-c, jobs, fg, bg, kill, і т.д.
Знайте ssh та основи беспарольної аутентифікації через ssh-agent, ssh-add, і т.д.
Основи роботи з файлами: ls і ls -l (зокрема, дізнайтеся, що значить кожен стовпець в ls -l), less, head, tail і tail -f (або навіть краще - less + F), ln і ln -s (дізнайтеся різницю між символьними посиланнями і жорсткими посиланнями, і чому жорсткі посилання краще), chown, chmod, du (для отримання швидкої інформації по використанню диска: du -hk *). Для менеджменту файлової системи, df, mount, fdisk, mkfs, lsblk.
Основи роботи з мережею: ip або ifconfig, dig.
Добре знайте регулярні вирази і різні опції для grep/egrep. Такі опції як -i, -o, -A, та -B варто знати.
Навчіться використовувати системами управління пакетами apt-get, yum, dnf та pacman (залежно від дистрибутива). Знайте як шукати і встановлювати пакети і обов'язково майте встановленим pip для установки командних утиліт, написаних на Python (деякі з тих команд, що ви знайдете нижче, найлегше встановити через pip).

##Щоденне-використання

Використовуйте клавішу таб в Bash для автодоповнення аргументів до командам та ctrl-r для пошуку по історії командного рядка.
Використовуйте ctrl-w в Bash для того, щоб видалити останнє слово в команді; ctrl-u для того, щоб видалити команду повністю. Використовуйте alt-b і alt-f для того, щоб переміщатись між словами у команді, ctrl-k для того, щоб перейти в кінця рядка, ctrl-l для того, щоб очистити екран. Гляньте на man readline щоб дізнатися про всі шорткати Bash. Їх багато! Наприклад, alt-. переміщається між попередніми аргументам команди, а alt-* максимально розширює аргументи.
Якщо Вам подобаються шорткати vim, виконайте set -o vi (set -o emacs що б повернути налаштування).
Для редагування довгих команд після налаштування вашого консольного редактора (наприклад export EDITOR=vim), ctrl-x ctrl-e відкриє поточну команду в редакторі для багаторядкового редагування команди. Або у vi стилі, escape-v.
Для того, щоб переглянути історію, введіть history. Також існує безліч абревіатур, наприклад ! $ - Останній аргумент, !! - остання команда, хоча ці абревіатури часто заміняються шорткати ctrl-r та alt-..
Для того, щоб стрибнути до останньої робочої директорії, використовуйте cd -
Якщо Ви написали команду наполовину і раптом передумали, натисніть alt-# для того, щоб додати # на початок команди, та відправте команду як коментар. Потім ви зможете повернутися до неї через історію команд.
Використовуйти xargs (або parallel). Це дуже корисно. Зверніть увагу, що Ви можете контролювати кількість команд на кожен рядок (-L) також паралельність (-P). Якщо Ви не впевнені, що робите щось правильно, почніть з xargs echo. Також -I{} - корисно. Приклади:

      find . -name '*.py' | xargs grep some_function
      cat hosts | xargs -I{} ssh root@{} hostname

pstree -p - допоможе побачити дерево процесів.
Використовуйте pgrep і pkill для того, щоб знаходити або слати сигнали до процесів по імені (-f корисна опція).
Знайте різні сигнали, які можна слати процесам. Наприклад, щоб призупинити процес, використовуйте kill -STOP [pid]. Для повного списку подивіться man 7 signal.
Використовуйте nohup або disown, якщо ви хочете запустити фоновий процес що б він постійн виконувався у фоні.
Дізнайтеся, які процеси слухають порти через netstat -lntp або ss -plat (для TCP; додайте -u для UDP).
Зверніть увагу на lsof щоб подивитися відкриті сокети і файли.
Команда uptime or w показує як довго працює система.
Використовуйте alias, щоб створити скорочення для часто використовуємих команд. Наприклад, alias ll='ls -latr' створить нове скорочення(alias) ll.
У Bash скриптах використовуйте set -x (або set -v) щоб дебажити вивід. Використовуйте строгий(strict) режим скрізь, де це можливо. Використовуйте set -e для того, щоб припиняти виконання при помилках (не нульовий вихідний код). Використовуйте set -u що б визначити невстановленні змінні. Використовуйте set -o pipefail щоб при помилках невикористовувати пайпи(вертикальна риска). Для більш складних скриптів також використовуйте trap на EXIT or ERR. Корисний звичка почати використовувати настипний скрипт, який допоможе виявити і перервати на загальних помилоках і вивести повідомлення:

      set -euo pipefail
      trap "echo 'error: Script failed: see failed command above'" ERR

У Bash-скриптах підоболочки(subshells) - зручний спосіб групувати команди. Один із найпоширеніших прикладів - тимчасово пересунутися в іншу робочу директорію:

     # Do something in current dir
     (cd / some / other / dir && other-command)
     # Continue in original dir

У Bash багато типів простору змінних. Перевірити, чи існує змінна - ${name:? Error message}. Наприклад, якщо Bash-скрипту потрібен всього один аргумент, просто напишіть input_file=${1:?usage: $0 input_file}. Арифметична область видимості: i=$(( (i + 1) % 5 )). Послідовності: {1..10}. Обрізка рядків: ${var%suffix} і ${var#prefix}. Наприклад, якщо var=foo.pdf тоді echo ${var%.pdf}.txt виведе foo.txt.
Фігурні скобки, використовуючи {...} може зменшити необхідність повторно вводити той самий текст і автоматизувати. Це корисно в такому прикладі як mv foo.{txt,pdf} some-dir (який пересуває обидва файла), cp somefile{,.bak} (який розширюється у cp somefile somefile.bak) або mkdir -p test-{a,b,c}/subtest-{1,2,3} (яка розширює всі можливі комбінації і створює дерево деректорій).
Вивід будь-якої команди можна обробити як файл наступним чином <(some command). Наприклад, порівняння локального файлу `/etc/hosts з віддаленим:

      diff /etc/hosts <(ssh somehost cat /etc/hosts)

Знайте про heredoc -сінтаксис в Bash: cat << EOF ....
У Bash перенаправляйте стандартні потоки виводу(output) та помилок, ось так: some-command >logfile 2>&1. Найчастіше, для того, щоб переконається, що команда не залишить відкритим файл, прив'язавши його до відкритого терміналу, вважається хорошою практикою додавати </dev/null.
Використовуйте man ascii щоб отримати таблицю ASCII символів із шіснадцядковими і десятковими значеннями. Для інших основних кодувань користуйтесь: man unicode, man utf-8 і man latin1.
Використовуйте screen або tmux для того, щоб мати кілька екранів в одному терміналі. Це особливо корисно в ssh сесії що б приєднатись чи відєднатись до сесії. byobu розширити функціонал screen або tmux надавши більше інформації і полегшити керування. Більш мінімалістичною альтернативою для цього - dtach.
У SSH корисно знати як зробити port tunnel з опціями -L і -D (іноді -R) це корисно наприклад для того, щоб отримати доступ до сайту із віддаленого сервера.
Ще може бути корисно зробити декілька оптимізацій у конфігурації вашого SSH, наприклад у файлі ~/.ssh/config містить налаштування, які допомагають уникати втрачених підключень в деяких мережевих оточеннях, використати стиснення (яке корисне при використанні scp при повільному підключенні) і збільште кількість каналів до одного сервера через цей конфіг, ось так:

      TCPKeepAlive=yes
      ServerAliveInterval=15
      ServerAliveCountMax=6
      Compression=yes
      ControlMaster auto
      ControlPath /tmp/%r@%h:%p
      ControlPersist yes

Деякі із інших налаштування SSH можуть сильно вплинути на безпеку і повинні мінятися обережно, наприклад, для конкретної підмережі або конкретної машини або в домашніх мережах: StrictHostKeyChecking=no, ForwardAgent=yes
Розглянемо mosh як альтернатива ssh який використовує UDP, уникаючи розривів підключеня (вимагає установки на стороні сервера).
Щоб отримати права доступу до файлу в вісімковому вигляді, що є корисно для конфігурації систем але не можна отримати з допомогою команди ls, можна використовувати щось схоже на це:

      stat -c '%A %a %n' /etc/timezone

Для інтерактивного виділення результатів інших команд використовуйте percol або fzf.
Для роботи з файлами, список яких дала інша команда (наприклад git), використовуйте fpp (PathPicker).
Щоб швидко підняти веб-сервер в поточній директорії (і піддерикторіях), який доступний для всіх у вашій мережі, використовуйте: python -m SimpleHTTPServer 7777 (на прту 7777 і для Python 2) або python -m http.server 7777 (на прту 7777 і для Python 3).
Щоб виконати команду з привілеями, використовуйте sudo (для root) і sudo -u (для іншого користувача). Використовуйте su або sudo bash, щоб запустити шелл від імені цього користувача. Використовуйте su -, щоб симулювати свіжий вхід під root або gsl іншим користувачем.

##Обробка-файлів-та-інформації

Для того, щоб знайти файл в поточній директорії, зробіть find. -iname '*something*'. Для того, щоб шукати файл по всій системі, використовуйте locate something (але не забувайте, що updatedb міг ще не проіндексувати нещодавно створені файли).
Для пошуку по вмісту або фалах (більш детально зробити пошук допоможе grep -r) використовуйте ag.
Для конвертації HTML в текст: lynx -dump -stdin
Для конвертації різних типів розмітки (HTML, Markdown та ін.) попроробуйте pandoc.
Якщо потрібно працювати з XML, є стара, але хороша утиліта - xmlstarlet.
Для роботи з JSON використовуйте jq.
Для YAML використовуйте shyaml.
Для Excel і CSV файлів csvkit надає in2csv, csvcut, csvjoin, csvgrep і т.д.
Для Amazon S3 s3cmd є зручним і s4cmd є швидшим. Для решти сервісів Амазону використовуйте стандартний aws і удосконалений saws.
Знайте про sort і uniq, включаючи опції -u і -d, дивіться приклади нижче. Ще спробуйте comm.
Знайте про cut, paste, і join для роботи з текстовими файлами. Багато людей використовують cut, забувши про join.
Знайте про wc: для підрахунку нових рядків (-l), символів (-m), слів (-w) і для байтового підрахунку (-c).
Знайте про tee для копіювання в файл з stdin і stdout, щось типу ls -al | tee file.txt.
Не забувайте, що Ваша місце знаходження (локаль) впливає на багато команд, включаючи порядок сортування, порівняння і продуктивність. Багато дистрибутиви Linux автоматично виставляють LANG або будь-яку іншу змінну в підходящу для Вашого регіону. Через це результати функцій сортування можуть працювати непередбачувано. Знайте що i18n можуть значно знизити продуктивність сортувань. У деяких випадках можна повністю цього уникати (за винятком рідкісних випадків), сортуючи традиційно побайтово, використовуйте export LC_ALL = C.
Знайте основи awk і sed для простих маніпуляцій з даними. Наприклад, щоб отримати суму всіх чисел, які знаходяться в третій колонці текстового файлу, можна використати awk '{ x += $3 } END { print x }'. Швидше за все, це вийде в рази 3 швидше і рази в 3 простіше, ніж робити це в Пітоні.
Щоб замінити всі знаходження підрядка в одному або декількох файлах:

      perl -pi.bak -e 's/old-string/new-string/g' my-files-*.txt

Щоб перейменувати відразу багато файлів за шаблоном, використовуйте rename. Для складних перейменувань може допомогти repren:

      # Recover backup files foo.bak -> foo:
      rename 's/\.bak$//' *.bak
      # Full rename of filenames, directories, and contents foo -> bar:
      repren --full --preserve-case --from foo --to bar .

Як говорить man сторінка, rsync дійсно є швидким і універсальним інструментом копіювання файлів, для синхронізації між машинами, але в рівній мірі корисні на локальному рівні. Також швидке рішення що б видалити велику кількість файлів:

      mkdir empty && rsync -r --delete empty/ some-dir && rmdir some-dir

Використовуйте shuf, щоб перемішати або вибрати випадкові рядки з файлу.
Знайте опції для команди sort. Для чисел використовуйте -n або -h, для роботи з числами (наприклад du -h). Знайте як працюють ключі (-t і -k). Зокрема, не забувайте, що вам потрібно писати -k1,1 для того, щоб впорядкувати тільки перше поле; -k1 - це означає сортування враховуючи цілий рядок. Може бути корисною (sort -s). Наприклад для того, щоб відсортувати найважливіше по другому полю, а другорядне по першому, можна використовувати sort -k1,1 | sort -s -k2,2.
Якщо вам коли-небудь доведеться написати код символу табуляції в терміналі, наприклад, для сортування за табуляції з прапором -t, використовуйте скорочення ctrl-v [Tab] або напишіть $'\t'. Останнє краще, тому що його можна скопіювати/вставити.
Стандартні інструменти для виправлення вихідного коду це diff і patch. Також зверніть увагу на diffstat для перегляду статистики diff і sdiff для крок за кроком diff. Запамятайте diff -r працює рекурсивно по всій директорії. Використовуйте diff -r tree1 tree2 | diffstat для повного зведення змін. Використовуйте vimdiff порівняти і редагувати файли.
Для бінарних файлів використовуйте hd, hexdump або xxd для простих hex-дампом, і bvi або biew для зміни бінарників.
Також для бінарних файлів, strings (plus grep, etc.) дозволить Вам знайти біти тексту.
Щоб подивитися різницю в бінарниках (дельта-кодування): xdelta3.
Для конвертування кодувань використовуйте iconv. Для більш складних завдань - uconv, він підтримує деякі складні фічі Юникода. Наприклад, ця команда переводить рядки з файлу в нижній регістр і прибирає наголоси (наприклад в іспанській мові)

      uconv -f utf-8 -t utf-8 -x '::Any-Lower; ::Any-NFD; [:Nonspacing Mark:] >; ::Any-NFC; ' < input.txt > output.txt

Для того, щоб розбити файл на шматки, використовуйте split (розбиває на шматки за розміром), або csplit (за шаблоном або по регулярному виразу).
Для дати і часу використовуйте dateadd, datediff, strptime ще можете знайти на dateutils.
Використовуйте zless, zmore, zcat, і zgrep для роботи зі стиснутими файлами.

##Дебаггінг

Дле веб-дебаггінга використовуйте curl і curl -I, або альтернативу - wget або httpie.
Щоб отримати інформацію про диск/CPU/мережі використовуйте iostat, netstat, top (краще htop) і dstat. Використовуйте iostat -mxz 15 для отримання основної інформації CPU.
Для інформації про мережу використовуйте netstat і ss.
Для більш детальної інформації використовуйте glances. Ця програма показує відразу кілька різних статистик в одному вікні терміналу. Корисно, коли стежите за відразу декількома системами.
Для того, щоб стежити за пам'яттю вокористовуйте free і vmstat. Зокрема, не забувайте, що значення кешування ("cached" value) - Це пам'ять, яку тримає ядро і ці значення є частиною free.
Використовуйте mtr для кращого трасування(простежити маршрут), щоб знаходити проблеми мережі.
Для того, щоб дізнатися, чому диск повністю забитий, використовуйте ncdu, це зберігає час у порівнянні з тим же du -sh *.
Для того, щоб дізнатися, який сокет або процес використовує інтернет, використовуйте iftop або nethogs.
додаток ab який поставляється разом з apache, корисний для швидкої і поверхневої перевірки продуктивності веб-сервера. Для більш серйозного лоад-тестінгу використовуйте siege.
Для більш серйозного дебаггінга мережі використовуйте wireshark, tshark, і ngrep.
Знайте про strace і ltrace. Ці команди можуть бути корисні, якщо програма падає або висить, і ви не знаєте чому або якщо ви хочете протестувати продуктивність програми. Не забувайте про можливість дебаггінга (-c) і можливість причепитися до процесу по pid ( -p).
ldd для перевірки системних бібліотек.
Знайте як причепитися до працюючого процесу через gdb і отримати трасування стека.
Використовуйте /proc. Іноді він неймовірно корисний для налагодження запущених програм. Приклади: /proc/cpuinfo, /proc/xxx/cwd, /proc/xxx/exe, /proc/xxx/fd/, /proc/xxx/smaps (де xxx id or pid процесу).
Коли дебажите щось, що зламалося в минулому, використовуйте sar буває дуже корисно. Показує історію та статистику CPU, пам'яті, мережі і т.д.
Для аналізу більш складних систем і продуктивності використовуйте stap (SystemTap), [perf](http://en.wikipedia.org/wiki/ Perf_(Linux)), і sysdig.
Дізнайтеся, яка у вас операційна система, через uname або uname -a або lsb_release -a.
Використовуйте dmesg, коли щось відбувається зовсім дивне (це може бути проблеми із залізом або драйверами).

##Одним-рядком

##Складно-але-корисно

##Macos-only

##Інші-джерела

##Декламація

34 KiB Raw Blame History Unescape Escape

Мистецтво командного рядка

Опис

34 KiB

Raw Blame History