Архивирование большого количества файлов по месяцам #604428


#0 by Freya
Есть каталог, в котором больше миллиона текстовых файлов, начиная с 2010 года. Проблема в том, что даже команда ls отрабатывает крайне долго. Надо соптимизировать запрос с архивированием и последующим удалением таким образом, чтобы это не длилось вечность. И мне в этом нужна ваша помощь. Мои размышления пока такие: использовать find, отбирая файлы по месяцам, а дальше тарить и, по идее, надо сразу удалять. Пытаюсь начать с малого, но и оно не работает, поправьте, пожалуйста. find /home/freya/myfiles -mtime +30 -exec tar -cf 03.2012.tar
#1 by Андрюха
WinRar.exe с командной строкой
#2 by Freya
у меня линукс. Про командную строку понятно, про ключи и синтаксис непонятно
#3 by gr13
apple time machine?
#5 by Андрюха
эээ под Линукс не подскажу... разве что LinRar )))
#6 by Freya
это только под мак?
#7 by gr13
hz
#8 by Freya
я думаю, что логика будет одна и та же, что под виндовой командной строкой, что под линуксовой. Может быть, find в моем случае неоправдан и все сможет сделать gzip, но не могу пока найти нужных ключей.
#9 by Freya
сам пробовал? у меня сложность с установкой дополнительного ПО на эту машину.
#10 by gr13
ja ne rabotaju s linux
#11 by pumbaEO
а фотка где? man gzip man find и сколько же у вам inod свободных?
#12 by Freya
man и  info читала, оттуда и нашла опцию mtime. Я совсем нехорошо знаю линукс, поэтому не понимаю логику, вот я задаю поиск, он мне находит файлы по нужной дате, выдает их в поток, а как сказать тару, чтобы он тарил файлы по очереди, по мере отработки find, а не только первый найденный файл? я счас уперлась в это.
#13 by pumbaEO
rsync используй.
#14 by pumbaEO
или tar czf ~/backup.tgz -T filelist.txt создать список можно так find -name "*.txt" > filelist.txt
#15 by Freya
спасибо, про rsync почитаю. А с помощью конвейера нельзя как-то одной командой сделать? я прочитала в вики, что это ускорит обработку: Конвейеры Основная статья: Конвейер (UNIX) Конвейеры — это возможность нескольких программ работать совместно, когда выход одной программы непосредственно идет на вход другой без использования промежуточных временных файлов. Синтаксис: команда1 | команда2 Выполняет команду1 используя её поток вывода как поток ввода при выполнении команды2, что равносильно использованию двух перенаправлений и временного файла: команда1 > ВременныйФайл команда2 < ВременныйФайл rm ВременныйФайл
#16 by pumbaEO
find -name "*.txt" | xargs tar cvf myfile.tar
#17 by Freya
Красиво. Спасибо.
#18 by gr13
a kak ty vosstanavlivat sobiraeshsja)?
#19 by Freya
восстанавливать что? затаренные файлы? что-то мне подсказывает, что когда будут помесячные архивы, работать с ними будет гораздо проще.
#20 by gr13
u tebja mln failov 0 month 1 000 000 1 month 1000 files were changed - keep 1000 files 2 month 2000 files were changed - keep 2000 files ... n month you want to recover the archive you have n-1 small files 1..n and 0 full file
#21 by gr13
dlja vosstanoblenija tebe nado posledovatelno vosstanovit vse files
#22 by HeroShima
может сначала рассовать по каталогам, соответствующим необходимым периодам? идея с удалениями в процессе мне что-то не нравится
#24 by gr13
dlja linux
#25 by Freya
в этом есть здравый смысл, спасибо. Просто заход в этот каталог повергает меня в уныние, а просмотр содержимого жуткую депрессию:)
#26 by Freya
у меня нет графики и почти нет  возможности ставить новое ПО. Точнее, ее нет, но можно выбить, но сложно. И вы не могли бы писать кириллицей?
#27 by gr13
tolko vecherom, u menja zdes ne russkoj raskladki( i ustanovit eje pochti nelzja. "Точнее, ее нет, но можно выбить, но сложно. " podumaj nad (20,21) i esli est testovaja machina poprobuj
#28 by pumbaEO
Тут вообще вопрос откуда миллион с гаком файлов нарисовался.
#29 by gr13
eto ne vagno
#30 by HeroShima
мне тоже интересно что в них, но задача в другом)
#31 by gr13
naprimer vygruzki o prodagah po chekam on 100 magazinov... ne pravilno realizovannye)))
#32 by Йохохо
лучше так не делать помучай гугл по двум скриптам 1 разнести файлы по месяцам 2 архивировать по каталогам а то проблему целостности придется через опу решать
#33 by Freya
всем спасибо. В итоге разношу по каталогам по месяцам, потом тарю каждый каталог и архивирую. На создание каталога, правда, уходит ОЧЕНЬ много времени.
#34 by HeroShima
нет за что. и "а где вы раньше были".)
#35 by Freya
вот, пришла на "все готовенькое".
#36 by pumbaEO
фотография с тебя.
#37 by Freya
да нафига вам фотография очередного бородатого эникея? за помощь спасибо.
#38 by HeroShima
изредка попадаются весьма небородатые)
#39 by Freya
ок, побреюсь - выложу;)
#40 by HeroShima
токо не забудь побриться-то)
#41 by pumbaEO
Ольга, а где вы собрались бриться?
#42 by HeroShima
а может и html
Тэги: Unix / Linux
Ответить:
Комментарии доступны только авторизированным пользователям

В этой группе 1С