SASGIS

Веб-картография и навигация

ВОПРОСЫ АБСОЛЮТНЫХ НОВИЧКОВ

программа для загрузки и просмотра спутниковых снимков Земли, Луны, Марса предоставленных сервисами Google Maps и Космоснимки. Возможность работы с GPS приёмником.

Модератор: Tolik

ВОПРОСЫ АБСОЛЮТНЫХ НОВИЧКОВ

Сообщение Parasite » 04 май 2011, 11:05

Назрело, назрело... :twisted:
В эту тему будут переезжать (ну или задаваться напрямую, если вдруг удача) все ну совершенно нубские вопросы, заданные в тех или иных ветках. Ибо сколько ж можно игнорировать уже заданное\отвеченное другими, не напрягать межушный нервный узел, и не юзать поиск... Будет этакий паноптикум и парад юзеров, цинично игнорящих RTFM.

Если у кого из старожилов ВНЕЗАПНО нахлынет приступ альтруизма - то могут и поотвечать, а нет - так и нет. Тем хуже для задавших - тема будет безжалостно модерироваться.
The only difference between me and a mad man is that I am not mad. /Salvador Dali/
Изображение

За это сообщение автора Parasite поблагодарили: 3
cycler (07 авг 2013, 19:56) • Orden2 (15 ноя 2022, 18:48) • SergeyKa (17 апр 2024, 13:48)
Рейтинг: 15.79%
 
Аватара пользователя
Parasite
Администратор
 
Сообщения: 5646
Зарегистрирован: 23 окт 2008, 17:38
Благодарил (а): 124 раз.
Поблагодарили: 460 раз.

Re: ВОПРОСЫ АБСОЛЮТНЫХ НОВИЧКОВ

Сообщение VMatveev » 16 апр 2015, 20:49

zed писал(а):Использовать SSD диски для хранения кэша.

У меня нету SSD...
Заметив, что копирование в BerkleyDB идет всё же быстрее скачивания (~100 тайлов в секунду), решил сначала скачивать во временный "стандартный" кэш на другом диске, а потом уже перебрасывать в основной Berkley. Так скачивание идет намного быстрее, чем напрямую в Berkley. Ошибка. Просто в том Berkley-кэше уже были тайлы, и программа их просто пропускала. Как только доходит до места где тайлы отсутствовуют — скорость обработки падает до всё тех же 4-6 тайлов в секунду... :cry: Никак нельзя ускорить это дело?
Последний раз редактировалось VMatveev 17 апр 2015, 05:55, всего редактировалось 1 раз.
J'ai rêvé qu'on pouvait s'aimer
J'avais rêvé du mot aimer...
© MF
Аватара пользователя
VMatveev
Советчик
 
Сообщения: 290
Зарегистрирован: 07 ноя 2008, 04:41
Благодарил (а): 82 раз.
Поблагодарили: 72 раз.

Re: ВОПРОСЫ АБСОЛЮТНЫХ НОВИЧКОВ

Сообщение DJ VK » 17 апр 2015, 08:37

VMatveev писал(а):Как заставить SAS загружать в кэш BerkleyDB со скоростью хотя бы 30-50 тайлов в секунду, а в идеале — со скоростью канала (30 Мбит входящий/исходящий)?

Если критична скорость скачивания есть смысл сначала качать в тайловый кэш, а затем его уже медленно переносить в беркли.

VMatveev писал(а):Никак нельзя ускорить это дело?

Скачку не знаю, но перенос из sas в Беркли точно можно.
DB_TXN_WRITE_NOSYNC on
На свой страх и риск :!:
viewtopic.php?f=2&t=34&p=37909#p37909
После скачки флаг советуется вернуть. А может и пройтись Recovery+reset LSN.

За это сообщение автора DJ VK поблагодарил:
VMatveev (17 апр 2015, 11:35)
Рейтинг: 5.26%
 
Аватара пользователя
DJ VK
Гуру
 
Сообщения: 1468
Зарегистрирован: 16 апр 2009, 13:57
Откуда: 8 км. от МКАД
Благодарил (а): 82 раз.
Поблагодарили: 300 раз.

Re: ВОПРОСЫ АБСОЛЮТНЫХ НОВИЧКОВ

Сообщение zed » 17 апр 2015, 14:26

DJ VK писал(а):DB_TXN_WRITE_NOSYNC on
На свой страх и риск :!:
viewtopic.php?f=2&t=34&p=37909#p37909

Предварительно ознакомьтесь: viewtopic.php?f=2&t=2024&start=50#p33067 и особенно: http://www.sasgis.org/mantis/view.php?id=2468 чтобы потом вопросов небыло. Имхо, лучше медленно, но надёжно.
DJ VK писал(а):А может и пройтись Recovery+reset LSN.

Reset LSN вообще не в тему. Нужно прогонять verify по всей базе, чтобы убедиться, что ошибок нет. А если есть, то исправить.

И ещё, временный перенос папки env на RAM диск обычно тоже сильно помогает.
zed
Гуру
 
Сообщения: 2888
Зарегистрирован: 16 авг 2008, 20:21
Благодарил (а): 89 раз.
Поблагодарили: 525 раз.

Re: ВОПРОСЫ АБСОЛЮТНЫХ НОВИЧКОВ

Сообщение nanoprod » 24 апр 2015, 09:35

В режиме "склеить" есть опция "применить коррекцию изображения". Как быть, если нужна коррекция в режиме "экспорт"?

Есть ли возможность получить на выходе карту формата RMaps с коррекцией?

Если непосредственно из sas такой возможности нет, то посоветуйте плз наиболее оптимальный, на ваш взгляд, вариант, для экспортируемых из sas карт размером 500Мб-3Гб.
Заранее спасибо.
nanoprod
Новичок
 
Сообщения: 41
Зарегистрирован: 28 май 2014, 17:10
Благодарил (а): 22 раз.
Поблагодарили: 1 раз.

Re: ВОПРОСЫ АБСОЛЮТНЫХ НОВИЧКОВ

Сообщение Papazol » 24 апр 2015, 20:54

Наверное, самый лобовой, но не самый простой способ - применить коррекцию ко всем тайлам пакетно, используя что-нибудь типа ImageMagick, а потом экспортировать. Но нужно учесть, что:
1. Таким способом можно обрабатывать только тайловый кэш (не Беркли).
2. Исходники нужно сохранить, так что придётся скопировать выделенную область в отдельный кэш.
3. Коррекцию сначала нужно проверить, обработав небольшой участок и посмотрев, что получилось, и только при удовлетворительном результате приступать к 3 ГБ.
4. Если выбран большой участок, на котором не один снимок, а несколько, то одна и та же коррекция может где-то помочь, а где-то и навредить.

За это сообщение автора Papazol поблагодарил:
nanoprod (25 апр 2015, 19:22)
Рейтинг: 5.26%
 
Аватара пользователя
Papazol
Гуру
 
Сообщения: 2069
Зарегистрирован: 04 дек 2009, 01:39
Откуда: Рязань
Благодарил (а): 74 раз.
Поблагодарили: 606 раз.

Сохранить список файлов для копирования

Сообщение Cheetos » 28 апр 2015, 00:36

Есть локальная сетка, в которой есть комп на windows с SAS.Планетой и NAS-сервер на linux с расшаренной папкой с большим кэшем от планеты. Извечная проблема - копирование части кэша, да еще и по сетке.
Если в планете выделить необходимую область и попытаться скопировать в другое место, то уйдет уйма времени, так как кэш будет литься потайлово. Как вариант можно упаковать необходимую часть кэша средствами linux, скопировать получившийся архив по сетке, после чего распаковать его в другом месте. В принципе ничего нового - про перенос кэша уже неоднократно писалось на форуме, но в данном случае интересует перенос именно выделенной части кэша, а для этого нужен перечень файлов для копирования.
Собственно вопрос - возможно ли это реализовать, ну или в какую сторону копать?
Аватара пользователя
Cheetos
Новичок
 
Сообщения: 11
Зарегистрирован: 30 мар 2015, 20:03
Откуда: РФ, Тула
Благодарил (а): 2 раз.
Поблагодарили: 0 раз.

Re: Сохранить список файлов для копирования

Сообщение Parasite » 28 апр 2015, 06:40

Cheetos писал(а): нужен перечень файлов для копирования.

Экспорт в .AUX дает на выходе текстовый файл с абс.именами к.тайла.
The only difference between me and a mad man is that I am not mad. /Salvador Dali/
Изображение

За это сообщение автора Parasite поблагодарил:
Cheetos (28 апр 2015, 20:19)
Рейтинг: 5.26%
 
Аватара пользователя
Parasite
Администратор
 
Сообщения: 5646
Зарегистрирован: 23 окт 2008, 17:38
Благодарил (а): 124 раз.
Поблагодарили: 460 раз.

Re: Сохранить список файлов для копирования

Сообщение vasketsov » 28 апр 2015, 13:56

Cheetos писал(а):Если в планете выделить необходимую область и попытаться скопировать в другое место, то уйдет уйма времени, так как кэш будет литься потайлово. Как вариант можно упаковать необходимую часть кэша средствами linux, скопировать получившийся архив по сетке, после чего распаковать его в другом месте

Тайлы в выделенной области можно скопировать в архив. Эта операция работает по перечню карт и зумов, создаёт архив типа tar или zip. Куда удобнее, чем архивировать средствами linux разбросанное по множеству папок. А потом архив можно перенести куда угодно и быстро. Искать копирование тайлов в архив нужно в окне операций с выделенной областью. Там правые закладки, и много разных форматов экспорта, нужен экспорт в архив.
vasketsov
Специалист
 
Сообщения: 901
Зарегистрирован: 25 июл 2009, 21:15
Благодарил (а): 0 раз.
Поблагодарили: 193 раз.

Re: Сохранить список файлов для копирования

Сообщение Cheetos » 28 апр 2015, 20:25

vasketsov писал(а):
Cheetos писал(а):Если в планете выделить необходимую область и попытаться скопировать в другое место, то уйдет уйма времени, так как кэш будет литься потайлово. Как вариант можно упаковать необходимую часть кэша средствами linux, скопировать получившийся архив по сетке, после чего распаковать его в другом месте

Тайлы в выделенной области можно скопировать в архив. Эта операция работает по перечню карт и зумов, создаёт архив типа tar или zip. Куда удобнее, чем архивировать средствами linux разбросанное по множеству папок. А потом архив можно перенести куда угодно и быстро. Искать копирование тайлов в архив нужно в окне операций с выделенной областью. Там правые закладки, и много разных форматов экспорта, нужен экспорт в архив.

Для того, чтобы тайлы в выделенной области средствами планеты скопировать куда-либо, их предварительно надо прочитать из сетевой папки и передать в планету, что по своей сути ничем не отличается от простого копирования по той же сетке.
Аватара пользователя
Cheetos
Новичок
 
Сообщения: 11
Зарегистрирован: 30 мар 2015, 20:03
Откуда: РФ, Тула
Благодарил (а): 2 раз.
Поблагодарили: 0 раз.

Re: ВОПРОСЫ АБСОЛЮТНЫХ НОВИЧКОВ

Сообщение Papazol » 28 апр 2015, 23:10

Куда лучше было бы создавать архив с нужными тайлами прямо на сервере Гугла, а потом его скачивать. :mrgreen:

Экспорт в AUX создаёт список тайлов, но вот что этот список включает, я так и не смог понять. Выделив целую область на z15 (это около 20 тысяч тайлов), я получил AUX со списком из максимум 100 тайлов. Там применяется какое-то кодирование. И ещё, в списке карт, для которых можно совершить экспорт в AUX, находятся далеко не все имеющиеся в кэше карты, а только "избранные". Например, ни карт, ни снимков Гугла и Яндекса в моём списке не значится. И последнее, для экспорта в AUX можно выбрать только один зум. В общем, применять для архивирования нельзя. (Но может быть, я вообще ничего не понял в этом AUX, и всё хорошо?)
Аватара пользователя
Papazol
Гуру
 
Сообщения: 2069
Зарегистрирован: 04 дек 2009, 01:39
Откуда: Рязань
Благодарил (а): 74 раз.
Поблагодарили: 606 раз.

Пред.След.

Вернуться в SAS.Планета

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и гости: 7