Импорт более 3 миллионов терминов

Прислано: chewie

ср, 20/01/2010 - 14:36

Будут ли проблемы с сайтом на друпал если будут импортированы более 3 миллионов терминов в одном словаре?
3-х уровневая иерархия. Сайт крутится на VPS. При создании ноды эти термины выбираются через  hierarchical_select. Кто сталкивался с таким количество терминов. Все ли будет нормально?
Спасибо.

Комментарии


Настройки просмотра комментариев

Выберите нужный метод показа комментариев и нажмите "Применить"
Опубликовано RxB в ср, 20/01/2010 - 14:47.

Веселье начинается уже где-то от 10 000 терминов.
Проблемы, как минимум, будут с:
1. Страницы taxonomy/term/tid
2. Страница admin/content/node
VPS ваш загнётся, вы даже и не заметите. Про Hierarchical Select можете забыть... По крайней мере полгода назад его лучше было не использовать для такого количества. Чтобы оценить масштабы бедствия можете взять у меня на блоге базу КЛАДРа, там около 198000 терминов и поставить Hierarchical Select.

Описана ситуация на мускуле, с PostGRE может будет чуть лучше


Опубликовано Valeratal в ср, 20/01/2010 - 14:59.

а как посчитать имеющиеся термины?


Опубликовано RxB в ср, 20/01/2010 - 15:05.

SELECT count(*) FROM term_data WHERE 1


Опубликовано Demimurych в ср, 20/01/2010 - 15:49.

Проблемы будут при использовании методов что есть в ДРУПАЛ по умолчанию.

Если работать со словарем самостоятельно, то это ничего страшного.

Очевидно жеж что вывод на страницу всех 10 000 терминов это абсурд.


Опубликовано chewie в ср, 20/01/2010 - 16:38.

пол часа назад один мой винт похоже загнулся %( (правда ему 6 лет)
действительно веселье началось


Опубликовано stenli21 в ср, 20/01/2010 - 16:57.

в свое время задача такая мной уже решалась - не все так страшно, как кажется... для начала установите модуль  leftandright[/module] - он значительно облегчит работу с "тяжелыми" словарями, а потом нужно поколдовать над Hierarchical Select - и он тоже залетает...


Опубликовано Valeratal в ср, 20/01/2010 - 17:47.

у меня код ничего не выводит (которой количество терминов выводит)


Опубликовано RxB в ср, 20/01/2010 - 17:50.

это чистый SQL-запрос, выполнять в phpMyAdmin либо в консоле мускульной, если у вас таблицы с префиксами, то префикс надо дописать


Опубликовано Valeratal в ср, 20/01/2010 - 18:04.

спасибо, щас посчитаю


Опубликовано Valeratal в ср, 20/01/2010 - 18:21.

мда, всего то 2544


Опубликовано volocuga в ср, 20/01/2010 - 23:14.

"We currently have this running on a demo site which contains a taxonomy with over two million terms."

Прикол,а меня тут было убеждали,что 100000 терминов приводит к моментальной смерти :)


Опубликовано chewie в чт, 21/01/2010 - 13:22.

Демо сайт не работает

"volocuga" написал(а):

Прикол,а меня тут было убеждали,что 100000 терминов приводит к моментальной смерти :)

Все верно, моментальная смерть друпала "из коробки" неизбежна.
Уже проверял. После > 10 000 терминов и сайт дохлый. Проверял уже на локалхосте, приходилось увеличить лимит памяти пхп до 500М. И даже этого было мало. Скорее всего и средненький выделенный сервер тоже загнется.
Без кастомизаций функций (патчей и все такое) не будет друпал держать такое количество терминов (во всяком случае с иерархиями)


Опубликовано volocuga в чт, 21/01/2010 - 17:30.

Localhost (тот что под виндовс) - это не показатель,на Unix совсем другая картина


Опубликовано TheSoL в вс, 21/02/2010 - 01:00.

у меня hierarchical_select с 4мя тысячами терминов бывает сильно подтупивает, а тут на несколько порядков больше.. Я бы выбрал другое решение, ну или реально серьёзно доработать hierarchical_select, давно пора))


Новое на сайте

Ссылки партнёров