Мы уходим с майнфрайм.

zVlad
Уже с Приветом
Posts: 15420
Joined: 30 Apr 2003 16:43
Has thanked: 1 time

Re: Мы уходим с майнфрайм.

Post by zVlad »

Flash-04 wrote: 11 Apr 2021 21:16 А что вы там храните в таких колонках, если не секрет?
Я это называю гарбидж. Но вообще это разных форматов документы, фото, видео, аттачменты, просто тексты. Это все начало накапливается с 90-х и ни разу не архивировалось. В прошлый викэнд я делал рефреш из прод в QA. Заняло три дня.
User avatar
liamkin
Уже с Приветом
Posts: 2648
Joined: 19 Jun 2003 20:22
Location: USA

Re: Мы уходим с майнфрайм.

Post by liamkin »

zVlad wrote: 12 Apr 2021 01:59
Flash-04 wrote: 11 Apr 2021 21:16 А что вы там храните в таких колонках, если не секрет?
Я это называю гарбидж. Но вообще это разных форматов документы, фото, видео, аттачменты, просто тексты. Это все начало накапливается с 90-х и ни разу не архивировалось. В прошлый викэнд я делал рефреш из прод в QA. Заняло три дня.
Ну вы же сами подсказываете ответ на свой вопрос. Проведите чистку базы от устаревших данных. :gen1:
Ну и поищите, чем там сейчас в Оракле заменили LOB - потому что с этим ЛОБом у них всегда были проблемы. Лучший вариант - хранить ссылку на файл, а сам ЛОБ засунуть в файл. Файлы копировать в облако отдельно с помощью rsync. :umnik1:
iDesperado
Уже с Приветом
Posts: 1349
Joined: 28 Nov 2008 17:50

Re: Мы уходим с майнфрайм.

Post by iDesperado »

liamkin wrote: 12 Apr 2021 14:41 Ну вы же сами подсказываете ответ на свой вопрос. Проведите чистку базы от устаревших данных. :gen1:
Ну и поищите, чем там сейчас в Оракле заменили LOB - потому что с этим ЛОБом у них всегда были проблемы. Лучший вариант - хранить ссылку на файл, а сам ЛОБ засунуть в файл. Файлы копировать в облако отдельно с помощью rsync. :umnik1:
причем тут оракл ? у них GG за млн вечнозеленных не может вытащить из МФ данные.
User avatar
Flash-04
Уже с Приветом
Posts: 63430
Joined: 03 Nov 2004 05:31
Location: RU -> Toronto, ON

Re: Мы уходим с майнфрайм.

Post by Flash-04 »

Похоже камень преткновения именно эти LOB колонки. Видимо конвертация на них тормозит как не в себя.
Not everyone believes what I believe but my beliefs do not require them to.
iDesperado
Уже с Приветом
Posts: 1349
Joined: 28 Nov 2008 17:50

Re: Мы уходим с майнфрайм.

Post by iDesperado »

Flash-04 wrote: 12 Apr 2021 15:10 Похоже камень преткновения именно эти LOB колонки. Видимо конвертация на них тормозит как не в себя.
судя по фразе "ресурсоемкий процесс извлечения данных из таблицы с LOB" - тупо дохнет МФ. но оно и понятно, 2 ядра 6Gb ram. у меня телефон серьезней ресурсами обладает.
User avatar
liamkin
Уже с Приветом
Posts: 2648
Joined: 19 Jun 2003 20:22
Location: USA

Re: Мы уходим с майнфрайм.

Post by liamkin »

iDesperado wrote: 12 Apr 2021 15:13
Flash-04 wrote: 12 Apr 2021 15:10 Похоже камень преткновения именно эти LOB колонки. Видимо конвертация на них тормозит как не в себя.
судя по фразе "ресурсоемкий процесс извлечения данных из таблицы с LOB" - тупо дохнет МФ. но оно и понятно, 2 ядра 6Gb ram. у меня телефон серьезней ресурсами обладает.
ну как вы можете сравнивать такое? какой терморесурс мобильного проца и мэйнфрэймовского?
Да, современный писюк в теории должен крыть мэйнфрэйм. Но не кроет. Потому что мэйнфрэйм делали до эпохи "загорелых". Ассемблер. Время транзакции БД меньше секунды. Правильное мощное IO.
У мэйнфрэйма есть два больших недостатка - отсутствие новых молодых кадров для поддержки, и платежи в ИБМ за процессорное время. Кстати - второй недостаток присущ всем облачным решениям. Поэтому я противник публичных облаков.
iDesperado
Уже с Приветом
Posts: 1349
Joined: 28 Nov 2008 17:50

Re: Мы уходим с майнфрайм.

Post by iDesperado »

liamkin wrote: 12 Apr 2021 15:29 ну как вы можете сравнивать такое? какой терморесурс мобильного проца и мэйнфрэймовского?
Да, современный писюк в теории должен крыть мэйнфрэйм. Но не кроет. Потому что мэйнфрэйм делали до эпохи "загорелых". Ассемблер. Время транзакции БД меньше секунды. Правильное мощное IO.
У мэйнфрэйма есть два больших недостатка - отсутствие новых молодых кадров для поддержки, и платежи в ИБМ за процессорное время. Кстати - второй недостаток присущ всем облачным решениям. Поэтому я противник публичных облаков.
там софт - гавно мамонта. тухлое и абсурдное. тот же db2 блокирует данные даже на банальном селекте. что толку от асемблера, если оно все упрется в блокировки на чтение и встанет колом из-за дедлоков на ровном месте. том самом месте, где загорелый нарисует невменяемый селект, который современная субд прожует не моргнув глазом без блокировок и совершенно консистентным результатом.
опять же, никакой асемблер не компенсирует крошечный объем памяти, что заставляет МФ насиловать механические hdd. любая субд на жава уделает такой МФ на три порядка. три, просто потому, что имеет возможность забубенить терабайты в кеш и практически не касаться дисковой подсистемы.
Last edited by iDesperado on 12 Apr 2021 16:19, edited 1 time in total.
User avatar
Flash-04
Уже с Приветом
Posts: 63430
Joined: 03 Nov 2004 05:31
Location: RU -> Toronto, ON

Re: Мы уходим с майнфрайм.

Post by Flash-04 »

Большой объем памяти конечно помогает. А разве select блокирует в DB2?
Not everyone believes what I believe but my beliefs do not require them to.
User avatar
Flash-04
Уже с Приветом
Posts: 63430
Joined: 03 Nov 2004 05:31
Location: RU -> Toronto, ON

Re: Мы уходим с майнфрайм.

Post by Flash-04 »

>>Время транзакции БД меньше секунды.

Рыдал. А в современных БД серверах больше? :) даже в древнем clipper на pc-ках было меньше секунды при использовании индексов.
Not everyone believes what I believe but my beliefs do not require them to.
iDesperado
Уже с Приветом
Posts: 1349
Joined: 28 Nov 2008 17:50

Re: Мы уходим с майнфрайм.

Post by iDesperado »

Flash-04 wrote: 12 Apr 2021 15:55 Большой объем памяти конечно помогает. А разве select блокирует в DB2?
да, db2 блокирует что бы получить что-то консистентное. это классический блокировочник. там есть грязное чтение и в последних версиях костыли в стиле last committed, но костыли выдают неконсистентный набор. RC, RR и Serializable - блокируют при чтении.
StrangerR
Уже с Приветом
Posts: 38016
Joined: 14 Dec 2006 20:13
Location: USA

Re: Мы уходим с майнфрайм.

Post by StrangerR »

Flash-04 wrote: 07 Dec 2020 19:49 За минуту может и не надо, а вот когда веб приложение нужно смаштабировать от скажем тысячи пользователей в час, до тысячи пользователей в секунду, вот это оно и есть.

Это да. НО это просто таки редчайшие случаи.

У нас уже проходили. В новой версии (Next Gen) продукта пришли архитекторы которые когда то пахали на гугл. И нарисовали.. много красивостей, тут рядом на стенке висит схема из одних квадратиков амазонных.

Вот только я им сразу предсказал что так как приложение обслуживает агентов а не публику, то их скалабилити динамическая нафиг не нужна будет. Да и с докерами вопрос еще будет.

Тут совсем недавно, на каком то митинге с потенциальным клиентом, он, прослушал всю эту лапшу на уши, задал резонный вопрос - у меня говорит 200 агентов. Вчера, сегодня, завтра. И зачем мне динамическое скалирование, когда их количество и соответственно нагрузка на систему сильно не меняются. Ну и с докерами - уровень добавляем, а зачем, не всегда знаем.
StrangerR
Уже с Приветом
Posts: 38016
Joined: 14 Dec 2006 20:13
Location: USA

Re: Мы уходим с майнфрайм.

Post by StrangerR »

zVlad wrote: 12 Apr 2021 01:59
Flash-04 wrote: 11 Apr 2021 21:16 А что вы там храните в таких колонках, если не секрет?
Я это называю гарбидж. Но вообще это разных форматов документы, фото, видео, аттачменты, просто тексты. Это все начало накапливается с 90-х и ни разу не архивировалось. В прошлый викэнд я делал рефреш из прод в QA. Заняло три дня.
А вы чего, файлы в базе данных хранили? Тогда ой. У нас это китайцы пытались учудить, но им сразу руки пообрывали _чтобы файлы - были в файловой системе_. И это нас спасает. А то только чтоо обсуждали - старая версия закрывается, как перетащить к клиенту документ сторейдж, а там всего то каких то 30 миллионов и терабайт 5 документов. Было бы это чудо в базе данных, мы бы давно померли. А так, без особых проблем - тар + зип наше все, как и симлинк.
StrangerR
Уже с Приветом
Posts: 38016
Joined: 14 Dec 2006 20:13
Location: USA

Re: Мы уходим с майнфрайм.

Post by StrangerR »

Dmitry67 wrote: 21 Dec 2020 21:25 Непонятно и про бэкапы в оракле
В сиквеле бэкап ничего не останавливает и не требует consistency. Как записалась так записалось.

Consistency востанавливается во время restore в самом конце, когда делается redo/undo
Ну вообще то, останавливает. Перестает писаться база и пишется реду лог если я конечно не очень путаю. На транзакции это, естественно, не влияет, хотя почепму то иногда влияет на реплицировани.

А потом апплаится накопленный REDO. В оракле примерно так же. Вообще конечно там куча оптимизаций, возможно что RMAN умеет вытаскивать блоки из логов и знает что где лежит. Но суть то остается - замораживается в той или иной форме база на момент бэкапа (ну или дописываается UNDO рядом).

Сам процесс мне напомнил как наш клиент с нашего софта соскакивал. Три захода (их купили, у купившего свой софт). Сначала супер проект по миграции. А там документов - много миллионов, благо не в базе а в файлах (попытку китайцев писать в базу пришибли на взлете). Потратили кучу денег, ничегоо не вышло - не шмогла. Потом еще заход, другие индусы, тот же ауткам.

И наконец в третьем заходе кто то допер. Не надо мигрировать. Будем заводить по новой в новой системе (точнее старой но другой) когда экспирейшен случится. Так за год всех перезаведем. Ну и примерно так и вышло, хотя теперь онри ломают голову как взять для комплаенсов и сохранить на 7 лет 30 миллионов документов да еще и как их увязывать с объектами. Ну да это у них голова болит, я им обешал выдать тар файлы по 1 на месяц и пусть делают что хотят... А так, тупая миграция таких объемов - высший пилотаж и чаще носом в гранит.
StrangerR
Уже с Приветом
Posts: 38016
Joined: 14 Dec 2006 20:13
Location: USA

Re: Мы уходим с майнфрайм.

Post by StrangerR »

mskmel wrote: 22 Dec 2020 13:57
Flash-04 wrote: 22 Dec 2020 06:49 Так то оно так, а Oracle сильно ускорился с тех времен? Обычно продукты тяжелеют со временем :)
Те же БЛОБы планомерно перепилили на SecureFiles.
RAC на Экзадате заметно быстрее стал, не только потому что железки быстрее, но и за счёт новых механизмов.
Оптимизатор и само исполнение execution plan стали умнее.
У них выбора нет кроме как тюнить. Сейчас сильно продвигается Multi-Tenant, в т.ч. в их Клауде, а это не средняя мелкая базулька среднего клиента в одном инстансе часто надо одной VM, а сразу пучок PDB.

Тут в топике про GG zVlad спрашивает, так 11 и 19 GG вообще небо и земля.

Идея гонять Оракл на Azure VM мне не понятна, т.к. много датацентров Оракла рядом с Азур и имеют приличные линки между друг-другом.
Это мне и ораклисты говорили. Но цены, цены... Это надо и с Ораклом и с Азуром. Потом, если оракл не на экзадате то он супер быстрым не будет. А на экзадате он будет супер дорогим. Вообще у Оракла ценовая модель такая.. никто в ней до конца, по моему, разобраться не может. У нас клиенты массово ползут на MS SQL и... барабан... на Постгрес (видимо, сработало старое правило _если к кирпичу приделать моторчик то и кирпич самолет... ресурсы ныне дешевы особенно если не в AWS). Так то конечно, Ораклисты всех впечатляют цифрами. Но потом приходят финансисты, и тоже впечатляются, цифрами... (В итоге сколько я не искал клиентов желающих попробовать на оракл облаке - ни один сейлс такого не нашел, и с самой базой похоже аналогично).
Интересно как может быть облако соптимизироваno под какую угодно БД и что не могло бы быть сделано в другом облаке?
ну там уже ответили - экзадата. Сторейдж которая на уровне райд контроллера выполняет примитивы баз данных - запросы то база пилит на примитивы над одной табличкой, так вот эти примитивы выполняют дисковые полки прямо на себе. В итоге ускорение там просто фантастическое. Но дальше оракл хочет денег. Много денег. Очень много денег. И в итоге толку нуль от этой фичи. Так как ее никто кроме жирных котов получить не способен.
StrangerR
Уже с Приветом
Posts: 38016
Joined: 14 Dec 2006 20:13
Location: USA

Re: Мы уходим с майнфрайм.

Post by StrangerR »

starkiller wrote: 28 Dec 2020 18:41 Вопрос дилетанта... А почему у вас Оракл в Azure? У них ведь вроде есть свой клауд (OCI?), который теоретически соптимизирован под их же БД. Или с Оракл клауд есть какие-то known issues?
Ну у нас вот полиси _что клиент хочет то и сделаем_. Сделали POC и использовали - AWS, Азур, IBM облако (которое недоразумение ходячее). Сделали POC под Гугл и Алибабу.

Пришел Оракл, сказал _а давайте с нами_. Мы сказали _будет клиент - сделаем_. И за все время ни единый клиент не захотел. Где то была статья, объясняющая этот фантастичский просер Оракла. Вроде бы, оно из за их бизнес модели - то на чем они деньги получали как то не ложилось на модель облачного сервиса. Ну и цены, цены, я поглядел на цены на ихнюю _автономную базу_ тоже офигел.

Хотя конечно, у них позиция идеальная. Была.
- Линукс . СВой. хороший. даже с ZFS (в обычных лицензия не позволяет).
- База. Своя. Хорошая. Экзадата вообще дас ист фантастиш.
- Жаба. Своя. Хорошая.
- Даже Саны по идее ихние. И что бы не добавить в облако еще и способность хостить сан приложения.

И при всем том - фантастический рынок фейл. Я до конца так и не понял, как они такого добились. Но.. добились.

Return to “Вопросы и новости IT”