Вопрос по Big Data

User avatar
Dmitry67
Уже с Приветом
Posts: 28294
Joined: 29 Aug 2000 09:01
Location: SPB --> Gloucester, MA, US --> SPB --> Paris

Вопрос по Big Data

Post by Dmitry67 »

Подскажите, как хранить 157,5 эксабайт?

http://www.rbc.ru/newspaper/2016/05/17/ ... 8eecf3214e" onclick="window.open(this.href);return false;

Нет, серьезно, допустим такая задача стоит и денег мы не считаем
Какие есть решения?
Какие файловые системы осилят?
Зарегистрированный нацпредатель, удостоверение N 19719876044787 от 22.09.2014
User avatar
Flash-04
Уже с Приветом
Posts: 63430
Joined: 03 Nov 2004 05:31
Location: RU -> Toronto, ON

Re: Вопрос по Big Data

Post by Flash-04 »

Гугел: 1 миллион серверов * 100Tb (от балды)= 100 Eb, как раз то что нужно :D
Not everyone believes what I believe but my beliefs do not require them to.
User avatar
Dmitry67
Уже с Приветом
Posts: 28294
Joined: 29 Aug 2000 09:01
Location: SPB --> Gloucester, MA, US --> SPB --> Paris

Re: Вопрос по Big Data

Post by Dmitry67 »

Вряд ли в среднем больше 1тб
Зарегистрированный нацпредатель, удостоверение N 19719876044787 от 22.09.2014
null
Уже с Приветом
Posts: 2406
Joined: 09 Jul 2001 09:01

Re: Вопрос по Big Data

Post by null »

Last edited by null on 17 May 2016 16:57, edited 1 time in total.
sp123
Уже с Приветом
Posts: 1962
Joined: 24 Feb 2001 10:01
Location: Челябинск -> Everett, WA

Re: Вопрос по Big Data

Post by sp123 »

Linky no worky
null
Уже с Приветом
Posts: 2406
Joined: 09 Jul 2001 09:01

Re: Вопрос по Big Data

Post by null »

sp123 wrote: Linky no worky
починил
User avatar
flip_flop
Уже с Приветом
Posts: 4379
Joined: 20 Jun 2001 09:01

Re: Вопрос по Big Data

Post by flip_flop »

Dmitry67 wrote:Вряд ли в среднем больше 1тб
Тю, у меня уже несколько лет в десктопе стоит очень быстрый PCIe SSD 2 TB на обычной flash памяти, сейчас его обновление имеет 4 ТБ. Samsung выпустил 16 ТБ в формате 2.5-inch. Всего лишь шесть таких карточек на сервере и 100 ТБ на сервер, как советовал Flash-04, уже набрано. Всего лишь миллион :D таких серверов, и дело в кармане. С развитием 3D электроники и экзотических технологий (типа упомянутых PCM) можно ожидать и больших объёмов памяти на карточку. Правда и проблемы растут снежным комом (надёжность, например), но это нормально. Придётся менять File System (e.g. XFS vs Ext4) и дорабатывать распределённые файловые системы наверное, но это мелочи :D
User avatar
Dmitry67
Уже с Приветом
Posts: 28294
Joined: 29 Aug 2000 09:01
Location: SPB --> Gloucester, MA, US --> SPB --> Paris

Re: Вопрос по Big Data

Post by Dmitry67 »

Понятно. Значит Яровая просто визионер
Зарегистрированный нацпредатель, удостоверение N 19719876044787 от 22.09.2014
User avatar
flip_flop
Уже с Приветом
Posts: 4379
Joined: 20 Jun 2001 09:01

Re: Вопрос по Big Data

Post by flip_flop »

Не, ну на сегодня эадача неисполнимая. Например, всего лишь одна известная мне распределённая файловая система (Lustre) теоретически поддерживает "всего лишь" 16 EB. Потом, можно посчитать стоимость , "чую с гибельным восторгом". И так далее. Но в будущем, может быть и недалёком, да, возможно, я надеюсь.
User avatar
Flash-04
Уже с Приветом
Posts: 63430
Joined: 03 Nov 2004 05:31
Location: RU -> Toronto, ON

Re: Вопрос по Big Data

Post by Flash-04 »

миллион серверов я взял не с потолка, у Goole вроде как всего 900,000 серверов по всему миру. Но речь то не о том, а о том что заботливые власти начали прикидывать что надо бы все разговоры граждан складывать для анализа.
Not everyone believes what I believe but my beliefs do not require them to.
User avatar
flip_flop
Уже с Приветом
Posts: 4379
Joined: 20 Jun 2001 09:01

Re: Вопрос по Big Data

Post by flip_flop »

Samsung предсказывает, что к 2020 году продукция всех NAND Flash будет примерно 235 EB в год. Страшно подумать, но на огромную заботу отдельных властей должно уйти больше половины этого ресурса :)
User avatar
Мальчик-Одуванчик
Уже с Приветом
Posts: 15526
Joined: 27 Sep 2007 22:53

Re: Вопрос по Big Data

Post by Мальчик-Одуванчик »

А что, типа на ленту нельзя скидывать? Fujitsu анонсировала 154Тв на картридже.
iDesperado
Уже с Приветом
Posts: 1349
Joined: 28 Nov 2008 17:50

Re: Вопрос по Big Data

Post by iDesperado »

Dmitry67 wrote:Подскажите, как хранить 157,5 эксабайт?

http://www.rbc.ru/newspaper/2016/05/17/ ... 8eecf3214e" onclick="window.open(this.href);return false;

Нет, серьезно, допустим такая задача стоит и денег мы не считаем
Какие есть решения?
Какие файловые системы осилят?
а какие проблемы ? никто же не просит обрабатывать эту дребидень. упаковал avro файлики на ленты и храни. органы запросили за какой-то период - перекинул на hdfs для посмотреть.
User avatar
perasperaadastra
Уже с Приветом
Posts: 20128
Joined: 21 Feb 2009 22:55
Location: Лох Онтарио

Re: Вопрос по Big Data

Post by perasperaadastra »

Dmitry67 wrote:Понятно. Значит Яровая просто визионер
Это не она "бешеный принтер"?
blanko27
Уже с Приветом
Posts: 2264
Joined: 17 Jun 2003 04:41
Location: Just like US

Re: Вопрос по Big Data

Post by blanko27 »

Надо НДС (VAT/GST/и т.п.) такой ввести - купил новый хард драйв - 10% отдай под хранение гос. информации. :umnik1:
...а мы такой компанией, возьмем, да и припремся к Элис!

Return to “Вопросы и новости IT”