Вопрос по Big Data
-
- Уже с Приветом
- Posts: 28294
- Joined: 29 Aug 2000 09:01
- Location: SPB --> Gloucester, MA, US --> SPB --> Paris
Вопрос по Big Data
Подскажите, как хранить 157,5 эксабайт?
http://www.rbc.ru/newspaper/2016/05/17/ ... 8eecf3214e" onclick="window.open(this.href);return false;
Нет, серьезно, допустим такая задача стоит и денег мы не считаем
Какие есть решения?
Какие файловые системы осилят?
http://www.rbc.ru/newspaper/2016/05/17/ ... 8eecf3214e" onclick="window.open(this.href);return false;
Нет, серьезно, допустим такая задача стоит и денег мы не считаем
Какие есть решения?
Какие файловые системы осилят?
Зарегистрированный нацпредатель, удостоверение N 19719876044787 от 22.09.2014
-
- Уже с Приветом
- Posts: 63430
- Joined: 03 Nov 2004 05:31
- Location: RU -> Toronto, ON
Re: Вопрос по Big Data
Гугел: 1 миллион серверов * 100Tb (от балды)= 100 Eb, как раз то что нужно 

Not everyone believes what I believe but my beliefs do not require them to.
-
- Уже с Приветом
- Posts: 28294
- Joined: 29 Aug 2000 09:01
- Location: SPB --> Gloucester, MA, US --> SPB --> Paris
Re: Вопрос по Big Data
Вряд ли в среднем больше 1тб
Зарегистрированный нацпредатель, удостоверение N 19719876044787 от 22.09.2014
-
- Уже с Приветом
- Posts: 2406
- Joined: 09 Jul 2001 09:01
-
- Уже с Приветом
- Posts: 1962
- Joined: 24 Feb 2001 10:01
- Location: Челябинск -> Everett, WA
-
- Уже с Приветом
- Posts: 2406
- Joined: 09 Jul 2001 09:01
-
- Уже с Приветом
- Posts: 4379
- Joined: 20 Jun 2001 09:01
Re: Вопрос по Big Data
Тю, у меня уже несколько лет в десктопе стоит очень быстрый PCIe SSD 2 TB на обычной flash памяти, сейчас его обновление имеет 4 ТБ. Samsung выпустил 16 ТБ в формате 2.5-inch. Всего лишь шесть таких карточек на сервере и 100 ТБ на сервер, как советовал Flash-04, уже набрано. Всего лишь миллионDmitry67 wrote:Вряд ли в среднем больше 1тб


-
- Уже с Приветом
- Posts: 28294
- Joined: 29 Aug 2000 09:01
- Location: SPB --> Gloucester, MA, US --> SPB --> Paris
Re: Вопрос по Big Data
Понятно. Значит Яровая просто визионер
Зарегистрированный нацпредатель, удостоверение N 19719876044787 от 22.09.2014
-
- Уже с Приветом
- Posts: 4379
- Joined: 20 Jun 2001 09:01
Re: Вопрос по Big Data
Не, ну на сегодня эадача неисполнимая. Например, всего лишь одна известная мне распределённая файловая система (Lustre) теоретически поддерживает "всего лишь" 16 EB. Потом, можно посчитать стоимость , "чую с гибельным восторгом". И так далее. Но в будущем, может быть и недалёком, да, возможно, я надеюсь.
-
- Уже с Приветом
- Posts: 63430
- Joined: 03 Nov 2004 05:31
- Location: RU -> Toronto, ON
Re: Вопрос по Big Data
миллион серверов я взял не с потолка, у Goole вроде как всего 900,000 серверов по всему миру. Но речь то не о том, а о том что заботливые власти начали прикидывать что надо бы все разговоры граждан складывать для анализа.
Not everyone believes what I believe but my beliefs do not require them to.
-
- Уже с Приветом
- Posts: 4379
- Joined: 20 Jun 2001 09:01
Re: Вопрос по Big Data
Samsung предсказывает, что к 2020 году продукция всех NAND Flash будет примерно 235 EB в год. Страшно подумать, но на огромную заботу отдельных властей должно уйти больше половины этого ресурса 

-
- Уже с Приветом
- Posts: 15526
- Joined: 27 Sep 2007 22:53
Re: Вопрос по Big Data
А что, типа на ленту нельзя скидывать? Fujitsu анонсировала 154Тв на картридже.
-
- Уже с Приветом
- Posts: 1349
- Joined: 28 Nov 2008 17:50
Re: Вопрос по Big Data
а какие проблемы ? никто же не просит обрабатывать эту дребидень. упаковал avro файлики на ленты и храни. органы запросили за какой-то период - перекинул на hdfs для посмотреть.Dmitry67 wrote:Подскажите, как хранить 157,5 эксабайт?
http://www.rbc.ru/newspaper/2016/05/17/ ... 8eecf3214e" onclick="window.open(this.href);return false;
Нет, серьезно, допустим такая задача стоит и денег мы не считаем
Какие есть решения?
Какие файловые системы осилят?
-
- Уже с Приветом
- Posts: 20128
- Joined: 21 Feb 2009 22:55
- Location: Лох Онтарио
Re: Вопрос по Big Data
Это не она "бешеный принтер"?Dmitry67 wrote:Понятно. Значит Яровая просто визионер
-
- Уже с Приветом
- Posts: 2264
- Joined: 17 Jun 2003 04:41
- Location: Just like US
Re: Вопрос по Big Data
Надо НДС (VAT/GST/и т.п.) такой ввести - купил новый хард драйв - 10% отдай под хранение гос. информации. 

...а мы такой компанией, возьмем, да и припремся к Элис!