Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012) — различия между версиями

Материал из 0x1.tv

(Batch edit: replace == Слайды == with {{youtubelink|}} == Слайды ==)
== Аннотация ==
;Докладчик: {{Speaker|Евгений Кирпичёв}}
;Соавтор: Станислав Лагун
</span><blockquote>

В докладе пойдет речь о том, как разработать инфраструктуру для массивно-параллельных высокопроизводительных вычислений на кластере из многих тысяч ядер с сотнями одновременных задач очень разной и непредсказуемой длительности и степени параллелизма. Будут освещены наиболее интересные аспекты построения такой архитектуры:

* Достижение высокой надежности и производительности транспорта задач и результатов. Как можно построить такой транспорт поверх RabbitMQ ("из коробки" RabbitMQ, будучи лучшим продуктом в своем классе, все же оказывается весьма далек от требуемых качеств).
== Видео ==

{{vimeoembed|42760159|800|320}}




{{youtubelink|}}|yT8yMC11c-w}}

== Слайды ==

[[Файл:Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf|left|page=-|256px]]


{{----}}
== Примечания и отзывы ==
* Обсудить в блоге у автора → http://antilamer.livejournal.com/431555.html
* [http://addconf.ru/event.sdf/ru/add_3/authors/EugeneKirpitchev/783 Страничка доклада на сайте конференции]

<!-- <blockquote>[©]</blockquote> -->

<references/>


[[Категория:Программирование]]
[[Категория:ADD-2012]]

Версия 23:57, 2 июня 2016

Аннотация

Докладчик
Евгений Кирпичёв.jpg
Евгений Кирпичёв
Соавтор
Станислав Лагун

В докладе пойдет речь о том, как разработать инфраструктуру для массивно-параллельных высокопроизводительных вычислений на кластере из многих тысяч ядер с сотнями одновременных задач очень разной и непредсказуемой длительности и степени параллелизма. Будут освещены наиболее интересные аспекты построения такой архитектуры:

  • Достижение высокой надежности и производительности транспорта задач и результатов. Как можно построить такой транспорт поверх RabbitMQ ("из коробки" RabbitMQ, будучи лучшим продуктом в своем классе, все же оказывается весьма далек от требуемых качеств).
  • Отладка и анализ. Понимание поведения подобной большой системы требует специального инструментария. Мы расскажем об очень мощных инструментах логгирования и визуализации, позволяющих в большинстве случаев замечать даже довольно тонкие проблемы с первого взгляда на логи.
  • Под огромными нагрузками многие подсистемы на всех уровнях технологического стека начинают ломаться или вести себя неподобающе в неожиданных (или просто непродуманных) местах; рассказывается, как предвидеть и предотвращать подобные поломки под нагрузкой.

Целевая аудитория Разработчики больших распределенных систем. Сведения из доклада можно использовать по прямому назначению — для переиспользования описанных решений и ненаступания на описанные грабли в области, например, масштабируемого транспорта задач/результатов; в области отладки; в области capacity planning и предотвращения перегрузки подсистем.

Видео

on youtube

Слайды

Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012).pdf

Примечания и отзывы