Тот, у кого в руке молоток, во всём видит гвоздь! Глупо? А что, если это не молоток, а универсальный инструмент, который может быть и бензопилой, и пылесосом, и зубной щёткой? В мире Big Data есть Hadoop и целый зоопарк инструментов, которые на него пашут, и каждый заточен под что-то своё. А ещё там недавно появился Spark, который можно применять для любых целей.
Если вы хотите писать в Hadoop с различных БД, стримить всякие источники в реальном времени, параллельно делать с данными какую-нибудь сложную обработку, и не при помощи каких-то батчей, скриптов и SQL-запросов, а при помощи мощного функционального языка - добро пожаловать в Spark!
Данный доклад познакомит вас со Spark: как он работает, какие задачи он способен выполнять, как им правильно пользоваться. Мы обсудим проблемы и решения, с которыми поначалу сталкиваются неопытные Spark-разработчики. Разберемся с его синтаксисом и всякими хитростями.
Будет много live coding, и в конечном итоге вы выйдете с этого доклада с достаточными знаниями, чтобы начать самостоятельно работать на Spark.