Machine learning in practice – from PyTorch model to Kubeflow in the cloud for BigData

Machine learning in practice – from PyTorch model to Kubeflow in the cloud for BigData

In this book, the Chief Architect of the Department of Architecture and Management of Technical Architecture (Cloud Native Competence Center and the Corporate University of Architects) of Sberbank shares his knowledge and experience with readers in the field of ML. received in the work of the School of Architects and. Author: * guides the reader through the process of creating, learning and developing a neural network, showing in detail with examples * increases horizons, showing how it can take place in BigData from the point of view of the Architect * introduces real models of use in the product environment

Жанр: Программирование
Цикл: Не является частью цикла
Год публикации: 2020

Читать онлайн Machine learning in practice – from PyTorch model to Kubeflow in the cloud for BigData


About the book

The book is structured like a textbook – from simple to complex. The reader will be able to:

* in the first three chapters, create the simplest neural network for image recognition and classification,

* in the following – to delve into the device and architecture for optimization,

* further expand the understanding of the company's ecosystem as a whole, in which neural networks operate, as its integral part,

and she interacts with and uses surrounding technologies,

* finish the study by deploying a full-scale production system in the full-cycle cloud.

Almost every chapter begins with the general information needed for the practical part that follows. In the practical part:

* demonstrates the process of preparing the environment, but more often free ready-made cloud services are used,

* demonstrates the writing process when with a parsing of the written and an overview of alternative solutions,

* analysis of the result and the formation of a vision of options for further development.

The book consists of sections:

* Introduction to Machine Learning. This is the only chapter without a practical part to get you started.

understanding the limits of their applicability, advantages over other methods and their general structure for beginners. Also produced

classification of neural networks according to the principles laid down in them, and the selection of a group, which will be discussed in the book.

* Basics for writing networks. It provides the basic knowledge necessary to write the first network in PyTorch, familiarity with the development environment

Jupyter in the Google Colab cloud service, which is a simplified version of the Google ML cloud platform, running the code in it and using the PyTorch framework for writing neural networks.

* We create the first network. The author demonstrates for the reader's practice how to create a simple neural network on PyTorch in

Colab with a detailed analysis of the written code, training it on the MNIST image dataset and launch it.

* Improving the recognition of the neural network on complex images. Here the author demonstrates to the reader not practice

training and prediction of neural networks for color pictures, methods to improve the quality of network predictions. Understands in detail

device, pitfalls in writing and training effective neural networks.

* Modern architectures of neural networks. The architectural principles used in modern neural networks for

improving the quality of predictions. An analysis of various neural network architectures that have made a breakthrough in the quality of training is given.

and brought approaches. Various architectural universal quality enhancement patterns such as ensemble are discussed.

* Using pre-trained networks. The use of already trained layers in their networks is demonstrated.

* ML scaling. Examples of preparing the environment for launching them in a cloud infrastructure are given.

* Receiving data from BigData. It tells how you can connect to various sources from Jupyter

data, including BigData, for training models.

* Big data preparation. This section describes BigData technologies such as Hadoop and Spark, which

are data sources for training models.

* ML in an industrial environment. This section covers systems such as Kubeflow and MLflow. The reader can try to expand

platform, set up the learning process and run the model in the cloud, as is done in companies.

Introduction Machine Learning

Artificial intelligence is a field at the intersection of many sciences. One of the ways to achieve it is machine learning, when we supply it with data and, on its basis, we learn how to find solutions and identify patterns and data that were not there before. For training, statistical algorithms can be used, for example, in the R language, depth-first search in Prolog or breadth-first search in Refal, as well as adaptive structures – neural networks. Neural networks, depending on the tasks, will hide according to different principles, have a structure and learn in different ways. Recently, the greatest breakthrough has been received by neural networks of data representation (Representation learning), which are engaged in identifying patterns in information, since they cannot remember the information itself due to its size. Deep neural networks with many levels of features give great effects, features at subsequent levels are built on the basis of features from previous levels, which will be discussed in this chapter.


Вам будет интересно
In this book, the Chief Architect of the Cloud Native Competence Architecture Department at Sberbank shares his knowledge and experience with the reader on the creation and transition to the cloud ecosystem, as well as the creation and adaptation of applications for it. In the book, the author tries to lead the reader along the path, bypassing mistakes and difficulties. To do this, practical applications are demonstrated and explained so that the reader can use them as instructions for education...
Читать онлайн
In this book, the Chief Architect of the Department of Architecture and Management of Technical Architecture of the Cloud Native Competence Center of Sberbank shares the knowledge and experience with readers, accumulated in the development of their own and assessment of other people's architectures, providing a basis for professional and career growth....
Читать онлайн
In this book, the chief Architect of the Cloud Native Competency Architecture Department at Sberbank shares the knowledge and experience with readers gained in developing their own and evaluating other people's architectures, providing a basis for professional and career growth....
Читать онлайн
В практике разработки ПО зачастую встает задача динамической модификации программного кода в зависимости от текущих или настраиваемых значений параметров. Для решения этой задачи широко используются обратные вызовы. В языке C++ обратные вызовы реализуются различными способами, и далеко не всегда очевидно, какой из них лучший для конкретной ситуации. В книге рассмотрены теоретические и практические аспекты организации обратных вызовов, проанализированы достоинства и недостатки различных реализаци...
Читать онлайн
Python является наиболее популярным языком программирования, используемым для объектно-ориентированного программирования. И конечно, Python – это интерактивный язык программирования, который предоставляет широкий спектр возможностей для создания GUI (Graphical User Interface) и разработки настольных приложений. В этой книге вы познакомитесь с различными фреймворками Python для создания настольных приложений с графическим интерфейсом пользователя, такими как PyQt, PySide, Tkinter, Kivy, WxPython ...
Читать онлайн
Apache Hadoop – это платформа для распределенной обработки больших наборов данных на кластерах компьютеров с использованием простых моделей программирования. В этой книге вы познакомитесь с общей архитектурой платформы, компонентами стека, такими как HDFS и MapReduce, приложениями Hadoop....
Читать онлайн
This book will provide you with basic knowledge and skills in Python programming, covering topics such as variables, numbers, strings, booleans, conditional statements, loops, lists, dictionaries, functions, classes and objects, modules, and packages.Every chapter is wrapped up with a small test. Detailed explanations and practical examples accompany every topic to ensure you acquire an essential Python coding skill upon completing the book.This book is excellent for everyone who wants to learn ...
Читать онлайн
Льюис Кэрролл как-то сказал: «Здесь приходится бежать со всех ног, чтобы только оставаться на месте, а чтобы куда-то попасть, надо бежать как минимум вдвое быстрее».ЭТО МИР IT. МИР, ГДЕ ТЕХНОЛОГИИ РАЗВИВАЮТСЯ БЫСТРЕЕ, ЧЕМ ВЫРАСТАЮТ НОВЫЕ ПОКОЛЕНИЯ.Елена Правдина – профессиональный разработчик с опытом работы более 10 лет, включая порталы Videomore.ru, СТС, Wifire TV Lite, video.khl.ru, создатель HTML5-плеера для КХЛ, ОТР, СТС, а также Smart TV-приложений, фронтенд-разработчик Яндекс. В своей кни...
Читать онлайн
В данном пособии приведен необходимый учебный материал для изучения основ программирования на Java в среде разработки NetBeans. Особенность пособия заключается в его направленности на быструю начальную разработку программ с графическим интерфейсом, что позволяет в дальнейшем без проблем изучать и осваивать более сложный теоретический материал и технологии программирования на Java....
Читать онлайн
Лекции по Си и C++ для начинающих. Рассмотрены основные темы и простейшие примеры, работающие на современных компиляторах....
Читать онлайн
Основы программирования на Python3 с визуальными компонентами PyQt5 (для PyCharm Community)....
Читать онлайн
Быть рыцарем есть величайшая честь и долг! Не каждый способен достойно нести возложенные на плечи обязанности. Стойко сопротивляться козням врагов, превозмогать человеческие слабости, всегда сохранять высокий дух бесстрашного борца за правду и справедливость. Тот, кто может этим похвастать, есть величайший герой!...
Читать онлайн
Кейдж Ха́рман – совершенно необычная девочка со странной внешностью и умением постоянно вляпываться в истории. Всю свою пятнадцатилетнюю жизнь Кейдж считалась объектом нескончаемых шуток со стороны сверстников, а когда перешла в девятый класс средней школы провинциального городка Янкра́с, то издевательства только усилились. Старший брат Шон, старушка Лиэ́норри и тракененский жеребец по кличке Цвейг, пожалуй, единственные верные друзья, готовые всегда прийти на помощь. Скучные унылые будни могли ...
Читать онлайн
Свадьба не состоится, но зачем отменять запланированный медовый месяц? София Холлингсворт отправляется в свадебное путешествие одна и знакомится с Томасом Мендозой, человеком хмурым, неразговорчивым, но очень привлекательным. Несколько дней, проведенных вместе, изменяют жизнь Софии и Томаса. Но они оба боятся любви и оба хранят свои тайны…...
Читать онлайн
Читателю никогда не приходится рассчитывать на то, что поэт напишет собственную автобиографию; в большинстве случаев поэты никогда этого и не делают. Поэту же, по большому счету, никогда не приходится рассчитывать на то, что ему будет предоставлено право представить читателю собственную жизнь так, как сам поэт пожелал бы. Долгосрочный проект Линор Горалик «Частные лица: биографии поэтов, рассказанные ими самими» – это попытка предоставить сегодняшним поэтам свободу рассказать о себе на своих усл...
Читать онлайн