Введение
Мы постоянно сталкиваемся с различными проблемами и стремимся решать их, используя своевременные технологии. Каждый из нас знает, что многие повседневные задачи решаются спонтанно и быстро, часто без осознанного усилия. Это объясняется тем, что с рождения мы учимся справляться с подобными проблемами, поэтому наши решения закодированы в нейронных клетках мозга. Для решения сложных задач, особенно в науке или технике, требуется глубокое размышление и, возможно, проведение обширных исследований. Но как же быть, если...
Ключевые идеи
- От данных к решениям: многообразие подходов в машинном обучении
- От сбора данных до развертывания модели: Этапы создания машинного обучения
- Математические понятия, переменные и пространства
- Основы подготовки к обучению моделей машинного обучения
- Физика и данные: моделирование взаимосвязей
- Об учебнике
Практическое задание
Задайте два вектора признаков, вычислите скалярное произведение, нормы и объясните, что означает расстояние между ними. Свяжите результат с главой "Введение".
Введение
Интуитивное мышление и машинное обучение: Пути к решению сложных задачМы постоянно сталкиваемся с различными проблемами и стремимся решать их, используя своевременные технологии. Каждый из нас знает, что многие повседневные задачи решаются спонтанно и быстро, часто без осознанного усилия. Это объясняется тем, что с рождения мы учимся справляться с подобными проблемами, поэтому наши решения закодированы в нейронных клетках мозга.
Для решения сложных задач, особенно в науке или технике, требуется глубокое размышление и, возможно, проведение обширных исследований. Но как же быть, если необходимо быстро и корректно отвечать на сложные вопросы? Некоторые учёные и инженеры могут это делать, но только в рамках своей специализации, благодаря интенсивной подготовке или обучению на специализированных курсах.
А что, если обычный человек тоже хочет уметь решать сложные задачи с такой же скоростью и эффективностью? Один из путей — пройти специализированный курс обучения. В качестве альтернативы может выступать машинное обучение, предполагающее разработку компьютерной модели с механизмом, способным обучаться на основе опыта или данных для обеспечения быстрого и надёжного решения определённых задач.
Решение проблем в науке или технике обычно намного сложнее. Это связано с тем, что мы, люди, можем лишь испытывать или наблюдать явления, связанные с этими проблемами. Однако многие явления трудно наблюдать, и их основа заключается в сложной логике. Ученые стараются раскрыть эту логику, разрабатывая теории (или законы, или принципы), которые могут помочь наилучшим образом описать эти явления. Затем эти теории формулируются в виде алгебраических, дифференциальных или интегральных уравнений системы, управляющих ключевыми переменными, участвующими в явлениях. Следующий шаг — поиск метода, который позволит решить эти уравнения для переменных, изменяющихся в пространстве и времени. Последний шаг — это проверка теории через наблюдения и/или эксперименты, измеряющие значения этих переменных.
Подтвержденная теория используется для создания моделей, решающих проблемы, в которых наблюдаются аналогичные явления. Такой тип модели называется моделью, основанной на физическом Основанной на физических законах.
Описанный процесс — это то, чем занимались люди, стремясь понять природу, и к настоящему времени мы достигли значительного прогресса. В ходе этого процесса было создано множество исследовательских областей, таких как физика, математика, биология и др., которые теперь являются науками.
Однако понимание природы — лишь часть задачи. Люди стремятся изобретать и создавать новое. Глубокое понимание различных явлений позволяет нам это делать, и мы построили всё вокруг нас: здания, мосты, самолеты, космические станции, автомобили, корабли, компьютеры, мобильные телефоны, интернет, системы связи, энергетические системы и многое другое. В этом процессе мы создали множество направлений развития, которые называем инженерией.
Понимание биологии помогло нам разработать лекарства, методы лечения заболеваний у людей и животных, а также способы лечения растений и окружающей среды, включая разработку соответствующих политик и стратегий. В ходе этого процесса мы создали множество областей исследований, включая медицину, сельское хозяйство и экологию.
В истории человечества было разработано бесчисленное количество теорий, законов, методов, технологий и т. д. В различных областях науки, техники и биологии. Необходимо лишь дать общее представление о том, как можно решить задачу, опираясь на законы физики.
Следует отметить, что в природе, технике и обществе существует множество проблем, для которых сложно найти подходящие законы физики для точного и эффективного решения. Поэтому важно разрабатывать альтернативные подходы.
1.2 От данных к решениям: многообразие подходов в машинном обучении
В сфере науки, техники, биологии и повседневной жизни существует множество сложных проблем, для решения которых либо неизвестны управляющие физические законы, либо решения уравнений, основанных на этих законах, слишком трудозатратные. Тем не менее, для таких задач часто имеются данные, полученные в результате наблюдений, измерений или из исторических записей. Если данных достаточно и они качественные, можно разработать компьютерные модели, обучающиеся на этих данных.
Разработаны различные типы эффективных искусственных нейронных сетей (NNs, от англ. Neural Networks) с разнообразными конфигурациями для решения практических задач, включая многослойные перцептроны (MLP, от англ. Multilayer Perceptron), свёрточные нейронные сети (CNNs, от англ. Convolutional Neural Networks) и рекуррентные нейронные сети (RNNs, от англ. Recurrent Neural Networks).
Машинное обучение имитирует процесс обучения биологического мозга, который может содержать огромное количество нейронов. С точки зрения использования данных, основные категории машинного обучения включают: обучение с учителем, использующее данные с истинными метками; неконтролируемое обучение, использующее данные без меток; и обучение с подкреплением, использующее предопределенную среду.
Рассмотрим многообразие подходов в машинном обучении для решения разнообразных аналитических задач. К задачам относятся бинарная классификация (разделение данных на два класса), многоклассовая классификация (разделение данных на более чем два класса), кластеризация (группировка данных на основе их сходства), регрессия (предсказание непрерывных значений), извлечение признаков (определение наиболее значимых атрибутов данных), обнаружение аномалий (выявление необычных или отклоняющихся данных) и обратный анализ (определение причинно-следственных связей).
В качестве методологий и алгоритмов можно перечислить линейную и логистическую регрессии (для предсказания значений или вероятностей соответственно), деревья решений (модели, представляющие решения в виде ветвящихся структур), машины опорных векторов (алгоритмы, ищущие наилучшую разделяющую гиперплоскость между классами), наивный Байес (простой вероятностный классификатор), многослойные перцептроны и искусственные нейронные сети (комплексные сети для аппроксимации функций), метод k-ближайших соседей (классификация на основе близости к образцам), случайный лес (ансамбль деревьев решений), алгоритмы Gradient Boosting (последовательное улучшение моделей с минимизацией ошибок), анализ главных компонент (сокращение размерности данных), K-means и Mean-Shift (методы кластеризации), автоэнкодеры (нейронные сети для сжатия и восстановления данных) и Марковский процесс принятия решений (моделирование последовательности решений с учётом вероятностей переходов). Некоторые из этих алгоритмов будут рассмотрены в этой книге.
В этом учебнике основное внимание будет уделено моделям на основе нейронных сетей, поскольку они позволяют создавать строгие теории и предсказательные модели. Машинное обучение является активной областью исследований и разработок, где изучаются новые модели, включая когнитивные модели машинного обучения. Однако в данном учебнике темы манипулирования различными моделями машинного обучения рассматриваться не будут.
1.3 От сбора данных до развертывания модели: Этапы создания машинного обучения
Процесс обучения моделей машинного обучения является комплексным и многоэтапным, включающим в себя следующие ключевые шаги:Сбор данных: Это первый и один из самых важных этапов, который предполагает сбор достаточного количества качественных данных, необходимых для обучения модели. Данные могут быть получены различными способами: через непосредственный сбор с помощью сенсоров или опросов, импорт из открытых или коммерческих баз данных, а также с помощью методов компьютерного синтеза, когда реальные данные дополняются искусственно сгенерированными примерами для увеличения объема и разнообразия обучающей выборки.
Предобработка данных: На этом этапе данные очищаются от ошибок, аномалий и пропусков. Это может включать нормализацию, стандартизацию, удаление дубликатов, обработку пропущенных значений и другие техники предварительной обработки, целью которых является улучшение качества и однородности данных перед их использованием в модели.
Выбор модели: Здесь определяется структура модели машинного обучения, что включает выбор типа алгоритма (например, линейная регрессия, нейронные сети, деревья решений) и гипотезы, которая лучше всего подходит для решения поставленной задачи на основе имеющихся данных.
Настройка алгоритма: На этом этапе разрабатывается или выбирается алгоритм обучения, который будет использоваться для настройки параметров модели. Важно учитывать баланс между способностью модели к обучению (которая зависит от количества параметров и сложности модели) и размером доступного набора данных, чтобы избежать переобучения. При необходимости применяются методы регуляризации для улучшения обобщающей способности модели.
Инициализация модели: Перед началом обучения параметры модели инициализируются. Это может быть выполнено путем случайного выбора начальных значений или использования параметров из предварительно обученной модели, что особенно актуально в случаях, когда доступно недостаточно обучающих данных для обучения модели с нуля.
Обучение модели: Во время этого процесса модель обучается на подготовленном наборе данных с использованием выбранного алгоритма оптимизации. Обучение включает в себя корректировку параметров модели таким образом, чтобы минимизировать разницу между предсказанными и реальными значениями (ошибка модели) на обучающем наборе данных.
Тестирование модели: После обучения модель оценивается на независимом тестовом наборе данных, который не использовался в процессе обучения. Это позволяет проверить, насколько хорошо модель обобщает полученные знания на новых данных и выявить возможное переобучение.
Развертывание модели: После успешного тестирования модель готова к развертыванию в реальных условиях для решения аналогичных задач. Развертывание может включать интеграцию модели в производственные системы, разработку соответствующего программного обеспечения или внедрение модели в устройства и приложения, где она будет использоваться для автоматического принятия решений или предоставления рекомендаций на основе новых данных.
1.4 Математические понятия, переменные и пространства
Для удобства обсуждения в этой книге будут использоваться определенные переменные и пространства. Отмечается, что в книге рассматриваются только вещественные числа, за исключением случаев, когда необходимы геометрически замкнутые операции. Рассмотрим два примера.
Пример-1, регрессия: Представим, что компания производит спортивное оборудование и хочет разработать модель машинного обучения для прогнозирования продолжительности службы кроссовок в зависимости от типа материала, веса и типа подошвы. Цель состоит в том, чтобы предсказать, сколько километров бега кроссовки выдержат до критического износа. Для этого проводится серия испытаний с различными комбинациями материалов, веса и подошв, в результате которых собирается набор данных из 10 000 точек, каждая из которых содержит упомянутые характеристики и фактический пробег до критического износа. Эти данные используются для обучения и проверки регрессионной модели.
Пример-2, классификация: Предположим, в медицинском учреждении необходимо автоматизировать процесс диагностики болезней на основе результатов анализов крови. Задача модели машинного обучения — классифицировать анализы на "нормальные" и "патологические", исходя из уровней гемоглобина, количества лейкоцитов и показателей СОЭ (скорость оседания эритроцитов). Для этого собираются данные анализов крови 10 000 пациентов, для каждого из которых зафиксированы уровни указанных параметров и диагноз, поставленный врачом. Этот набор данных, содержащий как метки классов (норма или патология), так и измеренные параметры, используется для обучения классификационной модели, способной автоматизировать процесс первичной диагностики на основе анализов крови.
Эти примеры помогают понять типичные задачи, которые можно эффективно решить с помощью модели машинного обучения.
1.4.1 Пространство признаков
В машинном обучении используются наборы данных, содержащие наблюдаемые или измеряемые p переменных вещественных чисел в пространстве вещественных чисел R, которые часто называют признаками. В наших двух примерах p = 3. Мы можем определить p-мерное пространство признаков Xp которое является векторным пространством над вещественными числами из R с определенным внутренним произведением. Вектор в Xpдля произвольной точки (x1 , x2 ,... , xp) записывается как x = [x1 , x2 ,... , xp ], x ∈Xp
Начало координат Xpнаходится в точке x = [0, 0,..., 0], что является стандартным для всех векторных пространств. Обратите внимание, что мы по умолчанию определяем все векторы как строки, как это обычно делается в программировании на Python. Вектор-столбец рассматривается как особый случай матрицы с одним столбцом и множеством строк. Понятно, что пространство признаков Xp является специальным (с определенными векторными операциями) случаем вещественного пространства Rp Таким образом, Xp⊂Rp .
Также xi(i = 1, 2,... , p) называют линейными базисными функциями (не путать с базисными векторами), поскольку линейная комбинация xi дает новый вектор x, который по-прежнему находится в Xp.
Точка данных xi с p признаками - это дискретная точка в пространстве, и соответствующий вектор xi выражается как
xi = [xi1 , xi2 ,... , xip ], xi∈Xp, ∀i = 1, 2,... ,m
где m - количество измерений, наблюдений или точек данных в наборе данных. Его также часто называют количеством выборок в наборе данных. Для этих двух примеров m = 10 000.
Точки данных xi (i = 1, 2,... , m) могут быть сложены в набор данных, обозначенный как X∈Xp . Это сделано для удобства формулировки. Мы не формируем такую матрицу при вычислениях, поскольку она обычно очень велика для больших наборов данных с большим m.
1.4.2 Аффинное пространство
Аффинное пространство Xp – это концепция, используемая в машинном обучении для описания расширенного пространства признаков. На практике это означает, что к обычному пространству признаков Xp, состоящему из p измерений, добавляется дополнительное измерение, чтобы включить постоянную величину (часто это делается для учета свободного члена в линейной модели). Этот константный член обозначается как x0 ему традиционно присваивается значение 1. Таким образом, вектор признаков в аффинном пространстве принимает форму x = [1, xi1, xi2,...,xip].
Этот дополненный вектор признаков представляет собой полный базис линейных функций. Что позволяет строить любую линейную функцию в пространстве признаков. Наличие единицы в начале каждого вектора признаков обеспечивает возможность выполнения аффинных преобразований, которые включают в себя не только линейные операции, такие как масштабирование и вращение, но и сдвиг, что важно для многих задач машинного обучения.
Аффинное пространство отличается от векторного тем, что в нем нет четко определенной точки начала (нулевой вектор). В аффинном пространстве сумма двух векторов не обязательно будет принадлежать этому же пространству, и само аффинное пространство не включает нулевой вектор.
В рамках аффинного пространства Xp, вектор принадлежит расширенному пространству Xp+1, но его конец ограничен гиперплоскостью x0=1. В учебной литературе такое пространство иногда описывается как имеющее «псевдо измерение», которое на одно меньше его истинной размерности.
В теории аппроксимации функций, матрица моментов, которая собирается из набора точек данных xi (где i=1,2,...,m), представляет собой удобный способ организации данных для формулировки задачи аппроксимации. В вычислительной практике, однако, такая матрица может не формироваться явно, но служит теоретической основой для построения и решения проблем машинного обучения.
Важно отметить, что аффинные преобразования, сохраняющие аффинные свойства пространства, играют важную роль в многих аспектах машинного обучения, и их свойства и применение будут детально рассмотрены в последующих главах книги.
1.4.2 Пространство меток
Пространство меток Yk, : Рассмотрим размеченный набор данных для создания модели машинного обучения под руководством учителя. Введем переменные (y1,y2,…,yk), представляющие собой вещественные числа в R. Для примера-1 k=2, мы можем определить пространство меток Yk над вещественными числами. Это векторное пространство. Вектор в пространстве Yk может быть записан как y=(y1,y2,…,yk),yy∈Yk∈Rk
В наборе данных метка связана с точкой данных. Метка для точки данных xi, обозначаемая как yi, может быть выражена как
y1=[y1i,y2i,…,yki], yi∈Yk,∀i=1,2,…,m
Для примера-1, значения yij (i = 1, 2, …, 10000; j = 1) представляют собой 10000 вещественных чисел в пространстве Yk. Для примера-2, каждая метка, yi1 или yi2, может принимать значение 0 или 1, однако метки всё равно рассматриваются в контексте пространства Yk.
Эти метки yi, (где i=1,2,…,m) могут быть собраны в набор меток Y∈Y2.хотя на практике мы не всегда будем делать это в вычислениях.
Типично, аффинные преобразования завершаются на выходном слое нейронной сети и создают вектор в пространстве меток, чтобы затем можно было построить функцию потерь для "конечного контроля".
1.4.3 Пространство гипотез
Параметры обучения w в модели машинного обучения являются непрерывными переменными, существующими в пространстве гипотез, обозначаемом как W P над вещественными числами.
Параметры обучения также называются обучаемыми параметрами. Мы используем эти термины как взаимозаменяемые. К обучаемым параметрам относятся веса и смещения в каждом слое. Знак "шапка" над w подразумевается, что это совокупность всех весов и смещений, поэтому для всех параметров обучения мы используем единое обозначение в виде вектора. Их размерность P зависит от типа используемой гипотезы, включая конфигурацию нейронных сетей или моделей машинного обучения. Эти параметры всегда работают с векторами признаков, в результате чего получаются промежуточные векторы признаков в новом пространстве признаков или в пространстве меток, через правильно спроектированную архитектуру.
Эти параметры необходимо обновлять, что включает векторные операции. Для обеспечения сходимости важно, чтобы вектор всех параметров обучения обладал важными векторными свойствами, такими как скалярное произведение, наличием нормы и выполнением неравенства Коши-Шварца и т.д. Мы будем проводить такие доказательства неоднократно в этом учебнике. Следовательно, мы требуем, чтобы W P было векторным пространством, так что чтобы каждое обновление текущих параметров обучения приводило бы к новым параметрам, которые все еще находятся в том же векторном пространстве, пока они не сойдутся.
Обратите внимание, что параметры обучения, как правило, представляют собой матрицы или столбцовые векторы (которые можно рассматривать как специальный случай матрицы). В типичной модели машинного обучения может быть несколько матриц разных размеров. Эти матрицы формируют аффинные преобразования, которые действуют на признаки в аффинных пространствах. Компонент в “векторе” пространства гипотез может фактически быть матрицей, и поэтому его не так просто интуитивно понять. Проще всего (и это валидно) “сплющить” все матрицы, а затем “соединить” их вместе, чтобы сформировать высокий вектор, а затем обрабатывать его как обычный вектор. Такой тип сплющивания и соединения мы выполняем постоянно в Python. Таким образом, сплющенный высокий вектор w в пространстве гипотез W Pможно записать общим образом как: w= [w0, w1,..., wp ]⊺ ∈W P.
В последующих главах мы обсудим подробнее W Pдля различных моделей, включая оценку размерности P .
1.4.3 Математическое моделирование в машинном обучении: от гипотезы до оптимизации
Наконец, мы можем математически определить модели машинного обучения (ML) для прогнозирования как оператор отображения:Это означает, что ML-модель M использует набор данных X с метками Y для обучения своих параметров w и создает отображение (или гигантские функции), которое делает прогноз в пространстве меток для любой точки в пространстве признаков.
Показанная в уравнении модель ML фактически является преобразователем данных-параметров: она преобразует данный набор данных в параметры обучения во время обучения и затем преобразует параметры обратно для создания прогноза для данного набора переменных признаков. Ее также можно математически рассматривать как гигантскую функцию с k компонентами в пространстве признаков Xp, управляемую (параметризованную) обучающими параметрами в WP. Когда параметры настроены, получается набор из k гигантских функций над пространством признаков.
С другой стороны, этот набор из k гигантских функций также можно рассматривать как непрерывные (дифференцируемые) функции этих параметров для любой заданной точки данных в наборе данных, которые могут быть использованы для формирования также дифференцируемой функции потерь. Такая функция потерь может быть ошибкой между этими k гигантскими функциями и соответствующими k метками, полученными в наборе данных. Ее можно рассматривать как функционал функций прогнозирования, которые в свою очередь являются функциями от w в векторном пространстве WP. Обучение заключается в минимизации такой функции потерь для всех точек данных в наборе данных, путем обновления обучающих параметров до их оптимизаторов. Эта общая картина будет явно превращена в формулу в последующих главах. Факторы успеха создания качественной модели ML включают:
(1) тип гипотезы,(2) количество обучающих параметров в WP,
(3) качество (представительность для решаемой проблемы, включая правильность, размер, распределение точек данных по пространству признаков и уровень шума) набора данных в Xp, и
(4) техники нахождения оптимизатора обучающих параметров для лучшего воспроизведения метки в наборе данных. Мы обсудим это подробно в последующих главах для различных моделей машинного обучения.
Концепции пространств полезны в нашем последующем анализе предсказательных свойств моделей машинного обучения. Читателям может быть сложно понять эти концепции на данном этапе, поэтому рекомендуется иметь лишь приблизительное представление на данный момент и возвращаться к этому разделу при чтении соответствующих глав где они будут использоваться в конкретных задачах ML.
Примечание: также существуют модели ML для дискретных переменных признаков, и обучающие параметры могут быть не непрерывными. Такие методы часто разрабатываются на основе интуитивно понятных правил и техник, и мы обсудим некоторые из них. Концепции пространств могут быть не прямо применимы, но часто могут помочь.
1.5 Основы подготовки к обучению моделей машинного обучения
1.5.1 Компоненты обучения ML
Для успешного обучения модели машинного обучения (ML) необходимо несколько компонентов, каждый из которых играет важную роль в разработке и оценке производительности модели.
Первый и основной компонент – это набор данных. Данные могут быть собраны различными способами, включая наблюдения, эксперименты, а также моделирование, основанное на физических законах. Эти данные предоставляют фактическую информацию, которую модель ML будет использовать для обучения. Обычно набор данных разделяют на обучающую и тестовую выборки, при этом стандартным соотношением является 75% данных для обучения и 25% для тестирования. Важно, чтобы тестовый набор данных был независимым от обучающего набора, чтобы можно было объективно оценить производительность модели.
Второй элемент – это метки данных, которые необходимы для задач обучения с учителем. Метки служат "ответами" или "целевыми переменными", которые модель стремится предсказать. Они важны для процесса обучения, так как модель использует эти метки для настройки своих параметров и минимизации ошибки прогнозирования.
Третьим компонентом является предварительная информация о наборе данных, которая может включать знание о качестве данных и их ключевых особенностях. Это знание помогает в выборе наиболее подходящего алгоритма машинного обучения и определении необходимости применения методов регуляризации для уменьшения переобучения и улучшения обобщающей способности модели.
Четвертый элемент – это наличие подходящих программных инструментов и алгоритмов. В зависимости от задачи и набора данных может потребоваться использовать определенные программные пакеты, библиотеки или фреймворки, которые предоставляют необходимые функции и методы для обработки данных, обучения модели и оценки ее производительности.
В совокупности эти компоненты обеспечивают необходимые ресурсы для эффективного обучения и тестирования моделей машинного обучения, позволяя создавать мощные и надежные системы прогнозирования.
1.5.2 Спектр данных в машинном обучении: от сбора до применения
Данные – это фундаментальная основа машинного обучения, обеспечивающая информацию для построения и обучения моделей. Их разнообразие столь же велико, как и области применения машинного обучения. Визуальные данные включают изображения и фотографии, получаемые из самых разных источников – от мобильных устройств до профессионального медицинского оборудования, такого как компьютерные и магнитно-резонансные томографы. Сгенерированные компьютером данные могут поступать из моделей, основанных на физических принципах, или из других надежных искусственных моделей. Текстовые данные варьируются от публичных документов до социальных медиа и электронных писем. Аудио и видеоданные обогащают набор доступных источников для анализа и интерпретации.
Однако важно осознавать, что качество данных и их соответствие конкретной области применения нужны для создания надежных моделей машинного обучения. Попытки использовать модель за пределами её обучающего домена могут привести к непредсказуемым и потенциально опасным результатам. Это актуально в случаях, когда модель принимает решения, которые могут повлиять на здоровье, безопасность или важные социальные вопросы. Поэтому важно тщательно оценивать данные и убедиться, что модель тестировалась и верифицировалась на данных, которые адекватно представляют условия её будущего использования.
1.6 Физика и данные: моделирование взаимосвязей
Модели машинного обучения, в целом, являются медленными учениками, но быстрыми предсказателями, в то время как модели, основанные на законах физики, не нуждаются в обучении (используя существующие законы), но медленны в предсказании. Это связано с тем, что стратегии для моделей, основанных на законах физики, и для моделей, основанных на данных, сильно отличаются. Модели ML используют наборы данных для обучения параметров, в то время как модели, основанные на законах физики, используют законы для определения параметров.
Однако на уровне детализированной вычислительной методологии многие техники, используемые в обеих моделях, фактически одинаковы или очень похожи. Например, когда мы выражаем переменную как функцию других переменных, обе модели используют базисные функции (полиномиальные, радиально-базисные функции (RBF) или обе). При построении целевых функций в обеих моделях используется формулировка метода наименьших квадратов. Кроме того, методы регуляризации, используемые в обеих, также довольно похожи. Поэтому не следует изучать эти модели в полной изоляции. Физические законы и технические закономерности могут быть глубоко связаны и взаимно адаптируемы. Это осознание может быть полезным для лучшего понимания и дальнейшего развития более эффективных методов для обеих моделей, путем обмена идеями и техниками от одной к другой. В целом, для вычислительных методов, основанных на законах физики, таких как общая форма безсеточных методов, мы достаточно хорошо понимаем, почему и как метод работает в теории. Поэтому мы уверены в том, что получим, когда метод будет использован для проблемы. Однако для методов, основанных на данных, это не всегда так. Поэтому важно развивать фундаментальные теории для методов, основанных на данных. В этой книге мы постараемся обсудить сходства и различия, когда вычислительный метод используется в обеих моделях.
1.7 Об учебнике
Эта книга предлагает вводное руководство по машинному обучению, акцентируя внимание на базовых концепциях, фундаментальных теориях и ключевых вычислительных методиках, необходимых для разработки разнообразных моделей машинного обучения. Вместо того чтобы стремиться к полноте, что невозможно учитывая широту и динамичность поля машинного обучения, книга стремится обеспечить твердое понимание основ, на которых можно строить дальнейшее обучение. Важно отметить, что машинное обучение – это область, где теоретические знания должны сочетаться с практическими навыками, и благодаря доступности многочисленных ресурсов в интернете, читателям предоставляются инструменты для практического применения и дальнейшего изучения.
Особое внимание в книге уделяется темам, которые недостаточно освещены в доступной литературе. Среди них – глубокое погружение в предсказуемость линейных функций, исследование аффинных преобразований и их роль в построении глубоких сетей, а также детальное рассмотрение универсальной теории прогнозирования, концепции преобразования данных в параметры и многие другие.
Книга структурирована таким образом, чтобы читатели могли изучать главы в любом порядке, с минимальной необходимостью обращаться к перекрестным ссылкам. Такой подход позволяет глубже погрузиться в интересующие темы, не теряя нити изучения.
1.7.1 Для кого этот учебник
Учебник написан для начинающих, желающих изучить основы машинного обучения, включая студентов университетов, аспирантов, исследователей и профессионалов в области инженерии и наук. Инженеры и практики, желающие научиться создавать модели машинного обучения, также могут найти эту книгу полезной.
Машинное обучение все еще является быстро развивающейся областью исследований. Существует множество сложных проблем, предоставляющих обширные возможности для исследований с целью разработки новых методов и алгоритмов. В настоящее время это горячая тема исследований. Различные техники разрабатываются каждый день. Авторы надеются, что эта книга будет полезна при изучении существующих и разработке новых моделей машинного обучения.
Проверь себя
Какая идея лучше всего описывает фокус главы "Введение"?
В машинном обучении теоретические определения полезно проверять на численных примерах и визуализациях.
Какие действия помогают закрепить материал главы?
Пройти тест