ИИ, графы и нейронные сети
| English | Русский |
|---|---|
| machine learning/məˈʃiːn ˈlɜːnɪŋ/ | машинное обучение |
| deep learning/diːp ˈlɜːnɪŋ/ | глубокое обучение |
| graph/ɡræf/ | график |
| neural networks/ˈnjuːrəl ˈnetwɜːks/ | нейронные сети |
| nodes/nəʊdz/ | узлы |
| edges/ˈedʒɪz/ | края |
| minimax/ˈmɪnɪmæks/ | минимакс |
| weight/weɪt/ | вес |
| activation function/ˌæktɪˈveɪʃn ˈfʌŋkʃn/ | функция активации |
| hidden layers/ˈhɪdn ˈleɪəz/ | скрытые слои |
Программа, которая научилась видеть, не получая указаний, что именно искать
- В 2012 году команда участвовала в соревновании по распознаванию изображений с программой, которой никогда не давали ни одного правила о том, как выглядит кошка. Ей показали миллион размеченных фотографий, и она сама вывела правила.
- Она сократила ошибку каждого ручного решения вдвое. За три года вся область отказалась от написания правил.
- Этот переворот является предметом данной темы: не «как мы объясняем компьютеру, что такое кошка», а «как компьютер сам понимает это по примерам».
- Этот урок объясняет, что означают машинное обучение и глубокое обучение, как граф превращает задачи ИИ в поиск и что на самом деле вычисляет искусственная нейронная сеть.
Искусственный интеллект, машинное обучение и глубокое обучение
- Искусственный интеллект — это широкая цель: системы, выполняющие задачи, требующие обычно человеческого интеллекта, такие как зрение, речь, перевод и вождение.
- Машинное обучение — это преобладающий подход: алгоритмы, которые обучаются паттернам из данных, вместо того чтобы программироваться шаг за шагом.
- Глубокое обучение — это машинное обучение с использованием нейронных сетей со множеством слоев. Оно возглавляет область с 2010-х годов, так как обучается напрямую на сырых данных — пикселях, звуке или тексте — без специально разработанных человеком признаков.
- Они вложены друг в друга: глубокое обучение является частью машинного обучения, которое, в свою очередь, является частью ИИ.
Три круга, а не три соперника
Машинное обучение означает алгоритм, который:
ML учится на данных; глубокое обучение — это ML с использованием многослойных нейронных сетей.
Как связаны ИИ, машинное обучение и глубокое обучение?
ИИ — это цель, машинное обучение — доминирующий подход к ней, а глубокое обучение — машинное обучение с многослойными сетями.
Графы и почему так много задач ИИ сводится к поиску
- Граф — это набор узлов, соединенных ребрами. Узлы — это состояния, места или концепции; ребра — ходы, дороги или отношения.
- Поиск пути: дорожная сеть является графом, и поиск маршрута — это поиск по графу с использованием алгоритма Дейкстры или A*.
- Игры: каждая позиция на доске — узел, а каждый легальный ход — ребро, поэтому игра представляет собой дерево, которое minimax исследует, предполагая, что каждый игрок выбирает лучший вариант.
- Представление знаний: семантическая сеть хранит концепции как узлы, а отношения — как ребра. Поиск в ширину и поиск в глубину — стандартные инструменты для исследования любых из них.
В ИИ граф состоит из:
Графы моделируют состояния/места как узлы, а ходы/отношения как ребра — используются для поиска пути, игровых деревьев и знаний.
Разобранный пример: смоделируйте задачу как граф
- Компания по доставке хочет найти кратчайший маршрут между двумя городами. Опишите, как это представляется в виде графа.
- Каждый город — это узел; каждая дорога — ребро, соединяющее два узла; ребро имеет вес, равный расстоянию или времени в пути.
- Затем задача формулируется как «найти путь между двумя узлами с наименьшим общим весом», что решает алгоритм Дейкстры.
- Скажите, чем являются узлы, чем являются ребра и что означают веса. Ответ, содержащий только фразу «это граф», не получает баллов.
Дорожная сеть моделируется как граф для нахождения кратчайшего маршрута. Какие утверждения верны? Выберите все подходящие варианты.
Места — это узлы, а соединения — ребра. Указание того, что представляют собой веса, является третьим баллом.
Искусственный нейрон
- Искусственный нейрон принимает несколько входных сигналов. Он умножает каждый входной сигнал на вес, складывает их с смещением (bias), затем пропускает сумму через нелинейную функцию активации для получения выхода.
- Веса — это то, чему сеть обучается. Функция активации — это то, что позволяет сети представлять что-то, кроме прямой линии: без нее любое количество слоев схлопнулось бы в одну линейную формулу.
Умножить, сложить, затем согнуть
Расставьте шаги внутри одного искусственного нейрона в правильном порядке.
Умножение, суммирование, активация, передача. Без нелинейной активации любая глубина сети свелась бы к одной линейной формуле.
Слои и значение слова «глубокий»
- Нейроны расположены слоями. Входной слой принимает данные. Один или несколько скрытых слоев учатся внутренним паттернам. Выходной слой выдает ответ — класс или число.
- Сеть называется глубокой, когда у нее много скрытых слоев, а обучение такой сети — это глубокое обучение.
- Почему важны скрытые слои: в сети для изображений ранние слои учатся выделять края, средние — формы, поздние — объекты. Никто не проектировал эту иерархию; она возникла в результате обучения.
Входные данные, скрытые слои, выход и обучение заключены в весах между ними
Нажмите на части нейронной сети
Изучите слои. Данные текут слева направо: входной слой принимает признаки, скрытые слои учатся паттернам, а выходной слой дает ответ — при этом каждое соединение имеет вес, который корректируется обучением.
Соотнесите каждую часть нейронной сети с ее ролью.
Признаки входят во входной слой, скрытые слои учатся паттернам, выходной слой отвечает; обучение = настройка весов.
Нейронная сеть называется «глубокой», когда у нее много скрытых слоев, и каждый нейрон принимает взвешенную сумму своих входов (плюс смещение) перед применением функции активации.
Наложение множества скрытых слоев позволяет сети учить более сложные паттерны — обучение такой сети является глубоким обучением.
Нейронная сеть называется «глубокой», когда у нее есть:
Множество скрытых слоев создает глубокие нейронные сети; обучение одной из них является глубоким обучением.
Во время обучения значения, регулируемые внутри нейронной сети, — это её ____.
Архитектуру и функцию активации выбирает разработчик; то, чему учится сеть, хранится в весах.
Разобранный пример: опишите, как нейрон выполняет вычисления
- Опишите, что происходит внутри одного искусственного нейрона. [3]
- Каждый входной сигнал умножается на свой вес, а полученные произведения суммируются вместе с смещением (bias).
- Полученная сумма пропускается через функцию активации, которая является нелинейной.
- Результатом является выход нейрона, который становится входом для нейронов следующего слоя. Веса и смещение — это значения, которые корректируются во время обучения.
Потерянные баллы
- Машинное обучение выявляет паттерны из данных; оно не «программируется пошагово» и не является магией. Укажите, чему именно оно учится.
- Термин «глубокое» означает множество скрытых слоев, а не «очень умный» или «очень большой».
- Граф состоит из узлов и ребер, и ответ о графе должен объяснять, что представляет собой каждый элемент в рамках этой задачи.
- Именно веса изменяются в процессе обучения. Функцию активации и архитектуру выбирает разработчик.
Вы поняли
- ИИ — это цель, машинное обучение выявляет паттерны из данных вместо следования письменным правилам, а глубокое обучение — это машинное обучение с многослойными нейронными сетями.
- Граф из узлов и ребер превращает поиск пути, игры и представление знаний в задачу поиска, используя алгоритмы Дейкстры, A*, minimax, поиска в ширину и поиска в глубину.
- Искусственный нейрон умножает входы на веса, добавляет смещение и применяет нелинейную функцию активации.
- Слои обрабатывают входные, скрытые, выходные данные; глубина означает множество скрытых слоев, а обучение заключается в весах.