Медиа охотно говорят про успехи машинного обучения в самых разных сферах: от обработки фотографий до диагностики рака. Но несмотря на очевидный прогресс, это всё ещё очень молодая область, фундаментальные задачи которой нам только предстоит решить. В чём они заключаются и каким может быть их решение, мы расскажем в «Есть задача» — совместном проекте Yandex Research и N + 1
Расшифровка видео
еще до появления машинного обучения люди
0:07
создавали алгоритмы которым давали
0:09
четкие легко объяснимы инструкции однако
0:12
некоторые проблемы через чур сложны
0:14
поскольку зависят от множества
0:16
переменных факторов и требует
0:18
комплексных решений их нельзя
0:20
алгоритмизировать вручную и объяснить
0:23
набором простых инструкций понятных
0:25
человеку так родилась идея алгоритмов
0:27
которые обучаются набору правил на
0:29
основе подготовленных данных когда
0:32
обычный человек слышит про машинное
0:34
обучение это представляет себе нейронные
0:36
сети они играют и обыгрывают людей в
0:39
настольные компьютерные игры сочиняют
0:41
музыку рисуют картины прогнозируют
0:44
структуру белков и многое другое но мы
0:47
все еще не можем с уверенностью сказать
0:49
почему нейросети так хорошо справляются
0:52
с этими задачами мы не знаем что по
0:54
мнению нейронной сети приводят
0:56
корректным или некорректным решением
0:58
например чтобы обучить ее играть в
1:01
китайскую настольные круга мы можем
1:03
использовать множество партий сыгранных
1:05
людьми алгоритм будет строить дерево
1:08
возможных состояний игры и с помощью
1:10
нейросети проигрывать разные комбинации
1:13
ходов исходя из своей текущей позиции на
1:16
каждом шаге игры после ему останется
1:19
следовать по ветке решений которая ведет
1:21
к победе но отследить почему та или иная
1:24
комбинация была оценена как выигрышное
1:27
невозможно нейронные сети сложно
1:30
поддаются интерпретации
1:31
несмотря на то что разработчики имеют
1:34
доступ ко всем их параметрам мы не можем
1:36
узнать какой именно пример
1:38
использованной моделью влияет на процесс
1:41
обучения или на основе чего она сделала
1:43
предсказание именно поэтому нам сложно
1:46
понять и объяснить логику нейронных
1:49
сетей для нас их внутренности остаются
1:51
черным ящиком и чем сложнее алгоритм тем
1:55
сложнее заглянуть в черный ящик то есть
1:58
понять ту часть алгоритма который
2:00
научился он сам из-за непрозрачности
2:02
механизма принятия решений в машинном
2:05
обучении технологию пока невозможно
2:07
применять в областях где это необходимо
2:10
по юридическим причинам или в силу
2:12
требований безопасности например там где
2:15
от ее решение может зависеть жизнь или
2:17
судьба человека если нам удастся решить
2:20
эту проблему у нас появится способ
2:22
улучшить качество и эффективность
2:24
алгоритмов машинного обучения изнутри
2:27
подсматривай а затем как они учатся а
2:29
также больше влиять и на сам процесс
2:32
обучения тогда возможно мы бы могли
2:34
наделить с нейронные сети способностью
2:37
делать с логические заключения и придать
2:39
им новые функции например сейчас они
2:42
могут написать текст но не умеют строить
2:44
силлогизмы и много чего еще