В этом выпуске, эксперт из NVIDIA, спикер программы “Буткемп в Кремниевой долине” делится опытом и знаниями об искусственном интеллекте (AI) и его внедрении в бизнес-процессы
В видео рассматриваются ключевые темы: технологии, стратегии, подходы к обучению и разметке данных, принципы гибридного интеллекта, платформизация AI и философия быстрого реагирования на изменения.
Таймкоды
00:00:00 Введение и похвала
- Руслан хвалит команду за многолетнюю работу над программой.
- Отмечает важность анализа мероприятий и взаимодействия с аудиторией.
- Благодарит за приглашение и разнообразие аудитории.
00:01:24 Формат и темы контента
- Возможность создания интерактивного контента.
- Три блока тем: поиск возможностей, технологии и тренды.
- Пример формата: один час лекции и обсуждение в неформальной обстановке.
00:04:53 История и развитие NVIDIA
- NVIDIA как компания, производящая процессоры и графические процессоры.
- Параллельные вычисления и их применение в гейминге.
- Переход от компьютерной графики к другим задачам с параллельными вычислениями.
00:06:51 Применение параллельных вычислений
- Закон Мура и необходимость новых способов ускорения вычислений.
- Параллельные вычисления как прослойка между приложениями и процессорами.
- Применение технологии в различных областях, включая нейросети.
00:07:42 Развитие нейросетей
- Нейросети как маргинальная тема в 90-х.
- Статья AlexNet в 2011-2012 годах, показавшая, что нейросети можно обучать быстро.
- Экспоненциальный рост применения нейросетей в различных задачах.
00:09:22 Заключение
- Важность параллельных вычислений для обучения нейросетей.
- Примеры успешного применения нейросетей в различных задачах.
- Признание значимости нейросетей в современном мире.
00:10:06 Нейропроцессоры и суперкомпьютинг
- Появилась новая категория чипов: нейропроцессоры и суперкомпьютинг.
- Современные чипы могут выполнять задачи, которые раньше требовали суперкомпьютеров.
- Каждая компания может приобрести суперкомпьютер с разумным бюджетом.
00:11:04 Ограничения и энергоэффективность
- Мощности дата-центров ограничены на каждую компанию в каждой стране.
- Важно оптимизировать использование энергии для увеличения вычислений.
- Новые чипы должны быть энергоэффективными, а не просто быстрыми.
00:12:48 Выбор чипов и их использование
- Выбор чипа зависит от задачи, бюджета и доступности на рынке.
- Флагманский чип будет доступен к концу 2024 года.
- Существуют чипы для обучения моделей и для инференса.
00:15:06 Инференс и использование моделей
- Инференс используется для предсказаний и обработки новых данных.
- Важно оптимизировать инференс для большого портфеля моделей.
- Автор отвечает за инференс и разработку моделей в компании.
00:16:34 Проекты и технологии
- Проекты по искусственному интеллекту часто не доходят до промышленной эксплуатации.
- Важно правильно использовать технологии и увеличивать финансирование при успехе.
- Автор работал над проектом метапикселя для улучшения визуального контента.
00:19:17 Искусственный интеллект и его определение
- Проект метапикселя был закрыт из-за других приоритетов.
- Важно определить, что такое искусственный интеллект и как его использовать.
00:20:12 Введение в искусственный интеллект
- Искусственный интеллект ИИ рассматривается с двух точек зрения: бизнес-результат и технология.
- ИИ охватывает автоматизацию задач от простых скриптов до сложных рекомендательных систем.
- Пример: создание рекомендательной системы для фильмов на основе пересечения тегов пользователей и фильмов.
00:21:11 Усложнение задач и использование машинного обучения
- Усложнение задач требует учета множества переменных, таких как актеры, цветовая гамма, предыдущие просмотры и т.д.
- Объединение данных о пользователях и фильмах для создания рекомендаций.
- Использование машинного обучения для предсказания рейтинга фильмов на основе исторических данных.
00:23:04 Сильный ИИ и тест Тьюринга
- Сильный ИИ рассматривается как достижимая цель.
- Тест Тьюринга: задача, чтобы компьютер был неотличим от человека в чате.
- Оценка качества моделей ИИ и их эволюция.
00:24:01 Оценка качества моделей ИИ
- Команда отвечает за оценку качества моделей ИИ.
- Использование стандартных бенчмарков для оценки моделей.
- Быстрое изменение и адаптация моделей ИИ.
00:25:55 Генеративный ИИ и его проблемы
- Генеративный ИИ отличается от предиктивного ИИ.
- В предиктивном ИИ метка успеха ограничена, в генеративном ИИ пространство ответов бесконечно.
- Пример: генерация рекомендаций для мероприятий в Кремниевой долине.
00:27:24 Оценка моделей с помощью людей
- Использование людей для оценки моделей через канонический корпус вопросов.
- Ответы от моделей оцениваются людьми по шкале от 1 до 5.
- Сравнение моделей через A/B тестирование и сбор статистики.
00:29:17 LLM и оценка моделей
- Использование LLM для оценки моделей по различным аспектам.
- Обучение LLM на данных от людей и использование их для создания больших моделей.
- Построение пирамиды моделей, где каждая следующая модель улучшает предыдущую.
00:32:58 Стратегия внедрения ИИ
- Реализация серии проектов на базе ИИ с хорошим ROI.
- Создание портфеля проектов для диверсификации рисков.
- Принятие неудач как часть процесса и важность быстрой реакции на обратную связь.
00:37:40 Примеры успешных проектов
- Пример компании, которая быстро адаптировалась к новым технологиям.
- Внедрение модели Stable Diffusion, которая генерирует изображения из текста.
- Создание модели, которая в четыре раза быстрее конкурентов, за три недели.
00:39:06 Культура компании
- В компании царит культура доверия и самообучения.
- Ошибки признаются и быстро исправляются.
- Культура имплементирована во все проекты и проекты быстро реагируют на вызовы рынка.
00:40:05 Адаптивность компании
- Команды внутри компании работают как мини-стартапы.
- Компания быстро адаптируется к изменениям рынка.
- Культура компании делает её адаптивной, но может быть неэффективной при хаотичном подходе.
00:40:57 Портфель проектов и платформа
- Портфель проектов диверсифицирует риски и помогает понять выхлоп от каждого проекта.
- Инвестиции в платформу для повторяющихся компонентов проектов.
- Платформа позволяет минимизировать дублирование работы и улучшает бизнес-процессы.
00:41:57 Создание компетенций
- Платформа объединяет технологии, процессы и культуру.
- Это позволяет компании создавать и развивать ИИ-проекты.
- Платформа применима как в крупных корпорациях, так и в небольших группах.
00:43:55 Демократизация ИИ
- ИИ-технологии стали более доступными и демократичными.
- Для создания прототипа достаточно инициативы и документации.
- Промт-инженеринг помогает обучать машины и оптимизировать бизнес-процессы.
00:45:34 Развитие бизнес-модели
- Не стоит сразу нанимать супер-специалистов.
- Важно двигаться постепенно и анализировать направление развития бизнеса.
- Совместное движение с клиентами помогает определить оптимальные шаги для развития.
00:46:17 Платформа и самодостаточность
- Платформа предоставляет леверч и центр компетенций.
- Команда должна быть самодостаточной, привлекать специалистов только при необходимости.
- Важно иметь дорожные карты и уметь контролировать качество и бюджетирование.
00:47:12 Риски и рекомендации
- Начинать самостоятельно рискованно, лучше работать с партнерами.
- Важно не откладывать внедрение ИИ на потом, чтобы не отставать от конкурентов.
- Разбиваем цели на фазы и используем карту для их достижения.
00:48:07 Фазы внедрения ИИ
- Первая фаза: работа с партнером, который лидирует в проектах.
- Вторая фаза: трансфер знаний от партнера для внутренних сотрудников.
- Третья фаза: создание ИИ-платформы на основе повторяющихся компонентов.
00:49:43 Виртуализация и разметка данных
- Виртуализация кипы белти с использованием ИИ.
- Разметка данных не только для обучения моделей, но и для генерации новых ответов.
- Гибридный интеллект: объединение ИИ и человека в операционном цикле.
00:50:35 Примеры использования ИИ
- Внедрение ИИ для автоматизации задач, которые раньше выполнял человек.
- Пример с обработкой фотографий: 90% работы автоматизировано, 10% – ручная доработка.
- Эволюция моделей: постепенное улучшение и проверка на регрессию.
00:53:21 Обучение и внедрение
- Запуск обучения продуктовому мышлению вокруг ИИ как можно раньше.
- Инициатива должна исходить от владельца бизнеса или команды внедрения.
- Важно преодолевать резистентность и внедрять ИИ, несмотря на возможные ограничения.
00:54:44 Внедрение ИИ в компанию
- Важно правильно выстроить культуру в компании, чтобы сотрудники поддерживали внедрение ИИ.
- Не стоит бояться, что ИИ уволит часть команды; важно устранить неэффективности в бизнес-процессах.
- Люди должны решать сложные когнитивные задачи, а рутину автоматизировать.
00:55:36 Пример с контентом для e-commerce
- Исследования показывают, что увеличение количества картинок на единицу товара увеличивает конверсию и продажи.
- Команда контента может обрабатывать до 12 картинок на товар, что требует автоматизации.
- Гибридный подход: часть работы выполняется ИИ, часть – людьми, что позволяет сохранить команду и увеличить эффективность.
00:58:59 Обучение и внедрение ИИ
- Важно обучать сотрудников, чтобы они сами предлагали идеи по внедрению ИИ.
- Переход от модели продажи ИИ к модели, где сотрудники сами предлагают идеи.
- Использование платформы для масштабирования и успешного внедрения ИИ.
01:01:33 Пример проекта по автоматизации разработки чипов
- Проект по автоматизации разработки чипов с помощью ИИ.
- Чат-бот помогает инженерам находить нужную документацию и генерировать ответы.
- Гибридный подход: ИИ ускоряет поиск документов, но инженеры продолжают выполнять сложную работу.
01:03:27 Постоянное обучение и адаптация
- Компания должна постоянно адаптироваться к новым технологиям и вызовам.
- Построение процессов для внедрения новых моделей и технологий.
- Интеграция новых моделей в существующие процессы для достижения максимальной эффективности.
01:05:26 Оптимизация процесса внедрения AI
- Внедрение AI требует сложного процесса, который нужно оптимизировать.
- Процесс будет упрощаться с каждым годом.
- Профессиональные разработчики и дата-инженеры становятся менее необходимыми.
01:06:25 Роль софт-инженеров
- Софт-инженеры могут выполнять задачи, ранее требовавшие профессиональных дата-инженеров.
- Эти специалисты умеют работать с фронтендом, мобильной разработкой и бэкендом.
- Они могут создавать системы на основе спецификаций.
01:07:16 Рост числа пользователей AI
- Число пользователей AI растет, достигнув 600 миллионов.
- Это составляет около 10% населения.
- Пользователи научились взаимодействовать с системами, как с поисковыми.
01:08:14 Развитие языка запросов
- Пользователи изобрели свои языки общения с поисковыми системами.
- Эти языки были внедрены как расширенные запросы.
- В будущем системы будут лучше следовать инструкциям, что станет важным фактором оценки.
01:09:11 Обучение использованию AI
- Люди должны научиться правильно формулировать запросы для AI.
- Существуют курсы по промт-инжинирингу.
- Постепенное обучение и практика помогут улучшить взаимодействие с системами.
Таймкоды сделпны в Нейросети YandexGPT https://300.ya.ru/v_ggJiOydz/
В этом видео
Начало
0:00
Руслан на 2 минуты тебя похвалить на самом деле Пока До того как
0:05
мы начнём Я просто хотел немножко со своей позиции похвалить ребят то что они
0:12
вот эту программу делают уже на протяжении многих лет И на самом деле Ну вот не видно то что происходит за
0:20
шторкой за кулисами да то есть это вот все процессы на самом деле пож
0:26
руку моло торения и очень много работы происходит после
0:33
анализ того как произошло мероприятие какие отзывы с каждым точно пообщаться я
0:39
там не участвую как ты понимаешь я вообще на это так вот со стороны смотрю Но даже вот эти вот небольшие источники
0:45
сигнал который вы посылаете в моё как бы поле зрения очень хорошее впечатление то
0:50
есть Поэтому большие Молодцы я рад постоянно здесь участвовать как спикер приглашённый Вот и каждый раз очень
0:57
интересная всегда аудитория Спасибо за разнообразные разноплановые прям Молодцы
1:03
Давайте хорошо поработаем сейчас Да вот вторая вещь которую я хотел сказать это
1:09
по поводу контента да то есть мы можем сделать контент чисто лекционного
1:15
формата ОТУ да то есть я на сцене рассказываю какие-то интересные истории мы можем сделать это более интерактивным
1:22
и направленным на то что вы хотите узнать да то есть у меня Спектр тем очень большой Я могу поговорить там про
1:28
технологии про тренды непосредственно про то как делать проекты про там про про про стартапы про культуру и так
1:35
далее да то есть и я не хочу здесь рассказывать чисто со своей точки зрения Что мне там последние 2 недели в голову
1:41
попало а именно вот адресовать на то как это вам интересно глобально три блока
1:46
тем которые мы можем затронуть Первое – Это история про поиск возможностей для
1:52
входа в ai а различные я бизнес-модели а продуктовое мышление вокруг ai да то
1:58
есть это первый блок вторая История – это про технологии то есть прям достаточно глубоко зайти и посмотреть
2:05
какие какой стек технологий существует Сейчас Какие large Language Models хорошие плохие Почему Как происходит
2:12
оценка модели Как происходит оптимизация модели и так далее как правило это интересно техническим специалистам это
2:17
менее интересно владельцам бизнеса там оура а потому что это всё-таки слишком слишком в реализацию заходит и третий
2:24
блок – это про тренды это какие-то такие общими мазками что происходит вот на
2:30
нескольких предыдущих мероприятиях мы делали Какой формат мы делали о час лекции суммарно
2:38
будет 2 часа 1 час лекции который фокусируется на первый блок потому что ну исторически как бы я постоянно
2:45
выступают перед exec разные как бы аппараты корпоративных команд и это
2:52
очень хорошо резонирует да то есть такая проверенная хорошая программа один модуль а вторая
2:58
история мы сделаем ни камер ни мобильных телефонов и так
3:04
далее просто с вами честно побеседуем всё что вам интересно узнать про ai
3:09
поскольку я сейчас как бы являюсь сотрудником дии А и очень много
3:15
интересных информационных потоков замыкается Да непосредственно в самой компании а также
3:21
а в целом вко системе Да как наш CE любит говорить NVIDIA – это единственная
3:28
компания которая работает со всеми другими компаниями то есть мы соответственно вот этой информацией с
3:34
вами поделиться в таком The Record формате понятное дело не нарушение никаких соглашений конфиденциальности то
3:39
что я как Эксперт просто на рынке вижу Вот я
История NVIDIA: от графических процессоров к AI и нейропроцессорам
3:45
просто тоже как человек Кто в пытается оптимизировать слышу от ребят коллег нам
3:50
супер много Уже продали тему A звучит по 20 раз у ребят исходя из того что они
3:57
тоже похот ировать вопрос что дальше Вот У них есть
4:02
бизнес есть задачи в виде автоматизация сабор автоматизация и вот именно конкретное применение для бизнеса
4:08
желательно с сервисами Мне кажется вот просто исходя из фика который Ясь в группе получаю Вот именно Все Поня что
4:15
круто все поняли что нужно как это что нужно именно делать Ну вот опять же
4:22
здесь я просто не хочу на одного участника чуть-чуть переиндексация
4:30
в реализацию больше Как это там страт сессии консалтинговая сессии Да в формате либо чуть-чуть пошире взять и
4:36
там где у вас есть вопросы так даблклик хочу вот про это чуть-чуть лучше услышать глубже услышать давайте
4:42
наверное вот в таком формате сделаем задать контекст немножко
4:48
Расскажи пожалуйста как получилось так что мы знали всегда N как компания которая производит это во второй секции
4:54
будет
4:59
держится вообще ai и Open ai в том числе На ваши технология Ну коротко если
5:05
совсем на это отвечать то что было создана то есть история создания процессоров да То есть были обычные
5:12
процессоры там Serial Processing то что называется потом произошли parallel Processing и потом Нейро процессора Да И
5:18
вот когда были созданы параллельные э вычисления они в первую очередь были созданы для гейминга есть такая штука
5:25
Как группа so3 – это группа поворотов в трёхмерном пространстве а и
5:30
соответственно когда ты делаешь обсчёт компьютерных игр то у тебя очень много вот таких операций перемножения матриц
5:37
поворотов да то есть у тебя какой-то там человек бежит монстра хочет убить и потом тебе раз надо там куда-нибудь
5:43
повернуться и этот поворот надо обсчитать чтобы понять какая точка пространство угол какого-то какой-то
5:49
комнаты в какую точку он пойдёт если персонаж нажмёт такие-то такие-то клавиши Да И вот эта вот
5:54
э задача она не ложилась на классические вычисления то есть она была неэффективно
6:01
Вычисли на классических процессорах для этого было специально разработаны графические процессоры концепция шейдера
6:08
Да когда это всё разбивается на треугольники и потом каждый отдельный треугольник параллельно вычисляется
6:14
потом всё склеивается и классно быстро получается рендеринг и в какой-то момент если
6:21
быстро перемотать плёнку это где-то там было скажем в дся в
6:26
20067 nVidia как компания осознала что мы
6:32
можем расшириться от компьютерной графики до других задач в которых есть
6:37
параллельное вычисление плюс есть такой тренд как или закон закон Мура который
6:43
говорит что каждые 2 года там каждые полтора Годо в два раза увеличивается мощность
6:50
транзисторов и в какой-то момент этот закон перестал работать то есть вот э
6:57
вот кривая которая ри шкалах Ну так по прямой растёт так она экспоненциально
7:02
растёт да в обычных размерностей
7:10
вычисления искать и параллельное вычисление было ответом соответственно было осознано куда как прослойка которая
Развитие нейросетей и их влияние на AI-индустрию
7:16
умеет разговаривать и с программным уровнем приложений и с уровнем
7:22
процессора То есть самый низкоуровневый код который раскидывает инструкции по различным вычислительным там
7:28
транзисторам Да вот этим кро и куда она вот
7:34
позволила делать маппинг из любого приложения в одну и ту же модель параллельных вычислений поверх
7:40
графического процессора технология Да это одна из ключевых вещей которые вот
7:46
была создана после этого постепенно са Ну как бы
7:52
естественным образом просто тому что появилась новая такая техническая возможность люди начали е применять в
7:58
разных включая нейросети До этого нейросети
8:04
была такая достаточно маргинальная тема там в девяностых ими занимались там
8:10
несколько профессоров которые сейчас являются как Godfather Да и достаточно
8:18
долго было не хватало данных и не хватало вычислений чтобы эти большие не растить обсчитывают
8:30
который сейчас все любят цитировать когда говорят про ai которая показала что
8:36
нейросети обученные на графических процессорах их можно обучать быстро не надо ждать там тысячелетий пока она
8:42
закончит обучаться А их можно обучать быстро и второе подход на нейросетях он
8:48
работает лучше первый раз в истории человечества чем классические подходы обработки фотографий Ну там классический
8:57
морфологический и это было таким как бы первым скачком смотрите работает И после
9:02
этого просто всё по экспоненте Пошло все говорят А вот я для своей задачи у меня мурашки Похоже как бы я просто через это
9:08
проживал с комьюнити как бы у меня как бы такая э Memory physical Memory вот и
9:14
ты просто я помню когда это вот происходило То есть я в это время в аспирантуре был и там люди вы видели что
9:19
произошло такие Нет а что случилось Ну и как бы ты читаешь статью Вау круто и потом просто одна задача за
9:27
другой начали открываться в 2012 получается первый раз лучше чем
9:33
морфологический IM analis в 2015 первый раз лучше чем человек для той же задачи
9:39
классификации картинок в 2016 для Speech recognition Microsoft сделал в 2019 году
9:45
для Tex process и дальше мы и теперь весь мир по сути дела знает про ai до
9:51
этого все смотрели на это ну так несерьёзно Вот и вот этот вот второй скачок был когда первый раз люди поняли
9:57
в 2012 году 2011 году что нейросети можно обучать на графических процессорах как одна из
10:04
задач в которых требуется параллельное вычисление Ну вот такой длинные расширенные вопрос NVIDIA сумела
10:09
подхватить это и да да да да ну то есть смотрите это важный тренд Давайте теперь
10:16
мы попробуем его дальше дооп Зро и вот на после этого появилась новая категория
10:22
чипов которая называется там нейропроцессор да там супер компью э вот и это то что сейчас ну мы как компания
10:29
выпускаем а получается a100 h100 и blackwall B12 Ну то есть это вот самые
10:37
последние чипы а которые действительно демонстрируют Ну
10:43
просто космические результаты потому что Ну мне кажется это приводится всегда
10:49
когда говорят про чипы первого там поколения и последнего поколения что сейчас на чипе можно обсчитывают
10:57
который был доступен только там какой-нибудь а военной организации или
11:02
там супер важному resch институту да сейчас по сути дела каждая компания выделив определённый там бюджет причём
11:09
он разумный бюджет может приобрести себе суперкомпьютер который Ну может и он будет маленький но он не такой маленький
11:15
а он Ну вот вот такого размера наверное будет один вот но он очень э
11:21
производительный и Ну вот одна из вещей которую здесь вот есть человек который
11:27
интересуется esg да то есть и интересная тема а мощности которые подводятся к
11:34
дата-центр они ограничены ээ на каждую компанию в каждой стране То есть ты не
11:39
можешь например там в какой-нибудь там Норвегии там или там условно говоря в России но сейчас немножко это такая
11:44
сложная тема из-за политических вопросов а ты не можешь просто взять и начать строить строить строить строить строить
11:51
дата-центр одной компании потому что там дешёвые электроэнергии там как обслуживание может быть дешевле а есть
11:56
лимиты квот просто потому что ну мы не можем разрушить нашу планету соответственно Следующий вопрос хорошо
12:02
если у нас есть конечный объём мощности джоули который туда-сюда ваты
12:08
туда-сюда которые гоняются А что мы можем сделать мы можем сделать из того же объёма энергии делать больше
12:15
вычислений для этого нам нужны более эффективные энергоэффективные чипы и соответственно когда вот мы делаем анонс
12:21
нового Чипа мы не говорим самый быстрый А может он самый голодный и который Ну
12:27
любит много энергии ску это пло прой вот это плохо и мы когда
12:33
оптимизируем Новый чип Диза это является одним из ключевых kpi скорость вычислений и эффективность вычислений
12:41
который измеряется как один из способов через энергоэффективность вот ну
12:47
с несколько вопросов во-первых хотел сказать что вам очень повезло
12:55
лас А где выступал Угу угу
13:02
да Вопрос ваше предсказание тво
13:08
предсказание Как быстро производит про предсказание Я предлагаю вот The
13:14
Record пообщаемся просто там конечно да да так хорошо давайте я то
13:29
можем сразу всё убрать и будем только рассказывать про просто беседовать можем можем вс всё
13:35
выключить ВС камеру и
13:46
беседовать Давайте я вот то есть у меня там как вы понимаете всяких много вариантов давайте я сделаю топ который
13:52
вот прям супер вверх как бы вот этой вот воро чтобы чуть-чуть у вас одинаковое мышление чтобы мы на одном языке
13:57
разговаривали потому Один говорит хо я это хочу да Там как бы много параметрическое значит Принятие решения
14:04
происходит то есть мне часто такой вопрос задают Какую карту покупать Я говорю ну зачем зачем у нас есть
14:10
портфель чипов так бы мы говорили вот один покупайте только его на самом деле в зависимости от задачи в зависимости от
14:17
бюджета в зависимости от того доступны ли эти штуки на рынке да то есть там
14:23
Lead Time да то есть потому что есть чипы у которых там клок там 30 недель Да может или там месяцев в зависимости от
Инфраструктура AI: от платформ до гибридных моделей
14:31
Чипа надо выбирать да то есть вот э совокупность конфигураций потом это мы говорим про доступность Чипа как Чипа а
14:37
есть ещё чип как infrastructure Service в Облаке А там может быть регионы может
14:42
быть у вас все данные лежат в одном регионе обсчитывают
14:48
много вот этих нюансов поэтому так так не отвечать но флагманский который
14:53
сейчас мы запустили он ещё пока не доступен он будет доступен там к концу года в начале 2025 а blackwell а сейчас
15:02
это h100 и h200 э это General чип который можно использовать для тренинга
15:09
и с точки зрения опять же эффективности вычисления и других характеристик это вот ну как бы флагманский доступный чип
15:15
Да вторая история есть ещё l4s А И l40 – это чипы которые оптимизированы они
15:21
чуть-чуть полегче они в основном используется для inference Хотя тренинг тоже на них там можно делать че для чего
15:27
для предсказаний то есть вот в в машин Ленинг две фазы есть да обучение модели и использование модели вот это вот
15:34
использование модели – это inference когда новую картинку туда или новый текст засовываешь нажимаешь кнопочку она
15:39
обрабатывает коротко про себя наверное рассказывать не буду но сейчас последнее чем я занимаюсь Это работа в NVIDIA вот
15:46
а отвечаю за NVIDIA inference microservice это вот э месяц назад была
15:51
конференция NVIDIA GTC и э Дженсон э со сценой рассказывал про самый последний
15:58
ананс от компании в частности а Software Stack который позволяет делать оптимизированный inference для большого
16:05
портфеля различных моделей А вот и соответственно я за это а направление
16:11
отвечаю помимо этого а соответственно делаю large Language Models и в large
16:19
Language Models – это огромная scope и понятное дело то что это распределено
16:25
между несколькими командами между несколькими организациями внутри компании у меня получается платформенный и
16:32
уровень инструментария то есть различные Тулы различные сервисы которые позволяют делать
16:38
end да то есть начиная с очистки Ну там забора данных очистки данных разметки
16:44
данных обучение оценка моделей и и выкладка в продакшн Да соответственно
16:50
есть уровень выше по абстракции похожий на gpt то есть это API который можно
16:56
использовать и есть уровень ниже низкоуровневые компоненты которые
17:01
позволяют эффективно делать параллельное вычисления поверх чипов да то есть условно говоря такой к diag и вот он у
17:08
меня средний уровень вот а значит это пропускаем это разные
17:15
интересные проекты шок контент да для бизнес оров то что там 87 про проектов по искусственному интеллекту не доходит
17:21
довода в промышленную эксплуатацию Вот Но это не означает то что мы не должны это делать И эта цитата
17:28
ээ там с 2019 года если мы сейчас пойдём в интернет Погугли Какая сейчас там
17:34
вероятность успеха она чуть-чуть выше будет с другой стороны это было для до
17:39
предыдущего Витка технологии я сейчас новые технологии я появились надо научиться ими хорошо пользоваться Да но
17:45
как бы с течением времени этот процент Становится лучше но тем не менее он не 100% Да и нам э надо научиться
17:53
пользоваться технологией в правильный момент прерывать проекты если они упираются в стену в какой-то момент
17:59
наоборот увеличивать финансирование понимая что мы прошли какие-то хорошие майлстоун и правильные метрики ставить
Обучение и оценка моделей: подходы NVIDIA и роль человеческой обратной связи
18:04
да то есть чтобы мы были уверены что мы сейчас двигаемся вкладываем средства в нужное направление Вот и ээ до этого до
18:13
того как я приснился к NVIDIA я работал на проектом Met Pixel ai – это создание визуального контента для e-commerce на
18:18
вход приходит некрасивая фотография например Это красивые очки но фотография
18:23
может быть некрасивая это кто-то забыл и мы допустим вот е фотографируем фотостудии очки Вот так вот кладём и
18:30
фотографируем там получается тень блики я буду на очках на этих потому что это отражающие очки Это некрасиво никто
18:36
такие очки не будет покупать если их положить на сайт рейбан или там амазона Соответственно что мы делали мы делали
18:42
end to end это мои очки Кстати всё я понял вот это черкаш это черкаш на очки
18:49
так у него такие же как у меня очки это твои нет это это черкаш на очки черкаш на
18:55
очки У нас хороший вкус просто Вот и соответственно мы делаем – to end
19:02
обработку вместо того чтобы люди сидели в Фотошопе и руками чистили картинки мы соответственно делали с помощью яй я
19:08
буду эту штуку вставлять в разных местах потому что мне комфортно про этот кейс разговаривать да то есть здесь я полностью овладею доступом к информации
19:15
и принятием решения Ну мы закрыли проект как бы я сейчас принялся к ин види уже не проекта этого нет сейчас проект этот
19:23
на паузе так скажем Ну потому что другие приоритеты
19:28
другие приоритеты не Почему не удалось его там продать или там-то друго tmi tmi Too Much Information есть
19:37
какие-то интересные компоненты которые можно обсудить То есть даже вот на предыдущих мероприятиях которые ребята
19:43
организовывали тоже мы по этой теме общались Вот но на всё время просто не хватает просто скажу что так потому что
19:49
надо чтобы А был какой-то цикл управления А других задач хватает вот а
19:56
но потенциально это интересно направление вот дальше
20:02
соответственно про вопросы не будем говорить а чуть-чуть про искуственный интеллект поняти искусственного
20:08
интеллекта да то есть чтобы мы определили Что такое искусственный интеллект а очень много то есть мнений
20:14
экспертов и с кем вы не Поговорите вы получите разные разную дефиницию Я
20:20
смотрю на это с двух точек зрения Первое – это с точки зрения бизнес результата или задач которые мы хотим решить Да и
20:26
нам не важно какой каким способом мы мы это делаем да то есть это ну искуственный интеллект в
20:32
целом Это сквозная технология которая применяется для решения различного типа задач и это в целом такой сонячный
20:39
термин охватывающий всю автоматизацию начиная от веб-форм Когда раньше мы значит заполняли веб форму нажимали
20:46
кнопочку и там был какой-то человек который Значит вам писал Спасибо за регистрацию в какой-то момент это
20:52
автоматизировали простыми скриптами можно сказать что это такая какая-то супер супер примитивная логика
20:59
автоматизации дальше если мы на этом спектре двигаемся ещ дальше то мы можем
21:04
создать рекомендатель систему netflix там КиноПоиск или какая-то другая есть
21:09
фильмы есть пользователи и Допустим что мы описываем фильм с помощью тегов и
21:15
пользователь с помощью тегов потом простейший алгоритм нам не надо никакого ai знать чтобы придумать такой алгоритм
21:22
мы считаем число тегов которые в фильме и У пользователя в профиле пересекаются Да и потом ран все эти фильмы для
21:29
конкретного пользователя по частотности всё это достаточно примитивный алгоритм
21:35
на правилах который можно тоже назвать искусственным интеллектом потом мы говорим Давайте чуть-чуть подкрутить
21:41
усложни задачу У нас же есть фильм там есть актёры там есть цветовая гамма там есть предыдущие просмотры другими
21:48
пользователями которые могут быть похожи на вас как на пользователя там есть временная компоненты вы утром смотрите в
21:54
обед смотрите в выходные смотрите в итоге получается больше там тысячи разных переменных которые как человек
22:00
эвристическим правилами не эвристическим правилами очень сложно будет обработать и то же самое про пользователя У
22:06
пользователя есть какие-то базовые демографические показатели есть его там доход есть его история Логинов есть его
22:13
история просмотров и так далее да локация язык subscription level там Ну много
22:20
разных терминов и мы это всё должны объединить сказать для каждого конкретного пользователя в каждый момент
22:25
времени я хочу найти самые лучшие фильмы такая задача соответственно мы всё это
22:31
информацию объединяем отправляем в алгоритм машинного обучения и для подмножества данных У нас есть уже
22:37
заранее заготовленные ответы и мы обучаем алгоритм для нового фильма и пользователя для новой
22:44
пары предсказать рейтинг от нуля до пяти всё вот постановка задач на каких-то
22:49
данных исторических которые мы уже знаем как пользователи тыкали просматривали Мы например там создаём прокси метрику если
22:55
пользователи до конца досмотрели фильм А может быть ещё и лайк поставили классно вот этот классный фильм им зашёл мы
23:01
значит больше таких рекомендаций хотим найти в будущем для этого пользователя это уже используется машина обучени
23:06
по-настоящему это серьёзно то что делается в различных сервисах сейчас и сильный интеллект – это как такая
23:11
недостижимая точка А уже сейчас возможно она будет там достижимая да то есть сейчас уже серьёзно научное сообщество
23:18
бизнес-сообщество профессионалы говорят о том что А когда а не если А когда да
23:24
то есть уже чуть-чуть изменилась а постановка вопроса Вот но в целом Откуда
23:31
это приходит это тест Тюрин да то есть тюринг ещё полвека назад там больше 70
23:36
лет назад сказал смотрите есть такая задача допустим вы чати с компьютером и компьютер неотличим от человека для вас
23:42
если мы не говорим кто сидит за другой стороной чата сейчас с помощью чат gpt и
23:48
похожих систем это уже это уже пройдено этап уже неинтересно и в частности Вот
23:55
одна из один из стримов в
24:00
команде это оценка качества large Language moduls и оценка ai system в
24:05
целом да то есть у нас целая команда есть которая отвечает за способы оценки
Эволюция AI-систем и стратегия их внедрения
24:12
эволюции ai да то есть как бы как вообще померить ai хорошо работает или плохо работает И там Различные подходы
24:18
существуют с точки зрения оценки на каких-то стандартных бенчмарках И это всё публично доступно То есть можно
24:24
зайти на сайт llm sis leaderboard Да и там
24:29
аранжировать там gpt 4 clot 3 Lama 3 и
24:35
другие модели Да это они все посоны в качестве строчек модели в качестве колонок разные бенчмарки и на
24:41
пересечении стоит циферка Чем больше тем лучше каждая следующая модель когда анонсирует А это происходит Ну вот я на
24:48
на гавай на отпуск ездил на последние 2 недели и я приехал и такой Так что-то я уже отстал там чуть ли не на тысячелетие
24:55
то есть реально настолько быстро всё изменяется я уехал уже ламу анонсировали третью так так что без меня тут
25:01
анонсировали то есть ну по буквально каждую там неделю к нам как партнёрам то
25:07
есть у нас это NVIDIA inference microservice большой а портфель моделей и мы их помогаем оптимизировать скорость
25:14
Ирен для каждой из этих моделей и когда какая-то значит новая модель планируется
25:21
к анонсу партнёром N види какой-нибудь большой компании так META или Google или
25:27
другая компания они заранее нам говорят смотри мы будем скоро анонсировать да то есть мы вместе работаем между двумя
25:34
компаниями чтобы на момент релиза наш то есть
25:39
N поддерживал нативно высокопроизводительный для этой
25:45
конкретной модели да и это очень динамически меняющаяся история потом соответственно бенчмарки вторая История
25:51
это сравнение с человеческим ответами есть люди и люди проблема в генера
25:58
копилочку положить с точки зрения реализации У вас есть генеративный ai и
26:04
проблема генеративного от предиктивной ai какая то что в предиктивной и как правило понятно какая метка успеха Да ну
26:11
то есть вот мы про фильмы говорили есть пользователь есть фильм И для этого для этой пары есть оценка от одного до пяти
26:19
и мы можем как бы пром по ним пройтись и предсказывать от одного до пяти всё очень замкнутое пространство пять
26:26
различных исходов и мы должны один из пти угадать там 20% в принципе никакого Яя не надо делать можно угадать просто
26:32
монетку подбрасывается говоришь Ну так 20% очков уже заработал а надо конечно сделать максимально точно а если мы
26:40
говорим про генеративный яй то у нас пространство ответов бесконечно То есть я задаю
26:45
вопрос Какое мероприятие посетить в кремневой долине или там на какой Хайк пойти в кремневой долине и потом
26:52
какая-нибудь система аналоговая чат gpt вам говорит можно сходить туда туда туда
26:57
туда туда туда вы такие так а потом гери и сделай
27:02
короче и по делу я значит интересуюсь там тяжёлыми хайка там больше чем 10 км
27:08
например по горам она такая генерис конечное число ответов сделать и
27:15
здесь что я упомянул две вещи Первое – это бесконечное число ответов и нам надо научиться как-то Вот это вот оценивать
27:22
тоже как это сейчас делается мы делаем человека в качестве фид
27:28
цикла для оценки модели У нас есть какой-то канонический корпус вопросов мы
27:34
этот все эти вопросы закидываем в ту систему которую мы сейчас хотим оценить мы получаем ответы от этой системы потом
27:42
мы эти ответы отдаём людям например там спрашиваем пять человек или семь человек на один и тот же ответ и говорим вот
27:49
Прочитайте этот ответ вот это вопрос был и есть инструкция о том что хорошим ответом считается Ну чтобы как-то
27:55
чуть-чуть стандартизировать э обратную связь от пользователей и там обычно пишется ответ там плохо сформулирован
28:02
там двойка там ответ значит нормально структурирован но не упоминает важные
28:08
факты там тройка там ответ написан с грамматическими ошибками но всё остальное по делу там четвёрка там
28:15
Отличный ответ я бы такой отправил мне самому было бы приятно быть автором такого ответа там пять Ну там плюс-минус
28:21
Да и люди читают эту рубрику читают вопрос читают ответ ставят оценку это
28:28
в абсолютных величинах и есть сравнение а тестирования да то есть Аналогично тому что делается везде в Интернете у
28:35
нас есть ответы одной модели и второй модели и мы по этой же рубрике говорим
28:40
Прочитай вопрос Прочитай ответы одной модели Прочитай ответы второй модели обычно делают три модели не две а три Ну
28:46
там как бы как как как вам хочется обычно три так эффективнее и люди говорят я люблю ответ номер О он
28:53
анонимно для меня лучши мы собираем статистику там 90% выбрали Вот эту вот модель как лучшую
29:00
это Human evaluation Human evaluation недостаточно тоже потому что дорого надо людей искать тренировать платить им они
29:07
медленные могут ошибаться уставать и так далее соответственно Есть третий подход который сейчас ну выбивается в лидеры А
29:15
это называется llm As Judge То есть у нас есть один LM и мы говорим вот это
29:21
там самый умный ai допустим там H мы разрабатываем новую версию какую-то там NVIDIA пятого поколения там да там та и
29:29
мы говорим хорошо Мы хотим понять По различному очень широкому Спектру задач и вопросов насколько она хорошо работает
29:37
обычно мы людей будем просить для каждого вот из этих сегментов получить их обратную связь но мы не можем как бы
29:42
каждый раз когда мы чуть-чуть даже подкрутили наши там данные или подкрутили параметры модели Мы хотим
29:48
опять получить этот же ответ Ну опять нам надо людей просить и так далее Что мы делаем мы берём
29:55
значит модель другую модель которая умеет хорошо оценивать только грамматику
30:02
например и мы говорим вот эта вот модель будет про грамматику а вторая модель будет про длину ответа А третья будет
30:10
про тематику healthcare а а четвёртая будет про тематику Finance и они пять
Портфель проектов и управление рисками
30:16
judges они будут все ставить рейтинги вот этой новой большой модели и таким
30:21
образом вместо и мы их
30:28
В начале мы как бы бунг такой делаем обучаем judges на данных людей потом
30:33
judges используем как обратный цикл для создание большой модели и в итоге здесь можно такую пирамиду построить да то
30:40
есть мы вначале как бы модель делаем Потом эта модель она как бы значит
30:46
начинает улучшаться за счёт других моделей Но потом-то мы же вот этих judges Они до этого у нас были такие ну
30:51
такие слабенькие ДС а потом огромного можно огромную модель взять и сказать А
30:57
ты теперь ддж а я хочу обучить ещё более огромную модель потому что маленькая модель она будет она даже не будет
31:03
понимать насколько крутая большая модель и нам надо более умный Judge для того чтобы оценить ещё более умную модель а
31:09
потом ещё в итоге вот так вот мы постепенно gpt2 gpt-3 gp4 Там и так
31:15
далее вот как работает вот эта история чуть-чуть с точки зрения инженерии Вот Но это достаточно Я думаю рассказал Я
31:22
теперь другой взгляд на то же самое Это вот наверное более всем знакомая
31:28
диаграмма То есть если вы про Machine lear с технической точки зрения смотрели это люди любят рассказывать вот есть у
31:35
нас искусственный интеллект есть у нас машина обучения потом de случился это как бы машин lear только про нейросети
31:42
специально а потом там специальные вещи CNN rnn Трансформеры и другие звери вот
31:50
оно ну абсолютно валидно но взгляд с точки зрения технологий Почему я начинаю
31:55
всегда с этой штуки потому что Ну опять же Бине Неважно какая технология если мы можем решить задачу самым простым
32:02
способом Давайте решать её простым способом И это вот в мысли которую Ну надо
32:28
ты и космос никто тебе не подскажет Ты должен чуть-чуть продвинуться дальше в этом фронте научных исследований Но если
32:36
ты говоришь Давайте теперь вот этот вот мой молоток будем использовать везде где только можно Ну скорее всего где-то это
32:41
будет неэффективно опять же Да вот вопрос был какой чип куда использовать и deps да то есть в зависимости от задач
32:47
мы будем брать чуть-чуть разные штуки Вот это по терминологии чтобы мы одинаково разговаривали и Давайте Вот
32:53
про стратегию быстренько пробежимся Чтобы у вас было об фрево глобально отвечает это Ну то есть
33:02
нам надо ответить на три больших вопроса три Большие цели достигнуть Первое – это
33:08
реализовать серию проектов на базе искусственного
33:13
интеллекта я вот эти вот куски которые мы проходим Я отправлю куски которые мы
33:19
не будем рассматривать там 500 плю слайдов я их не отправлю честно Сразу говорю потому что у вас контекста не будет Зачем смотре на слайды которые вы
33:25
не понимаете что здесь нам нужно найти возможности Да Нам
33:33
нужно проработать кейсо на создать портфель Почему здесь слово портфель важным является потому
33:39
что отматываем пару слайдов назад вероятность успеха в отдельном
33:45
проекте 7 13% да то есть 1 мину 8 7% 13%
33:52
да то есть большой риск и если вы начинаете делать проекты вы говорите Так
33:59
ну Давайте попробуем в одном месте в нашей компании внедрить A и вы пробуете
34:04
у вас не работает вы такие ий маркетинг BS и так далее вы не хотите дальше туда
34:11
идти потому что вы обожглись вы как бизнес оунер такое решение будете принимать второе – это сотрудник внутри
34:18
компании прочитал какую-нибудь книгу сходил на семинар программу посетил такую как
34:23
здесь говорит Сейчас я буду я внутр в моей компании это про значит growth и
34:29
хорошая польза там для пользователей и для компании Они делают и у них тоже не получается все сотрудники такие мне не
34:35
надо я тут лучше ту спокойно то же самое поделаю там пусть я яй какие-то новые технологии внедряют дурачки Да ну в
34:41
кавычках А это бывает происходит Да я вот это рассказываю не просто как какие-то анекдоты А это анекдоты
34:47
прожитые на личном опыте когда я отвечал за цифровую трансформацию в Canon дес и vodafon на уровне совета директоров это
34:54
большая компания мы были внешним консультантом сопровождая вот эту много годовую программу и там вот эти
35:01
вот все разные кейсы возникали у кого-то такая болезнь была организационная культурная У кого-то другая и мы как бы
35:08
вот я собрал вот этот вот кейс набор кейсов которые как бы для вас являются такими маячками так не делать да
35:15
портфель очень важно мы
35:26
диверсифицированной ai трансформации Все говорят смотрите мы внедрили через
35:31
полгода у нас у там NN POS и очень большой выхлоп и человек который за это
35:37
отвечал он становится таким чемпионом ai внутри вашей компании это может быть вы вы сами да то есть и вы пойдёте там либо
35:44
к своим партнёрам либо пойдёте к своим там коллегам Либо вы пойдёте к инвесторам и вы будете всем рассказывать
35:51
смотрите у нас тут работает Давайте ещё нам Значит фандинг мы умеем пользоваться этой технологией хорошо у нас работает
35:57
дальше какое-то число проектов в вашем портфеле будут ну такие О’кей модернизационные инициативы которые
36:03
привели там плю 1 2 3 5 10% ри А ну там до 30% улучшения качества в каком-то
36:10
процессе опять же зависит от того насколько 30% Может это вообще супер круто в каком-то из бизнес-процесса но
Примеры внедрения гибридных AI-решений в e-commerce
36:17
это не иксы да то есть это не супер экспоненциальный рост с точки зрения А
36:23
какого-то бизнес-процесса и вы такие ну Да хорошо внедрили здорово и какие-то проекты будут
36:29
то есть Давайте примем это сразу что да проигрыш в каком-то из проектов это
36:34
нормально потому что мы делаем Мы работаем с новой технологией и мы не можем гарантировать стопроцентного
36:40
результата Да И вот люди которые про стартапы в целом думают они как бы говорят Ну вот я сейчас делаю стартап
36:45
Вот мой стартап будет точно юникорн Ну как бы Окей вы будете делать Ну как моя
36:50
философия такая вы будете Делать всё возможное чтобы сделать его Юником но скорее всего как бы да Никто вам
36:56
гарантировать не может что вы будете юникорн вы просто одну из хороших мыслей взяли и пошли её делать И ну там говорят
37:04
идея ничего не стоит там как бы проработанной идеи стоит много когда вот вы там прогнали его по набору из 500
37:10
этих всех слайдов фреймворков разных вы такие продумали всё смотрите Я вот этот риск Уже убрал с точки зрения там
37:16
майлстоун я такой roadmap себе написал здесь у нас такая технология используется вот такую модель используем вот такой Чип Ну вы уже проработали вот
37:22
это вот уже ну там бизнес-кейс да какой-то серьёзный и она уже стоит но но в целом всё про execution да то есть в
37:29
любом венном бизнесе это всё про exec про качество вашей команды и возможность
37:35
быстро учиться и итерироваться да то есть это вот ещё одна история которую вы можете с собой взять да то есть это
37:42
скорость реакции на обратную связь от ваших клиентов от
37:48
ваших сотрудников и то что происходит на рынке Лама анонсировала там ме
37:55
анонсировал Лама 3 КД анонсировал 3 что думает Open Open
38:02
анонсировал gt4 Open анонсировал maret для лов различных что думает АТК да то
38:08
есть ну и там что думает nidia каждый раз должен максимально быстро итерироваться это одна из вещей
38:15
которая меня поразила когда я кви присоединился Это история про скорость работы компании компания
38:23
большая порни в августе
38:29
2022 была анонсирована модель stable diffusion это штука которая позволяет вам написать в словах значит что Вы
38:36
хотите сгенерировать как картинку нажать кнопочку и у вас будет там Что вам нравится
38:41
и эта модель взорвала рынок с точки зрения визуального контента через 3
38:46
недели после того как эта модель была анонсирована мы уже имели модель которая в четыре раза быстрее для внутренних
38:52
бенчмарком мы говорим смотрите мы собрали команду и сделали за 3 недели результат модель которая в четы раза
38:58
быстрее чем то что доступно в Open Source от всех остальных альтернатив это корпорация в которой как о правила Так
39:06
давайте так комитет на Нам нужен комитет Кто в комитете будет так и ты будешь И
39:11
ты будешь И ты А вот этого мы не позовём Но он же обидится давай его тоже позовём Там и так далее вот это вот начинается
39:17
история культура компании nidia такая что как мы говорим Mission Boss да то
39:22
есть то что мы делаем это супер супер
39:30
главенствующим остальными историями Мы хотим вместе решить задачу мы друг другу
39:36
доверяем И мы настроены максимально на самообучение Да если мы какую-то ошибку
39:43
совершили мы её признаём двигаемся максимально быстро дальше Да И вот ну эта культура она во всех проектах
39:50
имплементировать
39:57
каких-то там маркетинговых историй рассказываю просто так компания работает и соответственно на основе этого ну
40:02
получается быстро реагировать на разные вызовы рынка да то есть одна компания команда внутри компании как мини стартап
40:08
делает что-то одно там где-то стрельнула как-то рынок повернула там другая команда быстро само организовалась
40:14
начала эту штуку делать как муравьи Ну там если вы крошки разброса где-нибудь на полу они такие так и Пошли вместе
40:22
кушать эту крошку потом дорогу построили там Ну потихонечку улучшают свои процессы и вот наверное Вот такая
40:28
адаптивная история либо это как муравейник либо Это история про пчелиный Рой Да такая вот больше вот аналогия у
40:35
меня в голове рисуется компании у которых такая культура – это компании которые очень адаптивна там есть свои
40:42
плюсы минусы да то есть там если ты слишком хаотично выстраивается процесс Ты можешь на соответственно где-то
40:50
неэффективность получать но в целом это вот одна из сильных сторон такой
40:55
культуры как у NVIDIA хорошо дате дальше про портфель поговорили да то есть мы делаем портфель чтобы диверсифицировать
41:01
риски и пытаться значит достаточно Прагматично понять
41:07
какой выхлоп будет от каждого отдельного проекта дальше мы значит хотим инвестировать в A платформу Почему
41:13
Потому что у нас теперь уже портфель и в портфеле у нас Существует несколько
41:19
проектов и у этих проектов в портфеле есть повторяющиеся компоненты разметка данных
41:25
или то есть в про чтобы можно делать модель было для новых предсказаний или у
41:32
нас есть процесс распределённого обучения какой-то низкоуровневый механизм обучить огромную
41:39
нейросеть На огромном объёме данных соответственно мы можем сказать так Команда А вы идёте в тот угол и делаете
41:45
свой проект с нуля всё пишете команда B делает вторую какую-то штуку команда C делает другую
41:52
и соответственно коммуникации между этими командами будет очень мало
41:58
это приведёт к тому что вы будете делать Ту же самую работу трижды да Если у вас есть повторяющиеся компоненты
42:04
соответственно вместо этого для создания плеча leverage Да в вашей компании вы
42:10
начинаете платформи Зро ваши capabilities то есть ваши возможности с
42:17
точки зрения разработки различных A проектов и запуску иде соответственно у
42:23
вас тогда получается какая-то там мини команда или сервис который отвечает только за разметку данных и вы теперь им
42:30
просто декларативного так мне картинок вот этих вот подраз или мне вот этих текстов под разметили Дайте мне качест
42:38
оценку качества на основе humans Feedback для вот моей оценки новой моей модели машинного обучения и они такие
42:45
так хорошо сейчас пойдём сделаем они у них выстраивается свой бизнес-процесс свой как бы цикл обслуживания внутренних
42:51
клиентов уже и они для Ну как вы являетесь для них внутренним клиентом А и соответственно вокруг каж
42:57
каждого шага создания у вас начинает формироваться такая компетенция это вот
43:03
вместе объединено называется A платформа Да термин платформа – это там не кусок кода только или это не только команда
43:11
какая-то это ну такой наверное такой мягкий объект Ну то есть
43:17
там я абстрактной математикой до этого занимался такой как бы который в себя
43:23
включает технологии процессы культуру
43:28
людей и вот это всё вместе оно как бы вам даёт как компании возможность сделать и да соответственно это Ну то
43:35
что я рассказываю немножко вы скажете Слушай ты нам рассказываешь это перегиба ется в сторону огромных
43:42
корпораций Да там у них как процессы команды центр компетенции и так далее на самом деле на уровне вот отдельной
43:47
какой-то Груп людей там 5-10 человек Даже если agency студия какой-то стартап в конкретной тематике Это делат то же
43:54
самое абсолютно да то есть просто у вас не бизнес юнитами масштабирование происходит а отдельными людьми да то
44:00
есть один человек говорит я внедряют gpt всё это человек теперь там
44:07
команда по маркетингу ai команда по маркетингу Да ну условно говоря и почему
44:12
это действительно сейчас имеет смысл Потому что раньше Если бы я начал рассказывать такую историю там буквально
44:18
3-5 лет назад то этого было недостаточно Просто надо было бы нанимать
44:24
профессиональных датасаентистом надо было бы там команду процессы закупать какое-то
44:29
железо Ну очень сложно был бы вот этот процесс а сейчас просто взрыв произошёл мы демократи Зро понятие в целом Да что
44:36
сейчас чтобы сделать прототип это важно чтобы сделать прототип достаточно просто
44:42
проявить инициативу прочитать документацию попробовать поговорить с этим чатбот и с помощью промто то есть
44:49
промт инжинеринг Когда вы свои инструкции в человекочитаемом формате
44:54
формулируется и говорите Я хочу вот результат он вот хороший выглядит так а плохой так и это такой неявный способ
45:01
обучить машину что хорошо что плохо Она такая я умная я тебя поняла или оно или он и оно пошло делать и оно тебе уже это
45:09
Рабочая система и потом когда вы проверили этот кейс он уже начинает вам генерировать дополнительные э там э
45:16
оптимизацию бюджета или ускорение процесса или ещё какие-то другие эффективные положительные эффекты для
45:23
вашего бизнеса вы говорите так О’кей Хорошо Мы здесь проверили И если мы будем инвестировать больше то мы получим
45:30
больше выхлоп да то есть в вашей бизнес-модели это Make Sense да то есть опять же не надо говорить сразу же вот
45:38
опять в предыдущей группа приезжала когда к ребятам и они задавали вопрос так так так нам надо нанять Супер Ниндзя
45:45
ai Data scientist там ну какого-то там я говорю Слушайте Ну очень сложно таких
45:51
людей нанять они либо свои стартапы делают Либо они работают на какой-нибудь
45:57
большую компанию и вам не надо такого специалиста давайте сейчас чуть-чуть мы
46:03
начнём двигаться и вместе посмотрим А в каком направлении то вообще вот движение
46:09
есть в вашей конкретной бизнес-модели с вашими конкретными клиентами и то куда вы хотите как бизнес owner Лидер
46:16
развиваться Да и вы поняли так хорошо вот здесь чтото вроде есть движение положительное Давайте туда будем дальше
46:22
доин вести опять же история про лернинг про постоянную реакцию и гибкость
46:27
соответственно это вот платформа пул проектов платформа которая даёт вам leverage и центр компетенций в конечном
46:36
счёте вы должны прийти к тому чтобы вы самодостаточные вы никаких там умных специалистов не привлекаете вы говорите
46:42
У нас команда хорошо работает только если точно там какую-то штуку надо сделать то мы
46:48
привлечён есть дорожная карта и наша команда умеет компетентно расширять дальше эту дорожную карту понимать как
46:54
формулировать задачи по понимать как качество как Значит
Обучение продуктовому мышлению в контексте AI
47:10
бюджетирование от внешних вендоров да то есть потому что как правило в самом начале достаточно рискованно начинайте
47:16
самим всё делать потому что опять же риск высокий что вы получите неудачу в каком-то проекте или в вашем пуле
47:21
скажете так что-то с ием у нас плохо работает и отложите на следующий полгода
47:27
скажет Ну там Пусть компании которые занимаются разработкой инструментов ещё это упростят до невозможного А мы потом
47:35
вернёмся к этой истории сейчас у нас не до этого и такая философия Ну она как
47:40
бы вас будет отдалять по сравнени с конкурентами которые сегодня или вчера уже начали внедрять искусственный
47:46
интеллект и поэтому рекомендация моя Да тоже там дальше на слайде это потом вы начинаете Да
47:55
разбиваем теперь вот эту вот цель которые мы поставили а теперь Значит
48:00
карта которую мы будем использовать чтобы эти цели достигнуть Она состоит из
48:05
трёх фаз Первая – это фаза работы с партнёром да то есть компетентный какой-то там
48:11
либо agency либо какая-то большая компания там либо Это хороший вендер
48:16
который представляет Full cycle там инструменты для создания либо какой-то Эксперт и первый л как бы первый
48:25
значит первую серию проектов она разрабатывается партнёром там с частичным участием вашей команды но в
48:32
первую очередь партнёр лидирует После этого мы достигаем какого-то результата фиксируем этот результат и говорим так
48:38
хорошо давайте мы запускаем трансфер знаний от партнёра для для внутренних ребят там которых мы начинаем уже в
48:44
штате формировать постепенно с одного человека можно это начать делать и параллельно с этим
48:51
мы начинаем вести значит создание
48:57
A платформы да то есть у нас есть первичный пол проектов которые мы разрабатывали и потом мы
49:05
вырине в нашу платформу Ну самый простой способ да Опять чтобы не перегрузить
49:11
термин платформы если мы говорим про достаточно там среднего размера бизнес
49:17
это может быть очень хорошо выстроенный процесс работы с
49:24
каким-то вы сравнени различных компаний на рынке и вы говорите так вот это вот умная
49:31
модель это быстрая модель А это дешёвая модель Да и вы для разных кейсов Вы
49:37
хорошо понимаете в какую модель обращаться чтобы решить ту или иную задачу или быстро попробовать решить ту
49:42
или иную задачу это ваша такая как бы виртуалити связанная с использованием
49:48
там llm по API а разметка данных да То есть вы с какими-то вендора поработали и
49:54
разметка данных ну здесь тоже с точки зрения расширения концепции разметка данных – это не только разметка данных
50:01
для обучения моделей то есть мы разметили какие-то данные У нас есть вопросы у нас есть готовые ответы и мы
50:06
потом нейросеть обучаем новые значит ответы генерировать по историческим данных очень часто и я сторонник такой
50:14
философии это мы применяем гибридный интеллект или строим системы на основе
50:19
гибридного интеллекта когда мы объединяем ai и человека в цикле операционном цикле То есть у нас есть
50:25
например модерация н или у нас есть обработка заявок в банке там qc процесс
50:31
или какой-то другой процесс который Ну сейчас делают люди и мы говорим так
50:36
хорошо давайте смотрим на процесс находим узкие места и в этом процессе мы значит пытаемся внедрить ai как сквозную
50:44
технологию которая позволяет делать эффективность и а потом у нас получается что что
50:50
какое-то подмножество задач которые раньше делал человек оно будет автоматизировано с помощью ai и вот эта
50:55
вот гибридная модель Ну более реалистичная нежели чем ВС будет заменено на Да И вот когда я
Пример внедрения AI: автоматизация визуального контента
51:03
говорю про разметку данных я тоже имею в виду что мы можем ещё это использовать и в операционном цикле когда новые
51:10
прецеденты ну новые задачки которые к нам попадают мы их тоже будем людям подкидывать как посто обработку после и
51:17
это вот конкретный пример мы делали когда визуальный контент мы очки Павла Черкашина фотографируем и значит
51:25
начинаем фото обрабатывать а альтернативный подход Мы фотографируем и в ai засовываю ai делает обработку и на
51:33
выходе получается Классная картинка но там например текущая версия не умеет удалять ээ со стёкол
51:41
блики вроде всё сделали Там 90% работы но всё равно мы не можем кнопочку нажать
51:47
и сразу же в магазин отправить такую фотку нам надо её доработать альтернатива Какая мы эти очки полностью
51:53
в Фотошопе всё делаем под ключ это занимает допустим 30 минут одну фотку очков сделать и мы
52:02
такие так хорошо 90% мы должны автоматизировать 27 минут мы сразу же отдали А 3 минуты там чуть-чуть
52:10
ретушёр подправки для e-commerce Да И вот таких
52:17
задач очень много возникает то есть в основном процесс так строится
52:25
вот
52:32
научает gpt умеет делать Тото то-то то-то но она что-то всё равно же не умеет как бы вот и они такие Так нам
52:38
новую версию надо сделать чтобы она умела ещё какие-то набор скилов так же как мы берём другую нейросеть которая
52:44
оптимизирована для ретуширования картинок и мы говорим
52:50
так вот сейчас она умеет убирать тени рисовать тени делать повороты и удалять
52:57
задний фон но ещё блики Она не умеет делать потому что мы не насобирали достаточно картинок в которых у нас есть
53:03
блики и мы такие так хорошо Сейчас мы подсортировка
53:11
[музыка]
53:26
работала до этого да то есть постепенно вот такой процесс то есть мы как бы её до улучшаем но мы всегда прогоняем её по
53:33
предыдущему набору бенчмарком чтобы не было регрессии по скилам Да ну вот там
53:39
высокоуровневые такая история и здесь важно опять же это более применимо к а
53:45
большой компании но опять же в маленькой компании тоже это должно работать Мы должны запускать историю про обучению
53:54
там продуктовому мышлению вокруг ai а как можно раньше Почему Потому что вы
54:00
значит пришли прочитали там несколько статей пообщались с какими-то коллегами в индустрии узнали про интересные юзкейс
54:06
внедрения ai в похожих компаниях такие так всё пошли делать и потом вся эта
54:12
инициатива Она идёт от вас то есть вы как бы внутри компании либо владелец бизнеса либо человек который отвечает за
54:19
технологии либо в большой компании там какая-то команда которая отвечает за внедрение ий и вы идёте всем Так вам и
54:25
ай надо Ну сейчас чуть-чуть по-другому сместился акцент Да потому что все про это говорят уже невозможно от этого
54:31
скрыться но всё равно Всё равно есть резистентность там кто-то говорит так А у меня вот если вы внедрить у меня
54:37
бюджет сейчас на 500 человек а ваш он 90% обработки картинок он как бы
54:43
автоматизирует то есть значит что на следующий год у меня будет в 10 раз меньше бюджет что ли я не буду я сейчас
54:50
буду саботировать внедрение вашего в свою компанию это если неправильно культура выстроена
54:56
правильная то ваш коллега который отвечает за вот эту команду контента скажет классная идея сейчас мы вместе с
55:03
тобой за оптимизируем это всё А высвобожденных использовать для там Эмма или для
55:09
каких-то других целей мы никого не собираемся увольнять и это философия которую опять же я тоже А
55:16
значит рассказываю Да а разделяю что не надо бояться что ваше я уволит какую-то
55:26
часть команды надо думать в другом чуть-чуть ключе что есть бизнес-процесс в нём
55:34
очевидно есть неэффективности мы эти неэффективности которые мы можем устранить с помощью мы их должны сделать
55:40
потому что у человека столько интересных возможностей скилов пока agi не сделали
55:45
Всё равно человек – это какая-то универсальная система которая очень классно умеет сложные когнитивные задачи решай давайте мы вот это вот то что мы
55:52
ещё не умеем и яем автоматизировать отдадим человечкам и пусть это делают а оставшуюся вещь пусть сделает компьютер
55:59
потому что ну это рутина это скучно да и соответственно когда мы вот так вот
56:06
разделяем высвобождением использовать на создание
56:11
добавочной стоимости конкретно в примере создания контента для ecommerce Какая история есть значит исследование
56:20
от eBay и от амазона который говорит чем больше картинок вплоть до картинок
56:26
потому что иначе слишком много будет чем больше картинок на единицу товара мы на сайте интернет-магазина показываем тем
Организация работы внутри компаний: принципы самообучающейся структуры
56:33
больше будет конверсия тем больше будет продаж просто Почему Потому что человек им им меньше возвратов товара будет да
56:40
то есть тоже важная большая проблема соответственно мы продаём товар У нас есть сейчас типично
56:47
одна три может шесть картинок на хорошем маркетплейсах а исследование говорит что
56:52
вплоть до 12 там кривая Как бы чуть-чуть как бы растёт растёт растёт после 12 там уже Прямая линия Ну сколько уже картинок
56:58
не доки дый не нужно потому что люди могут с разных ракурсов посмотреть на товар они могут closeup какой-то сделать
57:04
в контексте лайфстайл как бы чуть-чуть маркетинговая история там идёт не только такой фактологическая информация Как
57:11
выглядит продукт и соответственно мы говорим хорошо у вас вот сейчас команда
57:17
контента Сколько человек они говорят там 15 мы говорим хорошо Сколько единиц товара в единиц Ну там в месяц вы
57:23
обрабатываем говорят там Ну допустим 1.000 единиц товара мы говорим хорошо Сейчас вы сколько производите вот этой
57:28
командой контента они говорят Ну там 3.000 картинок да то по три на каждую единицу товара мы говорим Ну хорошо вот
57:35
исследование говорит что можно до 12:00 догнать и ещё видео туда закинуть которое тоже можно сейчас генерировать с
57:42
помощью я они такие классно мы говорим Ну вот смотрите давайте мы вот увеличиваем да то есть это мы с помощью
57:48
ai можем делать но A же не идеальный у нас там он не на 100% делает он там на 90 То есть это 10% вот в итоге
57:55
получается там если математику сделать то что три картинки обрабатываются в
58:00
Семи а ну давай сделаем там чуть-чуть трюк не 90 А 75% да то в зависимости от
58:05
категории товара там может быть ть чуть-чуть частота качество автоматизации Ну там процент автоматизации быть ниже и мы
58:12
значит 100% картинок сейчас там по три картинки на
58:18
SQ делаем значит такой командой А если мы хотим 12 делать картинок с 75%
58:25
автоматизации тогда нам надо Ту же самую команду сохранить но мы сможем сделать гибридный workflow когда мы частично
58:31
обрабатываем с помощью и частично обрабатываем руками да то есть о к че там соотношение и мы никого не уволили а
58:37
единица контента на один товар у нас увеличилась или как Я сказал можно
58:43
делать smm какие-то другие истории придумывать вокруг товара да то есть ну вот это
58:49
концептуально так здесь это длинная штука и наверное вот здесь вот интересная график а это а про то почему
58:58
нужно обучать да то есть я вот вам рассказывал что вы как человек который замотивирован внедрить я в свою компанию
59:05
идёте и вот эти кейсы всем внутри начинаете продавать говорить так вот внедрить я здесь внедрить яй здесь
59:11
внедрить а здесь у нас есть такие классные идеи и в какой-то момент Нам
59:17
нужно перейти в такую модель когда у вас вся компания думает про ai и пытается
59:23
это использовать как одну из технологий улучшения бизнес-процессов каких бы то ни было в любой точке
59:28
децентрализованного месте вашей компании есть человек который понимает как думать про ва Как ставить задачу Как
59:35
контролировать результат и почему это круто и важно для для бизнеса и Нам
59:40
нужно перейти из модели продающего такого как бы человека про A технологию внутри вашей компании в историю когда к
59:47
вам просто в дверь стучатся все сотрудники и говорят у меня есть идея У меня есть идея У меня есть идея И у вас
59:53
просто не хватает бюджета у вас не хватает времени все эти заявки обработать да то есть у Вас как бы
59:59
происходит изменение уравнения И в этот момент вы можете умереть от собственного
1:00:05
успеха Как Сёрферы да то есть они такие ждут волну классную на гова Мы только
1:00:10
что ездили ждут волну и там огромная просто волна идёт она их и закрывает Они
1:00:16
могли просто поймать волну поехать на этой волне а такого не произошло тоже
1:00:21
самое с технологиями происходит то есть мы значит начали всем значит вва впаривая это в какой-то момент
1:00:28
получилось намм обучить сотрудников правильно мыслить про ai они начали сами приносить идеи И в этот момент нам нужно
1:00:35
подхватить этот тренд иначе он как бы
1:00:56
есть платформа на которую Мы это можем посадить чтобы на масштабе продолжать успешно внедрять ai Да ну вот такой
1:01:03
график красивый а это значит про то как цитировал Machine Learning в Google
1:01:09
репортинг на Сток Маркете А это значит какой-то внутренний график про то как
1:01:14
использовались их их нейрочипы спрос на нейрочипы внутри
1:01:19
самой компании у N види тоже самое Да по сути дела там у любой компании такой график будет а
1:01:26
и чем компания была ближе к ai как технологии там начиная с 2012 года у иди
1:01:31
там начался вот этот график как бы расти Сначала он был маленький маленький маленький потом просто по сути дела в
1:01:37
каждом месте какой в каждом бизнес-процессе где так или иначе Можно внедрить я мы пытаемся это сделать И
1:01:43
один из проектов про который мы публично можем рассказывать это проект чип nim то есть чипы разработка чипов внутри
1:01:50
компании а значит она частично с помощью е автоматизирована конкретно есть у нас
1:01:57
документация Техническая вся техническая документация там 24 ГБ кода всяких
1:02:03
статей и так далее за последние 30 лет написано внутри всеми сотрудниками и в
1:02:08
этом во всём добре сложно разобраться да то есть надо там просто сидеть и 5 лет читать просто эту всю документацию чтобы
1:02:14
как-то ну получить такой контекст который Ну как бы релевантен вам как
1:02:21
сотруднику конкретной компании и вместо этого мы просто создали такого ТБО Который всю эту информацию в свою
1:02:27
knowledge Base засосал мы построили к да то есть retrieval augmented Generation
1:02:34
систему которая умеет нужный документ достать в момент задания вопроса подставить его в качестве контекста и на
1:02:40
основе вот этого контекста сгенерировать вам читаемый короткий Хороший ответ и а
1:02:46
соответственно инженеры люди которые разрабатывают новые чипы они как бы сейчас значительно более эффективно умеют это делать опять же возвращаясь
1:02:53
истории про гибридный интеллект да то есть у нас есть человек который не просто говорит
1:02:58
кнопочку нажал такой новый чип там сделали и он хорошо работает а Человек
1:03:04
сидит Он продолжает свою сложную работу каждый день делать но у него вот эта вот компонента там с поиском нужного
1:03:10
документа Она там на 3050 там сколько-то процентов быстрее и так вот чуть-чуть в
1:03:15
каждом процессе здесь лучше здесь лучше здесь лучше и в итоге собирается всё в паззл вся компания начинает чуть-чуть
1:03:21
по-другому думать быстрее да то есть вот это успех когда мы говорим
1:03:26
всё level 5 Enterprise ai transformation закончено точка Всё больше делать ничего
1:03:33
нельзя Весь внедрили который такого не бывает но опять же возвращаясь к истории
1:03:39
про Learning organization да то есть которая постоянно реагирует на новые челленджи новые технологии мы получили
1:03:45
самый высокий уровень ма этой технологии то есть мы плюс-минус понимаем что у нас есть в
1:03:50
каждом на каждом этапе разработки систем проектов хорошее понимание как это
1:03:57
делать Кто это будет делать сколько это будет стоить какой ва хороший какой плохой Да и весь цикл принятия решений
1:04:04
прострой и потом новое решение появляется вы уже не просто в хаосе такие бежите так так так что делаем Что
1:04:10
делаем Кризис тут вы такие Так у нас хорошо у нас здесь вот у нас всё понятно И мы новую штуку новую модель LM берём
Важность платформизации и гибкости в AI
1:04:19
относим в команду которая делает evaluation они прогоняют это по бенчмарка они делают Human evaluation
1:04:25
они они делают LM Judge они вам высылают отчёт вы говорите хорошая модель надо интегрировать её в nim вы значит и в
1:04:32
команду м идёте с команда N значит NVIDIA inference microservice она это всё делает подготавливает эту модель
1:04:39
значит чтобы её можно было релизинг команда маркетинга и
1:04:46
партнёрства идёт в команду партнёрства и говорит Давайте с вами пожмём руки Значит будем релиз делать Ну и всё вот
1:04:52
всё уже понятно что Что делаем выстроил процесс и вот такую штуку нам нужно
1:04:58
построить в ваших компаниях да то есть это будет отличаться от того как это там у одного человека или у другого будет
Ответы на вопросы: оптимизация внедрения AI и роль промт-инжиниринга
1:05:03
работать но это общая как бы качественная характеристика компании что вот у нас
1:05:09
такое состояние мы как это Нирвана так всё и я и Нирвана мы достигли да По
1:05:16
времени то есть у нас уже да давайте сделаем паузу вопросы и Off the Record
1:05:23
начнём Да уже потому что там Да вопрос Следующий мы видим то что сейчас для того чтобы компания с не в
1:05:31
тех бэкграунд сделала так чтобы пройти для
1:05:38
этого нужно пройти реально очень большой процесс и там нужно также сделать чтобы у SE в первую очередь пятая точка
1:05:44
максимально горела чтобы онс это сделал Как вы видите дальнейший процесс
1:05:49
оптимизация этого вот пути работы Будет ли такое что будет просто не знаю
1:05:54
какой-нибудь ent gbt куда заходишь говоришь мне нужно это сделать он показывает тебе сервисы
1:06:00
Потому что сейчас для 99% бизнеса внедрение так чтобы это было эффективно
1:06:05
СМИ весь это процесс очень сложная задача как она будет оптимизировать и как Ну я
1:06:14
отвечу на двух уровнях первое короткий ответ there is shortcut как бы да ну то
1:06:20
есть делать всё равно Ну надо этот процесс будет выстраивать да вторая вещь чуть-чуть второй слой
1:06:27
а каждый год там каждый месяц каждую неделю сейчас этот процесс упрощается да
1:06:35
как вот мы грубо говоря Ну вот один из э таких аргументов которые я там люблю
1:06:40
повторять или фактов А это история про профессиональных ai разработчиков
1:06:47
профессиональных там дата инженеров и софт инженеров и есть ещё третья группа
1:06:52
Citizen Data scientist да то есть просто там Рандом человек и раньше нельзя было
1:06:59
делать ai без присмотра профессионального дата сайентиста то есть должен быть такой был человек
1:07:05
Сейчас любой софт иннер с глубоким уважением к софт инженерам отношусь это просто другая профессия да то есть люди
1:07:11
которые Ну не учились делать и они умеют делать ннд мобильную разработку энд и так далее И эти люди они теперь могут
1:07:18
прочитать API спецификацию и сказать классно Я теперь могу сделать какой-то систему проект и есть
1:07:26
Citizen dat scientist которые просто там умеют чатиться с чат gpt сейчас там я не
1:07:32
знаю сколько пользователей но на тот момент когда чат gpt анонсировали было там 100 млн За первые 2 месяца Да т люди
1:07:39
цитируют сейчас уже 600 млн Ну 600 млн А человечков Живёт там 7 млрд плюс Да
1:07:45
почти там 10% человечества уже A специалисты Ну так плюс-минус да то есть
1:07:51
они ну как-то они уже умеют с этой системой взаимодействовать Почему Потому что это отличается вот поисковой системы
1:07:56
я думаю там где-то лет 15 на фокусироваться на поисковые системы А с ребятами из Яндекса мы разговаривали
1:08:05
и я помню мы обсуждали как какие-то крутые пользователи они изобрели свой
1:08:11
язык общения с поисковой системой там вроде ну какой язык там строчка такая и ты туда все слова которые есть в голове
1:08:18
засовываешь она тебе даёт какой-то ответ и там умные пользователи они там какие-то придумывали длинные запросы
1:08:23
как-то там переформулировка плюс минусы кавычки потом это внедрили как такой расширенный язык запросов чтобы все
1:08:29
пользователи делал также как в Твиттере этот хэштег изобрели пользователи там тоже люди как-то Вот они пользовались
1:08:35
по-хитрому системой и они такие ну Давайте этих пользователей поддержим сделаем нативно частью нашего продукта и
1:08:43
это было Ну такая всё равно супер нешева история там Практически никто такими штуками не пользуется в поисковых системах потому что надо всё быстро А
1:08:50
сейчас следующий виток развития вот этой технологии Когда можно сформулировать ци Да это один ещ способ
1:08:57
оценки м систем насколько она хорошо умеет следовать инструкциям То есть я ей
1:09:03
сказал напиши письмо и поставь в конце восклицательный знак она взяла и три
1:09:09
поставила восклицательных знаков А я ей сказал один поставь и вот если я чуть-чуть
1:09:14
модифицируют знак поставь и она должна поставить это вот свойство системы следовать инструкциям Да это тоже один
1:09:21
из хороших важных факторов оценки систем и люди должны учиться правильно
1:09:26
формулировать свои пром да то есть поэтому сейчас там много курсов всяких делается там промт инжениринг мы вас
1:09:33
научим и так далее Ну самый простой способ Да это хорошие там истории а
1:09:41
но самый простой подход Возьмите и начните пробовать и у вас набьёт это
1:09:48
ошибки полгода вы будете там может бы недовольны или 2 недели вы скажет да что ты как-то она я пойду Лучше там в другую
1:09:54
поисковую си искать потом потихонечку Вы научитесь этим пользоваться у вас будет такой симбиоз то что как бы вас будет
1:10:00
система Лучше понимать да