Профессор Владимир Крылов, доктор технических наук и научный консультант Artezio по применению ИИ в разработке ПО, рассказывает о мире маленьких LLM.
“Вместе со столь популярным направлением развития ИИ, как Большие Языковые Модели — LLM, почти незаметно растет индустрия в сотни раз меньших по размерам и требуемым ресурсам моделей, которые называются маленькими LLM. Они могут быть развернуты прямо на вашем домашнем компьютере даже без видеокарты с GPU. Не претендуя на соревнование с большими моделями во всех областях разумной деятельности человека, они оказались чрезвычайно эффективными для решения узкоспециализированных задач. Объединяя несколько маленьких моделей в общую сеть, можно добиться от такого коллектива решения многих сложных задач”, — отметил профессор Крылов.
Расшифровка видео
0:00
если мы возьмете Вот
0:03
эти то они всегда очень специальные они
0:06
предназначены для решения каких-то узких
0:10
задач Если вы Например на этой малой
0:12
модели
0:16
извлекаемые именованные сущности то есть
0:19
фамилии например
0:21
адреса вам важно в тексте Вот это всё
0:24
изв она умеет это делать хороо ожет
0:30
махатмы Ганди Но зато она хорошо
0:33
управляемая Вы можете её переучить с
0:36
одного языка на другой с одних сущностей
0:38
на другие И тем самым использовать её у
0:42
себя более того эти модели являются
0:48
Малом вот ЛМ гиганты мы будем относить
0:54
ну сейчас вот это как-то принято модели
0:57
у которых размер больше 7
1:03
отно а вот эти крошки они маленькие и
1:09
вот эти Фима и это я такие наиболее
1:12
громкие имена взял их очень много как я
1:15
говорил но В чём их сила их
1:19
сила единстве мы их можем
1:22
объединять
1:28
каждая вы построите такой пайплайн такой
1:32
конвейер который позволит решить и более
1:35
сложную