Доклад с конференции “Цифровой социализм-4”. 18 мая 2024 г.
https://www.perplexity.ai промт – Сделай обзор на текст на 2000 символов. Выдели основные идеи. Сделай 3 вывода из текста
Answer
Текст представляет собой размышления о развитии и значении искусственного интеллекта (ИИ), а также о его влиянии на общество и человеческий разум. Рассмотрим основные идеи и выводы из текста.
Основные идеи
- Определение искусственного интеллекта: Автор подчеркивает важность четкого понимания термина “искусственный интеллект”, который включает системы, способные решать интеллектуальные задачи, заменяя или помогая человеку. Важно различать узкий (или слабый) ИИ, который специализируется на конкретных задачах, и гипотетический общий ИИ, который мог бы решать широкий круг задач.
- Эволюция восприятия ИИ: В тексте обсуждается “эффект искусственного интеллекта”, при котором задачи, решенные ИИ, перестают восприниматься как интеллектуальные. Примеры, такие как победа шахматной программы над чемпионом мира и достижения в игре го, показывают, как общественное мнение меняется в зависимости от успехов технологий.
- Технологический прогресс и его последствия: Автор указывает на растущие возможности технологий и потенциальные риски, связанные с их использованием. Упоминается о необходимости быстрого развития технологий ИИ для предотвращения дисбаланса между технологическим могуществом и способами управления им в обществе.
Выводы
- Необходимость четких определений: Для продуктивного обсуждения ИИ важно использовать четкие определения и понимать различия между узким и общим ИИ.
- Социальное восприятие ИИ меняется: С развитием технологий задачи, которые ранее считались интеллектуальными, становятся обыденными, что влияет на общественное восприятие возможностей ИИ.
- Риски технологического прогресса: Быстрый прогресс в области ИИ создает новые вызовы для общества, требуя пересмотра существующих методов управления и принятия решений для обеспечения безопасного использования технологий.
Расшифровка видео
Поиск по видео
0:00
сперва это дисклеймер не знаю Я там не отношусь себя к ведущим специалистам в области искусственного интеллекта Я в
0:06
общем-то даже не совсем честный учёный Да у меня там хирш не слишком высокий Да
0:13
я скорее научный администратор в том смысле что я руковожу довольно большой командой которая занимается
0:19
исследованиями и разработками в области искусственного интеллекта Ну и там воле судеб я популяризатор науки в этой
0:25
области вот поэтому Ну воспринимайте всё с некоторой долей значит того что перед
0:30
вами вс-таки не академические учёные Да там и не какой-то там ведущий специалист в мире по этой тематике Вот но что-то я
0:38
наверное в этом стал понимать за последние 30 лет сколько я этим занимаюсь вот Ну начнём Мы конечно с
0:45
того что ну как у рыжих бородатых мужиков заведено со времён античности вначале нужно договориться об
0:51
определениях Иначе мы рискуем попасть в неприятную ситуацию Когда я буду
0:57
говорить искусственный интеллект руководствуясь отд не трудами знаю Ринга
1:07
или значит других классиков этой области а голливудом мнением например на
1:16
эту тему Ну вот что такое искусственный интелект что под ним понимают специалисты в этой области что под этим
1:22
понимают информатики см интела хто
1:30
решения интеллектуальных задач То есть если есть какие-то задачи которые мы решаем при помощи интеллекта и мы
1:36
создаём систему которая способно человека подменить в решении таких задач Ну или по крайней мере существенно
1:42
помочь ему в решении таких задач то это и есть искусственный интеллект словом это очень Широкая технологическая
1:51
область которой на самом деле очень-очень много лет Да первые технологии искусственного интеллекта
1:57
люди стали создавать ещ там промышленную эпоху вот Конечно когда мы говорим
2:03
сегодня об искусственном интеллекте нас в первую очередь интересуют задачи которые находятся на фронтире возможностей современной науки и
2:09
технологий А фронтир этот как вы понимаете постепенно сдвигается Вот и
2:15
значит Ну я вот в качестве примера приведу э такой забавный эффект
2:21
социальный он называется эффект искусственного интеллекта Или иногда называют его эффектом Марк в честь помел
2:26
мардак известный специалиста в области искусственного интеллекта то что в общем-то как только какая-то
2:34
интеллектуальная задача решается при помощи технологических инструментов люди в общем-то перестают признавать
2:40
интеллектуальность этой задачи и Ну вот в этом смысле как бы в
2:46
обывательский сознании искусственный интеллект – это что-то что никогда не будет существовать Да потому что как
2:51
только мы решаем какую-то очередную задачу люди будут говорить что Ну не интеллектуальная задача и была то есть
2:58
скажем в пся шестидесятые годы XX века Если бы вы человека остановили на улице
3:03
и спросили у него А будет ли там настоящим искусственным интеллектом система которая обыграет чемпиона мира в
3:10
шахматы то Ну наверное 10 из 10 людей ответили бы вам да потому что шахмата ну
3:15
это вот такая интеллектуальная талонная игра Да как
3:21
говорят мушка дрозофила искусственного интеллекта да А когда в дено сем году
3:27
Каспаров проиграл матч деб очень многие люди сказали Ну нету у вас там никакого
3:33
интеллекта в ваших машинах они просто грубой силой передавили Да вот пересчитали много вариантов перебирают
3:41
человек так не может Вот никакого интеллекта нету одна сплошная грубая сила но есть вот такая мудрая Восточная
3:48
игра го вот в ней как бы нельзя Точно значит хорошо и быстро перебирать
3:53
варианты вот когда вы нам покажете машину которая сможет победить сильнейших игроков го вот тогда и
3:58
поговорим в 2014 году лиси доль проиграл Альфа го что сказали Эти люди Они
4:06
сказали Ну у вас там какое-то перемножение матриц какие-то свёрточные нейронные сети это всё никакой не
4:13
интеллект одна математика Вот вот когда ваши машины научатся рисовать картины и
4:20
сочинять музыку вот тогда мы с вами и поговорим да но сейчас эти люди тоже продолжают что-то там лепетать вот но в
4:27
целом этот конечно довольно трудно наверное спорить с тем большим прогрессом в
4:33
области технологий искусственного интеллекта который мы наблюдаем последние десятилетия и именно последние
4:38
десятилетия он стал таким выпуклым Ну вот возвращаясь к определению в целом сам термин придумал
4:46
Ну и точнее скажем так обнародовал Джон Маккарти на
4:58
дартмутский занимается разработкой двигателей там искусственной силой например да то есть вот искусственный
5:05
интеллект – это вот Ну вот как как как термин искусственная сила в отношении там работы двигатели чтов Вот и
5:14
конечно в этом определение некоторая романтика эпохи выражена Да Спустя год
5:20
на Орбиту земли отправился Первый искусственный спутник и тогда казалось что Ну вот пройдёт ещё там несколько лет
5:26
и мы уже начнём строить колонии там на ближайших к нам планетах Да там через три десятилетия там вообще полетим к
5:33
звёздам да Или того быстрее и в этом смысле Прогресс в области вычислительных технологий в начале пятидесятых годов он
5:39
породил тоже Ну вот такое немножко романтичное отношение к вопросу и тогда Ну наверное даже специалистам было
5:45
трудно предположить что вот дистанция между программой которая обыграет чемпиона мира в шахматы и действительно
5:51
универсальным искусственным интеллектом общим искусственным интеллектом то есть системой способной решать неопределённо
5:57
широкий Круг интеллектуальных задач подобно тому как это делают люди она окажется такой большой Да ну то есть
6:02
казалось что вот расстояние между этими двумя событиями оно будет какое-то очень короткое и в принципе не очень важно
6:09
поэтому Ну там как-то нам вообще разбираться что там внутри этого искусственного интеллекта Какие степени
6:15
его могут Что называется существовать вот Ну вот сегодня учёные Обычно говорят что есть вот два таких
6:23
полюса да то есть Первое – это прикладной или узкий или слабый искусственный интеллект и это система
6:28
которая достигают своего успеха главным образом за счёт очень узкой специализации в принципе в природе есть
6:35
живые организмы нервная система которых гораздо проще нервной системы человека но некоторые при этом интеллектуальные
6:42
задачи они могут решать лучше человека ну скажем пчела в улье найдёт оптимальный маршрут быстрее и лучше чем
6:48
это делают люди вот Хотя её нервная система очень маленькая и в общем-то До
6:53
недавнего времени подавляющее большинство Ну и вообще наверное 100% систем которые мы создавали они Ну в
7:00
общем обладали степень универсальности примерно равной нулю Да шахматная программа там Deep BL умеет играть
7:07
только в шахматы да она не умеет распознавать котиков на картинках Она не умеет играть с вами в покер Да она даже
7:14
не умеет играть в шахматы на доске 9 на де да Но именно благодаря вот этой вот узкой специализации конкретно в решении
7:20
одной интеллектуальной задачи Эта система смогла достичь сверхчеловеческие то есть обойти
7:26
возможности такого мощного вычислитель
7:32
Ну а на другом полюсе находятся гипотетические системы которые способны решать неопределенно широкий Круг
7:38
интеллектуальных задач Ну и до недавних пор я в своих лекциях так и говорил Ну типа все системы которые мы до сих пор
7:44
создали это вот как
7:50
хотите универсальный искусственный интеллект
7:59
трансформер моделей за последние несколько лет мы видим как мы довольно быстро движемся в сторону универсализации систем искусственного
8:06
интеллекта Да и там чат gpt Вполне может решать много разных интеллектуальных
8:11
задач и делать это на достаточно высоком уровне таким системам всё ещё далеко до
8:18
человеческого мозга в плане своей универсальности но как бы Вектор развития он понятен несколько ещё буквально слов коротких о
8:25
значимости вообще технологии искусственного интеллекта вообще есть такая как бы проблема Как
8:33
м ну я называю удешевление Апокалипсиса да то есть вот в XIX веке если бы мы
8:39
очень сильно Даже захотели нанести непоправимый урон там себе э или биосфере в целом У нас не было Для этого
8:46
инструментов но благодаря техническому прогрессу ситуация быстро меняется Да в
8:51
середине пятидесятых ну нужно было бы чтобы воплотилось что-нибудь там в духе сценария из фильма доктор стрейнджлав да
8:58
Для того чтобы произошла глобальная катастрофа но вс-таки все там понимали что это Ну конечно риск есть но он может
9:05
быть не такой большой Да вот Но сегодня Да и ядерные технологии становятся всё
9:12
более мощными и биотех развивается быстрыми темпами Да и в этом смысле наше
9:17
могущество технологическое оно растёт А вот способ которым при помощи которого мы управляем этим могуществом способы
9:25
принятия рений которые в обществе существуют не поспевают да то есть проблема в том
9:32
что там мозг Ну вообще биология человека консервативна человеческий мозг там
9:37
современного человека мало отличается от мозга человека из эпохи до Промышленной
9:43
Революции Ну а Социальные опять же структуры как мы знаем тоже консервативны да в этом смысле Вот
9:51
и тут вот такая штука да что технология искусственного интеллекта это на самом деле наш способ усиливать возможности
9:58
нашего интеллекта то есть также как не знаю У нас нет острых когтей и зубов мы
10:03
изготавливаем ножи и другие инструменты Да у нас нету Толстой шкуры густого меха
10:09
мы изобрели одежду вот технология искусственного интеллекта – Это точно такой же Инструмент там усиление
10:15
возможностей человеческого интеллекта и если мы будем развивать его недостаточно
10:21
быстро да то мы гром создать Ну вот такой довольно опасный дисбаланс Да вот
10:27
а мы знаем из ль про Спайдермена Что за большой силой должна следовать большая
10:34
ответственность Да И вот в этом плане технологии искусственного интеллекта это то что как бы способно сыграть в этой
10:41
ситуации на нашей стороне вот на самом деле у человеческого интеллекта у него есть целый ряд вполне понятных барьеров
10:48
которые бы хотелось раздвинуть при помощи технологий Ну например вот проблема скорости принятия человеком
10:54
решения проблема человеческого мозга как биологической системы в том что он Ну как бы вот относится к классу VR да то
11:02
есть мокрое вычисления Ну а что значит мокрое вычисление значит что э понимаете
11:07
Если разница потенциалов достигнет в вашем мозге 1,26 в то вода начнёт разлагаться на
11:14
водород и кислород и ваш мозг сделает бум Да и как бы это не очень способствует вообще продуктивным
11:20
вычислениям и работе да вот поэтому Ну вот есть некий фундаментальный барьер а
11:26
разница потенциалов нужна для того чтобы ионы пропих венные каналы в синапсах Вот
11:32
и Именно поэтому длительность импульсов отдельных в головном мозге она Ну вот
11:38
там порядка единиц миллисекунд 1-2 миллисекунды это довольно много по сравнению с тем что мы можем например
11:43
сделать при помощи электроники Да поэтому вот один из барьеров – это скорость хотя мы поговорим про
11:49
человеческий мозг это всё ещё грубая сила в плане вычисления всё
11:55
ещё на его стороне Надёжность систем Ну понятно Да значит человек не всегда
12:00
достаточно надёжен Да если вы кому-нибудь когда-нибудь
12:06
одалживает ограниченный параллелизм да нам трудно
12:12
сохранять эффективность решая несколько интеллектуальных задач одновременно Да наша производительность быстро
12:17
деградирует ситуации когда мы вынуждены решать много задач коммуникативные ограничение да то
12:23
есть пропускная способность сенсорной сенсомоторной коры мозга Да она ограничена нам трудно Ну как много
12:30
физических операций одновременно выполнять или не знаю Вы не можете смотреть одновременно 10 фильмов Да ну
12:35
точнее можете но там эффект будет не тот который Хочется вот барьеры физической
12:41
хрупкости Да человеческое тело довольно хрупкое Мы существуем в очень ограниченном диапазоне ускорения
12:48
температур концентрации кислорода и так далее есть некоторые порок сложности
12:53
систем которые подвластны человеческому разуму Да ну не буду здесь там углубляться времени не очень
12:59
человеческая память ограничена экспертные навыки и знания отдельного человека ограничены есть определённые барьеры там
13:07
в мотивации Да при решении разных задач Да иногда нам что-то нужно сделать но
13:13
очень не хочется И мы не делаем вот ну и барьеры масштабирования репликации тоже
13:19
понятная проблема да Если вам нужен завтра кол-центр там из 10.000 сотрудников Ну не наберёте вы 10.000
13:25
новых сотрудников за сутки да потом когда вам это кол-центр больше будет не нужен да вы и уволить их не сможете вот
13:35
значит в общем вот эти барьеры которые на самом деле объективно существуют и
13:40
технологии искусственные интеллекта они призваны для того чтобы эти барьеры раздвинуть И на самом деле это было
13:46
очень хорошо понятно довольно давно скажем Дуглас ангель Барт в шестьдесят вром году написал фундаментальную работу
13:54
анализирую собственно говоря вот эту самую проблему расширени
13:59
во человеческого разума Ну кто знает кто такой энгельбарт поднимите
14:06
руку ну совсем вообще обычно про него говорят что человек который изобрёл компьютерную мышь Вот но это очень
14:14
маленькая часть Правды Да это человек который изобрёл примерно все современные интерфейсы Да вот
14:29
здесь как раз с первой компьютерной мышкой Да там с первым многооконный
14:34
интерфейсом Вот это так называемая мать всех демонстраций на которой энгельбарт показал собственно говоря прототипы всех
14:42
тех механик взаимодействия с машиной которые сейчас вот развились в наши там современные компьютеры смартфоны и так
14:48
далее Если вдруг вы не читали его эту работу Я очень вам советую почитать вот
14:55
ну или вот например Это редкин который ушёл от нас в прошлом году вообще так вот с присущим ему романтизмом смотрел
15:02
на развитие технологии искусственного интеллекта и говорил что как партнёры с интеллектуальными системами которые
15:08
дополняют компенсируют наши исправим недостатки и в полной мере используют присущую нам креативность мы могли бы
15:14
развивать всю области науки и искусства и имея вычислительные крылья мы могли бы взлететь навстречу
15:20
фениксу а просто страшный слайд с большим
15:25
количеством прямоугольников нужен не для того чтобы рассказывает для того чтобы подавлять То
15:31
есть каждый прямоугольник – это какая-то сфера народного хозяйства Да человеческой деятельности в
15:38
которой значит применимы Современные технологии машинного обучения искусственного интеллекта вот а ну
15:44
машинная обучение если коротко это класс методов внутри искусственного интеллекта
15:49
который позволяет создавать системы в явном виде не программирую их поведение в виде наборов правил Вот то есть давать
15:56
их в результате таких процессов похожих на обучение людей
16:02
А почему мы видим такой быстрый Прогресс в этой области за последние там 10 лет
16:09
считается что в 2013 году началась новая весна искусственного интеллекта вот
16:15
революция глубокого обучения а на самом деле Три группы факторов привело к такому быстрому прогрессу Да но в чём
16:21
она выражалась выражалась в том что очень многие задачи которые до этого были неподвластны технологиям
16:26
искусственного интеллекта они оказались решены довольно короткий промежуток времени начиная там от распознавания образов Да
16:33
заканчивая генерацией картинок по текстовым запросам Три источника три составных
16:40
части да Значит первое – это прогресс создание новых моделей
16:48
искусственного интеллекта Да многослойные нейронные сети и вся технология которая выстроена вокруг них
16:55
второ это ро производительности Маши Маши быстрее Причём здесь речь идёт не
17:01
только о поступательном развитии технологий Да по-прежнему мы там более-менее внутри тренда там
17:08
нарисованного Муром находимся Да у нас количество транзисторов на одной микросхеме вообще количество элементов
17:14
на одной микросхеме удваивается примерно каждые 2 года и примерно пропорционально этому растёт производительность машин
17:21
Вот Но значит помимо этого возникли специализированные архитектуры которые
17:27
позволяют более эффективно работать именно с не росте
17:34
коннекс моделями Вот то есть современные сетки учатся не на центральных
17:39
процессорах дановски а учатся на GPU или там других специализированных
17:47
машинках Ну и третье – это быстрое накопление массивов данных которые мы используем в обучении моделей причём Мы
17:53
тоже находимся на такой стадии очень похожей на
17:59
экспоненту да то есть вот количество оцифрованных данных которыми человечество обладает примерно удваивается тоже каждые 2 года и к 2025
18:08
году мы накопи 175 заба оцифровано информации и сколько это ну вот 175 заба
18:16
если взять всю эту информацию и записать её на DVD диски при помощи самой
18:22
совершенной технологии записи то высота стопки будет
18:30
ра больше чем расстояние до Луны и вот Представьте себе что каждые 2 года е высота этой стопки удваивается то есть
18:36
мы живём в такой период жизни человечества который Ну довольно радикальным образом не похож на всю нашу
18:43
предыдущую историю если смотреть на человечество именно с точки зрения процессов обработки информации вот ну по
18:51
поводу архитектур этого рассказывать тоже времени но
18:59
моделей стали свёрточные нейронные сети они появились вообще говоря в результате
19:05
работ учёных ещё в шестидесятые семидесятые годы Да но некоторые там вот
19:10
эти два джентльмена Торн визе и Дэвид Юл они изучали зрительную кору кошек Вот
19:16
они обнаружили там некоторые регулярные паттерны Да показали что значит Ну по
19:22
сути дела вот эти повторяющиеся паттерны они позволяют зрительно коре Кош выполнять
19:29
эффективно задачи связанные с распознаванием образов Ну вот такая Павловская ещё концепция того что кора –
19:35
это анализатор Вот то есть по сути система которая вот как бы раскладывает
19:40
да на некоторые признаки то что получает на вход вот ну
19:47
и под влиянием работы визела и Хью значит в начале там Фрэнка розенблат ещё
19:53
в принципах нейронами в шесть ВМ году пишет некоторые соображения по поводу
19:58
ходов к будущему проектированию нейронных сетей для эффективного решения задачи
20:04
распознавания образов потом первый прототип который называется Нео ког нетрон создаёт хико в усима в конце
20:10
семидесятых годов Ну а потом уже Ян кун и там группа хинна они всё это дело
20:17
сводят в то что мы сегодня называем свёрточные нейронными сетями вот
20:22
рекуррентные сети соответственно сети в которых есть рекуррентные связи выходной сигнал может попадать на предыдущие слои
20:30
сети значит Ну вот первые эффективные рекуррентные архитектуры были созданы в конце девяностых годов юрген шмидхубер
20:37
сейте создали архитектуру которая называется долгая краткосрочная память Ну и вот начало Революции глубокого
20:43
обучения в основном было связано как раз с этими двумя моделями Да с долгой краткосрочной памятью и свёрточные
20:49
нейронными сетями вот сейчас конечно внутри вот этого последнего
20:55
десятилетия произошла своя техно 2017 году появилась архитектура которая
21:02
называется трансформер Вот она тоже не на ровном месте появилась То есть она
21:08
появилась из механизма внимания в рекуррентных нейросетях но опять же
21:13
очень долго не буду про это рассказывать вот ну машины становятся быстрее как я уже говорил да вот у рея курла в 200
21:24
гон нари вот тако вот да о том с какой скоростью растут
21:31
вычислительные мощности топовых суперкомпьютеров и примерно нарисовал
21:36
вот точечку где там у нас должны появиться машины которые смогут в
21:42
реальном времени симулировать работу Там не россети сопоставимо по сложности с человеческим мозгом Да И вот я туда
21:48
красную точку поставил Чтобы показать что мы в общем-то находимся по-прежнему
21:53
вот в рамках этого экспоненциального тренда вот
21:59
Ну вот человеческий мозг Да человеческий мозг всё-таки штука очень сложная и современная
22:05
схемотехника пока не умеет создавать такого рода системы вычислительные 8,6
22:11
млрд нейронов примерно в среднем человеческом мозге до квадриллиона синапсов на
22:17
пике нейрогенез и соответственно чтобы смоделировать
22:22
Каждый синапс один синапс нам нужно там От тысячи до сотен тысяч бинарных элементов Ну открытый вопрос Том с какой
22:29
точностью нужно моделировать процессы которые там происходят для того чтобы мозг свою основную так сказать функцию
22:35
выполнял Вот но ээ значит тем не менее там примерная прикидка есть Вот то есть
22:41
можно оценить количество условных бинарных операций производимых мозгом в секунду вот как 10 двадцать первой
22:48
степени вот для самых лучших э электронных микросхем Да пока что
22:54
примерно на порядок Меньше но эта оценка она носит Ну такой понимаете очень приблизительный характер
23:01
Вот Но что конечно прекрасно в мозге ещ Это то что он потребляет всего 20 Вт
23:07
энергии Да и это очень мало Ну и как мы знаем да человеческий мозг позволяет
23:14
появиться функции универсального интеллекта Да а Электроника Пока нет вот ну в общем
23:21
долгая история как это всё развивалось да у меня вот выходит сечас книга
23:29
в которой в том числе я там анализирую историю развития технологий искусственного интеллекта в итоге получилось больше Войны и мира краткое
23:36
введение в слонове дение в двух томах значит что последнее время происходит значит в
23:44
последнее время значит революция Трансформеров в сенатом году она по сути
23:50
дела открыла путь для масштабирования тех сист которые мы создам позво более эктив исполь туры при
23:59
обучении нейросетей И в силу этого началась гонка так называемых
24:05
фундаментальных или базовых моделей нейросети стали быстро расти в
24:10
числе своих параметров если скажем там в середине десятых годов большие искусственные нейросети насчитывали Ну
24:17
там миллионы параметров то сегодня монолитные нейросети У нас есть с
24:23
сотнями миллиардов параметров А значит монолитные нейросети с сотнями
24:30
триллионов параметров сегодня созданы Вот и вот во многом то что мы наблюдаем
24:36
в области генеративного искусственного интеллекта успехи Да это всё результат
24:42
трансформер Революции Вот и мы находимся пока на стадии такого
24:48
стабильного роста то есть по мере масштабирования этих моделей Чем больше мы делаем эти модели тем дольше мы их
24:54
учим Тем больше мы кормим в них обучающих данных тем лучше метрики при помощи которых мы измеряем
25:01
их там интеллект условно говоря при решении разных
25:06
задач Ну и изначально Трансформеры создавались для решения задач в области
25:13
обработки естественного языка вот конкретно для первое применения связанны с задачами машинного перевода Но значит
25:21
очень много что в нашем мире похоже на текст да Похоже на естественный язык
25:28
тоже в некотором смысле текст Да написанный при помощи там специального нотного алфавита программный код тоже
25:35
похож на тексты на естественном языке в биоинформатике многие последовательности
25:40
очень похожи на естественный язык да в химии транзакции в банке тоже да
25:47
всё это можно представить при помощи естественного языка Но и на самом деле естественный язык он обладает полнотой
25:53
как если его рассматривать как формальную систему И на самом деле условия абсолютно любой эффективно
25:59
Вычисли мой задаче можно сформулировать при помощи естественного языка Ну то есть даже картинку Вы можете Ну просто
26:05
описать описывая цвет каждого пикселя изображения Да а Поэтому тот Прогресс
26:12
который был изначально достигнут в области естественного языка он довольно быстро распространился и на другие сферы
26:18
А ну и произошли такие важные сдвиги парадигм Ну даже не то что произошли а
26:23
продолжают происходить да то есть от специализированных моделей мы переходим моделям фундаментальным фундаментальные
26:30
модели обычно в начале
26:35
предоброе людьми а потом могут Ну либо сразу из коробки использоваться для
26:42
решения каких-то интеллектуальных задач либо дооб учаться на сравнительно небольшом количестве примеров решения
26:48
вот этих самых downstream задач вот значит соответственно там всё большее
26:54
количество компью вычислений мы тратим не на обучение с учителем А на самообучение да
27:01
То есть раньше для того чтобы обучить там модельку распознавать котиков на картинках вам нужны были там десятки
27:07
тысяч картинок размеченный кем-то Да каким-то авторитетом учителем Да грубо
27:12
говоря разложенном две стопки сегодня там
27:26
предобработки примеров чтобы моделька научилась опираясь на выученные ей
27:32
представления решать новую для неё задачу вот значит ну модельки
27:37
соответственно становятся всё более универсальными многозадачные они учатся работать сразу
27:43
с несколькими модальностей
27:59
подходом связанным с параллелизмом данным приходит 3D параллелизм Когда у вас не роевая модель на самом деле
28:06
разрезана по кусочкам между видеокартами данные тоже разреза как бы на чанке Да
28:12
все эти узлы вычислительные объединены какой-то очень быстро сетевой тканью которая позволяет быстро
28:18
обмениваться градиентами и активация между ними вот и такой массивный
28:24
параллелизм достигается за с этого при обни потом этих сетей вот мы видим что многие
28:32
интеллектуальные задачи Ну вот мы наблюдаем так называемое эмерджентность когда там до некоторого
28:38
числа параметров до некоторого порога сети не могут решать какую-то задачу да
28:44
потом происходит там быстрый фазовый переход Да и значит при там превышении
28:49
этого порога модель начинает наоборот очень хорошо решать какие-то новые задачи Вот ну и в разработке по тоже
28:56
важный сдвиг парадигм то есть вот вообще программирование очень хороший такой
29:01
модельный пример того что происходит в плане там трансформации какой-то индустрии под влиянием новых технологий
29:09
искусственного интеллекта то есть когда-то в сороковые годы люди сами там пере там программисты сами втыкали
29:16
штекеры или там пробивали дырочки в перфокартах да потом появились там языки
29:21
низкого уровня Да первая там первый шаг в сторону составления инструкции для машин
29:29
на естественном языке да потом языки высокого уровня потом появились там большие библиотеки
29:35
[музыка]
29:41
переиспользовать и девяностые годы сильный программист –
29:46
это был такой человек который прочитал три тома искусства программирования кнута ещё там какого-нибудь там липского по теории
29:54
графа гутмана хими ведение в разработку анализ алгори там ещ много книжек Да и дальше Вы этого человека заперли в книге
30:02
без доступа в комнате без доступа к внешнему миру Да и он способен вам из головы написать там не знаю алгоритм
30:09
форда-фалкерсона своими собственными руками Да вот сегодня Ну понятное дело в эпоху гитхаба
30:16
и к оверфлоу самое важное умение для программиста – это скопировать нужный снипет Кода да и взять его Не из вопроса
30:25
А из ответа на это важные это очень очень важно очень важное умение вот не
30:32
все справляются Вот то есть и сейчас соответственно Вот это парадигма такого
30:39
разработки с опорой На социальные там механизмы Да социальная разработка она
30:45
Ну это основной наш подход Да ну вот там появляются приходят сюда новые модельки
30:50
типа там кайта да какого-нибудь да Или нашего там гига кода Ну и вот вам уже
30:56
нужно гораздо меньше са искать там снипет кода вы там поручается это по сути дела там продвинутой системе
31:03
искусственного интеллекта которая может либо там отталкивать это инструкции на естественном языке для вас готовы снипет
31:08
кода написать да либо просто там из контекста понимает что сейчас там нужно
31:14
фигачит вот ну э вдруг кто-то не пробовал что может чат
31:20
gpt и подобные ей системы Да вот они там пишут код находят в нём ошибки э
31:26
позволяют значит ну там программировать на естественном языке до некоторой степени конечно в основном для несложных
31:33
каких-то задач вот ну в общем не будем
31:38
тоже на этом так подробно останавливаться так сейчас видимо там
31:44
подтормаживает да там пожалуйста можно там тексты на любые заданные темы писать
31:50
там мозговой штурм вести там рецепты блюд
31:56
придумывать значит объединив там возможности текстовых моделей с значит с
32:04
генеративными там кросс модальными моделями можно значит
32:10
и значит некие задачи там Арт студии или веб-студии решать но опять же в основном
32:16
пока что очень простые задачи да но тем не менее Вот в этих примерах видно виден
32:22
потенциал этих моделей Да даже вот там чат gpt вам может написать музыку Хотя вроде ну как специально никто не учил
32:29
музыка конечно так себе получается но хуже чем у специализированных моделей но
32:34
сам Просто факт того что это работает да Ну и вот там регулярно как какие-нибудь
32:39
сдаются экзамены Да вот там Orton MBA CH gpt сдавал чат у нас сдавал значит
32:47
квалификационный экзамен на адвоката и квалификационный экзамен на врача общей
32:52
практики вот значит и вот В чём здесь там
32:59
принципиальные новости систем подобным Chat
33:05
gpt они в общем-то в том что Да ёлки зелёные что ж такое-то
33:14
сейчас Да значит Ну вот с точки
33:19
зрения там если посмотреть на них повнимательнее то значит многозадачность
33:26
рост уровня интеллекта моделей происходит да мультимодальной мультиязычность ээ обучение с
33:33
подкреплением используется Вообще разные формы социализации моделей да то есть мы
33:38
используем какую-то обратную связь от людей да Для того чтобы модель доучиться
33:44
там учить её давать более качественные ответы вот ну и вот там последнее время
33:50
значит тенденция к интеграции моделей с поисковыми системами парадигма э то что называется retrieval augmented
33:56
Generation то есть генерация Дополненная поиском вот ну наш
34:02
аналог Chat gpt – это чат Если вдруг вы не слышали про него так это по факту
34:08
самый большой вычислительный проект в истории России то есть по количеству вычислений которые было затрачено на
34:15
обучение этой модели мы там в шесть раз превысили тот же тот результат который
34:21
был в м году когда мы учили rp3 вот с мирми параметров и на тот
34:29
момент это тоже был самый большой вычислительный проект в истории страны вот по количеству вычислений В общем это
34:36
всё Ну такие вот мегапроекты эпохи э трансформер моделей
34:43
а важно понимать что эти модели обладают пока что целым рядом ограничений Да
34:51
значит и не нужно переоценивать их возможности многие задачи Они пока что
34:56
решают не очень хорошо Ну вот там есть у меня такой слайд с разными там вызовами
35:01
которые стоят сейчас перед теми кто разрабатывает и совершенствует современные большие
35:08
трансформер модели вот это там и недостаточная фактологическая точность
35:13
генерации не знаю если кто-то из вас опять же пользуется знает да что нужно перепроверять обязательно не придумала
35:19
ли модель вам там какой-нибудь новый интересный очень правдоподобный факт на самом деле это очень похоже на то как
35:26
ведут себя люди да студент будучи припёр на экзамене тоже знает что молчать
35:32
нельзя да вот нужно что-то генерировать Вот и Авось прокатит Да И вот модель она
35:37
в этом смысле тоже Как вы понимаете не может запомнить абсолютно всего Да и
35:43
поэтому А поскольку её учили Ну таким образом что ответить Я не
35:49
знаю она в общем-то не очень умеет вот поэтому значит Ну если что привт вот ну
35:59
открытые пути имплементации мультимодальной проблема
36:07
интерпретирует опять же про это говорить Совсем времени мало высокие требования к вычислительным ресурсам дорого обучать
36:14
такие модели некоторые интеллектуальные задачи классические модели решают всё ещё лучше
36:21
чем трансформер Как там интерактивность должна быть реализована вопрос Да как
36:29
решить проблему недостаточной обучающей способности там и анализа композиционных
36:35
структур постоянная утрата актуальности данных в
36:42
предоброе про мир то что было год назад а за год ну там в мире знаете в некоторых странах даже президент может
36:48
поменяться там Чего только не вот не происходит за этот год значит
36:55
ограниченная длина контекста модели Ну то есть блок самов мания он имеет
37:01
квадратичную сложность при вычислении Поэтому чем длиннее контекст Да как квадрат растёт требование к памяти и
37:09
времени вычисления вот проблема
37:15
мультиагентной там трансформеры это в основном фва сети
37:20
то есть у них нету рекурентний там тюринг полноты Поэтому нужно это как-то
37:26
компенсировать либо там ТМ моделирования рассуждений то что называется chin of
37:31
либо какой-то путём интродукции рекуррентно там открытые вопросы как это
37:36
всё интегрировать с имеющейся it инфраструктурой но в целом как бы в ответ на каждый вот этот прямоугольник
37:42
есть много исследовани есть много прототипов есть много таких вот черновых решений которые уже работают неплохо Вот
37:50
то есть это не то что какие-то непреодолимые проблемы Это скорее ну фронтир исследований Да ну и вот
37:56
передний край исследования он выглядит вот так то есть там мультимодальной развивается в моделях моделируется
38:02
система моделирования рассуждений на основе Трансформеров создаются мультиэкспозиция
38:12
Значит базирующийся на извлечённый данных ну то есть это э знаете как э Вы
38:19
же тоже всего не знаете если у вас что-то спросили вы там пойдёте в Google да давайте мы модельку тоже научим
38:24
ходить куда-то в поисковый индекс Да в Google там условный оттуда извлекать необходимую
38:49
фактологический если можно 5минут
38:55
Давайте т проливать но они потом будут в будут в презентации если что Вы
39:01
посмотрите и мне потом можете присылать вопрос
39:07
значит ну страхи теперь страхи и немножко про социальные последствия всего этого дела страхи перед
39:13
технологиями потенциально разрушительными это очень давняя история Вот и тоже хотелось бы конечно
39:20
поговорить о том что вот это отражение Да страхов связанных с классовым
39:26
обществом Чужая Воля усиленная технологией может быть вредоносной и
39:33
разрушительной вот ну регулярно значит для привлечения к себе внимания там делаются всякие громкие заявления со
39:40
стороны технологических Гуру о том что вот там скоро нас ждёт Терминатор Да и
39:46
всё страшно опасно и выйдет из-под контроля обязательно если вы не
39:51
назначите нас в органы занимающиеся регулированием этой области
40:00
за подтяжки прихватить вот значит Ну кто-то
40:05
значит там как-то старается вс-таки чуть менее катастрофи выражаться Вот Но тем
40:12
не менее значит Ну вот Билл Гейтс там может ВС равно какие-то возникнуть
40:18
проблемы связанные с
40:26
расхождением уже любил порассуждать на тему опасности этих технологий бостром Ну вот на самом
40:34
деле есть и другая сторона то есть есть специалисты которые работают в отросли и им очень часто они начинают сердиться
40:42
из-за того что там вот эти все глупости говорят про терминаторы и они говорят что ну типа знаете вот проблема
40:50
опасности там универсальный искусственный интеллект как проблема перенаселения на Марсе да то есть
40:57
когда-то мы с ней можем столкнуться технологические риски есть
41:02
они безусловно Никуда не денутся и там любые могущественные технологии их
41:09
эксплуатация связана с определёнными рисками и мы создаём разные способы управления этими рисками Вот но важно
41:18
понимать что некоторые сценарии Ну типа суперинтеллект который будет там доминировать над всеми как мы там будет
41:24
умнее нас настолько же насколько Мы умнее муравьёв натыкается на определённые физические лимиты да то
41:29
есть во-первых лимиты на скорость вычислений то есть ну физические лимиты
41:36
Да мы не можем информацию быстрее скорость света передавать не можем элементы машины сделать меньше
41:42
планковское масштаба Да термодинамика тут тоже вмешивается да мозг не очень
41:48
сильно далёк от вот такой оптимальной точки и в целом Ну
41:54
как бы можно сделать машину которая будет не знаю Там скорее 100 раз быстрее чем мозг работать но проблема в том что
42:01
она не будет в 100 раз умнее потому что интеллектуальные задачи мультиагентные средах
42:07
они уровень интеллекта в них он является нелинейной функцией от скорости
42:12
вычисление а логарифмической то есть у вас проблема всё равно
42:19
комбинаторное да То есть даже если вы создадите искусственный мозг который будет в 100 раз вас быстрее он не будет в 100 раз вас умнее да то есть он
42:26
немножко будет он будет там благодаря своей специализации наверное лучше Вот в целом
42:33
проблема технологических рисков я про неё говорил в начале не буду там тоже
42:39
супер сильно в неё углубляться есть проблемы там масштабируемой дискриминации то есть когда
42:47
мы создаём системы
42:57
тем самым усиливать вот всякие эффекты неравенства вот
43:02
называется проблема цифрового тайного суда опять же ну времени вот Сосем не
43:08
осталось но посмотрите потом у меня на слайди ках там довольно много примеров и Ну у меня тут много текста написано
43:16
важный вопрос про технологическую безработицу Да вот про овцы съели людей
43:22
в целом Как и любая Технология Технология искусственного интеллекта не только ликвидирует рабочие места но и
43:28
создают их активно Да но проблема что в моменте конечно это порождает технологическую безработицу и очень
43:34
большой вопрос о том а кто должен быть демпфером вот этих социальных проблем которые порождаются
43:40
Да там компьютерная индустрия например создала там индустрию компьютерных игр
43:46
индустрия компьютерных игр потребовала новых там маркетологов новых управленцев
43:53
новых дизайнеров там новых много кого Да она создала рабочие места хотя она съела рабочие места тех кто вручную считал на
44:00
счётах Да там что-то до этого или на арифмометры вот в целом есть как бы
44:05
прогнозы скорости с которой там Технологии искусственного интеллекта сейчас создают новые рабочие места и
44:10
ликвидируют их и в целом Ну как бы в среднесрочной перспективе прикидки
44:16
показывают что больше будет создаваться рабочих мест чем ликвидировать но конкретные люди будут терять работу и Ну
44:24
типа естественно там поднялся опять вопрос там как со времён Маркиза кондорсе Давайте бот введём Вот много
44:32
тоже у меня там примерно оценки рисков там красивые видосы с Чарли Чаплина
44:40
Да я Ну вот у меня осталось ещё буквально несколько слайдов почти закончил вот там куда Бедняков девать Да
44:48
вот Алан свиф в своё время написал памфлет скромное предложение да говорит
44:53
Ну много слишком детей и Бедняков давайте мы будем у в пищ Вот потому что
45:00
очень полезно детское мясо вот то есть но понятно что сегодня на обществе лежит
45:08
огромная ответственность Да из-за вот этой мощной турбулентности которая порождают новые технологии на рынке
45:17
труда про искусство про
45:23
страхи Ну вот что важно соблюдать о том что если мы будем
45:29
ограничивать искусственное развитие технологий искусственного интеллекта то это немножко похоже на такую
45:34
добровольную лоботомию вот ну и в конечном счёте про сингулярность о том
45:40
что в какой-то момент технология достигнет возможности оперировать такими
45:45
сложными объектами как наши собственные тела произвольным образом и в какой-то момент сотрётся скорее всего грани между
45:53
нами и создаваемыми нами инструментами Революционный потенциал технологий тоже
45:59
я уже ничего ничего вам не скажу на эту тему вот если только в вопросах и в
46:05
общем-то всё И если есть несколько минут то спасибо вам во-первых за внимание
46:10
во-вторых [аплодисменты] готов на самые острые вопросы ответить
46:20
спасибо спасибо за доклад вопрос уня их несколько было Давайте самый важный
46:25
наверно практической жизни уже сейчас вот как вы его используете если какие-то значит вот ну просто посмотреть такие
46:32
сценарии То есть я допустим для себя там договоры просил его делать а какие-то жизненные вещи и он бывает врёт просто
46:39
две цифры делит неправильно то есть вот как бы если его за всё за ним проверять то это получается в нём эффективность
46:45
низкая то есть в чём вот уже сейчас это можно использовать ссылки он не даёт То есть я ему говорю дай мне ссылку в
46:51
Интернете где ты там это нашёл чат gpt по-моему Мирный да
46:57
вот смотрите вы вы уже говорите об искусственном интеллекте какой-то искусственной личности Да есть много разных моделей тому что систем
47:05
современная там Chat gpt вам ссылку может дать на источник Reg там есть даже
47:10
гига Chat может дать ссылку технологии совершенствуются быстро что касается прикладных применений Ну вот у нас в
47:16
банке там 40 проектов по прикладному применению там начиная от анализа результатов тендеров сумарин
47:27
заканчивая там тренировкой для оператора в колл-центре Да очень
47:33
много применений начиная там с
47:41
сумарин идей машинного перевода значит
47:47
написания там подготовки текстов писем статей там много чего ещё просто ведение
47:56
диалога там развлекательная там генерация картинок для оформления презентаций Я могу очень долго
48:02
перечислять есть где-то у меня слайд могу его там потом добавить если хотите что примерно могут современные модели
48:08
вот а и в плане там арифметики люди тоже не умеют в арифметику люди берут
48:14
калькулятор когда надо что-то сложное посчитать в этом смысле Трансформеры похожи на людей Ну и как бы вот тот же
48:20
Chat GP сегодня Ну сейчас может посчитать Если вы просите ему там Дайте математический пример он вызовет там
48:26
сходит в вольфрам там передаст туда ваш запрос получит результат И вам его выведет успешно вы возможно давно просто
48:34
последний раз пробовали технологии они очень быстро прогрессируют и ну попробуйте ещё вот если не работает
48:40
попробуйте ещё через месяц Ну так Следующий
48:47
вопрос Ну к вопросу о рабочих местах и соответственно прогрессия Да как мы
48:52
знаем смена технологий несмотря на там все опасения не уничтожил наём труда и новая технология создаёт новые рабочие
48:59
места А хотя старая их там где-то закрывает вот в основном как бы момент в
49:05
связи с чем создаются новые рабочие места в связи с тем что и они достаются человеку потому что человека обучить на
49:12
новом рабочему месту новой профессии можно да а его автоматизировать долго сложно дорого и в целом Ну задача как бы
49:20
ещё и непонятно насколько надёжная потому что сколько там рабочее место продержится Вот Но вопрос в том что э
49:26
технологии искуственного интеллекта сейчас залезают в Сферу именно образования и в целом если мы посмотрим
49:32
там на прогресс по обучению то скорее всего новые профессии осваиваться а
49:37
искусственным интеллектом смогут быстрее чем людьми и самое главное что это будет намного дешевле потому что проблема
49:43
масштабирования обучая новой профессии нейросеть мы получаем её сразу для всех а людей учить нужно там очень долго и
49:51
вот с этим аргументом Да соответственно как мы видим померю не родившуюся профессию промт инженера А почему вы
49:58
решили что она померла Вот она мы продолжаем нанимать пром вы не читаете плохую плохих газет после обеда хорош Ну
50:05
тогда вопрос злиться начинаю когда начинает транслировать это Херо Ну тем не менее скажем так это обеспокоенность
50:12
которая есть Поэтому мы задаём этот вопрос на конференции чтобы в Широкую аудиторию ушёл ответ насколько Вот вот
50:18
этот аргумент о том что именно обучение заставит коллапс в какой-то момент рынок
50:23
труда необратимо Ну повышает в ваших глазах его вероятность или всё же нет спасибо смотрите значит что будет
50:31
происходить во-первых Ну да там будет как-то там количество общественно необходимого времени снижаться но
50:39
во-первых есть куча профессий куда Ну вот не знаю с за ваши там операции в
50:46
реальном мире Да за вашим ребёнком там заботиться будет няни или там чат gpt Да
50:52
у нас пока куча технологий которые связывают значит там абстрактное решение
50:58
интеллектуальной задачи в цифровой системе с операциями в реальном мире это очень узкое место то есть мы не умеем
51:04
там создавать хороших э роботов таких же точных там совершенных как человеческое
51:09
тело а будет всегда спрос всё равно на э людей потому что какие-то задачи мы
51:16
там не хотим доверить просто машине да э ну по той же причине Почему не знаю там некоторые люди не
51:23
э не хотят есть еду там с большой фабрики Да говорят я хочу там чтобы Вот
51:28
курочка которая счастлива была Да вот она мне дала яичко вот а и вот там для
51:36
для всех для для плебс так сказать будет ми джорни или там кандинский рисовать картинки Да а вот Элита я могу себе
51:45
позволить что мне настоящий кожаный нарисовал значит что-то что я повешу на
51:52
свою стену здесь Понимаете в чём дело сейчас трудно контуры вот этого мира
51:57
который появляется под влиянием очередного технологического скачка представить себе но
52:03
понимаете будут появляться просто новые потребности вот смотрите джорни закрыл
52:09
там какую потребность он не то что заменил там не знаю всех там художников дизайнеров и так далее нет но оказалось
52:15
что а я теперь хочу развлекаться и каждый день там себе по приколу генерить там прикольные картинки да Этой
52:22
потребности не было там да до до того как эта технология возникла Да теперь мы все хотим таким образом развлекаться
52:28
поднимать себе настроение да то есть на самом деле как только пороги возможно
52:34
для технологии отодвигается мы довольно быстро Ну там придумываем Чем занять эти
52:39
технологические возможности вот в мобильнике который у меня в кармане вычислительных мощностей больше чем было
52:45
у нас когда они человека на луну отправили Да но мы находим применение
52:50
этой удивительной мощи мы там запускаем птиц в свиней Да но тоже баллистическая задача вычислитель
52:57
Но оказалось что нам это нужно да то есть вот ну будем тоже как-то вот всё больше птиц на молот свиней
53:06
будет расти там ну не
53:13
бойтесь раз немного времени осталось Расскажите всё-таки вот в чём по вашему мнению Революционный потенциал
53:20
искусствен
53:27
я его выведу просто значит штук в ЧМ Ну как бы я сам марксистской парадигмы
53:33
придерживаюсь Да и в этом смысле Социальный прогресс он основан на
53:39
прогрессе производительных сил Да и в этом смысле что происходит Да когда
53:45
производственные производительные силы перерастают Вот эту вот тесную рубашку производственных отношений
53:52
существующих Ну начинается кризис существую социально-экономической системы и в этом смысле значит в чём
54:01
здесь проблема очень многие проблемы социальные обостряются под влиянием
54:06
прогресса технологий и выпукло нам демонстрирует то что существующая система социально-экономическая система
54:13
она неадекватна тем значит растущим производительным силам видим там всё
54:19
большую концентрацию власти в руках немногих Да и ресурсов мы видим значит обострение
54:27
фундаментальных противоречий капитализма под влиянием этих технологий мы видим
54:33
значит вызов традиционным механизмом гегемонии Вот то есть это вносит мощны
54:39
дизруптивные Функции там распространения информации ещ как в информационный метаболизм общества да
54:46
там тот же самый чат gpt если это доступная технология для любого например там может сократить гэп интеллектуальный
54:52
между там человеком из состава правили который получил очень хорошее образование Да вот и человеком который
55:01
там вышел из бедных слоёв вот а но на самом деле это очень многогранные
55:07
истории я времени нет совсем да то есть я бы на эту тему поразговаривать