Не так давно нейросети стали главным трендом.
Игорь Ашманов рассказывает о том, как искусственный интеллект может повлиять на бизнес, государство, общество и другие сферы.
Также в ролике вы узнаете о возможностях и рисках использования ИИ в будущем, и смогут ли они заменить профессии с рабочими местами.
Расшифровка видео
0:05
коллеги мы постепенно переходим к самому
0:10
возможно необычному докладу нашей секции автора этого доклада вы можете увидеть
0:17
как в Совете по правам человека в Государственной Думе и даже на форуме
0:24
феминистка Екатеринбурга посещаемостью 17 человек Этот человек интересуется
0:30
очень многими темами и он очень не любит слово Эксперт поэтому коллеги просто
0:37
очень умный человек Игорь ашманов поприветствуем
0:42
[аплодисменты] добрый день Я все буду отрицать все что сказано все
0:50
правда я не умный и не Эксперт и в Думе
0:56
Нет это это в принципе можно проверить по паспорту А у нас же еще
1:08
какой-то причине для этой аудитории Влад попросил меня поговорить про
1:14
нейронные сети кстати хочу заметить что я тут с места
1:20
старался себя сдерживать и не влезать доклады но в 90-х годах 19 века все-таки
1:29
грамотных в России было примерно 40 процентов и 16 году их было
1:36
уже больше половины поэтому там про 98 процентов неграмотных это просто выкрик
1:42
какой-то вот значит да и про то что нейронные сети распознаются Сарказм это
1:48
конечно тоже ну высказывание для выступления такое
1:54
значит я собственно доклад сделал вот такой основе
2:02
Откуда взялась от презентация началась истерика по поводу чаджа ПТ
2:09
потом gpt 4 и так далее Вот и мы собрали два семинара у нас
2:14
внутри них это у нас есть у нас есть несколько компаний три компании которые занимаются искусственным интеллектом
2:20
есть потом еще калибром компании инфоводчик который занимается информационной безопасности тоже в
2:26
области анализа изображения текстов борьбой с утечками и компания В партнеры
2:33
мы там поскольку мы все сидим на одном этаже в Верейской Плазе у нас там 5000
2:38
метров и мы там сидит десяток компании мы вот для всех кто там был собрали
2:43
внутренний семинар поговорить о том что это за gpt чем она угрожает и так далее
2:50
дважды собирались первый раз говорили про риски и вопросы второй раз про то
2:56
что делать а потом там было набилось 50 у нас разработчиков основном а потом я
3:04
еще у нас есть такой закрытое собрание Я его называю совет по искусственному
3:10
интеллекту это такая тусовка которая собирается просто пивном ресторане это как правило самые крутые люди в стране
3:17
которые занимаются искусством интеллектом То есть те кто делает это чуть поближе вот и Сбербанка из разных
3:26
других крупных компаний из Яндекса из mail.ru и так далее Ну поскольку я там этим занимаюсь 35 лет Я практически всех
3:33
знаю и разговаривать имеет смысл не с говорящими головами из банкирами не с
3:40
маркетологами журналистами а с теми кто там этим реально занимается а вот и собственно вот этот презентация
3:48
была она стоит не из утверждения из вопросов Это была затравка для нашей этой тусовки
3:55
где нас было там человек 15 вот такого как бы собрание по гангрскому счету
4:00
специалистов лучших в стране по искусственному интеллекту вот я
4:05
собственно по ней пройдусь это в основном вопросы которые я там буду комментировать Это был сделано чтобы
4:11
возбудить разговор этих самых ребят потому что надо еще понимать что самые
4:17
крутые парни в этой сфере могут быть например аутичные или не желать разговаривать зная и так как все
4:24
устроено Поэтому нам нужно было развязать языки и только пивом Ну и
4:30
значит всякими вбросами вот такого для того чтобы
4:36
задача сразу формат это было Месяца полтора назад обсуждение я сформулировал такую штуку
4:44
Что верно ли и вот мне так кажется что в этот Космос американцы на этот раз вышли
4:50
раньше нас то есть в этот цифровой Космос или когнитивный Космос Они прорвались раньше
4:56
нас когда-то они облажались и мы их обогнали в космосе А сейчас вот все
5:02
признаки того что они там и нет вот Ну и дальше Вот собственно
5:08
куда направлять значит Да вот выглядит вот эта самая чат
5:17
gpt как такой тектоническое событие прямо
5:23
грохот раздался во-первых это вызывает шелку
5:28
разработчиков а потому что у разработчика шок Ну понятный он не сделал этого
5:34
во-первых Хотя должен был вроде бы и у него у многих из них есть все ресурсы в
5:40
Яндексе в Mail.ru в Сбербанке В некоторых еще местах ресурсов полно людей полно денег железо а во-вторых они
5:49
не очень понимают Как это работает Как оно вообще может работать Почему эта
5:55
штука не просто воспроизводит условно говоря гладко следующий там сказать слова Да в тексте
6:03
А почему она понимает например утверждение всякие говоришь
6:10
разговаривай фразами из трех слов она начинает это делать вот
6:16
так-то вообще вот то что Про это там отдельно можно поговорить вообще конечно это выглядит просто как следующая
6:24
итерация бредогенераторов бредогенераторы делают последние 30 лет в основном для них хороших целей в том
6:31
числе как Мы все знаем там последние 20 лет мы с этим боремся на это смотрим для генерации фальшивых сайтов для генерации
6:38
спама раньше для них использовали как правило цепи Маркова Но вот сейчас
6:46
вот эту штуку но эта штука она кроме того что она делает очень Гладкий бред она Еще
6:52
вроде бы по виду позволяет понимать логические всякие утверждения и сама их
6:59
производить и это вызывает шелку разработчиков Кроме того понятно это вызывает шок у журналистов такой и азарт
7:08
об этом поговорить меня там задергали просто с предложением прийти на все центральные каналы там во все
7:16
радиостанции и так далее там еще подогрева история подогрела этот
7:22
шумиху история с этим дураком из ВУЗа который значит диплом защитил я с
7:28
ним лично разговаривал На мой взгляд он просто не очень умный или очень зрелый юноша который реально Думает что он
7:35
сделал что-то хорошее когда я его спросил Саша как тебя теперь на работу нанимать если очевидно что ты
7:43
фальсифицируешь работу что ты не сам Работаешь он есть работа Я там занимаюсь
7:48
там в игровой компании там юзер экспириенс все мне так нормально Ну ладно подумал я когда я спросил зачем он
7:57
написал диплом с помощью Чад gpt и получил свою жалкую тройку за него Ну
8:02
чтобы всем показать что теперь так можно сейчас действительно там я разговаривал с несколькими ректорами Они думают что с
8:08
этим делать там как ограничивать на самом деле там конечно проблемы нет чуть дальше поговорим проблема в требованиях
8:16
а так-то если вы читали его диплом это генерация Бреда просто чуть-чуть
8:21
выложены вот то что его пропустили это проблема университета а не того что там
8:28
генерирует вот значит сейчас действительно уже идет бешеные спрос на
8:33
же патологов значит и объявление очень много и вакансий и наоборот значит кандидатов
8:43
взбесили Значит все кто курсы предлагает уже все объясняют как формировать
8:48
затравки для этих всех систем под названием промт это ну подсказка или
8:57
поисковый запрос тоже называется пронт раньше назывался вот значит я слышал от
9:03
пиарщиков Кремля не буду называть такие вопрос А где наша давайте сделаем в
9:09
частности у них там одна из основных мыслей Так давайте же теперь на генерируем значит пропаганды
9:16
нальем я был вот была такая Медиа дронница значит такая конференция месяц
9:23
с лишним назад Но это люди которые собрались которые вообще дронами занимаются но они
9:29
собрались там поговорить о том как нам выиграть или хотя бы не проиграть информационную войну разговаривали про
9:36
это Но там была одна из основных идей такая Давайте сделаем говнометы более
9:42
мощными чем у Хохлов и их засыплем больше чем они нас вот я пытался
9:48
про это разговаривать реально такая идея засела в голове и вот пожалуйста
9:54
почему нет на генерировать миллиарды текстов по заданной теме государство пока никак
10:06
должен бы спохватиться был значит но
10:12
нехорошее предчувствие есть у меня есть пример два моих знакомых которые занимались
10:19
искусственным интеллектом сошли с ума от этого они пишут письма мне Отчаянные говорят Дайте телефон Путина я ему
10:27
объясню что все нам капец что там действительно многое поражает в этих
10:34
же пяти и у некоторых людей эмоционально неустойчивых И в частности у которых
10:40
может быть даже занимались искусственным но не понимают Как это сделано может быть Вот такая реакция прям вот
10:48
прямо отчаяние перевозбужденное состояние навязчивое состояние и так далее
10:55
вот значит какие там вопросы возникают именно
11:01
вопросы Ну во-первых сначала нужно сделать предварительное как бы
11:07
гигиену ментальную Значит все-таки мы видели кучу пузырей я первый пузырь
11:13
который наблюдал если не брать пузырь программного обеспечения Когда было Очень модно быть программистом у девушки
11:20
хотели выйти замуж за программистов в начале 90-х то значит я видел много
11:25
пузырей там 99 года пузырь дудкому в 99 98 год и так далее мы вообще конечно
11:33
внутри пузыря особенно разработчики искусственного интеллекта пузырь он Естественно преломляет он все делает
11:39
таким радужным и там Непонятно что там на самом деле снаружи вот и не является
11:46
ли это пузырем Это хороший вопрос то есть не сдохнет ли это все не лопнет
11:51
через некоторое время вот значит вся схема Медина разговоров про
11:58
это конечно чисто пузырчатая То есть все предыдущие пузыри ровно такой же истерикой
12:04
характеризовать вот Кроме того надо понимать что ну вообще
12:13
говоря рассказы о том какая это чат gpt гениальный как она хорошо работает это не правда Значит эта штука реально
12:19
косячит в довольно большом проценте случаев но вы знаете там история там
12:25
условно говоря там японский министр недавно совсем история спросил Чад gpt Кто он или gpt 4
12:33
не помню Она ему сказала ты премьер-министр почему у меня был разговор тогда еще живым и
12:41
льющей головичем в 12 году Когда произошла
12:47
Нет не в 12 8 году Когда произошла значит замена
12:53
президента с президентом стал Медведев и вот значит Медведев должен был там
12:59
инаугурацию пройти был как раз вот там май 2008 года что ли и
13:07
Я говорю я у тебя тогда еще в Яндексе были пресс портреты понимаешь что все эти проблемы были еще тогда
13:14
я говорю Слушай Илья Почему когда я спрашиваю кто президент России
13:19
Яндекс не отвечает Путин Медведев же президент России
13:25
говорит нет Ну слушай ну потому что ну везде в сети вообще-то огромное
13:31
количество слов о том что он президент А про Медведева мало вот наш таскать искусственный интеллект который собирает
13:37
пресс-портреты он и собственно и пока считает что Путин Ну постепенно это будет меняться Но
13:44
кроме того ведь Путин уже реально все решает говорит он мне может это и правильно
13:50
Ну короче говоря там такая же история с премьер-министром Японии то есть вот
13:55
этот японский министр он там и про него и пишут что он Возможно следующий
14:01
премьер-министр и он высказывал что может быть то есть много высказываний происходит некое усреднение обучается на
14:09
как Яндекс Тогда обучался ничего не изменилось Она говорит ты премьер-министр
14:14
и ну их разработчик скажешь Ну а что такого Ну просто много текстов об этом
14:20
то что это фактически неверно разработчика Чад gpt возможно и не
14:26
пугает он считает что это нормально понимает как это работает вот то есть
14:31
косяков там хватает но понятно что это все а сделано
14:37
военно-промышленным комплексом США это надо понимать Я рекомендую вам почитать Просто мне сегодня звонил
14:44
значит глава одного президентского совета спрашивал что почитать про
14:49
таскать источник технологии самих крупных it-корпораций в США я им
14:55
посоветовал статью которая лежит в сети уже лет шесть семь она на сайте дие
15:01
рашади тире Russia Digital Russia да.ru это по-моему
15:07
ресурс роскомнадзора Ну такое вообще обойтишном рынке и там лежит статья как
15:13
ЦРУ создавала Google в трех частях это исследование некого американца который подробно разбирает как на
15:21
специальном форуме горный форум существующих которые Сначала с 90-х он
15:27
существует это такой тусовка где собираются Первые лица крупных it
15:33
компания американских Ну и вторые люди из Пентагона из разведки и так далее и
15:38
они по сути решают как бы технологически развиваться США в частности в 93 году
15:43
они решали 92 что нужно нужна обработка так это назывался массивных данных когда
15:50
они назывались массивными и дальше они начали раздавать деньги поисковым командам одна из них выстрела
15:57
Это был значит Сергей Брин с Гуглом там подробно
16:02
описывается там есть интервью с куратором Сколько денег давал потомки тел это ЦРУ
16:08
фонд Ну и так далее То есть очевидно что эта штука она либо
16:14
спонсируется либо управляется тоже разведкой США или там оборонка США это
16:19
стрёмно В общем довольно осознавать еще скажу пару слов мы для
16:27
совета по искусственному интеллекту министерству обороны я туда вхожу и для некоторых других структур Еще довольно
16:33
давно делали обзор проектов дарпы дарпа это исследовательское агентство
16:40
Министерства обороны США которая собственно Сделала интернет когда тогда она называлась арпа и собственно
16:46
интернет изначально назывался orpanet вот потом они его приватизировали как бы
16:52
раздали вообще пользование также они это сделали с GPS с мобильной связью с этим
17:00
Значит тором который сейчас представляет собой даркнет ну и так далее значит
17:06
и в этих планах и стартапах дарпы мы тогда
17:12
написали что выглядит очень странно потому что огромное количество совершенно за лихватских утверждений в
17:18
том числе Вот про генерацию текстов по поддержание диалога и так далее Что
17:24
казалось что это либо нельзя сделать либо Но это будет сделано через лет 15-20 она
17:30
уже появилось то есть дарпа Похоже вкладывается в то что появляется вот Ну вот значит не будет ли
17:41
это как с прочими пузырями тем не менее значит я напомню Что такое кривая хайпа
17:46
гарднера есть такая следствие компания Гарднер которая анализирует в том числе
17:51
рынок информационных технологий Ну и она говорит что обычно запуск технологии
17:57
выглядит вот так всплеск Шумиха пузырь на вершине теряется Гигантское
18:03
количество ресурсов денег Но все журналисты все евангелисты в кавычках
18:09
раскручивают этих как технологию которая поменяет мир вот потом ничего не
18:16
получается падает все в пропасть разочарования а потом на
18:21
Плато производительности используется узкие применения эффективные
18:27
экономические там время деньги ресурсы и так далее Вот Но мир Конечно даже может
18:33
быть и меняется Но и так кардинально как обещали мы видели много таких пузырей я далеко не все их там десятки сейчас
18:39
пузыри вообще идут один за другим Вот такая цепочка просто уже вот в
18:46
Ростелекоме например они делают анализ трендов каждый год там такой Борис Глазков из презента докладывает их много
18:53
где они сейчас рисуют эту полосу пузырей Как такую именно цепочку пузырь пузырем
19:00
зацеплены Вот это неважно я вот напомню что датком и 97 года то есть
19:07
интернет-проекты новой экономика соцсети стартапы была стартапный истерии в 11-12
19:15
году потом был блокчейн искусственный интеллект вообще пережил таких пузыря 3 сейчас 4 Ну вот сейчас этот же пяти
19:23
генератор Да значит про блокчейн просто это познавательно про него помнить
19:29
блокчейн должен был изменить мир это такая офигенная технология которая
19:34
позволяла делать все в частности выборы Понятно Потому что их теперь не поделаешь то что блокчейн потом значит
19:44
криптовалюты любой любое управление бизнесом госуправления
19:51
и так далее так далее все дураки которые на это повелись
19:56
чиновничном мире подписывали этот блокчейн во всех государстве программы я
20:02
там года два назад уже видел как на некоторых совещаниях люди тихонько совещаются как бы эту штуку вычеркнуть
20:08
чтобы начальник не заметил что пузырь блокчейна лопнул блокчейну как пузыри нафти Если вы
20:15
знаете что такое тоже его уже нет а вот какие-то применения блокчейна есть я
20:22
например входил в ЦИК первичных выборов Меня попросили туда как эксперта
20:29
поручиться своей репутации что все работает ЦИК Единой России вот год назад
20:35
выборы предварительные под руководством нашего Великого борца Карелина который
20:41
за руководителя Единой России я там разговаривал много с их разработчиками
20:46
Но там нет основных свойств блокчейна там есть связанный список который трудно подделать но нет ни
20:53
раздача для вычисления всем кому попало нет специального затруднения вычисления и так далее То есть блокчейн от его
21:01
значит таком оригинальном виде используется только в криптовалютах а там мы знаем 95 процентов порнухи
21:09
наркотиков торговли оружием прочего криминал Вот то есть
21:16
там и многое что еще Так вот не находимся ли мы на таком пузыре
21:24
Потому что сейчас опять мы знаем что чат gpt или там же пт-45 и следующие там
21:30
Лама Значит от Facebook и что кого-то
21:36
Google Они полностью изменит мир все будет другое или нет
21:43
Пока не ясно Это вопрос а не утверждение
21:48
значит как оно все может влиять теперь поговорим это тоже вопросы значит но
21:54
если можно генерировать очень много текстов то это понятно повлияет на
22:01
обработку текстов и на генерацию и на анализ в частности Яндекс только что
22:07
сегодня выкатил Алису которая значит в нее встроена такая Отечественная gpt А
22:15
вот и Алиса уже там отвечает на вопрос сейчас я правда попробовал несколько раз с ней поговорить она намного отвечает Не
22:20
могу ответить и все значит пока отвечает не на все темы но тем не менее Для чего собственно
22:28
встраиваете эту штуку в поисковики Ну потому что другие строят а вообще сама
22:33
идея встроить эту штуку в поисковик означает отдать поменьше трафика владельцам сайтов все забрать к себе Это
22:41
старая так сказать идея И Фейсбука замкнуться в свои экосистеме в своей вселенной и Google и так далее Кроме
22:49
того все деньги зарабатываются на фронте там где пользователи вставить что-нибудь перед поисковиком очень привлекательной
22:56
забрать его деньги естественно поисковик не хочет этого допустить и делает свое пока не вставил кто-то другой
23:03
а вот значит ну СМИ понятно там у нас 95 процентов
23:10
журналистов это абсолютно тупые алгоритмы роботы которые пишут просто ахинею это надо понимать Я как-то здесь
23:18
был по моему на радио Комсомольской правды про это сказал мне говорит нельзя упоминать нельзя упоминать конкретные
23:26
СМИ это не этично Но поскольку это их этика не моя я скажу вот берете ленту.ру
23:31
Да берете новость у нее высказывание какой-нибудь
23:37
повторяется в заголовке потом в анонсе потом два раза ещё в новости разными
23:42
словами Но одно и то же там содержание в четверо меньше чем слов это может делать
23:48
робот безусловно большинство журналистов сейчас работают как роботы они переписывают не вникая абсолютно
23:56
всех кто занимается алгоритмизуемом трудом можно заменить дворника нельзя А
24:03
вот такого журналиста или перекладывателя бумаг где-нибудь
24:08
Если у него Простая алгоритмизуемая Работа Конечно можно вот в промышленности такая штука может
24:16
работать мне рассказывали что там уже люди которые занимаются проектированием именно промышленных всяких узлов что
24:23
можно такую штуку зарядить сделать какой-то узел она делает очень странную
24:30
конструкцию какую-то марсианскую ни на что не похоже но на 30 процентов дешевле
24:36
из той же прочности то есть реально можно использовать и возможно она будет
24:42
вытеснять обычных проектировщиков инженеров которые это все там раньше рисовали но уже конечно не на ватмане и
24:49
на кульмане но тем не менее но с интернетом понятно все вопросы ответные системы Эта штука должна
24:56
выжигать или заменять Но вот вытеснит это все или нет большой
25:01
вопрос потому что там все-таки надо понимать еще раз я скажу если Вы
25:06
внимательно Посмотрите на то что эта штука делает вы обнаружите что никакие
25:12
ответственные применения и поручать нельзя там 10 процентов косяков или может два процента косяков
25:18
и не факт что они исчезнут есть идеями Многие говорят начальный период это там
25:24
ну вот можно подумать допустим это рисовалка путает руки
25:32
местами то есть там большой палец не стой руки стороны Да и пальцев там то 6 107 то 3 А
25:41
я вот и не очень верю потому что смотрите Не Возможно они это исправляют
25:46
написание официальных правил Но вообще говоря для того чтобы понимать что руке должно быть пять пальцев недостаточно
25:52
обучаться нужно владеть прагматикой реальный мир реального мира Да и то же самое для текстовых разговоров поэтому
26:01
Не факт что это будет исправлен то есть не факт что эта штука будет пригодна для
26:07
ответственных применений либо отвесные применение превратят в безответственный
26:12
я чуть позже скажу Но значит про влияние на общество
26:18
понятное будет фальсифицировано все поскольку человек в целом не очень
26:23
способен отличить текст написанный генератором или уж тем более видео
26:29
сделаны таким генератором а Соблазн очень большой
26:34
то будет фальсифицироваться все но вот Люди уже фальсифицируют диссертации научные статьи вообще я еще
26:43
до того как выпрыгнула в прошлом году слышал что не просто генерация
26:52
научных статей помогает Ну то есть ее можно пропихнуть
26:59
в научный журнал что в Китае например количество патентов и научных статей по
27:06
искусственному интеллекту сделано таким КП да то есть от китайцев
27:12
требует обогнать США по этим параметрам они вкладывают много денег больше чем
27:17
США в искусственный интеллект они хотят быть лидером и один из критериев Это количество публикаций вот говорят что в
27:24
области искусственного интеллекта процентов 30 уже в прошлом году статьи
27:29
были написаны искусственным интеллектом Вот почему это так в частности вот
27:34
почему то есть сначала люди мне рассказывают что там просто фальсификат очень много почему но смотрите Что такое
27:41
статья про искусственный интеллект мы взяли такую-то Значит фреймворк мы взяли такую такие-то модели нейронных сетей
27:48
такого такого вида потом мы взяли такой-то значит дата сет вот обучили
27:54
получили Вот такой результат научный редактор журнала причем хорошего
28:00
журнала реферируемого все такое с высоким рейтингом Он же не пойдет брать эти статьи брать
28:06
эти нейронки и перепроверять Ну уж так не делает тема богатая новая все ее
28:13
уважают потом разработчик мне говорит берешь статью повторяешь все что сделано
28:19
а там не 97 процентов качество 80 вот все в точности делаешь Как у них
28:24
написано только качество не получается это фальшивка но потом пошли сведения
28:30
что просто статьи пишет искусственный интеллект сейчас с появлением
28:37
это конечно все усилится и у научного редактора нет никаких критериев
28:44
а как А как он узнает что эта статья не настоящая Вот Но самое главное что
28:50
Конечно будет фальсифицировать историю ко мне в свое время году в 2005 приходил
28:57
один человек с просьбой сделать ему поисковик меня с
29:03
ним свел там некий банкир он собирался получить от государства что-то в районе 10 миллионов долларов на проект по
29:11
созданию реестра верифицированных оригиналов он говорил что уже в то время начали очень сильно
29:18
фальсифицировать в интернете все что угодно в том числе труды Ленина Пушкина там неважно кого что начались
29:25
фальсификации текстов которые Ну обычному обывателю невозможно увидеть то есть подмена смыслов и так
29:32
далее он говорил что давай я хочу сделать систему при которой это все сканируется верифицируется ставится
29:39
печать что это оригинал и только с этого делается текстового оригинал уже в
29:45
цифровой форме с этой картинки а ко мне пришел за поиском Он больше не появился
29:50
то есть денег ему не выдали но понятно что процесс этот фальсификации продолжался Уж если он его тогда заметил
29:57
а он там довольно убедительно рассказывал примеры и так далее то сейчас это просто
30:04
будет всеобъемлющим Игорь Станиславович Простите что перебью
30:09
вклинись мне вынужден бежать но я не первый раз слушаю ваши доклады и обычно
30:14
я вас когда слушаю возникает желание с вами дискутировать это первый раз за всю историю когда я готов подписаться под
30:20
каждым словом особенно по поводу того как журналисты относятся к русскому языку Спасибо вам большое буду ссылаться
30:26
на вас Спасибо поблагодарим Вячеслава
30:32
Славы Хорошей дороги в Челябинск или куда-то там есть очередной раз Ну в общем здесь вопросы серьезные А как
30:41
реагировать Как реагировать ректоратом Как реагировать законодателем а там же
30:46
начинается безумие Давайте законы поручим писать да А что такого А если
30:52
оно пишет лучше А почему нет ну и так далее
30:59
Потому что еще про это надо сказать есть проблема люди с удовольствием становятся
31:05
рабами роботов они с удовольствием отдают ответственность
31:14
в позапрошлом году арестовали режиссера в Одинцово Забыл
31:20
его фамилию шел к себе там на работу или домой на улице остановили его
31:26
оперативники Потому что его какая-то система распознавания неизвестна какая точно не
31:33
сертифицированная не опечатаны а просто какая-то распознала его как вора который
31:39
воровал игровые приставки с точностью 70 процентов они его избили отказались смотреть
31:45
паспорт сунули в Бобик сели на него вдвоем отвезли значит в участок там
31:50
старшую у которого хоть немного мозга осталось посмотрел Вы что творите быстро выгоняете пока он тут адвокаты не
31:57
вызвала так далее они его выпихнули на улицу потому что он вообще был не был конечно похож на розыске и потом паспорт все
32:06
такое в этот же день Как ни странно в Петербурге значит ровно такая же история
32:12
с избиением отправлением участков произошло солистом Мариинки певцом
32:18
и он там этим говорил что чуваки Ну Откройте сайт Маринки Это я нет значит
32:24
закрутили руки еще потом пытались сменить сопротивление вот недавно сейчас вот происходит
32:31
история Когда сидит в СИЗО уже несколько месяцев некий ученый геолог или Биолог Я
32:38
забыл который значит якобы 20 лет назад участвовал в двойном убийстве там свидетели полно шум в это время был
32:46
экспедиции но его система распознала качеством 55 процентов по фото роботу
32:52
сделанному 20 лет назад в аэропорту эти идиоты значит считает что это ну как
33:00
бы их оправдывает с возбуждением уголовного дела с обвинением Может быть она не пойдет но им достаточно то есть
33:06
люди с удовольствием передают ответственность роботам А сейчас они
33:11
теперь хорошо будут работать и все будут говорить что такого-то он же лучше работает чем человек диагнозы лучше
33:17
ставить Почему вердикт суде не выносить уже будет
33:23
понятно его не подкупишь он же будет Независимый Там и так далее
33:29
вот как от этого от этой вот проблемы защищаться от склонности людей
33:34
передавать ответственность роботам это вообще отдельная тема вот ну убьет ли эта профессия Но вообще
33:42
есть представление что дешевый алгоритмические профессии не будут зачитывать но убьет Ну например там вот
33:49
середине написано психотерапевт сейчас есть огромное количество людей которые зарабатывают такой квази
33:56
психотерапии такая по психологи Да люди прошли курс там трехмесячные дальше
34:02
начинают рекламировать свои услуги И берут деньги за час беседы очень много
34:08
людей значит в нашей сети которая готова поговорить за деньги
34:14
немножко заплатить И значит разговаривать Эти люди притворяются психологами Но почему за них не может
34:20
притвориться Чад gpt сейчас уже куча стартапов которые это делают более того
34:25
уже пошли новости Что какое-то значит такой психолог уговорил человека совершить самоубийство тут реально
34:31
самоубился например это реальность в Европе где-то произошло я не помню то ли в Италии то ли во Франции
34:37
а вот или в Испании вот Ну понятно там не буду зачитывать но
34:44
все Чья работа будут вытесняться скорее всего при этом
34:52
я там дальше скажу качество Конечно будет резко понижаться искусственный интеллект понижает
34:58
качество Везде где он дотягивается Я Вам говорю как профессионально разработчик искусственного интеллекта Но люди будут
35:06
привыкать нежели качество Сейчас вы например не можете толком дозвониться в бан потому
35:13
что там поставили чат-бота задача этого чат-бота вовсе не помочь вам я
35:18
чат-ботами в нашей стране занимаюсь с 2004 года у нас там компания первая в
35:24
стране наши годы Работают но у большинства чат-ботов в банках и прочих
35:29
там мобильных операторов и так далее задача вовсе не помочь задача снизить нагрузку на контакт центр чтобы отогнать
35:38
клиента на самом деле поэтому он там морочит голову не пускает к оператору То
35:43
есть он понижает качество контакта они увеличивают его и делает его более дешевым для оператора
35:49
вот что с этим делать понятно что это может вызывать катаклизмы социальные
35:56
если большое количество людей вдруг окажется так или иначе без работы
36:02
а значит Ну это я уже примерно сказал у нас есть
36:08
категория галтелых цифровизаторов которые рассказывают всем в том числе самому главному начальнику что
36:14
цифровизация нас спасет что все будет круто пока мы знаем да что цифровизация
36:19
привела к тому что например были за последние четыре года совершены миллиарды звонков мошенников которые
36:26
украли сотни миллиардов рублей в наших граждан Почему за счет цифровизации Потому что у тех ли гигантские объемы
36:34
записи персональных данных когда мошенник звонит Он знает не только фамилию имя отчество адрес он знает
36:40
номер кредитного договора у него есть все возможности разводить особенно значит человека
36:48
уязвимого а уязвимо на самом деле не только пенсионеры несовершеннолетние многие из нас бывают уязвимом состоянии
36:56
уставшие расстроены и так далее да Вот соответственно
37:04
вот эти массовые нарушения прав граждан массовая передача решение искусственному
37:10
интеллекту ведь сейчас уже искусственный интеллект реально В некоторых случаях решает судьбу людей портит им жизнь это
37:18
Например школьник в банках вы два часа набираете
37:24
анкету отправляете ее вам банк Через 45 секунд говорит кредите отказано Это явно сделал
37:31
не человек но это попало в бюро кредитных историй все другие банки знают
37:37
что Этот крупный зеленый банк вам уже отказал и видимо неспроста получить объяснение
37:44
или оспорить это решение нельзя компьютер посчитал вот Ну и значит Конечно будет
37:53
Пропаганда будет генерация огромного количества текстов и так далее но не буду опять же
38:00
там есть к сожалению двойная петля обратной связи положительные которые
38:07
заключается в следующем представим себе возьмем модельный пример диагностика болезней
38:15
люди которые продвигают искусственный интеллект вот эти все штуки скажут что
38:20
Ну ведь если мы скормим достаточно большую базу снимков рентгеновских там описание болезни
38:27
симптомов и так далее то эта штука будет давать в среднем диагноз лучше чем
38:33
средний терапевт кто-то в больнице специалист в поликлинике и Возможно даже
38:41
это правда если считать статистику Это к чему приведет к тому что средние специалисты поликлиники перестанет
38:47
думать над диагнозом он будет нажимать кнопку через поколение не на ком будет
38:55
обучаться то есть обучаться придется на той же самой На том же самом искусственном интеллекте
39:02
Потому что эти потеряют компетенцию вообще если ты можешь что-то сделать нажимаю кнопку во-первых ты не нужен
39:08
потому что нажимание кнопки можно тоже заменить это вот сейчас просто довольно
39:13
много людей которые говорят я научился делать очень крутой маркетинг потому что я
39:19
освоил Чад gpt и у них Эйфория потому что они первыми это Но если все что мне
39:26
нужно сделать чтобы там написать там креативное объявление там какой-то копирайтинг сделать кнопку дать кнопку
39:33
нажать если ты нужен только для того чтобы нажать кнопку зачем-то нужен в чем твоя уникальность Значит тебя первого
39:40
вышла и второе это конечно потери компетенции О чем я сказал если ты
39:46
нажимаешь кнопку ты перестаешь включать голову человек склонен очень экономить энергию особенно разделительную энергию
39:53
то что мозг потребляет большую часть нашей энергии Ну значит все будут ее экономить то есть должны отупеть Ну как
40:00
все уже отупели от смартфонов от Google от Википедии и так далее дальше будет сильно хуже что опять же делать вопрос
40:08
то есть это нужно осмыслить и обществу нужно что-то с этим делать значит Ну а
40:14
дальше будет Вот этот то что здесь описано маленький художественный рассказ вам предложат восстановить ваше прошлое
40:22
по вашим данным потом вашу личность а потом скажет так вот все мы тебя переселили трансгуманисты всем объяснят
40:30
что это ты есть там более того все ваши родные проголосуют что твоя версия там
40:36
гораздо лучше чем она не говнится она Там не ссориться Она всегда с хорошим
40:41
настроении Но тогда надо биологическую выключить просто а этого оставить вот а почему нет что помешает в душу мы
40:51
не верим поведение не отличимо тестюринга пройдет
40:57
почему тогда не выключить устаревший устаревшие биологическое тело
41:03
вот значит могу чуть-чуть дополнить уже сейчас с
41:09
помощью нейросетей пытаются общаться спокойными людьми то есть нейросетием
41:14
скармливают там куча видео куча фото и вроде как даже получается
41:21
да с толстым бы я не стал потому что он был конечно дикий Зануда сектанты и
41:28
очень много трахал этих самых дворовых девок Но я бы с Достоевским конечно пообщался
41:41
Ну Толстому уже не скажешь мы-то я считаю что он где-то есть он там уж
41:48
попал он там в Рай или вот я не знаю но он же конечно потому что все мы бессмертны но вот с этим толстым я бы
41:55
точно не стал на базе разговаривать а вот а значит Ну как я говорил на мой
42:04
взгляд искусственный интеллект Он усредняет он берет
42:10
плоды на самом деле Тех самых тупых журналистов тупых маркетологов и просто
42:17
Их воспроизводят достаточно гладко поэтому качество всего что он будет производить Конечно будет падать а не
42:23
расти никто не будет может быть кто-то будет создавать там
42:29
искусственный эффект обученный на лучших образцах Ну что-то я сомневаюсь непонятно зачем это было бы нужно
42:35
кому-то вот но главное что у людей последние будет
42:40
говорит что у людей просто появится не взыскательность как люди
42:46
привыкли к фастфуду люди привыкнут Вот это потреблять дачу
42:52
так вот нормально еще пара поколений пропадут компетенции которые позволит отличить что это на самом деле дрянь их
42:59
не будет образование если образование это всунуть там детей будут учить опять же ПТ не
43:07
научит отличать нормальные мысли от искусственных да
43:13
нечем будет учить можно вот здесь добавить еще важный момент случай двухнедельной давности у меня
43:20
жена работает в ВТБ она занимается созданием голосового помощника пришел
43:26
человек на должность редактора человек который умеет ему задали вопрос Вы
43:32
умеете писать текст Нет я умею только редактировать тексты то есть
43:38
Она не умеет писать в школе сложно Наверное это вот такие
43:44
уже кейсы есть вот не спросили не знаю на самом деле тоже Наверняка есть вопрос
43:52
тоже из крестьян из тех двух процентов которых я сказал это очевидно
43:59
а Ну так вот и значит да и отдельный вопрос который я
44:05
там не хочу сейчас обсуждать Это война на самом деле искусственный интеллект технологии двойного применения и как раз
44:11
сейчас я задам вопрос А надо ли нам догонять вот это все делать Хотя это не вопрос потому что все кто нашу стране
44:18
этим мог заниматься и всем позвонил самое главное их начальник акционер сказал Вы почему до сих пор не сделали
44:24
Что такое я просто знаю я разговаривал с теми кому такие звонки приходят а потом
44:30
от начальника начинает звонить Раз в час и говорит ну уже сделали уже сделали сделали свой чат gpt Вот это реальность
44:38
вот поэтому Яндекс уже выкатил Кандинского поэтому выкатили потому что главный начальник говорит быстро быстро
44:45
быстро Зачем Это большой вопрос на самом деле Почему мы должны это догонять А вот
44:51
где мы не можем проиграть это поле боя потому что через несколько лет на поле
44:57
боя будет сверхразумное сверхбыстрая оружие которое
45:03
ракеты которые не может сбить расчет обычный ПВО
45:09
или увидеть даже то есть бои будут происходить Так что ты мелькнуло в
45:14
воздухе и все кто-то победил а мы даже не поняли что произошло вот поэтому
45:21
здесь конечно там и сейчас и уже речь идет о том что и раньше надо понимать мало кто знает что вирусов производится
45:28
там несколько десятков тысяч в день компьютерных вирусов и конечно их производят генераторы вирусов там Как
45:35
устроена обычно это люди которые производят вирусы они закупили все существующие антивирусы самые свежие
45:42
версии их Там постоянно обновляют у них есть генераторы вирусов они там условно пишут им этот ровно пронт что должно
45:49
быть в этом вирусе что он там должен уметь делать Какие захватывать пространство какие-то там взламывать
45:55
программы дальше эта штука генерирует вирусы они их прогоняют через антивирусы
46:01
и когда начинает пробивать и это значит что у них есть там полдня для того чтобы
46:06
он успел распространиться потому что потом антивирусники его заметит и такие
46:12
пополнить свои базы вот сейчас это просто штука ускорится в разы Ну
46:17
собственно точно также произойдет с мошенниками Да если дальше там условный цыган или там какой-то другой жулик
46:26
должен был на улице разводить лично один к одному Потом значит вот эти
46:32
мошенники с помощью украденных Ну купленных естественно в мобильных
46:38
операторах и в банках персональных данных начали обзванивать десятки людей в день и наработали себе
46:45
компетенцию распознавать за первые фразы ведется человек или нет чтобы сбросить
46:50
на следующего Так что 12 за день вполне окупает эту деятельность то сейчас
46:56
идеологии будет вести чат gpt и она будет распознавать ведется человек или
47:02
нет то есть на вашу бабушку будет нападать
47:08
несколько раз в день абсолютно гипнотические сущности абсолютно неотразимы поэтому сейчас уже Бабушка
47:14
учить с ними разговаривать нельзя надо просто отнимать телефон Я не шучу Просто
47:20
отрывать от интернета и всех остальных уязвимых Я приведу пример я разговаривал
47:27
на банковском форуме по безопасности недавно проходил Екатеринбурге
47:34
а там ведущий нашей секции говорит А вот у меня есть бабушка которая 85 лет знакомая хорошая ее за последние два
47:41
года развели на серьезные деньги четыре раза первый раз служба безопасности Сбербанка второй раз какой-то приз ей
47:50
надо было там получить А за ради этого надо было что-то заплатить третий раз там еще что-то может быть внучек
47:56
позвонил что его там менты захватили сейчас спасает если и он не говорит а он с ней говорит я с ней каждый раз провожу
48:02
беседу каждый раз объясняю я вот недавно спросил но я же вам всё объяснял он
48:08
говорит Ну если бы мне опять предложили бы льготный кредит я бы не согласился я уже
48:15
знаю но они же каждый раз разные делают потому что Страсть к халяве у неё 85 лет
48:21
есть или испуг Да когда ее запугивает там же всего два как правило халява и
48:27
испуг А вот а теперь это Все будет делать чат gpt с
48:33
невероятной скоростью это будет десятки тысяч звонков в день может быть сотни тысяч и там ну там же конверсия важна Ну
48:42
пусть один из тысячи поведется но зато у него можно отнять денег то есть вот что
48:47
тут произойдет я вообще так же как и с вирусами будут генерироваться сотни тысяч Вот таких Атак с Кибер атаками та
48:54
же самая история те точно видос атаки атаки взлома атаки там персистенсред то
49:00
есть когда нужно подсадить в компанию значит трояна чтобы он сидел тихо А все
49:06
это будут делать автоматы у них Кроме того что они будут делать это масса у них будет очень высокая
49:12
скорость вот Ну вот значит что делать я заканчиваю а
49:20
а надо ли повторять непонятно Ну наша цифровизаторы Все говорят да да Надо
49:27
конечно мы отстанем все А туда ли мы идем А нужно ли туда попасть Это
49:32
довольно серьезные вопросы Я не пока не понимаю то есть ну на
49:39
делаем мы еще генераторов эти генераторы в основном как и блокчейн будут использоваться для них хороших дел в
49:46
основном мы что тоже хотим эти говнометы поставить что ли там не менее мощная чем
49:54
врага но оно же так не работает все кто занимается управлением репутацией знают
49:59
что обливать врага нехорошими субстанциями не помогает Если
50:04
тебя идет атака нужна симметричный ответ какие они здесь могут быть отдельный вопрос
50:11
Можем ли мы вообще догонять в этом деле Там же вопрос сейчас железо и больших
50:16
языковых моделей Ну условно говоря у Сбербанка есть там 9000 карточек А у
50:23
этого уже там под 20 тысяч до я не мог тебе еще позволить бесконечные ресурсы
50:29
Microsoft в доле там еще кто-то а мы сейчас во-первых это деньги во
50:36
вторых эти карточки Сейчас поди еще купи их надо там каким-то левым способом через 5 звеньев ты где-то там тащить их
50:44
цена при этом естественно тоже возрастает сильно Вот это вот вопрос на
50:49
самом деле это вопросы которые Ну мы-то обсуждали их там за пивом Но это вопрос который должны на
50:56
государственном уровне обсуждаться а пока вот на коммерческом уровне как я сказал все начальники позвонили своим
51:03
значит яйца головам и сказали срочно делай не обсуждая вопросы надо или нет
51:09
потому что этого начальника вот этой вот супер корпорации его же более старший
51:16
начальник который ему позволяет Корпорацию строить зарабатывать гос деньги получать он же его тоже спросит А
51:22
что вы-то не сделали он хочет знать что ему ответить если он ему может ответить работа ведется скоро будет то нормально
51:31
если нет получается Он дурак То есть это в общем по-другому не могло быть на
51:37
самом деле мы должны это делать или нет Это большой вопрос асимметричные ответы
51:42
должны быть возможно какие-то совершенно другие можно обсуждать но там
51:48
вот Ну что происходит не буду я уже говорил народ включился массово мошенники уже
51:56
включились обучающие Значит уже уже
52:01
джинсы и лопаты этим золотоискателем уже продают сейчас научу вас делать промты
52:07
сейчас научим этим всем пользоваться и так далее тем более что вообще говоря фейсбуковскую ламу уже на ноутбук можно
52:13
поставить это вот gpt надо там подписываться что-то эта штука уже
52:19
доступна Она сначала утекла и они в результате ее просто открыли То есть это
52:24
может делать кто угодно и сейчас куча вот этой вот индустрии вокруг возникает
52:29
но коммерсанты Google с бингом все они делают появились сотни стартапов уже Да
52:36
вчера Этот прочел Я спросил значит своего технического директора Правда ли
52:42
что антиплагиат реально может распознавать сгенерированные тексты и отличать их от натуральных текстов
52:48
сделанных человеком с точностью там 97 процентов там примерно они говорят что у
52:53
них низкий уровень ложных тревог то есть они человеческие тексты не признают искусственными а искусственные легко
53:00
отличаются он очень раздражился сказал я такого залихватского врача еще давно
53:06
давно уже не слышал ну как бы как известно анекдоте когда там помните врач
53:11
говорит ну Откройте рот не вижу никакой органической причины которые мешала вам
53:18
говорить то же самое Вот И здесь тоже самое Значит нет причин
53:23
не говорить Не знаю но что-то вот до сих пор никто не умел распознавать
53:29
генерированные текст я не могу сказать но понятно что их спрашивают естественно опять же
53:35
антиплагиат используется вузами их не видно пошел поток запроса Вы можете
53:40
распознать генерированный диплом Наверное это их ответ такой публичный а
53:45
могут они или нет Надо разбираться Вот Но законодатели зашевелились
53:50
зашевелились они в Европе не буду перечитывать там готовится большой пакет законов про
53:58
это большой закон на 150 страниц сейчас это аналог
54:03
это закона персональных данных у них уже жесткий который действует уже четыре года или 5 это как бы gdpr2 про
54:11
ограничение на искусственный интеллект наши пока в общем шевелится вяло то есть
54:17
есть у нас группа депутатов которые не то что борется с цифровизацией но пытаются ее значит галоп немножко
54:25
осадить я это называю что нам нужна альтернативная цифровизация с учетом
54:31
рисков и так далее об этом ровно пишут европейцы мы не остановимся в реализации
54:36
нам надо договариваться чтобы она была безопасной для общества людей и государства вот Ну вот мы написали в
54:44
Совете по правам человека я там организовал рабочую группу мы написали концепцию защиты прав граждан цифровой
54:50
среде прямо по поручению президента доклад который является подложкой на 120
54:56
страниц лежит на сайте его можно читать сейчас мы вроде бы договорились что мы будем делать цифровой кодекс президенту
55:02
об этом тоже доложили вероятно он будет делаться на базе комитета по информационным технологиям
55:09
Государственной Думы вот тем временем Штейн депутат горелкин
55:17
Там и так далее они там некоторые вносят законопроекта сейчас в частности есть законопроект по ограничению
55:23
рекомендательных сервисов о том что рекомендательные сервисы нельзя вот так прямо изучать все про человека и
55:30
например продавать богатеньким лекарствами товары подороже или там
55:36
билеты на самолет обедники подешевле и так далее вот эти все вещи примитивные
55:42
аналитика люди запрещена будет и так далее но пока не принят вот я надеюсь что мы сделаем в будущем цифровой кодекс
55:49
то что земельный кодекс есть Воздушный кодекс есть есть даже кодекс речной есть
55:56
кодекс морской это новое пространство оно Гигантское задевает всех там должен быть
56:04
вот ну собственно все и закончил значит выводы такие что вообще шансов у нас не
56:10
очень много догонять потому что там работает огромная индустрия у нас это
56:16
индустрия к сожалению не выстроена у нас много разработчиков только в ассоциации РПП куда мы все входим
56:25
ассоциация разработчиков программных продуктов 250 компаний там есть еще ассоциации но
56:31
в реестре программных программного обеспечения отечественных продуктов 14 тысяч и так далее То есть индустрия У
56:38
нас есть но вот такого полного стака технологии как говорят технарей
56:44
полной линейки продуктовые технологического нас нет оборудования есть дыры там операционки не наши Но
56:52
самое главное что как бы нет пока государственной воли на это все у китайцев есть у них тоже такие же дыры
56:58
примерно правда с оборудованием их получше Но их есть государственная Воля они там
57:05
должны к 24 году Вообще полностью импортозаместиться А поскольку это Коммунистическая страна живущая по
57:11
пятилетним планам Я думаю что все будет сделано вот ну и
57:17
риск что если мы сейчас будем все больше больше заимствовать потому что хотим ведь надо понимать что усугубляем
57:24
цифровую колонизацию Потому что когда всех давят процентом цифровой трансформации берут готовы а готовы это
57:31
западные даже если это Open Source который не менее опасен чем закрытый софт вот Ну и конечно надо понять как не
57:39
проиграть на поле боя сейчас вообще говоря сотни коллективов по
57:45
стране делают разные умные беспилотники прям все вскипело мы там тоже некоторыми
57:51
нашими компаниями в этом участвуем и там в частности Конечно один из основных элементов это интеллект интеллект этой
57:58
штуки сейчас на борту никто не распознает вражескую технику то есть на дронах Камикадзе Нет распознавало они
58:05
наверное сейчас появятся и тогда начнется ужас описанный еще в романах 60-х годов про
58:13
Страж птицу если помните рассказ Шекли и так далее Вот потому что дроны получат
58:18
лицензию на убийство уже такое постоянно Сейчас у них временное а будет постоянно вот ну ладно Я
58:25
закончил поблагодарим игры Станиславович за этот позитивный доклад
58:31
[музыка]