Михаил Георгиевич Зеков
Цифра на марше, или 50 историй об образовании в XXI веке
История 8. Слабый ИИ, ущербный и всемогущий
Рутину – машинам, идеям – респект!
Не станет творцом цифровой интеллект!
В предыдущей истории мы заглянули в будущее достаточно далеко. Сильный ИИ, сравнимый с человеческим интеллектом, это очень круто, волнительно и опасно. Но пока где-то там, за горизонтом. Есть исследователи, пусть они занимаются своим делом. Здесь и сейчас происходят более прозаичные вещи, которые по своим последствиям для обычных людей опережают многие инновации.
В международных отчетах последних лет, описывающих рынок труда, утверждается, что в ближайшие 20 лет будут автоматизированы до 50% всех рабочих мест. И все это благодаря слабому искусственному интеллекту и нейронным сетям.
Исследованиям в области искусственного интеллекта уже более 50 лет. Очень долгое время они оставались на периферии общественной жизни. Исследователи с завидным постоянством собирались на свои симпозиумы, которые мало кого интересовали. Широкую общественность интересовал один вопрос – когда компьютер обыграет в шахматы чемпиона мира. Когда в 1997 году компьютер Deep Blue в шести партиях победил Гарри Каспарова, интерес снова угас.
В те годы более-менее широкое практическое применение получили экспертные системы, компьютерные системы распознавания естественного языка и перевода с одного языка на другой. Системы распознавания образов, построенные на сложнейшем математическом аппарате, давали слишком много ошибок. Разработка прикладных программных продуктов, способных делать логические выводы и решать задачи в рамках некоторой системы аксиом и правил вывода, оказалось чрезвычайно сложным и затратным делом.
В начале 2000-х я участвовал в попытке создания на языке Prolog автоматизированной системы, способной доказывать теоремы и решать задачи школьного курса планиметрии. Мы просто утонули в сложности задачи и от проекта отказались.
В традиционную классификацию систем искусственного интеллекта входят еще и гипертекстовые системы, базы знаний, системы контекстной помощи и некоторые другие. Хотя более точно их называть «интеллектуальные информационные системы» или «системы с интеллектуальным интерфейсом». Они широко применяются в современном цифровом мире. Тот же интернет – это огромная гипертекстовая распределенная система. Но даже к слабому искусственному интеллекту их можно отнести с очень большой натяжкой.
Вернемся к ходу событий. Равнодушие широкой общественности к тематике искусственного интеллекта наблюдалось до второго десятилетия XXI века. Потом оно вдруг сменилось взрывообразным ростом интереса. Все вокруг заговорили о том, что искусственный интеллект и нейронные сети не просто тренд. Это революция на рынке труда, это страшная угроза для многих профессий, это возможность наконец построить общество изобилия.
Что же это – реальная революция или очередной хайп, который любят и умеют создавать современные СМИ? Для ответа на этот вопрос нужно понять причины, почему интерес к теме возник именно сейчас. Что такого произошло около 10 лет назад, позволяющее сегодня трубить об эпохе искусственного интеллекта и нейронных сетей?
Произошло несколько событий.
Во-первых, к 2010 году ученые сделали прорыв в математическом обеспечении для обучения нейронных сетей. Они научились обучать все их слои, а не только последние. Это существенно повысило надежность принимаемых решений.
Во-вторых, в 2010 году появилась база данных ImageNet, содержащая 15 миллионов изображений в 22 тысячах категорий. ImageNet многократно превысила объем существовавших до этого баз данных изображений и стала доступна для любого исследователя. Распознавание и классификация изображений – одна из наиболее популярных задач для нейросетей. Появление ImageNet облегчило обучение нейросетей данного типа, позволило существенно улучшить качество распознавания. Путать кошку с собакой хорошо обученные нейросети перестали.
В-третьих, новые вычислительные мощности, облачные хранилища данных и наработанные типовые программные модули сделали работу с нейросетями доступными самым разным энтузиастам. Относительно несложный математический аппарат, вполне доступный студентам мехматов первых курсов, позволил привлечь значительные интеллектуальные ресурсы.
В проектирование и обучение новых нейросетей в самых разных отраслях оказалось втянуто достаточно много людей. Вот для примера несколько результатов, взятых из открытых источников.
Искусственный интеллект определяет риск кардиологических заболеваний эффективнее реальных врачей.
Искусственный интеллект хорошо помогает распознавать потенциальные случаи мошенничества в различных сферах жизни.
Искусственный интеллект, анализирующий естественный язык, используется для создания чат-ботов.
Искусственный интеллект существенно улучшил механизмы рекомендаций в онлайн-магазинах и сервисах.
Искусственный интеллект отвечает за распознавание окружающих объектов в беспилотных автомобилях.
Искусственный интеллект победил в соревновании по толкованию и анализу заключенных договоров лучших юристов США.
Искусственный интеллект наконец выиграл в Го у чемпиона мира из Кореи (игра Го считается намного сложнее шахмат).
Во всех примерах задействованы специальным образом обученные нейронные сети. Примеры их применения можно растянуть на несколько книг, даже если каждому уделять один абзац.
И здесь первый вывод для сферы образования, про которую мы немного подзабыли. Интеллектуальные навыки, которые ценились у работников во второй половине XX веке, стремительного устаревают. Найти им применение через 10 лет будет очень сложно.
О каких навыках идет речь? Подумаем, что объединяет хороших юриста, медика-диагноста, специалиста-консультанта по подбору товара. Личная база знаний, заботливо уложенная в голову интенсивной зубрежкой. Умение быстро извлекать из нее нужные сведения при самых сложных параметрах запроса. Пожалуй, и все.
На формирование подобных навыков практически полностью заточена традиционная система образования. Трудолюбиво усвоить заложенные в учебнике сведения и научиться их применять в оговоренных учебной программой рамках. Кто такой круглый отличник? Тот, кто научился это делать в совершенстве. Почему среди победителей предметных олимпиад редко можно встретить круглых отличников? Потому что для победы нужно учиться совершенно по-другому.
Сейчас на постсоветском пространстве то и дело разгорается дискуссия о том, каким было школьное образование в Советском Союзе. Большинство сходится во мнении, что лучшим в мире и вообще замечательным. Иначе бы в космос первыми не полетели. А у меня очень много сомнений. И есть идея интересного эксперимента.
Я в советской школе, где учился с 1969 по 1979 годы, классе в четвертом перестал дома делать домашние задания. Что-то успевал сделать на уроках и переменках. Иногда дома решал математические задачи из журнала «Квант». Иногда читал научно-популярную литературу. Так жили многие из тех, кто учился на 4 и 5. Конечно, много было и тех, кто выполнял все, как хотели учителя и программа. Они тоже учились на 4 и 5, только средний балл у них был повыше. Я поучился в четырех школах в СССР и за границей – ситуация похожая.
Идея эксперимента. Провести опрос среди представителей того поколения, которое училось в советской школе. Кто делал все домашние задания? Таких в те годы называли зубрилами. Кто делал только по выбранным предметам? Кто не делал вовсе? По возможности, конечно, так как всегда было небольшое число учителей, способных заставить выполнять домашнее задание любого лентяя.
Вот почему-то мне кажется, что зубрилы много звезд с неба за эти годы не нахватали. А если успешными в жизни стали те, кто игнорировал требования системы образования, чем же она тогда так хороша?
От лирического отступления вернемся к нашим баранам, то есть к нейронным сетям. Они, как выяснилось, способны дать фору любому отличнику-зубриле. И поговорим о том, как готовить специалистов по нейронным сетям, раз уж число их будет неуклонно расти. Кстати, эксперты оценивают нехватку специалистов в этой области как одну из самых значимых на рынке труда.
Чтобы разобраться как готовить специалистов по нейронным сетям, нужно понимать, чем они будут заниматься. Вот тут-то и всплывают интересные факты. Осознать их нам поможет рассказ руководителя одного из стартапов в области искусственного интеллекта. Привожу его в своем сокращенном изложении. Если что-то слегка искажу, то для простоты объяснения.
Команда стартапа решила помочь людям подбирать себе по вкусу одежду, обувь и аксессуары (сумочки). Очень простым и изящным способом. Идет модница по улице и видит на ком-то интересный наряд. Достает свой смартфон и быстренько делает фото. Специальное приложение на смартфоне связывается с обученной нейросетью, которой передает сделанное фото. Сеть анализирует фото и из базы данных, содержащей описание образцов одежды, обуви и аксессуаров, предлагает моднице максимально похожие варианты покупки. В наш потребительский век отличная идея.
Шаг 1. Команда разрабатывает максимально детализированную систему классификации для всех трех категорий: одежды, обуви, сумочек. Например, по фотографии нужно было понимать, что искать надо босоножки, женские, кожаные, на танкетке, с позолоченными застежками, голубого цвета. Составление классификатора руководитель описывает как захватывающее погружение в мир модных магазинов и каталогов. Творческое с одной стороны, кропотливое и системное с другой. Занимаются этим ведущие креативные специалисты команды, к программированию и нейросетям отношения не имеющие. Их совсем немного, но они – элита стартапа.
Шаг 2. Программисты, владеющие технологиями проектирования и обучения нейронных сетей, создают компьютерную модель нейронной сети. Ей можно будет «скармливать» тысячи и тысячи учебных фотографий. В основе ее лежит разработанная классификация. Программистов тоже немного, и они тоже элита стартапа.
Шаг 3. Набираются очень трудолюбивые, способные к однообразному кропотливому интеллектуальному труду работники. В рассказе этого нет, но, думаю, в основном женщины. Требования по квалификации одно – базовое владение компьютером (обычная школьница вполне подойдет).
Начинается самая трудоемкая часть проекта: практическое обучение нейронной сети. К этому времени еще на первом шаге подготовлена база данных с учебными фотографиями. На них самые разные люди изображены в самых разных нарядах. Например, фотография известной модели в сарафане, летних туфельках с модной сумочкой.
Работник в специальном редакторе загружает эту фотографию. Выделяет прямоугольным контуром сарафан и для него указывает все признаки из системы классификации. Потом выделяет туфельки еще одним прямоугольным контуром и для них указывает нужные признаки. Потом то же самое делает для сумочки. Сохраняет результат – и нейронная сеть получает фотографию для обучения. Чтобы начать отличать туфельки от босоножек, каблуки от танкеток, сарафаны от вечерних платьев, парадные дамские сумочки от стильных мужских обработать пришлось десятки тысяч фотографий.
Шаг 4. Все довольны, можно проверять работу нейронной сети.
Несколько полезных выводов из всего вышесказанного для сферы образования.
Разработка системы классификации для нейронной сети и всех связанных с этим параметров и настроек – это искусство. Общие рекомендации есть, но в каждом случае одновременно нужны три вещи. Полное погружение в предметную область, творческий подход, великолепные навыки систематизации. Причем все это лучше всего совмещать в одном и том же человеке. Близкая аналогия – кинорежиссеры. Такие люди – штучные специалисты. На поток их подготовку поставить можно. Но тут, как и с фильмами. Можно получить киношедевр, а можно фильм категории B.
Программирование нейронных сетей в принципе занятие понятное. На рынке много наработок и программных модулей-заготовок. Проблема только в одном. На рынке труда полно программистов, владеющих самыми передовыми средствами разработки. На рынке труда хватает выпускников мехмата, хорошо знающих матанализ и высшую алгебру. На рынке труда острейший дефицит тех, кто владеет первым и знает второе. А для программирования нейронных сетей нужно именно это. Большинство программистов изучением высшей математики себя не утруждало. Зачем, если деньги и удовлетворение приносит совсем другое. Здесь для сферы образования – поле непаханое. И для школьного, и для профессионального, и для высшего.
Обработка учебных примеров и практическое обучение нейронных сетей требуют от специалиста немного. Или вполне понятную среднюю квалификацию в некоторой предметной области, или вообще только базовые навыки владения компьютером как в вышеприведенном пример. К сожалению, такую специальность не получится ввести для борьбы с массовой безработицей. Во-первых, обучение нейронной сети трудоемко, но конечно. Во-вторых, нейронная сеть, обученная один раз распознавать на фото одежду и обувь, в дальнейшем может использоваться другими приложениями для других идей. Бум обучения достаточно быстро может сойти к устойчивому минимуму.
Еще об одном важнейшем применении слабого ИИ в качестве помощника в обучении мы поговорим в отдельной истории.
В заключение отвечу на один не заданный вопрос. А не смогут ли в совокупности обученные нейронные сети в итоге составить сильный искусственный интеллект?
Не смогут. В нынешних нейронных сетях не решена главная проблема сильного ИИ – понимание информации. Нейронную сеть можно научить (и научили) безошибочно различать кошек и собак. Для этого потребовались десятки тысяч фотографий. Ребенок 3-х лет за свою жизнь видел десяток кошек и десяток собак. Но различать их будет не менее безошибочно. Человеческий интеллекта работает на совершенно других принципах, с которыми исследователям еще только предстоит разобраться.
Впереди нас ждет история еще об одной угрозе. Поговорим о виртуальной реальности, хорошо показанной в трилогии «Матрица».
История 9. Виртуальные миры: на краю зияющей бездны
Всех миражом виртуальность манит,
Но Человек перед ней устоит!
В этой истории будет две части. В первой мы поговорим о реальных и мнимых перспективах использования виртуальной реальности (VR) в обучении. Во второй речь пойдет о тех последствиях, к которым может привести развитие этой технологии. И мы помним тезисы, высказанные ранее. Если научное исследование можно провести, оно будет в итоге проведено. Если результаты исследований можно внедрить в жизнь, они будут внедрены. Принудительная остановка прогресса противоречит человеческому любопытству, жажде признания, желанию победить в конкурентной борьбе.
Сначала о понятиях и терминах. В настоящее время выделяют три вида виртуальной реальности:
виртуальная реальность как таковая, которая является трехмерным порождением компьютерных алгоритмов;
дополненная реальность, в которой на отдельные объекты реального окружающего мира накладываются объекты, порожденные компьютерные алгоритмами;
смешанная реальность, когда происходит постоянное сканирование окружающего мира с одновременным наложением на него разного рода порождений компьютерных алгоритмов в реальном времени.
Применительно к обучению это может выглядеть примерно так.
Виртуальная реальность (VR). Надевается VR-шлем, в руки берется манипулятор, запускается учебная программа. Человек видит вокруг себя созданный этой программой трехмерный мир. Например, мир Древнего Египта.
Качество прорисовки, эффект присутствия в современных VR-технологиях потрясающие. С помощью манипулятора, который пока чаще всего напоминает пульт управления игровыми приставками, в этом мире можно выполнять самые различные действия. Двигаться, перемещать предметы, управлять их состоянием, менять сюжетные линии, получать пояснения.
Можно привести огромное множество примеров, когда учебные занятия в такой форме уместны, полезны и эффективны. И в естественных науках, и в гуманитарных, и в корпоративном обучении.
Дополненная реальность (AR). Простейший вариант, набирающий сейчас популярность. Устанавливаем на свой смартфон специальное приложение. Берем в руки обычный печатный учебник. Открываем страницу, где рассказывается про физический опыт. Наводим на нее смартфон – и на нем запускается видео с данным опытом. Понятно, что в приложении заложено, какой опыт для какой страницы учебника нужно запустить.
Второй вариант. Гуляем по городу, наводим смартфон на исторический объект – и получаем справку о нем. В виде текста, слайд-шоу, видео или ауди рассказа. Область применения очень широка. Сегодня во многих странах школьные учебники сопровождаются приложениями, которые расширяют их возможности подобным образом.
Смешанная реальность (MR). Опять же, надеваем шлем, берем в руки манипулятор. На экраны шлема подается трехмерное изображение окружающего мира в реальном времени. Одновременно на это изображение реальности накладывается виртуальный мир, порожденный компьютерными алгоритмами.
Интересный пример применения. В США при помощи MR-технологии обучают пожарников. Есть реальное здание, в котором нужно работать. Но пожары – виртуальные, возникают они в разных местах, по разным причинам и с разными характеристиками. Широкое применение, например, в школьном образовании вызывает пока большие сомнения.
Теперь поговорим о реальной и мифической пользе технологий виртуальной реальности в обучении.
Дискутировать о полезности технологий дополненной реальности долго не нужно. По сути, это развитие идеи гипертекстового способа организации информации. Безусловно полезная и нужная вещь. Особенно в плане экономии времени для получения знаний по запросу. Да и с мотивацией учащегося здесь все хорошо. Читаешь учебник, дошел до опыта, сразу смотришь.
На YouTube наверняка можно при желании найти видео с таким или очень похожим опытом. Но кто из нынешней молодежи будет это делать? А вот навести любимый смартфон на страницу, щелкнуть и тут же посмотреть – это многие будут делать. Особенно на первых парах.
Есть и опасность, если вместо вдумчивого прочтения учебника ученик будет смотреть только видео на смартфоне. Он получит поверхностное представление, вместо реального понимания сформируется его иллюзия.
Про смешанную реальность сказать ничего не могу. А вот про виртуальную поговорить стоит. По отношению к ее полезности в обучении люди делятся на три категории:
революционеры, которые считают, что практически все лучше изучать в виртуальных мирах;
консерваторы, которые считают, что виртуальные миры только отвлекают от нормальной учебы и реальных учебных результатов не приносят;
все остальные, которые мыслят по принципу «что-то в этом есть».
Как постоянный представитель третьей категории по многим вопросам попробую «это что-то» выделить.
Реальных, независимых, проведенных по стандартным научным правилам исследований, доказывающих эффективность виртуальной реальности в обучении, очень мало. Революционеры-оптимисты приводят в качестве доказательства одно такое исследование, проведенное в США.
Есть в психологии мнемонический прием запоминания, который называется «дворец памяти». В нем объекты, которые нужно запомнить, мысленно «навешиваются» на объекты реального мира (элементы дворца). Испытуемый потом смотрит на элемент дворца и вспоминает, какой объект для запоминания был с ним связан. Вполне работающий прием, знаю людей, которые им пользуются.
Для эксперимента была создана трехмерная компьютерная модель дворца. Испытуемым студентам нужно было с ее помощью запомнить местоположение портретов знаменитых людей. Половина студентов перемещалась по дворцу и «развешивала» портреты с помощью VR-технологий, половина с помощью обычного компьютера с монитором. Потом им предложили вспомнить, где и чьи портреты находились. Результаты показали, что качество запоминания оказалось выше у тех, кто использовал VR-технологии.
Такой результат вполне можно было бы предсказать. Во-первых, мог сработать эффект новизны. Новые технологии всегда вызывают больший интерес, а интерес в свою очередь влияет на качество запоминания. Во-вторых, именно такая постановка эксперимента наталкивала на гипотезу, что в трехмерном мире, по ощущениям близком к реальному, запоминание будет лучше.
Скептики по поводу этого эксперимента задают вопрос. А почему кроме местоположения портретов одновременно не пробовали запоминать биографическую информацию для каждой знаменитости? Результат мог бы оказаться совсем другой.
Вот так с ходу не стал бы строить гипотезы. Мне кажется, что ключевым фактором запоминания для второго случая был бы уровень концентрации на задании. Возможно, в виртуальном мире нужного уровня концентрации на текстах добиться было бы сложнее.
Очевидным является другое. Учебные виртуальные миры для ряда задач не просто лучше печатных и экранных форматов. Они уникальны и дают новое качество. Вряд ли с их помощью удастся улучшить изучение квадратных уравнений. А вот почувствовать себя настоящим муравьем в травяных джунглях, понять суть и законы жизни насекомых, проникнуться уважением к природе – вполне возможно. Смотришь, и увлеченных биологией и экологией станет больше.
В качестве резюме первой части. Учебные виртуальные миры – это прекрасное дополнение к традиционному образованию. Только всегда стоит помнить, что большинство детей при свободе выбора будут в виртуальной реальности заниматься совсем иным. Виртуальными играми. Об иллюзиях игрового обучения у нас будет целая история.
Пора перейти ко второй части и заглянуть одним глазом в зияющую пропасть, талантливо и убедительно показанную в трилогии «Матрица».
Для затравки несколько слов про манипуляторы, при помощи которых происходит управление в виртуальных мирах. Джойстики – это был лишь первый шаг. На смену им приходят специальные перчатки, гораздо более удобные и функциональные. Специальные помещения, специальные костюмы – следующий шаг. Шаг не завтрашнего дня, это есть уже сегодня. С их помощью погруженность в виртуальный мир повышается в разы. Управление компьютером при помощи сигналов мозга находится в зачаточном состоянии, но результаты уже тоже есть.
Один из самых популярных жанров современной фантастики – ЛитРПГ. Героя погружают в специальную кабину, подключенную к игровому виртуальному миру. Или он сам в эту кабину залезает, что по сюжету происходит чаще. Физиологические растворы и стимуляторы поддерживают тело в рабочем состоянии. Сознание героя полностью погружается в виртуальный мир в выбранном заранее образе: эльф, орк, гном, рыцарь, разбойник, шаман, космонавт… Для героя начинается новая захватывающая жизнь, в которой можно все. Нельзя только умереть по-настоящему.
Многие авторы пытаются показать, как герои живут с одинаковым интересом и в реальном, и в виртуальном мире. Получается не всегда убедительно. А вот психологическая правдоподобность отказа от реального мира сомнений в таких произведениях не вызывает.
При нынешнем уровне развития VR-технологий, искусственного интеллекта, нейрофизиологии создание таких кабин и связанных с ними виртуальных миров – не фантастика, а реальный научно-исследовательский проект. Не быстрый, но в наш горизонт планирования вполне вписывающийся.
Что-же может произойти с реальным миром, в котором полная погруженность в виртуальный мир станет доступной технологией? Мнения высказываются диаметрально противоположные.
VR-оптимисты предлагают не забывать, что безработица и свободное время работающих будут только увеличиваться. Людей нужно будет чем-то занимать, иначе социальных катаклизмов, масштабных и кровавых, не избежать. Уничтожать лишних людей – не гуманно (не поспоришь!) Рассчитывать на то, что новое образование воспитает новых людей, игнорирующих развлечения, нереалистично. Какой процент выберет кабинки с захватывающими приключениями, а какой посадку деревьев, уход за больными или чтение классической литературы? В лучшем случае – сравнимый. Вот половине человечества такие кабинки и понадобятся.
Еще один достаточно убедительный аргумент VR-оптимистов. Виртуальные миры могут иметь свои виртуальные экономики, в которых не будет естественных ресурсных ограничений. И деятельные люди, которым не найдется места на реальном рынке труда, захваченном слабыми ИИ, погрузятся в VR-предпринимательство. С удовольствием совмещая его с VR-приключениями.
Не верите? Тогда посмотрите на форумы нынешних лидеров индустрии онлайн-игр. Продажа легендарных мечей, эпических щитов, золотых снарядов, эльфов 80-го уровня – вполне заурядная практика.
VR-пессимисты, естественно, рисуют апокалиптические картины по трем основным сценариям.
Сильный ИИ, захвативший управление на Земле, всех людей насильственно засунет в кабинки и погрузит в мрачную (фальшиво веселую) виртуальность. Про технологическую сингулярность мы уже говорили. Если это произойдет, предсказать наше будущее невозможно. Как говорят мудрые люди: «Поживем, увидим!»
Корпорации, разработавшие соответствующие технологии и поработившие реальный мир, насильственно погрузят всю лишнюю часть человечества в мрачную (фальшиво веселую) виртуальность. При победившей глобализации сценарий вполне реалистичный. В мире региональных зон, национальных правительств – вряд ли. При нашем горизонте планирования в 20 лет, сценарий маловероятный, даже если технологии позволят.
В ближайшие 20 лет сильно меняться мир не будет. Конкуренция не даст положить на полку результаты VR-исследований. Виртуальные миры полного погружения будут созданы. Погружение будет настолько соблазнительно, что многие люди не смогут от этого отказаться. На совершенно добровольной основе, пользуясь наличием базового дохода, люди как лемминги стройной толпой пойдут покупать VR-кабинки. Сценарий гораздо более вероятный.
Что можно сказать. Если человечество в массовом порядке добровольно предпочтет реальной жизни погружение в виртуальность, значит с эволюционной точки зрения мы – тупиковая ветвь.
Мне очень хочется верить, что виртуальные миры, насколько бы они не были реалистичными и привлекательными, останутся лишь частью нашей жизни. Как сегодня для многих повзрослевших геймеров онлайн-игры – привычный отдых после напряженного трудового дня.
Интересная тема ждет нас в следующей истории: как может эволюционировать человеческий вид.