Стандарты для ИИ в финальной стадии

Отсутствие общепринятых стандартов, даже в области терминологии, многими экспертами называлось одним из главных препятствий для развития технологий искусственного интеллекта. По оценке руководителя департамента цифровой трансформации CrossTech Solutions Group Романа Титова, отсутствие стандартов просто не позволяло разработчикам находить общий язык: "Разработчики ПО и без стандартов могли писать программный код и тестировать его своими методами и по своим внутренним регламентам, но, общаясь с разными командами, могли возникать трудности в их диалоге и понимании друг друга. Поэтому на помощь приходит стандартизация - она важна в любой сфере, так как благодаря ей люди начинают "общаться" на одном языке и каждый будет точно уверен, что собеседник поймет его правильно. Благодаря стандартам разработчикам становятся понятны требования ко всем стадиям создания итоговой модели машинного обучения. Компании, разрабатывающие системы с искусственным интеллектом, смогут понимать механизмы тестирования ПО и будут подходить к процессам тестирования и защиты от различного рода атак более структурировано". Руководитель департамента разработки беспилотных транспортных средств Cognitive Pilot Юрий Минкин назвал технологии ИИ одним из тех стратегических направлений, которые позволяют обеспечить эффективное развитие и лидерство, как страны в целом, так и отдельных отраслей экономики, поэтому важно, чтобы эти технологии работали во благо, а не во вред, и именно эту задачу и позволяют обеспечить стандарты. "Это необходимый инструмент регулирования, чтобы ИИ-решения и системы были безопасными и эффективными. Cognitive Pilot, как разработчик ИИ для беспилотного транспорта, глубоко и серьезно занимается вопросами разработки стандартов для ИИ-систем. Буквально месяц назад мы объявили о завершении совместной с ВШЭ разработки первого национального стандарта по ИИ в агропромышленном секторе, который утвержден Росстандартом. Поэтому разработанные стандарты позволяют сделать ИИ-решения более безопасными и вызывающими доверие для конечного потребителя. Также они будут полезны и разработчикам других аналогичных решений, и экспертному сообществу в целом", - говорит он. Директор по продуктовой стратегии группы Т1 Сергей Иванов назвал появление отраслевого стандарта важным событием: "В области разработки интеграция отдельных функциональных модулей в единую целостную систему является наиболее сложной и дорогостоящей частью проекта. Наличие единого формата требований, собранных в виде стандарта, позволяет не только упростить создание отдельных элементов платформы или решения, но и дает шанс внешним разработчикам интегрировать собственные доработки в единый функциональный ландшафт". Директор по продукту цифровизации клиентского сервиса в дистанционных каналах компании BSS Юлия Вдовина назвала стандартизацию ИИ важной задачей в условиях, когда он все более активно применяется. "Это нормальная практика в любой сфере, касающаяся любой деятельности. Введение стандартов призвано ее организовать, упорядочить и привести к единому знаменателю. Не стоит забывать и о том, что ИИ может применяться в разных сферах, в том числе в критически важной инфраструктуре. Безусловно, в сферах, где ценой ошибки может быть угроза человеческой жизни, или финансовые риски, или компрометация персональных данных, в первую очередь должны быть применены стандарты", - отмечает она. Эксперт фонда "Сколково" Сергей Морозов в выступлении на конференции Data Fusion назвал главной функцией стандартов создание единых правила и экосистем, которые будут работать в любой отрасли, в том числе в медицине (см. новость ComNews от 15 апреля 2022 г.). Научный консультант Artezio, эксперт с опытом работы в рабочих группах ITU-Т Международного союза электросвязи от администрации связи РФ Владимир Крылов считает появление стандартов констатацией того факта, что искусственный интеллект перешел от стадии опытных разработок к реальному применению, в том числе в медицине. Однако, по его мнению, положительного влияния на совершенствование технологий ИИ медицинского назначения они не окажут. "Насколько это важно, пусть судят специалисты, чья работа будет регламентироваться этими стандартами, и больные, которые будут получать медицинские услуги с использованием систем искусственного интеллекта. С моей точки зрения, в том виде, как выглядят эти стандарты, они не будут оказывать положительного влияния на совершенствование технологий искусственного интеллекта в медицинских приложениях", - говорит он. "Появление стандартов вполне может решить и такую важную задачу, как повышение доверия к системам, использующим ИИ. Часто для пользователя не совсем ясно, что именно собой представляет ИИ, как он работает и каковы риски и дополнительные преимущества ИИ-продуктов. Сами по себе технологии машинного обучения сегодня используются практически повседневно, но пользователь совершенно не знает, где именно этот самый ИИ находится внутри тех приложений, которыми он пользуется. Это приводит к большим страхам и беспокойствам в обществе в целом и порождает недопонимание. В частности, нет общепринятого стандарта в определении самого понятия ИИ", - полагает генеральный директор iPavlov, исполнительный директор НИЦ АО "Швабе" в МФТИ, директор по разработке прикладного программного обеспечения Центра компетенций НТИ по направлению "Искусственный интеллект" Лоран Акопян. "Люди, далекие от мира технологий, смогут общаться на одном языке с техническими исполнителями и правильно ставить для них задачи, а также правильно контролировать работу ПО. Каждая разработанная система должна будет проходить тестирование, шаги которого описаны в документах стандартизации, тем самым к системам, которые их пройдут, будет доверие к их работоспособности и качеству работы", - уверен Роман Титов. "Стандарты помогут сделать использование ИИ этичным, безопасным, социальным, соответствующим принятым общественным правилам и нормам. Это особенно важно при применении ИИ в медицине, в финансовой сфере, государственном управлении, в контактных центрах и везде, где используются массивы личных данных клиентов для автоматизации обращений с ними и предложения продуктов и услуг", - считает Юлия Вдовина из компании BSS. "Соответствие стандартам станет необходимым условием у тех, кто финансирует работы в этой области или принимает решение о внедрении таких систем. У этих категорий доверия станет больше. Доверие у больных и врачей вряд ли увеличится от самого факта подписания документов о соответствии", - такую оценку дает Владимир Крылов. "Стандарты позволяют обеспечить безопасность, надежность и эффективность применяемых технологий. Они ни в коем случае не призваны ограничивать разработку и использование решений на базе ИИ. Не должны сдерживать развитие индустрий, внедрение инноваций, совершенствование технологий. Они только задают вектор развития. По большому счету стандарты призваны упорядочить использование ИИ в разных сферах, в том числе с учетом этических норм", - такими видит функции стандартов Юлия Вдовина. По мнению Владимира Крылова, за исключением установления общей терминологии, стандарты не дают потенциала облегчения разработки систем с использованием искусственного интеллекта, по крайней мере применительно к медицине. "Приведенные стандарты в основном не затрагивают принципов, которые следует заложить, с моей точки зрения, в стандартизацию применения ИИ в медицине. Например, важный из них - это методика сравнения результатов применения системы с ИИ и системы с ЕИ, где эту роль выполняет человек. Ведь смысл внедрения систем с ИИ состоит в том, чтобы конечные результаты от применения ИИ оказывались лучше, чем может обеспечиваться ЕИ (естественным интеллектом). И это не просто, поскольку диапазон ЕИ весьма вариабелен. Например, те же задачи диагностики рака выполняются в среднем по миру, средним врачом, с вероятностью правильного диагноза примерно 75%, хотя в элитных клиниках эта вероятность может достигать 97%. Допустим протестированная система с ИИ показала результат правильной диагностики в 85% случаев. Как интерпретировать целесообразность использования такой системы?" - задается вопросом Владимир Крылов. Однако, по мнению экспертов, развитие технологий идет быстро, в итоге стандарты придется пересматривать. "С появлением новых технологий и алгоритмов, которые не будут попадать под стандарты, нужно будет их пересматривать. Новые алгоритмы выходят достаточно часто, но часть из них подходит под изданные стандарты, поэтому пересмотр стандартов не требуется", - считает Роман Титов. В случае появления каких-то принципиально новых алгоритмов, которых нет в действующих стандартах, по его мнению, дополнять стандарты придется неизбежно. По оценке Лорана Акопяна, стандарты необходимо корректировать каждые три-пять лет: "В силу бурного развития вычислительной техники, технологий ИИ, науки о данных и других смежных областей исследований и разработок, продуктовые подходы к ИИ постоянно эволюционируют. Ясно, что стандарты в ИИ также будут пересматриваться - на мой взгляд, не позднее чем каждые три-пять лет. Однако базовые стандарты, например этические стандарты, стандарты по безопасности, вытекают из самого опыта использования конечным потребителем ИИ и должны соблюдать строго интересы человека. Ни одна система ИИ не должна когда-либо стать выше блага человека, точно так же, как и в случае создания других потребительских продуктов". По мнению Юлии Вдовиной, пересмотр стандартов необходимо проводить регулярно, соответственно, процедура внесения изменений должна быть несложной: "Для того чтобы стандарты были рабочими, их обновления должны быть регулярными - с частотой раз или два в год. Мир ИИ очень быстро меняется, алгоритмы становятся более сложными и автономными, появляются новые технологии, которые обеспечивают лучшее понимание, упрощают и ускоряют обучение новому. Поэтому процедура корректировки/дополнения стандартов должна быть несложной". "После прочтения у меня уже сложилось впечатление об устаревании содержания многих этих стандартов. Приведу только один пример. Всюду предполагается, что то, что называется в стандартах искусственным интеллектом является обучаемой моделью, использующей технологию изолированного обучения с учителем. В настоящее время в основе искусственного интеллекта могут лежать предобученные модели, обученные на всем доступном опыте человечества, дообучаться на основе трансферного обучения. В стандарте заложены противоречия с такими технологиями. Высокую эффективность показывают обучаемые модели на основе технологий самообучения с подкреплением, которые никак не ложатся в ограничения стандартов, - считает Владимир Крылов. - Вообще, стремительность появления все новых результатов в области искусственного интеллекта будет требовать постоянного пересмотра содержания многих из представленных здесь стандартов". Ссылка на источник