Российские организации договорились о единых принципах создания и применения генеративного ИИ

На Дне искусственного интеллекта 13 марта отечественные компании - разработчики ИИ, а также вузы и отраслевые организации: "Сбер", "Яндекс", "МТС ИИ", "Сколтех", МФТИ, Университет ИТМО, университет "Иннополис", Институт системного программирования им. В.П. Иванникова Российской академии наук, НИУ ВШЭ, ННГУ им. Н.И. Лобачевского - подписали декларацию об ответственной разработке и использовании сервисов на основе генеративного искусственного интеллекта (Gen AI). Документ подписан через сервис "Госключ". Декларация развивает и детализирует Кодекс этики в сфере искусственного интеллекта применительно к генеративному ИИ. Декларация включает в себя рекомендации как для разработчиков, так и для пользователей. Разработчикам рекомендуется, например, создать команду экспертов из разных отраслей для системной проверки контента, создаваемого сервисами на основе генеративного искусственного интеллекта, на соответствие нормам морали и нравственности, а сами сервисы - на взломоустойчивость и информационную безопасность. Кроме того, в декларации закреплена рекомендация для разработчиков ИИ информировать пользователя о факте применения генеративного ИИ в сервисах, где это возможно и неочевидно. Пользователям декларация напоминает, что законодательство устанавливает ответственность за распространение противоречащей закону информации, даже если она создана с применением GenAI. "Если вы создали с помощью сервисов на основе генеративного искусственного интеллекта некорректную информацию, сообщите об этом разработчику. Этим вы поможете сделать сервис лучше и безопаснее", - рекомендуют авторы декларации. И.о. директора департамента финансовых технологий Банка России Станислав Короп рассказал о рискориентированном подходе к регулированию ИИ, которого придерживается ЦБ РФ. По его словам, этот подход оптимален и для регулирования генеративного ИИ, которое может стать необходимым в ближайшем будущем. "Задача регулятора по части рисков от ИИ - найти баланс между совершенствованием условий для развития технологии и в то же время для качественного управления рисками. Есть три вида рисков, связанных с использованием ИИ: которые не требуют регуляторного вмешательства; те, что требуют вмешательства регулятора; которые вызывают необходимость добровольного этического регулирования", - объяснил Станислав Короп. По его словам, этические кодексы повсеместно используются в мировой практике: в Евросоюзе, Великобритании, Канаде, Корее. Этические стандарты позволяют гибко и адаптивно указывать участникам рынка на зоны риков и давать рекомендации по их управлению. "Генеративный ИИ в финансовой отрасли используется в основном в отношении с клиентами: организации встраивают его в чат-боты, а также в сервисы, которые напрямую не связаны с оказанием финансовых услуг, - для генерации текстов и картинок. Потенциальный ущерб и возникновение рисков здесь невысокие. Но так как отрасль развивается стремительно, мы не можем говорить с уверенностью, что такие риски не появятся", - сообщил Станислав Короп. По его словам, решения о необходимости регулирования должны и будут приниматься с учетом комплексного всестороннего анализа возникающей проблемы и оценки потенциальных последствий рисков.\[quote\] https://www.comnews.ru/content/229279/2023-10-06/2023-w40/1008/kak-regu… \[/quote\] Академик Российской академии наук Арутюн Аветисян рассказал, что декларативный подход к регулированию генеративного ИИ актуален не только в России, но и на уровне Организации Объединенных Наций (ООН): "В рамках ООН создана пока неформальная группа, которая будет заниматься доверием к искусственному интеллекту на международном уровне. Все, кто создает языковые модели, сталкиваются с тем, что их необходимо цензурировать. Но в разных странах подходы разные. Мое предложение - на международном уровне фиксировать технологический ландшафт, а все, что связано с этикой, нужно оставлять на страновом или даже отраслевом уровне". Вице-президент - директор департамента развития ИИ и машинного обучения ПАО "Сбербанк" Максим Еременко сообщил, что плотность событий, происходящих вокруг генеративного ИИ, очень высока. Ссылаясь на прогноз сооснователя Google DeepMind Мустафы Сулеймана, Максим Еременко отметил, что генеративный ИИ - предвестник интерактивного ИИ. "В ближайший год мы увидим развитие интерактивного ИИ - повысится глубина итераций. Если пока мы можем отдать на доработку простой набор действий, то затем спектр решаемых задач расширится. Это открывает новое исследовательское направление - появятся так называемые модели понимания мира. В это направление точно будут инвестировать", - считает Максим Еременко. По его словам, из имеющихся продуктов, где на начальных стадиях задействован интерактивный ИИ, - это гаджет Vision Pro производства Apple, пусть пока не самый удобный для пользователя, но это только первая версия, как первый iPhone или iPod, поэтому стоит ожидать развития технологий дополненной реальности и интерактивного ИИ. Ссылка на источник