Google и OpenAI описали пять проблем создания роботов с искусственным интеллектом
23 июнь 2016 17:20 #40767
от ICT
Компании Google и OpenAI совместно с исследователями из Калифорнийского университета в Беркли и Стэнфордского университета сформулировали пять практических проблем, связанных с разработкой машин, обладающих искусственным интеллектом. Технические подробности работы приводятся в статье, опубликованной на
ArXiv.org
, а на простых примерах проблемы описал в
блоге
Google один из соавторов исследования Крис Ола. Как отмечается в публикации, до сих пор многие дискуссии об опасности искусственного интеллекта носили спекулятивный характер. Совместное исследование компаний и университетов позволило описать конкретные проблемы, которые необходимо решить при разработке систем с искусственным интеллектом. Первая из описанных проблем называется "Избегание негативных побочных эффектов" и состоит в том, что ИИ может совершать различные вредные действия для достижения поставленных задач. Так, робот-уборщик может разбить вазу, чтобы ускорить процесс уборки. Вторая проблема касается возможного жульничества робота с ИИ. Например, подобно ленивому человеку, тот же робот-уборщик может просто прикрыть мусор, а не убрать его. Вероятно, в данном примере речь идет, среди прочего, о пыли, загнанной под ковер. Третья проблема затрагивает вопросы потребности ИИ в обратной связи с человеком для успешного выполнения задачи. Так, если уборщик получит рекомендацию человека в процессе работы, ему надо будет воспользоваться ею, не задавая много дополнительных вопросов. Четвертая проблема связана с опасностью, которую могут представлять экспериментальные действия ИИ. Например, робот-уборщик вполне может испытывать различные способы влажной уборки, но ему точно не следует пытаться протирать розетки мокрой шваброй. Наконец, последняя из проблем связана со сменой среды использования робота. Так, робот, приученный к работе на предприятии может оказаться небезопасным в условиях офиса. Как отмечает Ола, сообщество исследователей в сфере машинного обучения уже уделяет внимание большинству описанных проблем, однако для их решения предстоит проделать еще много работы.
Ссылка на источник
Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.
Похожие статьи
Тема | Релевантность | Дата |
---|---|---|
Google представила "облегченную" версию Android и приложение для камеры с искусственным интеллектом | 17.49 | Четверг, 18 мая 2017 |
Google представила новые домашние колонки и компактную камеру с искусственным интеллектом | 17.49 | Четверг, 05 октября 2017 |
Искусственным интеллектом - по коррупции! | 14.75 | Вторник, 05 февраля 2019 |
АПК с искусственным интеллектом поддержат деньгами | 14.59 | Вторник, 24 августа 2021 |
«Домклик» запустил телефонию с искусственным интеллектом | 14.43 | Четверг, 05 апреля 2018 |
Microsoft заменит журналистов для MSN искусственным интеллектом | 14.43 | Вторник, 02 июня 2020 |
Аналитический центр займется искусственным интеллектом | 14.43 | Четверг, 22 июля 2021 |
Роботам с искусственным интеллектом пропишут стратегию | 14.43 | Воскресенье, 11 декабря 2022 |
"Сибкабель" установил оборудование с искусственным интеллектом | 14.43 | Среда, 28 июня 2023 |
"Перекрёсток" внедрил весы с искусственным интеллектом | 14.43 | Четверг, 01 августа 2024 |