Специалисты Google, OpenAI, Стэнфордского и Калифорнийского университетов опубликовали совместное исследование конкретных практических проблем, которые нужно учитывать при разработке искусственного интеллекта. Об этом пишет ain.ua.

"Хотя вопросу безопасности и возможных рисков ИИ общественность уделяет много внимания, большинство предыдущих обсуждений были слишком гипотетическими и спекулятивными. На мой взгляд, необходимо обосновать проблемы, с которыми мы сталкивались в реальном машинном обучении, и начать развивать практический подход в разработке систем ИИ ради их безопасного и надежного функционирования", – сообщает один из соавторов научной публикации Крис Ола в официальном блоге Google.

В исследовании ученые сформулировали пять наиболее важных практических проблем, которые, по их мнению, придется решить для широкого применения ИИ. Пока эти вопросы кажутся неактуальными, но в долгосрочной перспективе они станут первоочередными.

По мнению исследователей, разрабатывая ИИ, нужно:

  • Избежать побочных эффектов – гарантировать, что система не будет разрушать то, что ее окружает, для достижения своих целей. Например, не разобьет ли робот-уборщик вазу, если это ускорит уборку комнаты.
  • Избежать жульничества в корыстных целях – например, не дать роботу-уборщику прикрыть мусор так, чтобы его не было видно, вместо его уборки.
  • Организовать гибкий надзор – гарантировать, что система уважает и правильно оценивает те аспекты, которые ценны для человека. Например, если ИИ может обращаться к человеку с вопросами, он должен использовать обратную связь эффективно, чтобы не раздражать.
  • Организовать возможность безопасного исследования – обеспечить обучение ИИ без негативных последствий. Например, робот-уборщик должен экспериментировать с разными способами уборки, но при этом не протирать розетку мокрой тряпкой.
  • Организовать устойчивость к смене деятельности – гарантировать, что система ИИ поймет и сможет себя повести соответствующим образом, если попадет в незнакомую для него среду. Например, робот, обученный убирать на заводе, не сможет безопасно убирать в офисе.

Пять ключевых задач для разработчиков ИИ – лишь один из нескольких аспектов научного опубликованного исследования.

Хотите первыми получать важную и полезную информацию о ДЕНЬГАХ и БИЗНЕСЕ? Подписывайтесь на наши аккаунты в мессенджерах и соцсетях: Telegram, Twitter, YouTube, Facebook, Instagram.

Теги: технологии роботы искусственный интеллект
Источник: Украинский Бизнес Ресурс Просмотров: 336