Исследователи Массачусетского Технологического института (MIT) совместно со специалистами компании Microsoft разработали модель, анализирующую недостатки систем искусственного интеллекта. Ожидается, что эта модель будет проверять на прочность беспилотные транспортные средства и автономные роботизированные системы.
Алгоритм модели основан на совместном использовании искусственного интеллекта и человеческого разума. На примере беспилотных автомобилей это выглядит так: робот безупречно осуществляет управление транспортным средством в самых различных ситуациях, однако, в определенный момент может возникнуть сбой. Возможная причина заключается в том, что роботу просто нечем «оценить» определенный сценарий, у него отсутствуют алгоритмы поведения, и это может привести к самым неприятным последствиям на дороге. Здесь на помощь приходит человеческий разум: в конкретном сценарии разбираются люди-тестировщики, предлагая различные алгоритмы выхода из ситуации, и выбирая оптимальный. Эти данные вводятся в процесс машинного обучения.
На первом этапе исследований люди следили за персонажем с искусственным интеллектом в видеоигре, и исправляли его ошибки. Совершенствование технологии позволило перенести эту модель в действующие системы обучения для автономного транспорта.
Искусственный интеллект способен моделировать различные ситуации, но не все. И когда симуляция не соответствует реальной ситуации на дороге, может произойти авария. Наша идея состоит в том, чтобы преодолеть этот разрыв между симуляцией и реальным миром при помощи человеческого разума и опыта
, — так считает автор проекта профессор Рамья Рамакришнан.
Данная модель дополняет традиционные методы обучения, которые совершенствуют алгоритмы, но не способны выявить «слепые зоны» в сценариях поведения роботов. И в этом искусственному интеллекту способен помочь только человек.
Читайте также: Не забудьте надеть спасательный жилет: глубины глубокого обучения
Загрузка...
