«В настоящее время мы обеспечиваем безопасность на дорогах, регулируя работу различных механических систем транспортных средств и лицензируя водителей», — сказал Лондон, профессор философии и директор Центра этики и политики Дитрихского колледжа гуманитарных и социальных наук. «Когда автомобили управляют собой, у нас нет сопоставимой системы оценки безопасности и надежности их автономных систем вождения».Дэнкс и Лондон указывают на недавнюю попытку Министерства транспорта разработать правила безопасности для беспилотных автомобилей в качестве примера традиционных руководств, которые не обеспечивают адекватного тестирования и мониторинга новых возможностей автономных систем. Вместо этого они предлагают создать поэтапную динамическую систему, напоминающую процесс регулирования и утверждения лекарств и медицинских устройств, включая надежную систему мониторинга после утверждения.«Беспилотные автомобили и автономные системы быстро распространяются во всех слоях общества, но их успешное использование зависит от того, сможем ли мы им доверять и понимать», — сказал Дэнкс, профессор философии и психологии Л.Л.
Терстона и глава факультета философии. . «Мы, как общество, должны найти новые способы мониторинга и управления разработкой и внедрением этих автономных систем».Поэтапный процесс, предлагаемый Дэнксом и Лондоном, должен начинаться с «доклинических испытаний» или испытаний в смоделированных средах, таких как беспилотные автомобили, перемещающиеся по различным ландшафтам и климатам. Это предоставит информацию о том, как автономная система принимает решения в широком диапазоне контекстов, чтобы мы могли понять, как они могут действовать в будущих, новых ситуациях.
Приемлемые характеристики позволят системе перейти к исследованиям «на людях» путем ограниченного внедрения в реальную среду с обученными «вторыми пилотами». Успешные испытания в этих целевых средах затем приведут к контролируемому тестированию на основе разрешений и дальнейшему ослаблению ограничений по мере достижения целей производительности.
Дэнкс и Лондон предлагают смоделировать эту систему регулирования и управлять ею аналогично тому, как Управление по санитарному надзору за качеством пищевых продуктов и медикаментов регулирует процесс утверждения лекарств.«Автономные транспортные средства могут спасти жизни и повысить экономическую производительность.
Но эти преимущества не будут реализованы, если общественность не получит достоверных гарантий безопасности и надежности таких систем», — сказал Лондон.