Правила пдд 2018 года вопросы по темам: Билеты ПДД 2022/2021 Экзамен ПДД ABM/CD(СД) от ГИБДД

Безопасны ли автономные транспортные средства?

В 2009 году Google запустила проект по созданию беспилотных автомобилей, направленный на спасение жизней и обслуживание людей с ограниченными возможностями. В видеоролике 2014 года Google показал слепых и пожилых водителей, которые садятся в его автономные автомобили, разработанные специально для них, что является частью плана компании по «повышению безопасности дорожного движения и помощи многим людям, которые не умеют водить».

Хотя в то время в стране было несколько проектов по созданию беспилотных автомобилей, многие из которых разрабатывались государственными учреждениями или университетскими лабораториями, проект Google отличался тем, что был публичным.Целью было не создание автомобилей — хотя Google действительно создавал свои собственные тестовые прототипы — а создание сервиса для самостоятельного вождения, который помогал бы обычным людям передвигаться.

Компания Google начала тестировать свои автомобили на общественных улицах в том же году, когда был запущен проект. После реорганизации Google в новую материнскую компанию Alphabet, программа самоуправления превратилась в отдельную организацию, Waymo. Спустя почти десять лет Waymo остается явным лидером в области безопасного автономного вождения на улицах США.

По состоянию на ноябрь 2019 года Waymo преодолела 10 миллионов миль самостоятельно, что сделало ее лидером по количеству миль на U.С. ул. Это вдвое больше, чем Waymo проехала в феврале 2018 года. В июле 2018 года на улицах появился новый электрический автомобиль Jaguar I-Paces, в дополнение к гибридным минивэнам Chrysler Pacifica.

Согласно ежемесячным отчетам Waymo, его автомобили попадали в десятки аварий, но не причинили серьезных травм. В 2016 году автомобиль Waymo наехал на автобус, двигаясь со скоростью 2 мили в час. 4 мая 2018 года один из минивэнов Waymo попал в аварию с легкими травмами в Чандлере, штат Аризона, находясь в автономном режиме, но полиция заявила, что фургон Waymo не был «автомобилем нарушителя».«В октябре 2018 года автомобиль Waymo попал в аварию, в результате которой мотоциклист был доставлен в больницу с легкими травмами, но виноват человек-водитель.

Сейчас десятки компаний по производству автономных транспортных средств проходят испытания на улицах США, но следующие по опыту компании, Uber и GM Cruise, все еще на несколько миллионов миль отстают от Waymo. Сюда не входят мили, пройденные в полуавтономных режимах, которые сейчас предлагают многие автомобили, например, Tesla Autopilot, которые представляют собой больше систем помощи водителю, чем настоящие беспилотные автомобили.

За последние несколько лет наибольшие успехи в индустрии беспилотных автомобилей достигли компании, занимающиеся вызовом пассажиров, которые тратят огромное количество времени и денег на разработку собственных запатентованных технологий и, во многих случаях, предоставляют членам люди едут на своих машинах. В 2017 году генеральный директор Lyft предсказал, что в течение пяти лет все их автомобили будут автономными. На пресс-конференции в марте 2018 года, когда генеральный директор Waymo Джон Крафчик объявил о своей программе поиска пассажиров, Крафчик заявил, что к 2020 году компания будет совершать не менее одного миллиона поездок в день.

Самым большим преимуществом автономного транспортного средства с точки зрения безопасности является то, что робот — это не человек: он запрограммирован на соблюдение всех правил дорожного движения, не ускоряется и его не отвлекает текстовое сообщение, отправленное на телефон. И, по крайней мере, гипотетически, AV могут также обнаруживать то, что люди не могут, особенно ночью или в условиях низкой освещенности, и быстрее реагировать, чтобы избежать столкновения.

оснащены датчиками и программным обеспечением, которые работают вместе, чтобы создать полную картину дороги.Одной из ключевых технологий для AV является LIDAR, или датчик «обнаружения света и дальности». Используя миллионы лазеров, LIDAR рисует в реальном времени трехмерное изображение окружающей среды вокруг автомобиля. Помимо LIDAR, радарные датчики могут измерять размер и скорость движущихся объектов. А камеры высокой четкости действительно могут считывать знаки и сигналы. Когда автомобиль движется, он связывает все эти данные с технологией GPS, которая определяет местонахождение автомобиля в городе и помогает спланировать его маршрут.

В дополнение к датчикам и картам, AV запускает программное обеспечение, которое в режиме реального времени принимает решения о том, как автомобиль будет двигаться относительно других транспортных средств, людей или объектов на дороге.Инженеры могут управлять автомобилями с помощью моделирования, но программное обеспечение также должно учиться на реальных дорожных ситуациях. Вот почему так важно проводить испытания на дорогах общего пользования.

Но то, как AV-компании собирают эту информацию, привело к большему беспокойству по поводу того, как автономные транспортные средства могут обнаруживать и избегать уязвимых участников дорожного движения, таких как велосипедисты, и людей, которые передвигаются по улицам медленно и более беспорядочно, например пожилых людей и детей. Waymo, например, утверждает, что ее программное обеспечение явно запрограммировано на распознавание велосипедистов.Видео, которое компания Waymo выпустила в 2016 году (еще тогда, когда она еще была частью Google), показывает, как одна из ее машин обнаружила велосипедиста, свернувшего с дороги, свернувшего из-за угла, и остановилась его.

Согласно отчету The Information за май 2018 года, автомобиль Uber действительно обнаружил Херцберг перед его фатальной аварией в Темпе, но система приняла решение не отклоняться. «Датчики автомобиля обнаружили пешехода, который переходил улицу на велосипеде, но программное обеспечение Uber решило, что нет необходимости немедленно реагировать.Предварительный отчет Национального совета по безопасности на транспорте (NTSB) подтвердил, что Uber не только отключил функцию предотвращения столкновений на внедорожнике Volvo, но и собственная система Uber обнаружила Герцберга за шесть секунд до аварии и не тормозила за 1,3 секунды до столкновения.

Однако прокуратура Аризоны не предъявила Uber обвинения, написав в письме, что «нет оснований для уголовной ответственности корпорации Uber в связи с этим делом».

Uber в Аризоне объявило о закрытии 23 мая 2018 года.В июле Uber упразднил 100 рабочих мест для самостоятельного вождения в Питтсбурге и Сан-Франциско. Программа самоуправления Uber с тех пор вернулась в Питтсбург, где тестирование ограничивается дневным светом.

Роль человеческих «резервных драйверов» в тестировании антивируса также подверглась сомнению после того, как документы полиции Темпе, полученные Gizmodo, показали, что водитель Рафаэла Васкес транслировала видео на свой телефон во время фатальной аварии Uber. «Водитель в этом случае мог отреагировать и остановить машину 42.61 фут до пешехода », — говорится в отчете, в котором авария называется« полностью предотвратимой ».

В ноябре 2019 года окончательный отчет NTSB приписал аварию человеческой ошибке, но возложил большую часть вины на Васкеса. На слушании NTSB члены правления также раскритиковали федеральное правительство за слишком слабые правила техники безопасности.

Компании, занимающиеся самоуправлением, также подвергают свои автомобили бесконечным испытаниям на смоделированных городских улицах. Многие традиционные автопроизводители используют объект под названием M City в Анн-Арборе, штат Мичиган, но более крупные компании, занимающиеся самоуправлением, построили свои собственные поддельные города специально для проверки взаимодействия с людьми, которые не находятся в транспортных средствах.В фальшивом городе Уэймо, названном Касл, даже есть сарай, полный реквизита, например трехколесных велосипедов, которые могут использоваться людьми на улицах, чтобы инженеры Waymo могли научиться их идентифицировать.

После фатальной аварии Uber Toyota построила новый объект, чтобы проверить реакцию своих автомобилей на «крайние случаи» — экстремальные ситуации, слишком опасные для проверки на общественных улицах.

Уменьшит ли устранение водителей людей смертность на дорогах?

50 лет назад уровень смертности в результате дорожно-транспортных происшествий в США был выше, чем сейчас — в 1980 году, который обычно считается самым смертоносным годом на улицах США, было убито более 50 000 человек. Благодаря функциям безопасности, таким как подушки безопасности, добавленным к транспортным средствам, более строгим законам о ремнях безопасности и кампаниям, клеймящим вождение в нетрезвом виде, уровень смертности значительно снизился.

Но за последние несколько лет U.S. снова увидел небольшое увеличение смертности в результате дорожно-транспортных происшествий. Кроме того, за последнее десятилетие число погибших пешеходов увеличилось на 27 процентов, а число погибших в результате дорожно-транспортных происшествий снизилось на 14 процентов. Нет единого мнения о том, почему эти смертельные случаи растут, но некоторые эксперты считают, что это связано с тем, что американцы больше водят автомобиль — общее количество пройденных транспортных средств (VMT) достигло рекордного уровня в 2017 году.

Используя утверждение USDOT о том, что 94% аварий вызваны человеческими ошибками, кажется, что довольно очевидный способ уменьшить количество аварий — это уменьшить количество людей за рулем.Но следует сократить не только количество водителей-людей, США также могут сократить количество автомобилей на дорогах, чтобы предотвратить несчастные случаи со смертельным исходом, и автономные транспортные средства тоже могут помочь в этом.

Настоящее обещание безопасности автономных транспортных средств заключается в том, что эти транспортные средства можно вызывать по требованию, более эффективно направлять и легко обменивать — это означает, что уменьшится не только общее количество одноместных автомобилей на улицах, но и количество автомобилей. будет сокращено количество поездок с одним пассажиром, что означает сокращение общего количества пройденных миль.

Кроме того, города могут использовать автоматизированные транспортные средства для реализации амбициозных транзитных проектов по требованию, таких как предлагаемая инициатива по интеграции совместно используемых беспилотных транспортных средств в парк общественного транспорта. Если города смогут запустить такие системы «микротранзита», которые будут служить решением первой / последней мили, чтобы помочь большему количеству людей пользоваться общественным транспортом по фиксированным маршрутам, это также будет означать, что меньше людей будет в машинах и больше людей будет пользоваться более безопасными видами транспорта. транзит. Согласно исследованию Американской ассоциации общественного транспорта, проведенному в 2016 году, поездка на общественном транспорте в десять раз безопаснее на милю, чем на машине.

Городские улицы можно сузить, не освобождая места для такого количества автомобилей, что дает пешеходам и велосипедистам еще больше места для безопасного передвижения по городу. Таким образом, автономные транспортные средства могут сыграть большую роль в рамках стратегии Vision Zero, которую внедрили большинство крупных городов США для предотвращения смертей в результате дорожно-транспортных происшествий.

Но разве теперь машины, управляемые людьми, не безопаснее?

В то время как жители только нескольких городов могут вызвать AV-систему по запросу прямо сейчас, правда в том, что большая часть технологий безопасности, используемых в беспилотных автомобилях, находит свое применение в современных автомобилях. Например, сложные системы предотвращения столкновений, которые могут остановить транспортное средство, если на его пути обнаруживается объект или человек, уже внедряются в новые автомобили и автобусы.

Именно поэтому меняется и методика тестирования Национальным управлением безопасности дорожного движения (НАБДД) подобных инноваций.До недавнего времени все стандарты безопасности основывались на исторических данных о ДТП, а это означало, что правительству приходилось отслеживать годы и годы дорожно-транспортных происшествий (и, во многих случаях, смертей), прежде чем давать официальную рекомендацию.

Сейчас технологии развиваются так быстро, что не хватает времени проверять каждую новую идею в течение десятилетия. Правительство знает, что ему нужно быть более гибким.

Фактически, именно это и произошло в связи с недавней рекомендацией Министерства транспорта США обо всех автомобилях оборудовать все автомобили связью между автомобилями (V2V), инструментом, который позволяет автомобилям «общаться» друг с другом.Эта рекомендация была ускорена в 2015 году министром транспорта США Энтони Фоксом после того, как подробное моделирование и моделирование показали, что преимущества очевидны — не было необходимости тратить годы на сбор исторических данных.

Такая же рекомендация может быть сделана для аспекта автономных технологий. После того, как в отрасли беспилотных автомобилей будет доказано явное преимущество в плане безопасности, определенная функция может стать стандартом для всех транспортных средств.

Где проходят испытания беспилотные автомобили?

Примерно в половине штатов США разрешено тестирование автономных транспортных средств на дорогах общего пользования, но правила для каждого штата сильно различаются. Большая часть тестирования сосредоточена в нескольких штатах: Аризоне, Калифорнии, Джорджии, Мичигане, Неваде, Техасе, Пенсильвании и Вашингтоне.

Калифорния остается самым загруженным центром AV-индустрии: в настоящее время 52 компании тестируют технологии автономного вождения на улицах штата.Это также один из наиболее строго регулируемых рынков: Департамент транспортных средств Калифорнии требует, чтобы компании подавали документы на разрешение и представляли годовые отчеты с указанием количества пройденных миль и аварий.

Хотя он не обязательно используется в качестве показателя безопасности, один стандарт производительности, который помогает проиллюстрировать, как улучшаются технологии, отслеживает количество раз на милю автономного вождения, которую должен взять на себя водитель-человек, что называется «отключением». Записи DMV Калифорнии демонстрируют, что по мере того, как программы беспилотного вождения регистрируют больше опыта вождения, они видят все меньше и меньше отказов.

В других штатах не требуется столько документации, как в Калифорнии, и не обязательно делать какую-либо информацию общедоступной. Аризона, например, одобрила тестирование AV на дорогах общего пользования в 2016 году без уведомления своих жителей и не требовала никаких отчетов от компаний, хотя после фатальной аварии Uber ситуация изменилась.

Регулирует ли федеральное правительство автономные транспортные средства?

В 2016 году правительство США выпустило долгожданные правила в отношении беспилотных транспортных средств. В 116-страничном документе Министерства транспорта перечислено множество преимуществ вывода технологий на рынок, в том числе повышение устойчивости, производительности и доступности. Но главное обещание отчета USDOT заключается в том, что автономия откроет путь для политики, которая значительно повысит безопасность дорожного движения.

Даже президент Обама выступил с аргументами в пользу безопасности в своей статье, возвестившей начало новой эры без водителя:

Сейчас слишком много людей умирает на наших дорогах — 35 200 человек только в прошлом году, причем 94 процента из них являются результатом человеческой ошибки или выбора. Автоматизированные транспортные средства могут ежегодно спасать десятки тысяч жизней. А сейчас для слишком многих пожилых людей и американцев с ограниченными возможностями водить машину — не вариант. Автоматизированные автомобили могут изменить их жизнь.

Чтобы заставить города по всей стране задуматься об использовании автономии для решения транспортных проблем, USDOT провело в 2016 году конкурс Smart City Challenge, в рамках которого Колумбус, штат Огайо, получил 40 миллионов долларов на создание парка автономных транспортных средств. В результате этого соревнования 70 городов, которые участвовали в соревнованиях, теперь имеют планы, как внедрить AV-технологии в свое транспортное планирование.

При администрации Трампа большая часть предложенного законодательства была сосредоточена вокруг исключений для автопроизводителей и увеличения количества AV, которым разрешено работать на U.С. ул. Фактически, в сентябре 2017 года USDOT и NHTSA выпустили обновленные руководящие принципы AV, которые содержали еще более легкий нормативный акцент после того, как лидеры отрасли выразили обеспокоенность по поводу регулирования на федеральном уровне, сдерживающего инновации.

В дополнение к заявлению о политике от 2017 года министр транспорта Элейн Чао провела предварительные слушания об автономных транспортных средствах, на которых она заявила, что правительство не будет играть деспотичную роль. «Рынок решит, какое решение будет наиболее эффективным», — сказала она.Однако агрессивное развитие V2V, которое, по мнению экспертов, может сделать автомобили с управляемыми людьми более безопасными, когда на рынок выходит автономная технология, не было приоритетом во время ее руководства.

4 октября 2018 года Министерство транспорта США объявило о новых инструкциях по разработке и развертыванию AV, включая возможность изменения своих стандартных правил безопасности, чтобы новые типы автономных транспортных средств могли работать на дорогах США. Это означало бы потенциальное освобождение автопроизводителей от производства автомобилей без таких ориентированных на человека функций управления, как рулевые колеса.

Chao также обратил внимание на тот факт, что общественное признание было ключевым элементом внедрения автономных транспортных средств. «Компаниям необходимо активизировать усилия и снять озабоченность общественности по поводу безопасности», — сказала она. «Потому что без общественного признания весь потенциал этих технологий может никогда не быть реализован».

Отсутствие регулирования USDOT было названо «смехотворным» членом совета директоров NTSB Дженнифер Хоменди во время слушаний по поводу фатального крушения Uber в ноябре 2019 года. «Я на самом деле считаю, что федеральное правительство и штат Аризона допустили серьезную ошибку, потому что у них не было и до сих пор нет никаких стандартов в связи с неспособностью регулировать эти операции», — сказала она.

В своем выступлении на выставке Consumer Electronics Show 8 января 2020 года Чао анонсировал AV 4.0, новый набор добровольных руководящих принципов, которые подтверждают непринужденный подход федерального правительства к регулированию AV.

План был быстро раскритикован защитниками безопасности, в том числе Кэти Чейз, президентом организации «Защитники шоссе и автобезопасности», которая, среди прочего, упомянула о фатальной аварии Uber в заявлении, осуждающем AV 4.0. «Несмотря на эти тревожные инциденты, агентство, которому было поручено обеспечить общественную безопасность на наших дорогах, сняло с себя ответственность по изданию правил, требующих минимальных стандартов производительности для AV.”

В чем разница между полуавтономным и полностью автономным?

Существует одна дискуссия о безопасности, которая продолжает разделять индустрию самоуправления: некоторые автопроизводители все еще настаивают на версиях транспортных средств, которые позволяют передавать управление от человека к компьютеру, предлагая водителям возможность переключаться между полуавтономным и полностью автономным режимами.

Две аварии Tesla со смертельным исходом — одна в 2016 году и одна в 2018 году — произошедшие, когда водители использовали функцию автопилота транспортного средства, продемонстрировали опасность полуавтономного режима. Как отметил Национальный совет по безопасности на транспорте (NTSB) в своем отчете о катастрофе в 2016 году, полуавтономные системы дают «водителю гораздо больше возможностей отвлечься на что-то другое, кроме вождения».

Полностью автономный — это официальная политическая рекомендация Self-Driving Coalition for Safer Streets, лоббистской группы, которая хочет, чтобы автомобили в конечном итоге постепенно отказались от рулевого управления и позволили программному обеспечению взять на себя управление в 100% случаев.Это полностью исключает возможность человеческой ошибки.

В 2018 году Waymo начала проводить полностью автономные испытания в Аризоне без водителя, обеспечивающего безопасность человека, а в 2019 году начала перевозить пассажиров на полностью автономных транспортных средствах. Калифорния теперь также позволяет проводить полностью автономные испытания, но пока без пассажиров.

Особенно после крушения Uber защитники велосипедов из Сан-Франциско обеспокоены тем, что технология недостаточно мощная, чтобы увидеть велосипедистов. Калифорнийская велосипедная коалиция подала петицию, чтобы остановить испытания полностью автономных транспортных средств на улицах Калифорнии.

По крайней мере, в ближайшем будущем даже полностью автономным транспортным средствам придется бороться с ошибками водителей-людей. Чтобы сделать технологию беспилотного вождения максимально безопасной, все автомобили на дороге должны быть полностью автономными — не только запрограммированными на соблюдение правил дорожного движения, но и на общение друг с другом.

В 2017 году Национальная ассоциация работников городского транспорта (NACTO) разработала План автономного урбанизма, который поощряет города к развертыванию полностью автономных транспортных средств, которые движутся со скоростью не более 25 миль в час, в качестве инструмента для повышения безопасности улиц, «с обязательной уступкой мест людям, находящимся вне дома. транспортных средств.«В десятке американских городов, включая Остин, Детройт и Колумбус, штат Огайо, в настоящее время тестируют такие медленно движущиеся автономные шаттлы на городских улицах.

Политический документ NACTO содержит самые подробные рекомендации по AV для специалистов по планированию городского транспорта США, от новых дизайнов улиц до указаний по обеспечению доступности и сосредоточения внимания на обмене данными. Чтобы проложить самый безопасный путь для беспилотных транспортных средств — и чтобы города могли воспользоваться многими другими экологическими и социальными преимуществами технологии, — AV должны обеспечивать совместные поездки в регулируемых автопарках, интегрироваться с существующим транспортом и работать таким образом, чтобы приоритет наиболее уязвимые люди города прежде всего пользователи улиц.

Вопрос жизни и смерти для регуляторов: безопасен ли автопилот Tesla?

, 21 сентября (Рейтер) — Робин Геулла сомневался в технологии автоматизированного вождения, установленной на его Tesla Model S, когда он покупал электромобиль в 2017 году.

«Было немного страшно полагаться на это и полагаться на него. просто, вы знаете, расслабьтесь и дайте ему поехать », — сказал он американскому исследователю о системе автопилота Tesla, описав свои первоначальные чувства по поводу этой технологии.

Джоулла сделал комментарий следователю в январе 2018 года, через несколько дней после того, как его Tesla с включенным автопилотом врезался в заднюю часть пустой пожарной машины, припаркованной на межгосударственном шоссе в Калифорнии.Рейтер не смог связаться с ним для получения дополнительных комментариев.

Зарегистрируйтесь сейчас и получите БЕСПЛАТНЫЙ неограниченный доступ к reuters.com

Зарегистрироваться

Со временем первоначальные сомнения Джеуллы в отношении автопилота смягчились, и он счел его надежным при отслеживании движущегося впереди автомобиля. Но он заметил, что система иногда казалась сбивающей с толку, когда сталкивался с прямыми солнечными лучами или транспортным средством перед ним, меняющим полосу движения, согласно стенограмме его интервью со следователем Национального совета безопасности на транспорте (NTSB).

Он ехал на солнце, прежде чем задеть пожарную машину, сказал он следователю.

Конструкция автопилота позволяла Джеулле отключаться от управления автомобилем во время поездки, и его руки были отключены от руля почти весь период примерно 30 минут, когда технология была активирована, как выяснили в NTSB.

Агентство США, которое дает рекомендации, но не имеет правоприменительных полномочий, ранее призывало регулирующие органы Национальной администрации безопасности дорожного движения (NHTSA) исследовать ограничения автопилота, возможность неправильного использования водителями и возможные риски безопасности после серии аварий, связанных с этой технологией, некоторые из них смертельны.

«Прошлое показало, что основное внимание уделялось инновациям, а не безопасности, и я надеюсь, что мы находимся в точке, где эта волна меняется», — заявила в интервью Reuters Дженнифер Хоменди, новый председатель NTSB. Она сказала, что нет никакого сравнения между автопилотом Tesla и более строгими системами автопилота, используемыми в авиации, которые включают обученных пилотов, правила, касающиеся усталости, и тестирования на наркотики и алкоголь.

Tesla не ответила на письменные вопросы для этой статьи.

Автопилот — это расширенная функция помощи водителю, текущая версия которой не делает автомобили автономными, говорится на сайте компании.Тесла говорит, что водители должны согласиться держать руки за руль и поддерживать контроль над своими автомобилями, прежде чем включать систему.

ОГРАНИЧЕННАЯ ВИДИМОСТЬ

Катастрофа Геуллы в 2018 году — одна из 12 аварий с участием автопилота, которую сотрудники NHTSA изучают в рамках самого масштабного расследования агентства с тех пор, как Tesla Inc (TSLA.O) представила полуавтономную систему вождения в 2015 году.

Согласно заявлению NHTSA, документам NTSB и полицейским отчетам, рассмотренным Reuters, большинство расследуемых аварий произошли после наступления темноты или в условиях ограниченной видимости, таких как яркий солнечный свет.По мнению экспертов по автономному вождению, это вызывает вопросы о возможностях автопилота в сложных условиях вождения.

«Полномочия NHTSA по обеспечению соблюдения и устранения недостатков являются широкими, и мы будем действовать, когда обнаружим необоснованный риск для общественной безопасности», — сказал представитель NHTSA в заявлении для Reuters.

С 2016 года регуляторы автомобильной безопасности США отдельно направили 33 специальные группы по расследованию ДТП для анализа аварий Tesla, в которых погибло 11 человек, в которых предполагалось использование передовых систем помощи водителю.NHTSA исключило использование автопилота в трех несмертельных авариях.

Текущее расследование NHTSA в отношении автопилота, по сути, вновь поднимает вопрос о безопасности этой технологии. Это последнее серьезное испытание для Илона Маска, генерального директора Tesla, чья пропаганда беспилотных автомобилей помогла его компании стать самым дорогим автопроизводителем в мире.

Tesla взимает с клиентов до 10 000 долларов за расширенные функции помощи водителю, такие как смена полосы движения, с обещанием в конечном итоге предоставить их автомобилям возможность автономного вождения, используя только камеры и передовое программное обеспечение.Другие автопроизводители и компании, занимающиеся самоуправлением, используют не только камеры, но и более дорогое оборудование, включая радары и лидары, в своих нынешних и будущих автомобилях.

Маск сказал, что Tesla с восемью камерами будет намного безопаснее, чем водители-люди. Но на технологию камеры влияют темнота и солнечные блики, а также неблагоприятные погодные условия, такие как сильный дождь, снег и туман, говорят эксперты и руководители отрасли.

«Современное компьютерное зрение далеко от совершенства и будет в обозримом будущем», — сказал Радж Раджкумар, профессор электротехники и компьютерной инженерии в Университете Карнеги-Меллона.

В первой известной аварии со смертельным исходом в США с участием полуавтономной технологии вождения Tesla, которая произошла в 2016 году к западу от Уиллистона, штат Флорида, компания заявила, что ни водитель, ни автопилот не смогли увидеть белую сторону прицепа трактора на фоне ярко освещенного неба. . Вместо торможения Tesla столкнулась с 18-колесным грузовиком.

НЕПРАВИЛЬНОЕ ИСПОЛЬЗОВАНИЕ ВОДИТЕЛЯ, НЕИСПРАВНОСТЬ ТОРМОЖЕНИЯ

В январе 2017 года NHTSA завершило расследование автопилота, возникшего в результате этой фатальной аварии, не обнаружив дефектов в работе автопилота после некоторых спорных разговоров с официальными лицами Tesla, согласно документам, рассмотренным Reuters.

В декабре 2016 года, в рамках этого расследования, агентство попросило Tesla предоставить подробную информацию о реакции компании на любые проблемы внутренней безопасности, поднятые в отношении автопилота, включая возможность неправильного использования водителем или злоупотреблений, в соответствии со специальным приказом, направленным регулирующими органами в автопроизводитель.

После того, как юрист NHTSA обнаружил, что первоначальный ответ Теслы недостаточен, тогдашний главный юрисконсульт Тодд Марон попытался снова. Он сказал регулирующим органам, что запрос был «чрезмерно широким» и, согласно переписке, рассмотренной Рейтер, было бы невозможно внести в каталог все проблемы, возникшие во время разработки автопилота.

Тем не менее, Tesla хотела сотрудничать, сказал Марон регулирующим органам. Во время разработки автопилота сотрудники или подрядчики компании выражали озабоченность, которую решила Tesla, относительно возможности непреднамеренного или неудачного торможения и ускорения; нежелательное или неисправное рулевое управление; и некоторые виды злоупотреблений и злоупотреблений со стороны водителей, сказал Марон, не предоставив дополнительных подробностей.

Марон не ответил на сообщения с просьбой прокомментировать.

Непонятно, как отреагировали регуляторы.Один из бывших чиновников США сказал, что Тесла в целом сотрудничал с зондом и оперативно предоставил запрошенные материалы. Регулирующие органы закрыли расследование незадолго до инаугурации бывшего президента США Дональда Трампа, установив, что автопилот работает так, как задумано, и что Tesla приняла меры для предотвращения его неправильного использования.

ВАКУУМ РУКОВОДСТВА НАБДД

НАБДД не было утвержденного Сенатом главы уже почти пять лет. Президент Джо Байден еще не назначил кого-либо для управления агентством.

Документы NHTSA показывают, что регулирующие органы хотят знать, как автомобили Tesla пытаются видеть мигающие огни на машинах скорой помощи или обнаруживать присутствие на своем пути пожарных машин, машин скорой помощи и полицейских машин. Агентство запросило аналогичную информацию у 12 конкурирующих автопроизводителей.

«Tesla попросили предоставить и проверить данные, а также их интерпретацию этих данных. NHTSA проведет нашу собственную независимую проверку и анализ всей информации», — заявило агентство Reuters.

Маск, пионер электромобилей, упорно боролся, чтобы защитить автопилот от критиков и регуляторов. Tesla использовала способность автопилота обновлять программное обеспечение транспортных средств по воздуху, чтобы опередить и обойти традиционный процесс отзыва транспортных средств.

Маск неоднократно продвигал возможности автопилота, иногда таким образом, который, по словам критиков, вводил клиентов в заблуждение, заставляя поверить в то, что Teslas может управлять самим собой — несмотря на предупреждения об обратном в руководствах владельцев, которые советуют водителям оставаться вовлеченными и описывают ограничения технологии.

Маск также продолжал запускать то, что Tesla называет бета-версией — или незавершенной — версией системы «Full Self-Driving» посредством беспроводных обновлений программного обеспечения.

«Некоторые производители собираются делать то, что они хотят, чтобы продать автомобиль, и правительство должно обуздать это», — сказал Хоменди из NTSB.

Зарегистрируйтесь сейчас и получите БЕСПЛАТНЫЙ неограниченный доступ к reuters.com

Зарегистрируйтесь

Отчетность Хёнджу Джин в Сан-Франциско, Майк Спектор в Нью-Йорке и Дэвид Шепардсон в Вашингтоне Под редакцией Джозефа Уайта и Мэтью Льюиса

Наши стандарты: принципы доверия Thomson Reuters.

Этические вопросы, которые преследуют исследования распознавания лиц

В сентябре 2019 года четыре исследователя написали издателю Wiley, чтобы «вежливо попросить» немедленно отозвать научную статью. В исследовании, опубликованном в 2018 году, были обучены алгоритмы, позволяющие отличать лица уйгуров, этнической группы преимущественно мусульманского меньшинства в Китае, от лиц корейской и тибетской национальностей ¹ .

Китай уже был осужден на международном уровне за жесткое наблюдение и массовые задержания уйгуров в лагерях в северо-западной провинции Синьцзян, которые, по утверждению правительства, являются центрами перевоспитания, направленными на подавление террористического движения.По сообщениям СМИ, власти Синьцзяна использовали камеры наблюдения, оснащенные программным обеспечением, настроенным на уйгурские лица.

В результате многие исследователи сочли тревожным то, что ученые пытались создать такие алгоритмы, и что один американский журнал опубликовал исследовательскую работу по этой теме. И исследование 2018 года было не единственным: журналы таких издателей, как Springer Nature, Elsevier и Институт инженеров по электротехнике и электронике (IEEE), также опубликовали рецензируемые статьи, в которых описывается использование распознавания лиц для идентификации уйгуров и представителей других китайцев. группы меньшинств.(Команда новостей Nature редакционно не зависит от своего издателя, Springer Nature.)

Жалоба, по которой было начато текущее расследование, была одной из попыток некоторых ученых и правозащитников привлечь внимание научного сообщества. занять более твердую позицию против неэтичных исследований по распознаванию лиц. Важно осудить спорное использование технологии, но этого недостаточно, говорят специалисты по этике. Ученые также должны признать морально сомнительные основы большей части академической работы в этой области, включая исследования, в ходе которых были собраны огромные массивы данных с изображениями лиц людей без согласия, многие из которых помогли отточить коммерческие или военные алгоритмы наблюдения.(Связанная функция исследует опасения по поводу алгоритмической предвзятости в системах распознавания лиц.)

Все большее число ученых призывают исследователей избегать работы с фирмами или университетами, связанными с неэтичными проектами, чтобы пересмотреть то, как они собирают и распространяют средства распознавания лиц. наборы данных и переосмыслить этику собственных исследований. Некоторые учреждения уже делают шаги в этом направлении. В прошлом году несколько журналов и научная конференция объявили о дополнительных этических проверках исследований.

«Многие люди сейчас задаются вопросом, почему сообщество специалистов по компьютерному зрению тратит столько энергии на работу по распознаванию лиц, когда это так сложно делать с этической точки зрения», — говорит Дебора Раджи, исследователь из Оттавы, работающая в некоммерческой организации. Интернет-фонд Mozilla. «Я вижу растущую коалицию, которая выступает против всего этого предприятия».

В этом году агентство Nature опросило 480 исследователей со всего мира, работающих в области распознавания лиц, компьютерного зрения и искусственного интеллекта (ИИ), высказать свое мнение по сложным этическим вопросам исследований в области распознавания лиц.Результаты этого первого в своем роде опроса показывают, что некоторых ученых беспокоит этика работы в этой области, но другие по-прежнему не считают академические исследования проблематичными.

Данные без согласия

Чтобы алгоритмы распознавания лиц работали хорошо, они должны быть обучены и протестированы на больших наборах данных изображений, в идеале сделанных много раз при различных условиях освещения и под разными углами. В 1990-х и 2000-х годах ученые обычно заставляли добровольцев позировать для этих фотографий — но теперь большинство из них собирают изображения лиц, не спрашивая разрешения.

Например, в 2015 году ученые Стэнфордского университета в Калифорнии опубликовали набор из 12 000 изображений с веб-камеры в кафе в Сан-Франциско, которые транслировались в прямом эфире в режиме онлайн ² . В следующем году исследователи из Университета Дьюка в Дареме, Северная Каролина, выпустили более 2 миллионов видеокадров (85 минут), на которых студенты гуляют по университетскому городку ³ .

В ходе противоречивого исследования исследователей из Университета Дьюка было опубликовано более 2 миллионов видеокадров студентов, снятых камерами на территории кампуса.Художник Адам Харви изменил изображения в рамках своего проекта Megapixels Фото: Визуализация изображения Адамом Харви (megapixels.cc) на основе данных Duke MTMC, установленных Ристани и др. изначально лицензировался в соответствии с лицензией Open Data Commons Attribution License (2018).

Самые большие коллекции собраны онлайн. В 2016 году исследователи из Вашингтонского университета в Сиэтле разместили базу данных под названием MegaFace, содержащую 3,3 миллиона фотографий с сайта обмена изображениями Flickr ^{4 4} .А ученые Microsoft Research в Редмонде, штат Вашингтон, опубликовали самый большой в мире набор данных MSCeleb ⁵ , состоящий из 10 миллионов изображений почти 100 000 человек, включая журналистов, музыкантов и ученых, взятых из Интернета.

В 2019 году берлинский художник Адам Харви создал веб-сайт под названием MegaPixels, на котором отмечены эти и другие наборы данных. Он и другой берлинский технолог и программист, Жюль Лаплас, показали, что многие из них были открыты и использованы для оценки и улучшения коммерческих продуктов наблюдения.Некоторые из них были процитированы, например, компаниями, которые работали над военными проектами в Китае. «Я хотел раскрыть неприятную правду о том, что многие фотографии, размещенные в Интернете, имеют загробную жизнь в качестве тренировочных данных», — говорит Харви. В общей сложности, по его словам, он нанес на карту 29 наборов данных, которые используются примерно в 900 исследовательских проектах. Исследователи часто используют общедоступные изображения Flickr, которые были загружены под лицензиями авторского права, которые допускают свободное повторное использование.

После того, как Financial Times опубликовала статью о работе Харви в 2019 году, Microsoft и несколько университетов удалили свои наборы данных.Большинство заявили в то время — и повторили в Nature в этом месяце — что их проекты были завершены или что исследователи просили удалить набор данных. Ученый-компьютерщик Карло Томази из Университета Дьюка был единственным исследователем, который извинился за ошибку. В заявлении, сделанном через два месяца после того, как набор данных был удален, он сказал, что получил одобрение институционального наблюдательного совета (IRB) на свои записи, которые его команда сделала для анализа движения объектов на видео, а не для распознавания лиц.Но в руководстве IRB сказано, что ему не следовало вести запись на открытом воздухе и не следовало предоставлять данные без защиты паролем. Томази сказал Nature , что он действительно приложил усилия, чтобы предупредить учащихся, развесив плакаты с описанием проекта.

Удаление наборов данных, похоже, немного ослабило их использование, говорит Харви. Но большие онлайн-коллекции изображений, такие как MSCeleb, по-прежнему распространяются среди исследователей, которые продолжают цитировать их, а в некоторых случаях повторно загружают их или наборы данных, полученные из них.Ученые иногда заявляют, что наборы данных следует использовать только для некоммерческих исследований, но после того, как они стали широко распространены, невозможно запретить компаниям получать и использовать их.

В октябре компьютерные ученые из Принстонского университета в Нью-Джерси сообщили об идентификации 135 статей, которые были опубликованы после того, как набор данных Duke был опубликован, и в которых он использовался или полученные из него данные (см. Go.nature.com/3nlkjre). Авторы призвали исследователей установить больше ограничений на использование наборов данных и попросили журналы прекратить прием статей, в которых используются удаленные наборы данных.

С юридической точки зрения неясно, могут ли ученые в Европе собирать фотографии лиц людей для биометрических исследований без их согласия. Хваленый Общий регламент по защите данных (GDPR) Европейского союза не предоставляет очевидных правовых оснований для этого исследователям, сообщила в 2018 году Кэтрин Яссеран, исследователь биометрии и права конфиденциальности из Католического университета Лёвена в Бельгии, ⁶ . Но официального руководства о том, как интерпретировать GDPR по этому поводу, не существовало, и оно не было проверено в судах.В Соединенных Штатах некоторые штаты заявляют, что коммерческим фирмам запрещено использовать биометрические данные человека без их согласия; Иллинойс уникален тем, что позволяет людям подавать иски по этому поводу. В результате на несколько фирм были возбуждены коллективные иски.

Американская компания Facebook, занимающаяся социальными сетями, например, согласилась в этом году выплатить 650 миллионов долларов США для урегулирования коллективного иска в штате Иллинойс по поводу коллекции фотографий, которые не были общедоступными и которые использовались для распознавания лиц (теперь это позволяет пользователи могут отказаться от тегов распознавания лиц).Скандальную технологическую компанию Clearview AI из Нью-Йорка, которая утверждает, что она скопировала три миллиарда онлайн-фотографий для системы распознавания лиц, также подали в суд за нарушение этого закона в нерассмотренных делах. И американские технологические фирмы IBM, Google, Microsoft, Amazon и FaceFirst также были привлечены к ответственности в Иллинойсе за использование набора данных из почти одного миллиона онлайн-фотографий, которые IBM опубликовала в январе 2019 года; IBM удалила его примерно во время судебного процесса, который последовал за сообщением NBC News, в котором подробно описывалось беспокойство фотографов по поводу того, что их фотографии были в наборе данных.

Microsoft сообщила Nature , что она подала заявление о прекращении дела, а Clearview заявляет, что «ищет только общедоступную информацию, такую ​​как Google или любая другая поисковая система». Другие фирмы не ответили на запросы о комментариях.

Уязвимые группы населения

В исследовании лиц уйгуров, опубликованном Wiley ¹ , исследователи не собирали фотографии из Интернета, но заявили, что они сфотографировали более 300 уйгуров, корейцев и тибетцев в возрасте 18–22 лет. студенты Даляньского университета Миньцзу на северо-востоке Китая, где работали некоторые ученые.Спустя несколько месяцев после публикации исследования авторы добавили примечание о том, что студенты дали на это согласие. Но утверждения исследователей не снимают этических опасений, говорит Ив Моро, вычислительный биолог из Католического университета Левена. В прошлом году он отправил Уайли запрос отозвать работу вместе с находящейся в Торонто правозащитной группой Tech Inquiry.

«Маловероятно, чтобы учащиеся были достаточно осведомлены о цели исследования, чтобы дать действительно осознанное согласие», — говорит Моро.Но даже если они добровольно согласились, утверждает он, нарушения прав человека в Синьцзяне означают, что Уайли следует отозвать исследование, чтобы не придавать работе академического авторитета.

Моро каталогизировал десятки работ по уйгурскому населению, включая работы по распознаванию лиц и исследования, собранные на ДНК уйгурского народа. В декабре он написал авторскую статью в журнале Nature , в которой призвал отказаться от неэтичной работы в области биометрических исследований ⁷ .

Его кампания оказала некоторое влияние, но не совсем так, как он надеялся.Издатели говорят, что ключевым вопросом является проверка того, дали ли участники исследований информированное согласие. Springer Nature, например, заявила в декабре 2019 года, что будет исследовать вызывающие озабоченность статьи об уязвимых группах в соответствии с этими направлениями и что она обновила свои рекомендации для редакторов и авторов о необходимости получения явного и осознанного согласия в исследованиях, которые включают клинические, биомедицинские или биометрические данные от людей. В этом году издатель отозвал две статьи о секвенировании ДНК ^{8 , 9} , потому что авторы признали, что они не просили уйгуров согласия, и выразили обеспокоенность 28 другим.

Wiley также уделяет особое внимание информированному согласию. В ноябре прошлого года издатель сообщил Моро и Tech Inquiry, что он удовлетворен наличием форм согласия и одобрения университета для исследования Даляня, и поэтому он поддерживает исследование, которое, по его мнению, можно четко отделить от действий в Синьцзяне. «Мы знаем о преследовании уйгурских общин», — сказал Уайли. «Однако эта статья о конкретной технологии, а не о ее применении».

Школьники проходят под камерами наблюдения в Синьцзяне на западе Китая.Предоставлено: Грег Бейкер / AFP / Getty

Однако в декабре издатель начал официальное расследование после того, как Университет Кертина в Перте, Австралия, где находится один из авторов, также попросил опровержения, заявив, что он согласен с тем, что работа неоправданна с этической точки зрения. В этом году Уайли добавил примечание издателя, в котором говорится, что статья «действительно соответствует приемлемым стандартам для проведения исследований на людях». В сентябре, после того как Моро углубился в предыдущие исследования авторов по распознаванию лиц уйгуров и указал на очевидные несоответствия в том году, когда были собраны наборы данных, Уайли выразил обеспокоенность по поводу исследования, заявив, что неясно, когда сбор данных состоялся.

Издатель сообщил Nature , что теперь считает вопрос закрытым после тщательного расследования, но не все участники довольны. «Кертинский университет утверждает, что статья должна быть отозвана», — сказал Nature заместитель вице-канцлера Крис Моран. Он сказал, что университет все еще изучает работу.

Wiley сообщает, что после разговоров с Моро она обновила свои рекомендации по обеспечению честности, чтобы убедиться, что ожидаемые стандарты для информированного согласия соблюдаются и описаны в статьях.Другие издатели говорят, что тоже внесли коррективы. IEEE сообщает, что в сентябре этого года он утвердил политику, согласно которой авторы статей об исследованиях с участием людей или животных должны подтверждать, получили ли они одобрение IRB или аналогичного местного обзора; редакторы определяют, проводятся ли исследования (в области биометрии или в других областях) на людях.

Но Моро говорит, что издатели слишком узко сосредотачиваются на деталях согласия и что им также следует придерживаться более широкой этики исследования.«Мы говорим о массовых нарушениях прав человека», — говорит он. «В какой-то момент западные издатели должны сказать, что есть некоторые базовые показатели, выше которых они не выходят». Он предлагает издателям создавать независимые советы по этике, которые могут высказывать свое мнение при возникновении подобных вопросов. (Ни один из издателей, опрошенных Nature , не сказал, что они сделали этот шаг.) Университеты и исследователи, которые не одобряют нарушения прав человека, также могут сделать больше, чтобы выразить это, отказавшись от своих связей с сомнительными технологическими фирмами, говорит Кейт Кроуфорд, содиректор. Института AI Now при Нью-Йоркском университете.

В прошлом году все больше внимания уделялось партнерству университетов с компаниями или исследовательским программам, связанным с массовым слежением в Синьцзяне. Например, Массачусетский технологический институт (MIT) в Кембридже заявил, что пересмотрит свои отношения с гонконгской технологической фирмой SenseTime после того, как правительство США — в разгар торговой войны с Китаем — внесло эту фирму и других китайцев в черный список. Компании искусственного интеллекта, такие как Megvii в Пекине, по поводу их предполагаемого вклада в нарушения прав человека в Синьцзяне.В 2018 году SenseTime и Массачусетский технологический институт объявили о создании «альянса по искусственному интеллекту»; MIT сообщает, что SenseTime предоставила университету сумму, не разглашаемую без каких-либо ограничений на то, как она будет использоваться, и что университет не вернет ее.

И Megvii, и SenseTime оспаривают внесение в черный список США. SenseTime заявляет, что ее технология «никогда не применялась в каких-либо неэтичных целях», а Megvii говорит, что требует от своих клиентов «не использовать наши технологии или решения в качестве оружия или использовать их в незаконных целях».

Научные конференции тоже были спорными. Китайская конференция по распознаванию биометрии (CCBR) прошла в столице Синьцзяна Урумчи в 2018 году. Анил Джайн, ученый-компьютерщик из Мичиганского государственного университета в Ист-Лансинге, сидел в консультативном совете конференции и приехал туда, чтобы выступить с речью. Некоторые исследователи ИИ, в том числе Тоби Уолш из Университета Нового Южного Уэльса в Сиднее, Австралия, позже раскритиковали Джайна за это в статьях, опубликованных в нью-йоркском журнале Coda .

Журнал Coda также отметил, что Springer Nature спонсировала конференцию; Компания заявила, что ее роль ограничивается публикацией трудов CCBR и что она ужесточила свои требования к организаторам конференций по соблюдению редакционной политики издателя после того, как были высказаны опасения по поводу прошлого контента. И Джайн бросил вызов критике, заявив Nature , что посещение конференций в Китае «не означает, что… участники международных конференций, такие как я, потворствуют этим зверствам против меньшинств».По его словам, при росте надзора не должно быть причин для «ограничения научного обмена».

Джайн остается в консультативном совете CCBR 2020–21; Springer Nature все еще публикует тезисы конференции. А крупные международные конференции по компьютерному зрению продолжали получать спонсорскую поддержку от китайских фирм. Сразу после внесения в черный список SenseTime и Megvii спонсировали Международную конференцию по компьютерному зрению 2019 года, а Megvii спонсировал Конференцию 2020 года по компьютерному зрению и распознаванию образов, хотя ее логотип был удален с веб-сайта конференции после того, как встреча произошла.«На конференциях следует избегать спонсоров, обвиняемых в нарушении прав человека», — повторяет Уолш. Однако он отмечает, что в прошлом году неправительственная организация Human Rights Watch в Нью-Йорке отозвала первоначальные обвинения в том, что технология распознавания лиц Megvii использовалась в приложении, используемом в Синьцзяне. Организаторы конференции не ответили на запрос о комментарии.

Этические контрольные точки

Сомнительные исследовательские проекты появились и в Соединенных Штатах.5 мая Гаррисбургский университет в Пенсильвании опубликовал пресс-релиз, в котором говорится, что исследователи разработали программное обеспечение для распознавания лиц, «способное предсказать, станет ли кто-то преступником», с «80-процентной точностью и без расовой предвзятости». Это заявление вызвало волну критики, как и предыдущие исследования, которые восходят к дискредитированной работе физиогномистов девятнадцатого века. В одном печально известном исследовании 2016 года сообщалось, что алгоритм машинного обучения может определить разницу между изображениями непреступников и осужденными преступниками, предоставленными китайским полицейским управлением ¹⁰ .

Гаррисбургский университет удалил свой пресс-релиз 6 мая после протестов, но оставил висящий вопрос: в пресс-релизе говорилось, что работа должна была быть опубликована Springer Nature в серии книг (что позднее издатель отрицал). 22 июня более 2400 ученых подписали письмо от группы под названием Coalition for Critical Technology (CCT), в котором просят Springer Nature не публиковать работу и призывают всех издателей воздерживаться от публикации подобных исследований.

В письме указывалось, что такие исследования основаны на ненадежных научных данных.Он также отметил, что алгоритмические инструменты, которые сообщают полиции, где или кого атаковать, как правило, представляют собой научную оболочку для автоматизированных методов, которые только усугубляют существующие предубеждения в системе уголовного правосудия. Тремя днями ранее более 1400 американских математиков написали письмо с просьбой к своим коллегам прекратить сотрудничество с полицией по алгоритмам, которые, как утверждается, помогают снизить уровень преступности, из-за опасений по поводу системного расизма в правоохранительных органах США.

Springer Nature сообщила, что работа никогда не была принята к публикации: она была представлена ​​на конференции и отклонена после рецензирования.(Авторы и Гаррисбургский университет отказались от комментариев.)

Springer Nature уже подверглась критике за другую статью, опубликованную в январе в журнале Journal of Big Data , об обнаружении «криминальной тенденции» на фотографиях преступников и других лиц. -преступники ¹¹ . После того, как исследователи из IEEE связались с этическими проблемами, Марджерет Холл, соавтор статьи из Университета Небраски в Омахе, в июне попросила отозвать статью. Холл говорит, что отозванный документ был «неоправданным».Springer Nature сообщает, что журнал пересмотрел свои процессы и теперь требует, чтобы авторы включали заявления об одобрении и согласии по этическим нормам при отправке рукописей.

Чтобы получить более широкое представление об академических взглядах на этику распознавания лиц, Nature в этом году опросил 480 исследователей, опубликовавших статьи по распознаванию лиц, искусственному интеллекту и информатике. По некоторым вопросам респонденты отдали явное предпочтение. На вопрос об их мнениях об исследованиях, в которых применяются методы распознавания лиц для распознавания или прогнозирования личных характеристик (таких как пол, сексуальная идентичность, возраст или этническая принадлежность) по внешнему виду, около двух третей ответили, что такие исследования следует проводить только с осознанного согласия. тех, чьи лица использовались, или после обсуждения с представителями групп, которые могли быть затронуты (см. «Распознавание лиц: обзор по этике»).

Но по другим вопросам ученые разделились. Около 40% опрошенных ученых считают, что исследователи должны получить информированное согласие от людей, прежде чем использовать их лица в наборе данных для распознавания лиц, но более половины сочли, что в этом нет необходимости. Дилемма исследователей заключается в том, что трудно понять, как они могут обучить точные алгоритмы распознавания лиц без огромных наборов данных фотографий, — говорит Себастьян Марсель, возглавляющий группу по биометрии в Исследовательском институте Idiap в Мартиньи, Швейцария.Он считает, что исследователи должны получать информированное согласие, но на практике этого не происходит. Его собственная группа не сканирует Интернет в поисках изображений, но использует онлайн-наборы данных изображений, которые были собраны другими. «Многие исследователи не хотят слышать об этом: они считают это не своей проблемой», — говорит он.

Эд Герстнер, директор по политике журналов в Springer Nature, сказал, что издатель рассматривает вопрос о том, что он может сделать, чтобы воспрепятствовать «дальнейшему использованию» баз данных изображений, которые не получили явного согласия на их использование в исследованиях от людей, изображенных на изображениях. .

В обзоре Nature исследователей также спрашивали, считают ли они, что исследования по распознаванию лиц уязвимых групп населения, таких как беженцы или группы меньшинств, находящиеся под усиленным наблюдением, могут быть этически сомнительными, даже если ученые получили осознанное согласие. В целом, 71% согласились; некоторые отметили, что, возможно, невозможно определить, было ли получено согласие от уязвимых групп населения, что делает его потенциально бесполезным.

Некоторые из тех, кто был не согласен, однако, пытались провести различие между академическими исследованиями и тем, как используется распознавание лиц.По их словам, основное внимание следует уделять осуждению и ограничению неэтичного применения распознавания лиц, а не ограничению исследований.

Этики считают такое различие наивным. «Таков менталитет« я просто инженер »- и мы уже давно это уже прошли», — говорит Карен Леви, социолог Корнельского университета в Итаке, штат Нью-Йорк, которая занимается вопросами технологической этики.

Некоторые респонденты в Китае заявили, что их вопрос оскорбил. «Не следует говорить, что в Синьцзяне некоторые группы содержатся в лагерях», — написал один из них.Чуть менее половины из 47 китайских респондентов считают, что исследования уязвимых групп могут быть этически сомнительными, даже если бы ученые получили согласие, — меньшая доля, чем респонденты из США и Европы (оба более 73%).

Один китайско-американский исследователь ИИ, который не пожелал называть своего имени, сказал, что проблема заключается в культурном расколе в этой области. «Меня очень беспокоит количество китайских исследователей на ведущих конференциях, которые активно поддерживают цензуру и концентрационные лагеря Синьцзян.Эти группы имеют минимальный контакт со средствами массовой информации без цензуры и стараются избегать контактов с теми, кто не говорит по-китайски, особенно по таким социальным вопросам. Я считаю, что нам нужно найти способы активно взаимодействовать с этим сообществом », — написали они.

Nature спросил исследователей, что научное сообщество должно делать с этически сомнительными исследованиями. Самый популярный ответ заключался в том, что во время рецензирования авторов работ по распознаванию лиц следует подробно спрашивать об этике их исследований.В опросе также спрашивали, должно ли исследование, в котором используется программное обеспечение для распознавания лиц, требовать предварительного одобрения от органов по этике, таких как IRB, которые рассматривают исследования с участием людей. Почти половина считает, что это необходимо, а другая четверть считает, что это зависит от исследования.

Этические размышления

Исследователи, работающие над технологией, которая распознает или анализирует лица, отмечают, что она имеет множество применений, например, для поиска потерянных детей, отслеживания преступников, более удобного доступа к смартфонам и банкоматам, помощи роботам во взаимодействии с людьми путем распознавания их личности и эмоции и, в некоторых медицинских исследованиях, чтобы помочь диагностировать или дистанционно отслеживать согласившихся участников.«Есть ряд законных и законных применений распознавания лиц и биометрических данных, которые нам необходимы в нашем обществе», — говорит Джайн.

Но исследователи также должны осознавать, что технология, которая может удаленно идентифицировать или классифицировать людей без их ведома, принципиально опасна — и, по словам некоторых ученых, следует попытаться противостоять ее использованию для контроля или криминализации людей. «Сообщество ИИ страдает от того, что не видит, как его работа вписывается в долгую историю науки, используемой для узаконивания насилия в отношении маргинализированных людей, а также для расслоения и разделения людей», — говорит Челси Барабас, изучающая алгоритмическое принятие решений в Массачусетском технологическом институте и помогла сформируют КСТ в этом году.«Если вы разрабатываете алгоритм распознавания лиц для медицинских исследований, не задумываясь о том, как, например, его могут использовать правоохранительные органы, вы проявляете халатность», — говорит она.

Некоторые организации начинают требовать от исследователей большей осторожности. Одна из главных встреч в области искусственного интеллекта, конференция NeurIPS (Neural Information Processing Systems), впервые в этом году требует принятия таких этических соображений. Ученые, подающие документы, должны добавить заявление, касающееся этических проблем и потенциальных негативных результатов их работы.«Это не решит проблему, но это шаг в правильном направлении», — говорит Дэвид Ха, исследователь искусственного интеллекта в Google в Токио. По словам Герстнера, журнал Nature Machine Intelligence также тестирует подход, в котором он просит авторов некоторых статей о машинном обучении включить заявление, учитывающее более широкие социальные последствия и этические проблемы.

Леви надеется, что ученые, занимающиеся распознаванием лиц, осознают значение того, над чем они работают, и что это может означать для их репутации, если они не искоренят этические проблемы в этой области.«Это похоже на время настоящего пробуждения в научном сообществе», — говорит она. «Люди более остро осведомлены о том, как технологии, над которыми они работают, могут быть использованы в политическом плане — и они чувствуют это внутренне».