Анализ угроз и решения будут приниматься автономно, с уведомлением пограничников; однако это скользкая дорожка, которую слишком легко ввести в широкую правоохранительную практику. ⁃ Редактор TN
Представь, что ты в походе через лес возле границы. Внезапно вы услышите механическое жужжание, как гигантская пчела. Два квадрокоптера заметили вас и подскочили ближе. Антенны как на дронах, так и на близлежащем автономном наземном транспортном средстве улавливают радиочастоты, поступающие с мобильного телефона в вашем кармане. Они отправляют сигналы на центральный сервер, который триангулирует ваше точное местоположение и возвращает его дронам. Роботы приближаются.
Камеры и другие датчики на машинах распознают вас как человека и пытаются выяснить ваши намерения. Вы угроза? Вы незаконно пересекаете границу? У тебя есть пистолет? Вы участвуете в террористических актах или организованной преступности? Машины отправляют видеопотоки своему оператору-человеку, пограничнику в офисе, находящемся в нескольких милях от него, который проверяет видео и решает, что вы не рискуете. Пограничник нажимает кнопку, и роботы отключаются и продолжают патрулирование.
Это не научная фантастика. Европейский союз финансирует проект по разработке беспилотных летательных аппаратов, управляемых искусственным интеллектом и предназначенных для автономного патрулирования границ Европы. Беспилотники будут работать в роях, координируя и подтверждая информацию между парками квадрокоптеров, небольших самолетов с неподвижным крылом, наземных транспортных средств, подводных лодок и катеров. Разработчики проекта, известного как Roborder, говорят, что роботы смогут идентифицировать людей и самостоятельно решить, представляют ли они угрозу. Если они определят, что вы, возможно, совершили преступление, они уведомят пограничную полицию.
Президент Дональд Трамп использовал призрак преступников, пересекающих южную границу, чтобы разжечь националистические политические настроения и активизировать свою базу. В Европе, спустя два года после разгара миграционного кризиса, который привел на континент более миллиона человек, в основном из стран Ближнего Востока и Африки, проблема иммиграции остается горячей проблемой, даже несмотря на то, что количество вновь прибывших сократилось. Политические партии по всему Европейскому Союзу побеждают на выборах антииммигрантские платформы и принятие все более ограничительного пограничная политика, Специалисты по этике и сторонники конфиденциальности обеспокоены тем, что Roborder и подобные проекты передают слишком много работы правоохранительных органов нечеловеческим субъектам и могут легко стать оружием против людей в приграничных районах.
«Разработка этих систем является темным шагом на пути к морально опасной территории», - сказал Ноэль Шарки, заслуженный профессор робототехники и искусственного интеллекта в Университете Шеффилда в Великобритании и один из основателей Международного комитета по контролю над роботами-оружием, некоммерческой организации, которая выступает против военного использования робототехники. Шарки перечисляет примеры оружейных дронов, которые в настоящее время представлены на рынке: летающие роботы с тазерами, перцовый баллончик, резиновые пули и другое оружие. Он предупреждает о последствиях объединения этой технологии с принятием решений на основе ИИ и ее использования в политически заряженных пограничных зонах. «Это всего лишь вопрос времени, когда беспилотник сможет принять меры, чтобы остановить людей», - сказал Шарки.
Разработчики Roborder также могут нарушать условия их финансирования, согласно документам о проекте, полученным в соответствии с правилами прозрачности Европейского Союза. Инициатива в основном финансируется за счет гранта ЕС на исследования и инновации в размере 8 млн. Евро, предназначенного для проектов, которые являются исключительно невоенными, но разработчики Roborder признают, что части их предлагаемой системы связаны с военными технологиями или могут быть легко преобразованы для использования в военных целях.
Большая часть разработки Roborder засекречена, но The Intercept получил внутренние отчеты, связанные с этическими соображениями и опасениями по поводу программы. Эта документация была ненадлежащим образом отредактирована и непреднамеренно выпущена полностью.
В одном из отчетов разработчики Roborder стремились рассмотреть этические критерии, которые связаны с их финансированием в ЕС. Разработчики рассмотрели вопрос о том, можно ли изменить или улучшить их работу, чтобы нанести вред людям, и что может произойти, если технологии или знания, разработанные в рамках проекта, «оказались в чужих руках». Эти этические вопросы поднимаются, пишут разработчики, когда «исследования используются секретной информации, материалов или методов; опасные или запрещенные материалы [;] и если конкретные результаты исследования могут представлять опасность для участников или общества в целом ».
Разработчики Робердера утверждали, что этические соображения не относятся к их работе, заявив, что их единственная цель заключается в разработке и тестировании новой технологии и что она не будет продаваться или передаваться за пределы Европейского Союза в течение жизненного цикла проекта. Но в интервью The Intercept разработчики проекта признали, что их технология может быть перепрофилирована и продана, даже за пределами Европы, после завершения цикла европейских проектов, что ожидается в следующем году.
Помимо проекта Roborder, в отчетах по этике, поданных в Европейскую комиссию, предлагается более широкий вопрос: когда речь идет о новых технологиях, которые потенциально могут быть использованы против уязвимых людей в местах, где мало защиты прав человека, кто решает, что мы должны и не должны развивать ?
Робердер выиграл свой грант на финансирование в 2017 и к середине 2020 намеревался разработать рыночный прототип - «рой робототехники для поддержки пограничного мониторинга». По словам Стефаноса Врочидиса, руководителя проекта Roborder, его разработчики надеются создать и оборудовать коллекцию воздушных, морских и сухопутных беспилотников, которые можно будет комбинировать и отправлять в миссии пограничного патрулирования, самостоятельно сканируя «угрозы» на основе информации, предоставленной операторами-людьми. ,
Дроны будут использовать оптические, инфракрасные и тепловые камеры; РЛС; и радиочастотные датчики для определения угроз вдоль границы. Частоты сотовых телефонов будут использоваться для триангуляции местонахождения людей, подозреваемых в преступной деятельности, а камеры будут определять людей, оружие, транспортные средства и другие объекты. «Основная цель - иметь как можно больше датчиков на местах для оказания помощи патрульному персоналу», - сказал Костас Иоаннидис, технический менеджер Roborder.
wpDiscuz