Роботы-убийцы находятся в центре классических историй, рассказываемых в таких фильмах, как «Терминатор» и оригинальный телесериал Star Trek «Машина судного дня», однако идея полностью автономного оружия, действующего независимо от какого-либо человеческого фактора, не является исключительной лицензией. писателей-фантастов. У роботов-убийц есть статья бюджета Пентагона, и группа неправительственных организаций, в том числе Human Rights Watch, уже работают сообща, чтобы остановить их разработку.
Управление и контроль таких систем, как роботы-убийцы, должны выходить за рамки конечных продуктов.«Мы должны деконструировать термин« робот-убийца »на более мелкие культурные приемы», — говорит Теро Карппи, доцент кафедры медиа-исследований, чья работа с Марком Боленом, профессором медиа-исследований UB, и Иветт Гранта, аспиранткой университета, появляется в Международном журнале культурных исследований.«Нам нужно вернуться и взглянуть на историю машинного обучения, распознавания образов и прогнозного моделирования, а также на то, как эти вещи задуманы», — говорит Карппи, эксперт по критически важным исследованиям платформ и программного обеспечения, чьи интересы включают автоматизацию, искусственный интеллект и то, как они системы выходят из строя. «Каковы принципы и идеологии построения автоматизированной системы?
На что она способна?» По его словам, глядя на роботов-убийц, мы вынуждены отвечать на вопросы, которые определяют наступающую эру автоматизации, искусственного интеллекта и робототехники.«Люди лучше роботов в принятии решений?
Если нет, то что отличает людей от роботов? Когда мы определяем, что такое роботы и что они делают, мы также определяем, что значит быть человеком в этой культуре и в этом обществе», — говорит Карппи. говорит.Культурные методы — это принципы, которые приводят к техническому развитию.
Первоначально связанные с сельским хозяйством, культурные методы когда-то были связаны с возделыванием и процессами, трудом и действиями, необходимыми для того, чтобы земля стала продуктивной и пригодной для жизни.В теории медиа, однако, подход с использованием культурных методов интересуется различными рабочими частями и множеством эволюционных цепочек мысли, технологий, воображения и производства знаний, а также тем, как эти практики превращаются в реальные системы, продукты и концепции. Культурные методы позволяют понять процесс становления: как мы дошли до этого момента.
«Культурные методы создают различия в мире», — говорит Карппи. «Раньше у людей на поле битвы было агентство, которое могло нажать на спусковой крючок, но что происходит, когда это право предоставляется роботу, и из-за его сложности мы даже не можем проследить, почему те или иные решения принимаются в определенных ситуациях?»Любые разговоры о роботах-убийцах поначалу кажутся фантастическим упражнением, но агентства уже работают над созданием и пытаются предотвратить создание своей оперативной основы.По данным New York Times, Пентагон выделил 18 миллиардов долларов из своего последнего бюджета на разработку систем и технологий, которые могли бы стать основой полностью автономного оружия, инструментов, которые независимо ищут, идентифицируют и атакуют вражеских комбатантов или целей.
Дипломатический удар на этом потенциальном театре машинной войны был нанесен в 2012 году, когда группа неправительственных организаций сформировала «Кампанию по остановке роботов-убийц», которой было поручено запретить разработку такого оружия.Но Карппи и его коллеги-авторы утверждают в своей статье, что «необходимо пересмотреть состав реальной угрозы».«Подумайте, как программное обеспечение и этические системы работают по определенным правилам», — говорит Карппи. «Можем ли мы включить в программное обеспечение систему, основанную на этических правилах, и их код?
Чью этику мы выберем? Что программное обеспечение позволяет нам делать?» Беспилотные автомобили действуют по правилам дорожного движения: когда остановиться, повернуть, уступить дорогу или продолжить движение. Но автономное оружие должно различать друга и врага и, что, возможно, наиболее важно, когда одно становится другим, например, в случае капитуляции.«Различия между комбатантом и некомбатантом, человеком и машиной, жизнью и смертью не проводит робот», — пишут авторы. «Хотя это может быть робот, который нажимает на спусковой крючок, фактическая операция по нажатию является следствием обширной цепочки операций, процессов и вычислений».
Карппи говорит, что в случае с роботами-убийцами необходимо распаковать два разных элемента.«Мы не должны сосредотачиваться на том, что технологически возможно», — говорит он. «Но скорее идеологические, культурные и политические мотивы, которые движут этими технологическими разработками».