10 случаев с роботами, убившими людей

17.05.2018 12:57

Развитие робототехники и автоматизации, безусловно, необходимы для перехода человечества на новый технологический уровень. Но, как и в любой другой высокотехнологичной сфере, здесь есть свои риски. И ставка в этих рисках может быть самой высокой – ваша жизнь. В этом мы убедились на примере недавнего инцидента с беспилотным автомобилем Uber, в котором погиб пешеход. Проблема усугубляется тем, что нынешний уровень развития ИИ не позволяет бездушным машинам быстро и адекватно определять уровень опасности, а следовательно, и понимать — находится ли перед ним человек или материал, с которым робот был запрограммирован работать.

Пример трагедии, в результате которой под колесами беспилотника Uber погибла женщина, далеко не единственный. Для беспилотных автомобилей – один из, но не для производственной среды, где людям приходится работать бок о бок с опасными машинами каждый день. В критически опасных ситуациях, когда холодная сталь сталкивается с живой плотью, последняя всегда остается в проигрыше.

Сегодня мы поговорим о десяти случаях гибели людей от «рук» роботов. Некоторые примеры содержат весьма неприятные подробности, поэтому перед тем, как вы начнете это читать, советуем убрать от экрана детей. То же самое, если вы являетесь довольно мнительным человеком – лучше закройте эту страницу и поберегите нервы. Мы предупреждали!

Джошуа Браун

10 случаев с роботами, убившими людей

Джошуа Браун стал первым человеком, погибшим в результате аварии с участием беспилотного автомобиля. Трагедия случилась 7 мая 2016 года, когда двигавшийся по дороге американского городка Уиллистон электромобиль Tesla Model S, оснащенный системой беспилотного управления, не смог определить, что перед ним находится – чистое небо или поворачивающая направо 18-колесная грузовая фура. Автомобиль Брауна влетел под центральную часть тягача как нож в масло и через мгновение вышел с другой стороны. Машина со срезанной крышей вылетела с дороги, пролетела через два забора, а затем врезалась в столб.

10 случаев с роботами, убившими людей

После внутреннего расследования Tesla заявила, что в софте автомобиля не было обнаружено никаких ошибок, и сразу же попыталась оградить себя от любого обвинения в этой аварии. При этом об инциденте публично было объявлено лишь 30 июня, то есть фактически через месяц после аварии. В опубликованном отчете говорилось, что автомобили модели Model S проехали уже более 210 миллионов километров и до сих пор не было ни одной аварии со смертельным исходом, когда для обычных автомобилей этот показатель в среднем составляет 150 миллионов километров. Компания также указала, что система автопилота ее автомобилей на момент аварии не была идеальной (полноценной), а потому правила четко требовали от водителя постоянного внимания и наличия рук на руле. За время этой 37-минутной поездки Браун только на 25 секунд убрал руки с руля. Они и оказались для него последними в его жизни.

10 случаев с роботами, убившими людей

Расследование Национального совета по безопасности на транспорте (NTSB) показало, что ни Браун, ни система автопилота перед столкновением не задействовали систему торможения автомобиля. Подушки безопасности электрокара не раскрылись до тех пор, пока автомобиль не вылетел с дороги и проехал через кусты, расположенные на частном участке. Медицинские эксперты заявили, что Браун, вероятнее всего, погиб сразу после того, как автомобиль попал под тягач.

Водитель тягача заявил, что Браун смотрел фильм о «Гарри Поттере» в момент аварии. Проверка NTSB действительно показала наличие microSD-карты с фильмом о «Гарри Поттере», но не смогла точно сказать, действительно ли Браун был отвлечен просмотром фильма на лэптопах Asus или Chromebook, также обнаруженных в автомобиле.

Роберт Уильямс

10 случаев с роботами, убившими людей

Роберт Уильямс стал первым человеком в истории, убитым роботом. Инцидент произошел на фабрике Ford в городе Флэт-Рок, штата Мичиган 25 января 1979 года. Уильямс погиб от роботизированной руки весом в 1 тонну, которая его ударила, когда он пытался самостоятельно достать новую изготовленную деталь.

Задача роботизированной руки заключалась в перекладке новых деталей с одного места на другое. Однако накопившиеся ошибки в ПО, указывающие неправильную информацию о количестве деталей, находившихся в тот момент на стеллаже, заставили Уильямса самостоятельно подняться по лестнице и достать нужную деталь. В этот момент машина его и убила. Расследование показало, что причиной гибели человека стала очень слабая техника безопасности на предприятии, и в том числе отсутствие предупреждающих звуковых сигналов, которые говорили бы об опасном присутствии человека. Компания выплатила семье погибшего 10 миллионов долларов.

Девять южноафриканских солдат

10 случаев с роботами, убившими людей

В результате инцидента, произошедшего в 2007 году, погибло девять южноафриканских солдат и еще 14 получили серьезные ранения. В этот раз сбой дала установка противовоздушной обороны, которая открыла неконтролируемый огонь во все стороны. Убийцей стало автоматическое компьютеризированное зенитное орудие Эрликон GDF-005. Оно управлялось системой, предназначенной для автоматического поиска, захвата и атаки противника без участия человека. Орудие даже имело систему самостоятельной перезарядки, что в нашем случае могло сделать его еще смертоноснее.

Солдаты проходили тренировку на одной из баз Северо-Капской провинции ЮАР, когда зенитное орудие сначала заклинило, потом, по словам очевидцев, в нем что-то взорвалось, а затем зенитка открыла неконтролируемый огонь, выпустив из двух своих стволов двести пятьдесят 35-мм фугасных снарядов в людей, находившихся рядом с ним.

В числе предполагаемых причин «бунта» зенитного орудия назывались и сбой в программном обеспечении, и механические неисправности. Согласно комментариям представителей некоторых компаний, занимающихся производством оружия, подобный инцидент был далеко не единственным, и им уже приходилось сталкиваться с аналогичными ситуациями. Просто этот случай оказался первым, когда в таком инциденте погибли люди.

Мика Джонсон

10 случаев с роботами, убившими людей

7 июля 2016 года в американском городе Даллас произошла стрельба со смертельным исходом. На почве гнева по поводу недавних убийств полицейскими нескольких темнокожих жителей, прокатившихся волной в различных городах США, Мика Джонсон застрелил пять полицейских и ранил еще девятерых, двое из которых были гражданскими. Первых трех полицейских он убил около 9 вечера, во время еще мирных на тот момент протестов. После этого он попытался скрыться в колледже в Эль-Центро, где на входе убил еще одного офицера полиции и занял выжидающую позицию, чтобы убить еще несколько полицейских.

В течение последующих пяти часов полиция безрезультатно пыталась вести с Джонсом переговоры, однако тот не желал сдаваться и угрожал взорвать несколько бомб. В конечном итоге терпение у полиции закончилось, и офицеры предложили Джонсону два выбора: либо он сдается и выходит наружу с поднятыми руками, либо остается внутри и в таком случае полиция готова применить силу. Убийца решил выбрать второй вариант.

Вскоре преступник понял, какую силу имели в виду полицейские, когда те прицепили брикет взрывчатки C4 к руке робота и отправили последнего в подземную парковку колледжа, где прятался убийца. Машина, «пожертвовав» собой, забрала в ад и Джонсона. Это был первый случай, по крайней мере в полицейской практике, когда для устранения преступника использовался робот. Ирония еще и в том, что сам робот предназначался для разминирования.

Полиция и до этого инцидента иногда использовала роботов для обезвреживания преступников. Правда в таких случаях, как правило, речь шла о светошумовых и дымовых гранатах, чтобы преступника можно было взять живьем. Кроме того, работе с роботами обучают и спецподразделения SWAT, которым чаще приходится иметь дело с террористами. В то же время американские войска еще во время Иракской войны пользовались аналогичными тактиками борьбы с повстанцами.

Кендзи Урада

10 случаев с роботами, убившими людей

Кендзи Урада стал второй жертвой робота в истории, а также первой и далеко не единственной жертвой, погибшей от руки робота, в Японии. Инцидент произошел в 1981 году на заводе компании Kawazaki Heavy Industries в городе Акаси, когда Урада производил ремонт одного из роботов. Как выяснилось позже, робот в нужный момент выключен не был, хотя должен был. Механическая рука столкнула бедного инженера в дробилку, где мужчина и погиб. Фактически это первый случай, когда машина убила человека с помощью другой машины. Спасти бедолагу не удалось – подоспевшие к месту трагедии коллеги Кендзи просто не знали, как выключить дробилку.

После долгих разбирательств инспекторы пришли к выводу, что Урада не забыл выключить технику – нужный тумблер он все-таки нажал. Однако после этого он сам же случайно зацепил тумблер, тем самым активировав только что отключенное устройство. Судя по тому, что Кендзи не остановила защитная решетка – которая должна опускаться автоматически, если робот находится во включенном режиме, – тумблер был включен уже после того, как Урада пролез через ограду. После случившегося производители сделали определенные выводы и еще больше усилили защитные системы роботов.

Неизвестный

10 случаев с роботами, убившими людей

Трагедия произошла в 2015 году на заводе автоконцерна Volkswagen в немецком городе Баунаталь. Неназываемый 21-летний молодой человек входил в команду инженеров, разработавших робота и занимавшихся его установкой. Машина убила своего создателя, проломив тому грудную клетку, после того как схватила и швырнула о металлические пластины. От полученных травм, несовместимых с жизнью, человек скончался в больнице.

СМИ сообщали, что робот-убийца должен был использоваться на линии по производству двигателей. Как и положено по технике безопасности, робот находился внутри защитной клетки. В то же время в ней находился и инженер, занимавшийся установкой и настройкой машины. В своем заявлении Volkswagen предположила, что установка могла двинуться по сигналу другого рабочего, который находился в тот момент с внешней стороны. Вследствие ошибки робот и убил несчастного.

Ванда Холбрук

10 случаев с роботами, убившими людей

В июле 2015 года крупно не повезло 57-летней Ванде Холбрук, сотруднице завода Ventra Ionia Mains в Детройте, производящего автозапчасти (бамперы и прицепы для грузовиков). На заводе Холбрук занималась мониторингом неисправностей на линиях. Тогда никто и подумать не мог, что трагическое происшествие внезапно оборвет ее жизнь, а причинной ее смерти станет сбой в механизме робота, который своими «руками» раздробит Ванде голову.

Как правило, сборочная линия на заводе разделена на несколько секций, в каждой из которых находятся роботы, занимающиеся своей частью сборки и предположительно не способные дотянуться до другой секции. Мы говорим «предположительно» потому, что один робот каким-то образом все-таки это сделал.

Как писалось в отчете комиссии, расследовавшей эту трагедию, «рука робота неожиданно схватила Ванду, дотянувшись до секции, где она работала. После этого, ударив и раздавив голову Ванды между сцепками сборки, попыталась поместить ее голову в специальное приспособление-зажим».

Рабочее место Ванды занимало площадь 800 квадратных футов, в котором роботы брали бамперы грузовиков и приваривали к ним металлические пластины. В документах писалось, что она работала как бы в клетке в тот момент, когда рука робота проникла на ее территорию и прижала ее голову к арматуре.

То, что произошло ЧП, другие сотрудники Ventra заметили лишь после того, как некоторые обычные операции перестали функционировать привычным образом. Именно после этого они направились в секцию Ванды Холбрук и решили выяснить, что произошло. Холбрук была найдена коллегами в бессознательном состоянии и умерла через 40 минут после аварии.

Рука робота фактически пыталась установить голову Ванды в специальный зажим для детали, что само по себе показалось крайне невероятным, поскольку зажим не может удерживать сразу две детали одновременно – на момент инцидента деталь уже находилась в зажиме.

Муж погибшей подал иски против пяти компаний, участвовавших в производстве этого робота.

Ана Мария Витал

10 случаев с роботами, убившими людей

В 2009 году роботом-паллетизатором компании Golden State Foods на заводе в промышленном районе Лос-Анджелеса была убита 40-летняя Ана Мария Витал. Машина использовалась в процессе установки упаковки (коробок) на палету (поддон).

В какой-то момент одна из коробок застряла внутри робота, и Мария вошла в его клетку для того, чтобы восстановить ход упаковки. Так как машина все это время была включена (зачем нам техника безопасности?), робот схватил Ану Марию, как одну из упаковок, с которыми он работал, а затем просто раздавил ее тело, несмотря на попытки механиков ее освободить.

Рамжи Лал

10 случаев с роботами, убившими людей

В 2015 году 24-летний Рамжи Лал, работавший загрузчиком металла, был заколот до смерти одним из роботов завода компании SKH Metals в индийском городе Манса. Задача робота сводилась к перемещению сваренных между собой металлических листов. Один из таких листов оказался неправильно расположен, и Рамжи попытался его поправить. Правда, оказался недостаточно расторопным, и рука робота заколола его острым краем листа в живот. Сообщалось также, что погиб он от удара током.

На самом деле Лал умер не сразу. Очевидцы произошедшего вызвали скорую, и человека привезли больницу, где через 20-30 минут он и скончался. Вскрытие показало, что его ребра и брюшная полость превратились в настоящее месиво, а умер он от обширного внутреннего кровотечения. При этом никаких признаков поражения током патологоанатомы не нашли. Однако у полиции на этот счет, видимо, оказалось свое мнение. В официальном отчете говорилось, что причиной смерти явилось смертельное поражение электрическим током.

Регина Эльза

10 случаев с роботами, убившими людей

В июне 2016 года, за две недели до собственной свадьбы, от «руки» робота погибла Регина Эльза. Ей было всего 20 лет. Несчастный случай произошел на фабрике Ajin USA, занимающейся производством деталей для автомобилей компаний Hyundai и Kia.

В тот судьбоносный день Эльза с коллегами пыталась починить вышедшего из строя робота. На самом деле они не должны были этого делать, однако многочисленные звонки в ремонтный отдел эффекта не возымели. Там просто никто не брал трубку. В итоге их решение попробовать починить робота самостоятельно оказалось роковым для одного из сотрудников. Робот неожиданно перезагрузился и очень сильно толкнул Эльзу в другую машину, нанеся ужасные травмы. Сотрудницу фабрики сначала доставили в медицинский центр Восточной Алабамы, а затем вертолетом отправили в травматологический центр в Бирмингеме. К сожалению, травмы оказались очень серьезные, и на следующее утро девушка скончалась.

Инцидент привлек повышенное внимание властей. Было установлено, что руководство фабрики Ajin USA, стремясь повысить прибыль, нарушило сразу несколько протоколов безопасности. Всего за две недели до инцидента Министерство труда США выдвинуло предприятию иск в размере 2,7 миллиона долларов за нарушение 27 различных правил безопасности. Проверка также показала, что сотрудники Ajin USA часто перерабатывали. Иногда руководство требовало от них работать 7 дней в неделю без выходных и часто подначивало самостоятельно ремонтировать вышедших из строя роботов.

Источник