Ад на колёсах.

Компания Cognitive Technologies, основной разработчик системы искусственного интеллекта для беспилотного КАМАЗа приступила к формированию сценариев поведения беспилотного автомобиля.

Одной из важнейших проблем, которую вынуждены решать разработчики, является поведение авторобота в критических ситуациях, когда избежать аварии невозможно и ущерб здоровью и даже жизни для участников дорожной ситуации неизбежен.

Я недавно прочитал похожее и полностью поменял свое отношение к саморулящимся тачкам.

Дядьки которые, так-сказать, находятся в авангарде этой темы, сейчас решают вопрос о том как можно и морально продавить и легально пропихнуть возможность чтобы такая машинка гробила людей находящихся внутри чтобы спасти тех кто снаружи.

То есть, в ситуации когда аварии избежать невозможно, компьютер будет минимизировать потери. И если окажется что на проезжей части перебегает улицу 5 человек, а в машине сидит 3 человека, и затормозить невозможно то компьютер выберет вариант при котором машину со всеми людьми внутри направляют в столб/отбойник/канаву. И тормоза не включают, потому что при торможении тяжелее изменить направление движения. Так что машинка сама поедет под откос и как бонус без притормаживания.

Потому что на уровне общества, (возможно) потерять троих лучше чем (вероятно) потерять пятерых.

И это когда-то будет и в законодательной базе.

Я уж лучше сам баранку буду крутить пока не заставят пересесть.

Давить во всех пунктах. Потому что появляющиеся на дороге люди и животные нарушают Правила, а твой автомобиль и соседние с ним - нет. И пострадать они ради спасения нарушителей не должны.

- Ты едешь в мащина по узкой доpога. Слева - високий-високий гоp. Спpава - кpутой-кpутой абpив. Вдpуг на доpоге - кpасивий дэвушка. А pядом с ней стpашный-пpестpашный стаpух. Кого давить будэшь?

carrier
Кого давить будэшь?

Alexandr13
тормоз надо давить

А кто-нибудь участие в опросе принял?
По мне, так собачек, кошечек и прочих птичек давить однозначно при невозможности безопасно остановиться, жизнь и здоровье людей, находящихся в авто, важнее.
Что касаемо человеков, то тут надо, кмк, действовать в зависимости от того, нарушают они правила или нет. Если нарушают (как в тесте разработчика - перебегают в неположенном месте), то жизнь и здоровье пассажиров авто должны иметь приоритет.
Тут интересно другое. Вот, затоталил, к примеру, такой автомобиль пешехода на переходе. Кто будет отвечать? Хозяин/пассажир авто? Разработчик программы ИИ? Страховая? Производитель авто?

bcc1357
Потому что на уровне общества, (возможно) потерять троих лучше чем (вероятно) потерять пятерых.

На уровне сообщества эффективнее приучать сообщество не нарушать условия контракта (ПДД). Иначе пранк "выбежать толпой перед робомобилем" будет иметь место, особенно среди ебанутой глубинки любой страны планеты.

Думаю что описанный вариант (убивать водителя и пассажиров) - просто медийный повод попиздеть.

Dron+
Думаю что описанный вариант (убивать водителя и пассажиров) - просто медийный повод попиздеть.

Я это не в новостях читал, а в одном из транскриптов TED. Там в основном люди реально обсуждают те вопросы которыми они реально занимаются. В совершенно разных отраслях. А уже потом, через какое-то время, мы все хаваем плоды их труда. Тогда уже и медийный повод появляется.

Так вот по поводу этих бибизик, обсуждение сейчас в этих кругах именно такое: как и когда жертвовать пассажирами авто. И с легальной точки зрения. И с моральной. И с экономической.

Ждём когда обяжут устанавливать в каждую машину, как в своё время энергосберегающими лампами оделили. 😀

X-Saurus
Давить во всех пунктах.

bcc1357
в одном из транскриптов TED.

А вот это звучит печально.

___________________________________________________________
И я вспомнил Четырнадцатый том сочинений Боконона - прошлой ночью я его прочел весь целиком. Четырнадцатый том озаглавлен так:

"Может ли разумный человек, учитывая опыт прошедших веков, питать хоть малейшую надежду на светлое будущее человечества?"

Прочесть Четырнадцатый том недолго. Он состоит всего из одного слова и точки: "Нет".
___________________________________________________________

Доцент университета Хиросимы Хироюки Иноуэ продемонстрировал способы взлома бортового компьютера автомобиля с использованием смартфона, сообщают РИА 'Новости'.

Ученый смог открывать окна закрытого автомобиля Toyota Corolla Fielder 2013 года выпуска, влиять на спидометр, который показывал скорость 180 км/ч у стоящего автомобиля, и блокировать движение автомобиля при помощи DDoS атаки, заключавшейся в передачи слишком большого объема данных о движении автомобиля в систему. Для этого он использовал обычный Wi-Fi роутер и мобильное приложение собственной разработки.

В настоящее время взлом автокомпьютера не угрожает автомобилям, выпускаемым в Японии, так как они не имеют подключения к интернету, однако с серийным выпуском автопилотируемых автомобилей, которое японские автопроизводители планируют освоить к 2020 году, угроза может приобрести массовый характер.

Ранее стало известно, что Компания Fiat Chrysler U.S. отзовет 7810 своих спортивных внедорожников в США из-за угрозы взлома хакерами.
(С)

Colobosc
Полностью согласен. Сдохни ты сегодня, а я - завтра.

Не вижу повода ни для аналогии, ни для сарказма. Мне кажется, что каждый имеет право на выбор. Один готов сдохнуть ради того, чтобы перейти дорогу здесь и сейчас. Другой любит жизнь, и покупает ТС высокой степени безопасности. Зачем же менять местами предназначенную для них судьбу?

X-Saurus
Один готов сдохнуть ради того, чтобы перейти дорогу здесь и сейчас.

carrier
Здесь решает автомат, кому сдохнуть а кому нет. Пассажиры вообще ничего не решают кроме как ехать или нет в принципе.

Автомат ничего не решает, он действует по алгоритму. Решает конструктор автомата.

X-Saurus
Решает конструктор автомата.

Как должен поступить авторобот, движущийся по дороге с двойной сплошной линией разметки, понимая, что экстренное торможение в данной ситуации бесполезно и что перестроение на встречную полосу может привести к лишению водительских прав?

SandmanJK
Сцуконах! )) Убило просто)))

Имхо - везде тормозить.

Искусственный интеллект рано или поздно придёт к выводу,
что люди - не нужны.

Я это не в новостях читал, а в одном из транскриптов TED. Там в основном люди реально обсуждают те вопросы которыми они реально занимаются. В совершенно разных отраслях. А уже потом, через какое-то время, мы все хаваем плоды их труда. Тогда уже и медийный повод появляется.

Так вот по поводу этих бибизик, обсуждение сейчас в этих кругах именно такое: как и когда жертвовать пассажирами авто. И с легальной точки зрения. И с моральной. И с экономической.

Вопрос ответственности очень интересный, как и вопрос доверия к марке.
Сейчас, тот же Вольво, заявляет, что к какому то году люди совсем перестанут погибать в ДТП случившихся с их автомобилями. И это линия маркетинга, на основе которой строятся продажи.
КМК автопроизводители не смогут пойти на такой шаг. Уж слишком велик шанс потерять целевую аудиторию..
Думаю никто не горит желанием расстаться с жизнью из-за пятерых бабушек в сговоре, которые старые и которым все равно 😀

gnom
КМК автопроизводители не смогут пойти на такой шаг. Уж слишком велик шанс потерять целевую аудиторию..

Вы правы. Ни один производитель сам так не сделает.

Но если на законодательном уровне уровнять всех производителей, то и разницы не будет.

Если все марки машин обязаны вести себя одинаково, то этот атрибут уже не будет маркетинговым минусом.

А дети, которые вырастут в обществе с такими, самоубиваемыми, машинами уже даже не будут считать это дикостью. Для них это будет просто чем-то совершенно обычным.

Да и на общественное мнение можно влиять по разному.

Можно например писать рекламные плакаты о том какая безопасная машина Вольво, для своего хозяина. И далее по тексту, что пишут сейчас.

А можно писать статейки о том как много пешеходов в год сбивают машины Вольво. И о том что Мерседесы и Форды сбивают в разы меньше. И что как следствие, Вольво себе покупают только эгоистичные ублюдки.

На любую рекламу можно придумать антирекламу.

Ну и напоследок, давайте поразмыслим о противоположном подходе. Чтобы стало совсем страшно за будущее. 😊

Представьте что каждая машина запрограммирована на сохранение жизни своих пассажиров любой ценой. Это главная задача машины.

Звучит разумно, не правда ли?

Но только машина такая не одна. А они такие все на дороге.

И у всех вокруг вас, в потоке, машины которые запрограммированы на то чтобы сохранить их жизнь в ущерб всем остальным пешеходам и машинам.

Представили?

Это уже будут гонки на выживание. 😊

Вот едите вы в потоке. Вдруг, у вас пробивает колесо. И компьютер в вашей машине просчитал что самое безопасное, чтобы машину не развернуло, это бортануться в соседа.

И ваша машина намеренно врезается, и выкидывает соседа на встречку. Потому что на его жизнь компьютеру вашей машины наплевать.

И вот сосед на встречке. А там тоже едет машина. И у той машины компьютер тоже просчитал что лучше бы и ей выскочить на встечку и врезаться в вас, потому что вы уже остановились а сосед которого вы пихнули на встречку еще нет. И выезжает на встречку. И долбит таки вас. И количество пострадавших увеличивается. Потому что не известно как себя поведут все остальные машины.

Представляете какое месево будет происходить повсеместно? Машины друг друга будут использовать как живой щит.

Вот и получается что самый разумный алгоритм это действительно минимизация потерь, даже за счет пассажиров машины. Поэтому умные дядьки сейчас и рассматривают именно такой вариант.

То есть как ни крути, а нам всем писец. 😊

Вопрос еще стоит - всё, или ничего? Где вариант, чтобы тормозить так, чтобы снизить силу и удара о препятствие и удара машины сзади? Тормозить, постоянно отслеживая расстояние до задней машины и просчитывая последствия его удара в зад, компьютеру по плечу.
Потом, какая точность идентификации компьютером цели? Группа людей? Группа животных? Пара коров, которые не имеют высокой ценности, но столкновение с которыми опаснее для пассажиров, чем столкновение с группой пешеходов?
Лежащий на дороге человек, или плотная стая птиц, клюющих корм?
Наконец, речь идет о Камазе. Значит, для принятия решения БК должен знать точное количество своих пассажиров, расположение их в салоне, наличие и расположение опасного груза. Да много чего еще.

bcc1357
Вот и получается что самый разумный алгоритм это действительно минимизация потерь, даже за счет пассажиров машины. Поэтому умные дядьки сейчас и рассматривают именно такой вариант.

X-Saurus
Вопрос еще стоит - всё, или ничего? Где вариант, чтобы тормозить так, чтобы снизить силу и удара о препятствие и удара машины сзади? Тормозить, постоянно отслеживая расстояние до задней машины и просчитывая последствия его удара в зад, компьютеру по плечу.

Скорее бы ИИ заменил на дорогах идиотов, слепых и больных с покупными справками. Робот - лучше старого маразматика с купленной справкой, безопаснее блондинки истерички (дочки депутата или судьи) и гораздо более предсказуем, чем алкаш или нарк с травматом.

PS ИИ не нужно никому ничего доказывать, он никого не станет "наказывать" и т.п. Он просто будет управлять автомобилем. Единственные, кто пострадают, так это проф. водилы, которых уволят.

bcc1357

То есть как ни крути, а нам всем писец. 😊

gnom
Сейчас, тот же Вольво, заявляет, что к какому то году люди совсем перестанут погибать в ДТП случившихся с их автомобилями. И это линия маркетинга, на основе которой строятся продажи.

bcc1357
Вот и получается что самый разумный алгоритм это действительно минимизация потерь, даже за счет пассажиров машины. Поэтому умные дядьки сейчас и рассматривают именно такой вариант.

Алгоритм в 99.9% случаев прост: ТОРМОЗИТЬ!!! Начинать же метаться по дороге и при этом специально не тормозить, чтобы лучше рулилось, - можно или тупо уповая на удачу или ЗАРАНЕЕ ДОГОВОРИВШИСЬ со вторым участником предполагаемого ДТП. Второе вполне возможно, если вторым участником выступает такой же роботизированный автомобиль. Объезжать же пешеходов без торможения - редкий оптимизм, ибо угадать, куда они ломанутся (а в случае толпы могут и в разные стороны кинуться) заранее невозможно. Про проблемы идентификации оной толпы тоже уже указали...

------------------
Жизнь хороша, если есть ППШ!

Описанный вначале алгоритм минимилизации потерь идеальный подарок для киллера 😊 даже винтовка не нужна....
Ситуация едет "клиент" на своей машине по загородному шоссе, пусть с охранником и водителем, лучше по лесу, чтобы деревьев побольше и потолще или где отбойник покрепче... Группа киллеров из 5 человек неожиданно выскакивает на дорогу..., исходя из алгоритма - заказ выполнен... И стрелять не надо...

keks139
Описанный вначале алгоритм минимилизации потерь идеальный подарок для киллера даже винтовка не нужна....
Ситуация едет "клиент" на своей машине по загородному шоссе, пусть с охранником и водителем, лучше по лесу, чтобы деревьев побольше и потолще или где отбойник покрепче... Группа киллеров из 5 человек неожиданно выскакивает на дорогу..., исходя из алгоритма - заказ выполнен... И стрелять не надо...

Ignat
Алгоритм в 99.9% случаев прост: ТОРМОЗИТЬ!!!

Там заведомо рассматриваются случаи когда торможение не спасет ситуацию. Неужели это не было понятно?

Я конечно понимаю что на этом форуме каждый второй гений, и может решить любой вопрос. (Да и вообще, самая большая беда человечества в том что нужные люди не читают ганзу, а то уже все проблемы мира давно бы разрешились.)

Но тем не менее, если люди которые непосредственно занимаются разработкой таких автомобилей об этом говорят, то наверное у них есть достаточно данных чтобы понимать что это нужно обсуждать и нужно выработать какую-то концепцию поведения автомобилей в такой ситуации, а не списывать все на "надо тормозить".

Да и насчет 99.9% это тоже смешно. Сами написали и не подумали? 😊

Вы представляете сколько происходит аварийных ситуаций по всей планете каждый день (включая те в которых торможение спасло ситуацию)? А за год? А сколько всего случаев происходит за срок равный средней продолжительности жизни человека умноженной на количество машин на планете?

0.01% выраженное в абсолютных числах это гигантское количество случаев.

Поэтому даже если в 99.9% случаев достаточно просто затормозить, то это все равно оставляет огромное количество ситуаций в которых придется решать как и кем жертвовать. Вот об этом то как раз эти люди сейчас размышляют.

bcc1357
Там заведомо рассматриваются случаи когда торможение не спасет ситуацию. Неужели это не было понятно?

bcc1357
Да и насчет 99.9% это тоже смешно. Сами написали и не подумали?

bcc1357
0.01% выраженное в абсолютных числах это гигантское количество случаев.

Поэтому даже если в 99.9% случаев достаточно просто затормозить, то это все равно оставляет огромное количество ситуаций в которых придется решать как и кем жертвовать. Вот об этом то как раз эти люди сейчас размышляют.

А проблема "кем жертвовать", конечно, "красивая". Только если речь о роботизированном автомобиле, то тут это всё будет в основном притянуто за уши: робот сам по себе ПДД не нарушает и быстрее дистанции видимости не летает. Соответственно, если кто-то умудрится ему на курс выпасть с моста или длинным прыжком выйти из-за припаркованного фургона - сам является нарушителем ПДД и далее вроде как очевидно, что выбор должен делаться не в пользу указанного нарушителя. Если машина может уклониться НИКЕМ не жертвуя - это хорошо, но выше-то речь не о безопасном манёвре, а именно о выборе жертвы.
Да, разумеется, будет какой-то исчезающе-ничтожный процент (со страшными абсолютными показателями, собранными по всему миру за всё время эксплуатации), когда ситуацию, ВОЗМОЖНО был шанс разрешить манёвром, угробив водителя и пассажиров, но спасая стадо малолеток (ну типовой штамп про слезинки ребёнка) но из-за этого микроскопического процента ставить под удар невиновных пассажиров, которых по той же статистике ОБЯЗАТЕЛЬНО угробит ЛЮБОЙ супер-алгоритм во вполне очевидной ситуации с нарушениями - как-то странно.

Учитывая вышеуказанное, сдаётся мне, что проблема с этим алгоритмом сильно надуманная и далеко не самая актуальная. Вот когда удастся сделать робота, исправно и безаварийно ездящего в условиях, скажем, индии или африки (на ютубе много роликов о том, насколько там "организованно" движение) - тогда уже можно будет думать о дальнейших доработках в том числе и такой вот алгоритме для исключительно редких ситуаций. Пока что куда более актуальных проблем выше крыши.

------------------
Жизнь хороша, если есть ППШ!

давить всех на...й

пс. с точки зрения ПДД, кстати, тоже единственно верное решение - нажать на тормоз и ждать... )))

Ignat
Если такое же условие перед разработчиками поставить - думаю, все разработчики дружно предпочтут тупо тормозить, нежели сидеть за неудачный манёвр своего детища

Вчера включил телек, а там наш Гарант вещает. Губы уже аж потрескались. 😊

Я как раз попал на момент о том что: автомобиль это средство повышенной опасности, и значит всегда виноват водитель (ну или получается собственник), кроме случаев когда пешеход намеренно прыгнул под колеса. ПДД имеют второстепенное значение.

Так что будет отвечать собственник по любому. Просто в будущем для покупки нужно будет подписать бумагу что мол принимаешь на себя всю ответственность за это "средство повышенной опасности". А не хочешь подписывать и отвечать -- ходи пешком, потому что никакой официал тебе тачку не продаст. И гарантийное обслуживание со своевременным обновлением прошивки тебе без такой подписи не предоставят. А эксплуатация с просроченной прошивкой уже будет как признак вины.

И ни меня ни вас не спросят.

Хотите эксплуатировать роботизированное средство повышенной опасности -- будьте любезны за него отвечать. А не хотите, то и не пользуйтесь. Вот такой будет выбор. Просто потому что так удобней для власти (для любой) на уровне общества.

Ignat
ЛЮБАЯ ситуация, выраженная в абсолютных числах даёт страшные показатели. Погуглите, сколько людей упав в ванне убиваются насмерть. Откажетесь от пользования ванной?!

Да. И есть люди которые этим занимаются. В чем смысл вашего аргумента?
Отказываться не надо. Но этот вопрос прорабатывается. Как и многие другие вопросы.

Как пример, люди "часто" роняли фен в ванну и бились током. Сейчас производители фенов и крупные пользователи (как отели) либо крепят фены к стене, на удалении от ванны, либо делают розетки дальше чем может дотянуться фен без удлинителя.

А процент тех кто роняет фен в полную ванну еще меньше чем процент тех кто поскальзывается.

Да и сами ванны и пол рядом устилают покрытием которое уменьшает вероятность подскользнуться. И много чего другого делают.

Вообще не вижу смысла в том что вы написали.

Вы хотите сказать что никто этим вопросом не занимается? Ну так ошибаетесь. Занимаются.

В чем именно смысл этого примера?

Очень многие вопросы, где вероятность происшествия мала, но абсолютные цифры велики -- очень и очень активно обсуждаются в соответствующих кругах.

Ignat
что выбор должен делаться не в пользу указанного нарушителя

Я тоже так считаю. Но на практике получается по другому.

Ignat
Пока что куда более актуальных проблем выше крыши.

И что?

Опять не вижу смысла.

Ну да. Есть проблемы более актуальные. И что дальше? Их тоже когда-то решат.

А так как мы здесь ничего не решаем, а обсуждаем свое отношение, то какая разница сегодня эту проблему "они" будут решать или завтра?

Подобные разговоры на форумах, это не обсуждение проблемы, а скорее обсуждение отношения участников форума к обсуждениям которые ведут люди которые решают проблему.

Ignat
Учитывая вышеуказанное, сдаётся мне, что проблема с этим алгоритмом сильно надуманная и далеко не самая актуальная.

carrier
даже девицы обучаемы

Alexandr13
а что в видео, а то я без звука сижу