![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
vit_rВ местной бесплатной газете "Züricher Unterländer" за 25 октября 2018 на странице 23 короткая статья про очень важное событие. Пардон, терминов на русском не знаю, так что вставлю оригинальные.
Мужик из Aargau ехал по автобану A1 на Фольксвагене. Перед ним Мазда затормозила из-за пробки. Его Fahrassistent (advanced driver-assistance system) начал тормозить, а потом ускорился и въехал в Мазду. Как выяснилось из-за дефекта Abstandsregler (distance control). Водитель заметил ошибку в вождении, но не сумел среагировать.
Суды решали, кто виноват: водитель или автомобиль.
Züricher Obergericht (высший суд кантона Цюрих) постановил, что подобные системы созданы для поддержки водителя, но не для передачи им контроля. В результате, виноват водитель, который не уделял должное внимание обстановке на дороге.
Отсюда следуют два интересных вывода.
Во-первых, за действия роботов отвечает их хозяин. Не смотря на то, что это система в себе с собственной волей и неизвестными заскоками. Поручив что-то опасное роботу, нельзя расслабляться.
Во-вторых, у автоконцернов очень хорошие адвокаты.
Короче, ждём на дорогах китайские машины-убийцы. (Люди, делавшие автопроизводителям из Поднебесной софт, много нехорошего рассказывают про их экономию на безопасности.)
Тут ещё накладывается проблема операторов.
В системах, где человек должен среагировать на выход автоматического процесса в нештатную ситуацию, приходится постоянно добавлять стимулы, иначе рутинные показания приборов настолько снижают внимание оператора, что он не успевает среагировать или вообще не замечает ошибку.
Грубо говоря, чтобы водитель в критической ситуации сумел взять на себя управление и не оказался за решёткой, он должен быть постоянно занят чем-то, сопоставимым по напряжению внимания с ручным вождением.
Шах и мат.
И не забывайте, что у автоконцернов хороши не только адвокаты, но и пресслужбы. Плюс в большинстве случаев дешевле договориться на тихие досудебные выплаты. Без уведомления журналистов.
И это гораздо дешевле, чем добирать оставшиеся проценты до приемлемой безопасности, потому что на этом участке цена разработки растёт экспоненциально.
В принципе, автоконцерны должны были анализировать нестандартные случаи и разрабатывать математическую теорию аварий. На мой взгляд, только это даёт надежду довести быстродействие до нужных параметров и убрать немотивированные срабатывания, которые мешают комфортной езде в нормальной ситуации. Но это дико дорогой и дико сложный проект, который не по зубам для современных разработчиков в этой области. Проще кормить нейрональные сетки случайными наборами данных.
Мужик из Aargau ехал по автобану A1 на Фольксвагене. Перед ним Мазда затормозила из-за пробки. Его Fahrassistent (advanced driver-assistance system) начал тормозить, а потом ускорился и въехал в Мазду. Как выяснилось из-за дефекта Abstandsregler (distance control). Водитель заметил ошибку в вождении, но не сумел среагировать.
Суды решали, кто виноват: водитель или автомобиль.
Züricher Obergericht (высший суд кантона Цюрих) постановил, что подобные системы созданы для поддержки водителя, но не для передачи им контроля. В результате, виноват водитель, который не уделял должное внимание обстановке на дороге.
Отсюда следуют два интересных вывода.
Во-первых, за действия роботов отвечает их хозяин. Не смотря на то, что это система в себе с собственной волей и неизвестными заскоками. Поручив что-то опасное роботу, нельзя расслабляться.
Во-вторых, у автоконцернов очень хорошие адвокаты.
Короче, ждём на дорогах китайские машины-убийцы. (Люди, делавшие автопроизводителям из Поднебесной софт, много нехорошего рассказывают про их экономию на безопасности.)
Тут ещё накладывается проблема операторов.
В системах, где человек должен среагировать на выход автоматического процесса в нештатную ситуацию, приходится постоянно добавлять стимулы, иначе рутинные показания приборов настолько снижают внимание оператора, что он не успевает среагировать или вообще не замечает ошибку.
Грубо говоря, чтобы водитель в критической ситуации сумел взять на себя управление и не оказался за решёткой, он должен быть постоянно занят чем-то, сопоставимым по напряжению внимания с ручным вождением.
Шах и мат.
И не забывайте, что у автоконцернов хороши не только адвокаты, но и пресслужбы. Плюс в большинстве случаев дешевле договориться на тихие досудебные выплаты. Без уведомления журналистов.
И это гораздо дешевле, чем добирать оставшиеся проценты до приемлемой безопасности, потому что на этом участке цена разработки растёт экспоненциально.
В принципе, автоконцерны должны были анализировать нестандартные случаи и разрабатывать математическую теорию аварий. На мой взгляд, только это даёт надежду довести быстродействие до нужных параметров и убрать немотивированные срабатывания, которые мешают комфортной езде в нормальной ситуации. Но это дико дорогой и дико сложный проект, который не по зубам для современных разработчиков в этой области. Проще кормить нейрональные сетки случайными наборами данных.
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
no subject
Date: 2018-10-26 10:05 am (UTC)no subject
Date: 2018-10-26 10:19 am (UTC)И, опять же, люди верят рекламе и не следят за невнятными сообщениями о том, что где-то у кого-то что-то не сработало. Даже в социальных сетях можно бороться с нежелательной информацией. Весь вопрос только в бюджете. А он у автопроизводителей есть.
no subject
Date: 2018-10-26 12:05 pm (UTC)Вы, я, Ваши и мои подписчики - скорее всего так и будем всегда ездить, используя ИИ в качестве, максимум, удобного помощника.
Но 86% - будут врубать его всегда, ибо удобно.
Нейросети быстро адаптируются к большинству, и уже мы, кожаные мешки, станем источником повышеной опасности. :)
no subject
Date: 2018-10-26 12:14 pm (UTC)Основной прогресс в нейросетях идёт сейчас на правовом поле. Когда роботам разрешать убивать людей, начнётся массовое использование. А жертвы попадут просто в "небольшую статистическую ошибку".
no subject
Date: 2018-10-26 12:46 pm (UTC)дальномер
> Fahassistent (advanced driver-assistance system)
БМВ переводят как Системы помощи водителю
https://www.bmw.by/ru/all-models/x-series/X6/2014/driverassistance.html
no subject
Date: 2018-10-26 12:57 pm (UTC)Насчёт же перевода БМВ, там чуть ниже "ассистент водителя".
Но, в общем, не суть важно. В статье тоже использованы не те варианты терминов, которые идут в специальной литературе.