![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
vit_rВ местной бесплатной газете "Züricher Unterländer" за 25 октября 2018 на странице 23 короткая статья про очень важное событие. Пардон, терминов на русском не знаю, так что вставлю оригинальные.
Мужик из Aargau ехал по автобану A1 на Фольксвагене. Перед ним Мазда затормозила из-за пробки. Его Fahrassistent (advanced driver-assistance system) начал тормозить, а потом ускорился и въехал в Мазду. Как выяснилось из-за дефекта Abstandsregler (distance control). Водитель заметил ошибку в вождении, но не сумел среагировать.
Суды решали, кто виноват: водитель или автомобиль.
Züricher Obergericht (высший суд кантона Цюрих) постановил, что подобные системы созданы для поддержки водителя, но не для передачи им контроля. В результате, виноват водитель, который не уделял должное внимание обстановке на дороге.
Отсюда следуют два интересных вывода.
Во-первых, за действия роботов отвечает их хозяин. Не смотря на то, что это система в себе с собственной волей и неизвестными заскоками. Поручив что-то опасное роботу, нельзя расслабляться.
Во-вторых, у автоконцернов очень хорошие адвокаты.
Короче, ждём на дорогах китайские машины-убийцы. (Люди, делавшие автопроизводителям из Поднебесной софт, много нехорошего рассказывают про их экономию на безопасности.)
Тут ещё накладывается проблема операторов.
В системах, где человек должен среагировать на выход автоматического процесса в нештатную ситуацию, приходится постоянно добавлять стимулы, иначе рутинные показания приборов настолько снижают внимание оператора, что он не успевает среагировать или вообще не замечает ошибку.
Грубо говоря, чтобы водитель в критической ситуации сумел взять на себя управление и не оказался за решёткой, он должен быть постоянно занят чем-то, сопоставимым по напряжению внимания с ручным вождением.
Шах и мат.
И не забывайте, что у автоконцернов хороши не только адвокаты, но и пресслужбы. Плюс в большинстве случаев дешевле договориться на тихие досудебные выплаты. Без уведомления журналистов.
И это гораздо дешевле, чем добирать оставшиеся проценты до приемлемой безопасности, потому что на этом участке цена разработки растёт экспоненциально.
В принципе, автоконцерны должны были анализировать нестандартные случаи и разрабатывать математическую теорию аварий. На мой взгляд, только это даёт надежду довести быстродействие до нужных параметров и убрать немотивированные срабатывания, которые мешают комфортной езде в нормальной ситуации. Но это дико дорогой и дико сложный проект, который не по зубам для современных разработчиков в этой области. Проще кормить нейрональные сетки случайными наборами данных.
Мужик из Aargau ехал по автобану A1 на Фольксвагене. Перед ним Мазда затормозила из-за пробки. Его Fahrassistent (advanced driver-assistance system) начал тормозить, а потом ускорился и въехал в Мазду. Как выяснилось из-за дефекта Abstandsregler (distance control). Водитель заметил ошибку в вождении, но не сумел среагировать.
Суды решали, кто виноват: водитель или автомобиль.
Züricher Obergericht (высший суд кантона Цюрих) постановил, что подобные системы созданы для поддержки водителя, но не для передачи им контроля. В результате, виноват водитель, который не уделял должное внимание обстановке на дороге.
Отсюда следуют два интересных вывода.
Во-первых, за действия роботов отвечает их хозяин. Не смотря на то, что это система в себе с собственной волей и неизвестными заскоками. Поручив что-то опасное роботу, нельзя расслабляться.
Во-вторых, у автоконцернов очень хорошие адвокаты.
Короче, ждём на дорогах китайские машины-убийцы. (Люди, делавшие автопроизводителям из Поднебесной софт, много нехорошего рассказывают про их экономию на безопасности.)
Тут ещё накладывается проблема операторов.
В системах, где человек должен среагировать на выход автоматического процесса в нештатную ситуацию, приходится постоянно добавлять стимулы, иначе рутинные показания приборов настолько снижают внимание оператора, что он не успевает среагировать или вообще не замечает ошибку.
Грубо говоря, чтобы водитель в критической ситуации сумел взять на себя управление и не оказался за решёткой, он должен быть постоянно занят чем-то, сопоставимым по напряжению внимания с ручным вождением.
Шах и мат.
И не забывайте, что у автоконцернов хороши не только адвокаты, но и пресслужбы. Плюс в большинстве случаев дешевле договориться на тихие досудебные выплаты. Без уведомления журналистов.
И это гораздо дешевле, чем добирать оставшиеся проценты до приемлемой безопасности, потому что на этом участке цена разработки растёт экспоненциально.
В принципе, автоконцерны должны были анализировать нестандартные случаи и разрабатывать математическую теорию аварий. На мой взгляд, только это даёт надежду довести быстродействие до нужных параметров и убрать немотивированные срабатывания, которые мешают комфортной езде в нормальной ситуации. Но это дико дорогой и дико сложный проект, который не по зубам для современных разработчиков в этой области. Проще кормить нейрональные сетки случайными наборами данных.
