![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
vit_rНемного про роботов и жизнь с ними. Напишу сейчас основные пункты, потому что не знаю, когда будет время вернуться к вопросу.
Индустрия автопрома затеяла грандиозное мошенничество. Доплатив кучу бабла, человек превращается из водителя не в пассажира (как намекает реклама), а в оператора автопилота (как говорят не только здравый смысл, но и законы).
Современные лётчики во многом операторы автопилотов. Их специально готовят и сажают в кабину не для того, чтобы объявлять приветствия пассажирам, а чтобы они включали мозг, если параметры полёта выйдут из тех режимов, в которых компьютеры надёжно работают.
Компьютер работает по алгоритмам, но не может создавать алгоритмы. Для этого нужно знание контекста и понимание логики процессов.
Робот работает по заданным моделям. Человек создаёт модели или выбирает из возможных моделей ту, которая может дать наиболее благоприятный исход.
К сожалению, автоматизация приводит к потере контроля из-за иллюзий переоценки возможностей роботов. Хорошо тренированные пилоты быстро ориентируются и сажают самолёт при отказе критических систем. Плохо тренированные пилоты впадают в панику или просто не понимают происходящее и разбиваются вместе с самолётом из-за совершеннейшей ерунды, исправить которую можно было просто переключив нужный тумблер.
Вторая проблема заключается в том, что в нештатной ситуации роботы часто не могут дать человеку информацию о том, что параметры процесса вышли из области нормальных значений. Есть сообщения, что именно с этого началась авария в Чернобыле. Операторы не видели ухода в нештатный режим просто потому, что в системе не были предусмотрены индикаторы для этого случая. График, ушедший за верхний обрез экрана воспринимается как лежащий на нуле. Стрелка, упёршаяся в ограничение выдаёт только максимальное значение. Камера автопилота машины не распознаёт погнутый знак.
И роботы не предупреждают, что просто не могут выдать правильную информацию.
Третья (и самая критичная для маркетинга) проблема автоматизации -- это стресс. Работа оператора автопилота автомобиля по стрессу примерно равна диспетчеру воздушного движения, однако у диспетчеров есть специальные психологически выверенные рекомендации и средства, позволяющие сохранять внимание и скорость реакции.
В древние времена, когда мальчики-зайчики сорока лет и девочки-припевочки с докторскими степенями ещё не заполонили все щели, в психологии был раздел HCI (human-computer interaction), который входил в более широкий раздел под названием "эргономика".
Работа оператора -- это совершенно специфическая задача с очень нетривиальными проблемами. Ошибки оператора просто обусловлены режимом работы и в интерфейс между человеком и компьютером нужно добавлять специфические процессы, которые позволяют снизить вероятность таких ошибок. Естественно, люди, программирующие статистические методы для автомобилей, просто игнорируют этот аспект, даже если чего-то про эти проблемы знают.
Заметьте, на водителя учат и заставляют подтверждать теоретические знания и практические умения.
Операторов автопилотов автомобилей не учат, не проверяют и не отбирают по здоровью и психологическим характеристикам.
Короче, пересадить "обычных водителей" в машины с автопилотом будет аналогично замене диспетчеров в башне управления полётом на стадо мартышек.
Естественно, у концернов, продающих автомобили-убийцы, есть замечательные адвокаты, которые быстро и ловко докажут, что я совершенно не прав.
Индустрия автопрома затеяла грандиозное мошенничество. Доплатив кучу бабла, человек превращается из водителя не в пассажира (как намекает реклама), а в оператора автопилота (как говорят не только здравый смысл, но и законы).
Современные лётчики во многом операторы автопилотов. Их специально готовят и сажают в кабину не для того, чтобы объявлять приветствия пассажирам, а чтобы они включали мозг, если параметры полёта выйдут из тех режимов, в которых компьютеры надёжно работают.
Компьютер работает по алгоритмам, но не может создавать алгоритмы. Для этого нужно знание контекста и понимание логики процессов.
Робот работает по заданным моделям. Человек создаёт модели или выбирает из возможных моделей ту, которая может дать наиболее благоприятный исход.
К сожалению, автоматизация приводит к потере контроля из-за иллюзий переоценки возможностей роботов. Хорошо тренированные пилоты быстро ориентируются и сажают самолёт при отказе критических систем. Плохо тренированные пилоты впадают в панику или просто не понимают происходящее и разбиваются вместе с самолётом из-за совершеннейшей ерунды, исправить которую можно было просто переключив нужный тумблер.
Вторая проблема заключается в том, что в нештатной ситуации роботы часто не могут дать человеку информацию о том, что параметры процесса вышли из области нормальных значений. Есть сообщения, что именно с этого началась авария в Чернобыле. Операторы не видели ухода в нештатный режим просто потому, что в системе не были предусмотрены индикаторы для этого случая. График, ушедший за верхний обрез экрана воспринимается как лежащий на нуле. Стрелка, упёршаяся в ограничение выдаёт только максимальное значение. Камера автопилота машины не распознаёт погнутый знак.
И роботы не предупреждают, что просто не могут выдать правильную информацию.
Третья (и самая критичная для маркетинга) проблема автоматизации -- это стресс. Работа оператора автопилота автомобиля по стрессу примерно равна диспетчеру воздушного движения, однако у диспетчеров есть специальные психологически выверенные рекомендации и средства, позволяющие сохранять внимание и скорость реакции.
В древние времена, когда мальчики-зайчики сорока лет и девочки-припевочки с докторскими степенями ещё не заполонили все щели, в психологии был раздел HCI (human-computer interaction), который входил в более широкий раздел под названием "эргономика".
Работа оператора -- это совершенно специфическая задача с очень нетривиальными проблемами. Ошибки оператора просто обусловлены режимом работы и в интерфейс между человеком и компьютером нужно добавлять специфические процессы, которые позволяют снизить вероятность таких ошибок. Естественно, люди, программирующие статистические методы для автомобилей, просто игнорируют этот аспект, даже если чего-то про эти проблемы знают.
Заметьте, на водителя учат и заставляют подтверждать теоретические знания и практические умения.
Операторов автопилотов автомобилей не учат, не проверяют и не отбирают по здоровью и психологическим характеристикам.
Короче, пересадить "обычных водителей" в машины с автопилотом будет аналогично замене диспетчеров в башне управления полётом на стадо мартышек.
Естественно, у концернов, продающих автомобили-убийцы, есть замечательные адвокаты, которые быстро и ловко докажут, что я совершенно не прав.
no subject
Date: 2020-09-01 12:30 pm (UTC)no subject
Date: 2020-09-01 12:36 pm (UTC)no subject
Date: 2020-09-01 12:41 pm (UTC)А потом удивляются, что размерности индикаторов не хватило.
no subject
Date: 2020-09-01 01:09 pm (UTC)(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:no subject
Date: 2020-09-01 02:54 pm (UTC)Оох, давно у меня так не подгорало.
Оператор АЕС нарушает прямой запрет из инструкции!
Оператор атомной електростанции.
Нет слов.
(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(frozen) (no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:no subject
Date: 2020-09-01 08:03 pm (UTC)(no subject)
From:(no subject)
From:no subject
Date: 2020-09-01 02:53 pm (UTC)Справедливо. А что делать?
И роботы эти, их люди проектировали. Те самые, которым важно было вовремя выполнить план, запрограммировав только happy path.
no subject
Date: 2020-09-01 03:32 pm (UTC)Специально же предупредил. Это не более чем список пунктов, чтобы было куда посылать, когда опять зайдёт разговор о самобеглых электрических и очень умных повозках.
no subject
Date: 2020-09-01 04:01 pm (UTC)Как говорили советские кибернетики еще в начале 70-х, чтобы создать искусственный интеллект, нужно иметь естественный.
(no subject)
From:no subject
Date: 2020-09-01 04:57 pm (UTC)Строить нормальный общественный транспорт. Скоростные трамваи, троллейбусы (в Крыму они очень быстро ездят и на большие расстояния).
Разумеется, ставить туда автопилот и сажать на водительское место специально подготовленных операторов автопилота.
Добавлю, чтобы было понятно. По городу Новосибирску я передвигаюсь почти исключительно на такси. Это не столь дёшево, но лучше и быстрее, чем лезть в маршрутку с пованивающими согражданами. Вдобавок, мне хватило поездок в маршрутках-газелях в прошлом, когда я, с моими 190см роста, был вынужден ехать там стоя.
Однако же на метро я езжу с удовольствием, там где есть метро, конечно.
А чтобы ездить на метро, нужно чтобы оно было. Чтобы граждане не воняли, нужно чтобы у них была горячая вода и время ей воспользоваться. В общем, как это ни странно, нужно улучшать жизнь людей и стремиться к общему благу, и в последние годы власти РФ этим совсем не занимаются.
Как противоположный полюс я могу предложить следующее: каждый гражданин не только покупает себе личный автомобиль, но ещё и бурит личную скважину под воду. Причём хорошо бы иных сторонников подхода "всё должно быть только личное" именно что заставить такие скважины бурить, с помощью палки и столовой вилки, где-нибудь в тундре.
no subject
Date: 2020-09-01 05:23 pm (UTC)Мне иногда хочется свою скважину. Но площади жалко. И денег.
no subject
Date: 2020-09-01 08:17 pm (UTC)Джихад такси с дешевым автопилотом уже придумано.
Вин-вин стратегия. Одобряю левый движ.
Общественные бани еще работают? У нас да.
no subject
Date: 2020-09-01 08:18 pm (UTC)no subject
Date: 2020-09-01 07:31 pm (UTC)Это, кстати, довольно давно началось. Еще до широкодоступных бытовых роботов. Я просто помню кучу методических статей по теме "как обрабатывать ошибки" краткая выжимка из которых сводилась к "просто киньте исключение и поймайте его — ну вот, обработали!". В результате толпа идиотов кодировала только тот самый happy path ну и всё на этом, а если сломается — у нас же есть исключения!
И это проникло куда-то в базовые установки.
А еще наставления специалистов по UX, говорящие о том, что
идиота за клавиатуройюзера лишний раз нервировать не надо, и в результате "ой! что-то пошло не так! но толпа специально обученных макак сейчас всё быстро исправит" — это теперь лучшее сообщение об ошибке, которое можно получить.no subject
Date: 2020-09-01 07:44 pm (UTC)no subject
Date: 2020-09-01 07:45 pm (UTC)no subject
Date: 2020-09-01 08:21 pm (UTC)no subject
Date: 2020-09-01 08:03 pm (UTC)на это никого готовить не будут принципиально
no subject
Date: 2020-09-01 08:17 pm (UTC)no subject
Date: 2020-09-01 08:22 pm (UTC)читали инструкции и смогли разбраться
(no subject)
From:(no subject)
From:no subject
Date: 2020-09-01 08:06 pm (UTC)вариант непроектной аварии.
no subject
Date: 2020-09-02 07:01 am (UTC)Volvo писала, что они будут брать ответственность на себя. Tesla обещала robotaxi, там у человека даже не будет возможности быть оператором.
no subject
Date: 2020-09-02 07:45 am (UTC)Представляю, чувства смертников в робо-такси, не имеющих возможность нажать на тормоз и несущихся на 200+ по встречной полосе автобана после того как Тесла обновила автопилоту прошивку.
no subject
Date: 2020-09-02 12:12 pm (UTC)(no subject)
From:no subject
Date: 2020-09-02 04:36 pm (UTC)Пост ведь не про то, что индустрия автопрома слишком много обещает. Он про то, что индустрия автопрома не знает разницу между "водитель" и "оператор автопилота". Они это прекрасно знают.