Автоматика как фактор безопасности в современных транспортных средствах

[VirPil]

Но если окажется, что сбил с превышением - тоже срок. В общем посадят в любом случае)))

 

[WWs]

Но если окажется, что сбил с превышением - тоже срок. В общем посадят в любом случае)))

Не совсем так. И не в любом случае.

 

[VirPil]

И тут мы возвращаемся к самому началу темы - деградированию навыков и выпаданию из контура управления, если ведет АП, и руки на руле тут не помогут.

 

[Kwispel]

VirPil, проехав плюс/минус миллион километров за рулем деградации особо не боюсь, но АП функции в городе не пользую.

 

[VirPil]

деградации особо не боюсь

Я понимаю, что мастерство не пропьешь (даже в НГ), но из выпадание их контура точно будет.

 

[joq]

И тут мы возвращаемся к самому началу темы - деградированию навыков и выпаданию из контура управления...

С одной стороны автоматика провоцирует потерю внимания.
Но с другой, она способна контролировать процесс "выпадения из контура."

 

[constructor]

С одной стороны автоматика провоцирует потерю внимания.
Но с другой, она способна контролировать процесс "выпадения из контура."

Человек ко всему приспосабливается. Но не сразу конечно. Нужно время, усилия и желание.

 

[VirPil]

она способна контролировать процесс "выпадения из контура."

Как? Можно смотреть в книгу, видеть фигу. Т.е. конечно, пилот/водитель смотрят вперед, моргают, но сознание летает в облаках. Какое уж тут "лететь впереди самолета/ехать впереди автомобиля".

 

[joq]

Как?..

Так же, как люди вычисляют тех, кто ведёт себя неадекватно.
Ситуация "автоматика не управляет самолётом; она управляет человеком, который управляет самолётом" позволит на какое-то время обойти противоречия между производителями, авиакомпаниями и пассажирами.

 

[VS_Wing]

Мда, вот совсем не в те дебри ушла тема.
Зачем обсуждать вопросы с автопилотами в автомобилях в теме про авиационную безопасность. Скажем так, это сильно разные сущности. И обсуждать их надо сильно отдельно.
В первом случае ключевой момент взаимодействие с окружающим миром - участниками движения и пр. И само по себе достаточно простой процесс управления с возможностью в случае чего остановиться.
В случае авиационной безопасности, ситуация с взаимодействием с окружающими объектами практические не стоит. Зато важны моменты погоды и контроля исправности авиационного средства.

Вот как тут можно говорить про одно и иметь ввиду другое? Надо оставить обсуждение автомобилей в этой теме

 

[constructor]

Так же, как люди вычисляют тех, кто ведёт себя неадекватно.
Ситуация "автоматика не управляет самолётом; она управляет человеком, который управляет самолётом" позволит на какое-то время обойти противоречия между производителями, авиакомпаниями и пассажирами.

Лучше сразу определиться, кто главный. Человек или автоматика. Да, автоматика частенько ограничивает действия оператора. Но даже в этом случае ограничения задает и снимает другой оператор, с другим уровнем ответственности. Так что считаю, главным был и будет человек.

 

[VirPil]

Зачем обсуждать вопросы с автопилотами в автомобилях в теме про авиационную безопасность. Скажем так, это сильно разные сущности.

Не знаю, мне кажется, это в общем-то одно и тоже, с одними и теми же проблемами. Обсуждается как раз психология человека во взаимодействии с автоматикой, и пути ее развития, а не тонкости проектирования оных систем.

"Дети мадженты" становится актуальным и для автомобилей.

 

[VirPil]

Надо оставить обсуждение автомобилей в этой теме

Или напротив, переименовать тему в "Автоматика как фактор безопасности в современных ТС" (транспортных средствах).

 

[Virus_KNet]

Потому что в ЧатЖПТ заложено дообучение на ответах пользователей. И для дообучения АП недостаточно, чтобы он просто ездил. Нужно ему показывать, что не так, например путем вмешательства водителя в управление, и чтобы такое обучение было предусмотрено.

Ну, во первых я не нашёл подтверждения этой информации про "дообучение", и не уверен честно говоря, что оно вообще имеет место быть. ИИ или заморожен, или нет вроде как. Уважаемый Kit. может что-то поведать на эту тему? Но факт остаётся фактом. Он запоминает исправления.

Но обучение контроллируемое, например с учетом снега. Но учить нарушать правила АП не будут.

Если дообучение все же существует - то при неоднократном нарушении "вес" нужной связи(нарушения) будет больше вбитого на разработке.

К сожалению это не всегда возможно. Надо снять ногу с газа и перенести на тормоз, плюс тормозной путь. Если бы у меня не было бы привычки отслеживать обстановку и поэтому безопасно уйти влево, я бы 100% на полной скорости снес бы этого кандидата на премию Дарвина.

Думаю АП вполне может объезжать, зная, что сбоку-сзади никого нет.

Не будет. Шарахнуться в сторону может, но до полосы. Не более. (кстати, не проверял при наличии прерывистой разметки. При случае попробую. Интересно стало) А про то, есть кто сзади, или нету - на данный момент всем системам которые мне удалось проверить - вообще побоку. Проблемы утопающих сзади - личное дело самих утопающих.

Кстати, как реальные АП в машинах работают в такой ситуации? Тупо бесполезно тормозят?

Угу. Именно. Могут прижаться к полосе. К примеру мерс GLC от байкера появившегося в слепой зоне на высокой скорости шарахнулся на несколько сантиметров левее. А с учётом того, что там металлический отбойник - шуганулся я некисло. Благо дурной привычки крутить руль нету. Но очень информативно. Машина сдвигается, на панели нарисован кузов машины, красным обведено место слишком близкого и быстрого движения, а на экране мультимедиа выскакивает изображение с камеры. Очень информативно. Но ОЧЕНЬ неожиданно, даже не в первый раз.

Если рассматривать вопрос с точки зрения того, к чему надо прийти, то дверь либо не распахнётся, либо будет предупреждать о том, что сзади.
Автомобили будут взаимодействовать между собой.

Они практически и взаимодействуют. У ауди/бмв есть функция, препятвующая открытию дверей при приближении авто/мото со стороны, при открытии двери. Она в случае приближения кого-то достаточно быстрого в этой зоне орёт, блокирует первую попытку открытия и на двери амбиентная подсветка вспыхивает ярко красным. Ну, и в зеркале тоже значок мёртвой зоны мигает. Короч, пока с первого раза дойдет, чего она "на кипише" - то, что приближалось - успеет домой доехать.

Вы не понимаете. Рефлекс заставит вас дёрнуть руль и протаранить встречную машину. Потому что рефлекс работает быстрее чем мыслительные процессы.

Это тренируемо. Что сильно возвращает нас к обсуждению утери навыков ручного пилотирования. Но это реально рефлекс. Точно такой-же, как отпустить педаль тормоза в некоторых ситуациях. Когда это НУЖНО сделать, а испугавшийся организм клинит ногу намертво. Очень много тренировок. Но выбивает по итогу эти вредные привычки. Но проблема возникает с неожиданной стороны. Автоматика, если видит препятствие, не даст снять свою виртуальную ногу с педали тормоза... И все твои навыки псу под хвост. Беда в том, что любая автоматика рассчитана на среднего пользователя, и настроена на минимизацию возможных последствий. Из расчёта, что 98% пользователей в такой ситуации попадут в дтп, значит нужно минимизировать риск. А те 2% которые умудрились бы в такой ситуации увернуться.... Ну чтож... "жаль этих добряков". И так во всём. Потому мне кажется, что боингисты за это и любят свои трактора, поскольку те их за дебилов не считают.

С одной стороны автоматика провоцирует потерю внимания.
Но с другой, она способна контролировать процесс "выпадения из контура."

Не способна она это делать так, как нужно для принятия быстрого, а главное верного решения. Я уже описывал несколько ситуаций.

Так же, как люди вычисляют тех, кто ведёт себя неадекватно.
Ситуация "автоматика не управляет самолётом; она управляет человеком, который управляет самолётом" позволит на какое-то время обойти противоречия между производителями, авиакомпаниями и пассажирами.

Тебе янтарным по черному пишут GEAR NOT DN, а ты сажаешь самолёт на двигатели. Зеленым по черному пишут FUEL FOB:xxxxx, и как-то там по поводу того, что мол "считай топливо сам, я всё" и ты сажаешь самолёт в поле... Человек существо достаточно бестолковое, судя по всему. И мысль о том, что его нужно вообще исключить из контура в подобных ситуациях в общем-то не на пустом месте взялась.

Мда, вот совсем не в те дебри ушла тема.
Зачем обсуждать вопросы с автопилотами в автомобилях в теме про авиационную безопасность. Скажем так, это сильно разные сущности. И обсуждать их надо сильно отдельно.
В первом случае ключевой момент взаимодействие с окружающим миром - участниками движения и пр. И само по себе достаточно простой процесс управления с возможностью в случае чего остановиться.
В случае авиационной безопасности, ситуация с взаимодействием с окружающими объектами практические не стоит. Зато важны моменты погоды и контроля исправности авиационного средства.

Вот как тут можно говорить про одно и иметь ввиду другое? Надо оставить обсуждение автомобилей в этой теме

Суть в общем-то одна. Вводные будут разные. А концепция этих систем, и их механизм взаимодействия с человеком по-идее будут (ну или должны быть согласно эргономике) общие. Да и обработка отказа, коих ограниченное число (вот сколько деталей в самолёте, столько и максимум отказов) - сделать проще, чем заставить ездить беспилотный авто. Поэтому, мне кажется несмотря на консервативность отрасли - в первую очередь нормальные беспилотники, с хорошей статистикой появятся именно там. И часть наработок уйдёт в ГА. Что-то возможно в автомобилестроение. По крайней мере, мне так видится.

 

[Virus_KNet]

И кстати, еще одна возможная проблема для внедрения систем на основе ИИ в авиапром - треьовательность систем к вычислительным ресурсам, что в свою очередь потянет за собой новую, гораздо более сложную(и как следствие менее надёжную) элементную базу. Все эти новомодные обвязанные микросмд или ещё хуже BGA компонентами SoC, с техпроцессом на 3нм, "очень не очень" будут себя чувствовать в условиях повышенной радиации, вибраций и температур... Что сведёт к нулю весь профит безопасности от систем "повышенной сообразительности".

 

[VirPil]

я не нашёл подтверждения этой информации про "дообучение", и не уверен честно говоря, что оно вообще имеет место быть. ИИ или заморожен, или нет вроде как. Уважаемый @Kit. может что-то поведать на эту тему? Но факт остаётся фактом. Он запоминает исправления.

Сама ЧатЖПТ отрицает обучение, в том числе и режиме "бог":

Если дообучение все же существует - то при неоднократном нарушении "вес" нужной связи(нарушения) будет больше вбитого на разработке.

О нарушении кем речь? Органическими водителями? Нарушения не будут задаваться как образец для подражания.

нормальные беспилотники, с хорошей статистикой появятся именно там.

Дело в том, что при нынешнем уровне безопасности полетов, надо набирать статистику со многих десятков миллионов полетов, причем желательно не в самых продвинутых странах. Мы так и не знает, были ли ложные срабатывания МКАС в американских компаниях, но можно предположить, что в США самолеты с дефектом датчика УА все же ремонтируют. Так что база данных с их авиакомпаний может и не содержать серьезных отказов.

Рефлекс заставит вас дёрнуть руль и протаранить встречную машину. Потому что рефлекс работает быстрее чем мыслительные процессы.

Тут не вполне рефлекс. Я же не проходил никаких тренировок по лосиным тестам, так, чтобы независимо от окружения всегда объезжать. Да, это автоматически происходит, но не как отдернуть руку от горячего. Глаза поставляют информацию в мозг, он анализирует, и, пусть и не через рассуждения, принимает решения. Если есть встречная машина, или он знает, что сбоку кто-то едет, то, возможно, его решение будет другим. Хотя конечно, знать заранее нельзя. Как и в случае с ИИ.

 

[Virus_KNet]

Сама ЧатЖПТ отрицает обучение, в том числе и режиме "бог":

Где-то он врёт...только пока не совсем понятно где...

О нарушении кем речь? Органическими водителями? Нарушения не будут задаваться как образец для подражания.

Ну почему-же? Если само по себе дообучение возможно впринципе, то вполне возможен вариант, что если я буду год, день в день поворачивать к примеру направо, под запрещающий сигнал светофора (что в некоторых странах европы разрешено), то рано или поздно тот вес связи, что был изначально обучен как неверный, но допустимый при определенных условиях (регион) - согласится с тем, что так можно делать. Это из серии как Китайцы взломали пентагон: каждый гражданин попробовал ввести пароль...

Дело в том, что при нынешнем уровне безопасности полетов, надо набирать статистику со многих десятков миллионов полетов, причем желательно не в самых продвинутых странах.

Почему не в самых продвинутых? У не самых как раз трафик меньше, насколько я себе представляю. Соответственно СВЖ тоже упрощается. А то, что там полосы строят и самолёты обслуживают дендрофекальным методом - для обучения в общем-то до лампочки. Имхо.

Мы так и не знает, были ли ложные срабатывания МКАС в американских компаниях, но можно предположить, что в США самолеты с дефектом датчика УА все же ремонтируют. Так что база данных с их авиакомпаний может и не содержать серьезных отказов.

Ну так и эфиопы бы отремонтировали, если бы долетели. А база, насколько я понимаю обязана содержать все откащы, если они документированы в TCB.

Тут не вполне рефлекс. Я же не проходил никаких тренировок по лосиным тестам, так, чтобы независимо от окружения всегда объезжать. Да, это автоматически происходит, но не как отдернуть руку от горячего.

Ну, я не психолог, но насколько я читал, это всё таки рефлекс. Не помню, как он называется, но что-то там связанное с безопасностью. Что-то не так - тормоз. Что-то не так сбоку - в противоположную сторону от опасности. Если на тебя бежит собака (явно не спросить как дела) то желание бежать от собаки - приходит непроизвольно. Реакция типа бей/беги. Вот тут что-то похожее.

Глаза поставляют информацию в мозг, он анализирует, и, пусть и не через рассуждения, принимает решения. Если есть встречная машина, или он знает, что сбоку кто-то едет, то, возможно, его решение будет другим.

Тем-же. Только амплитуда будет поменьше. Ну или ступор. Там вариантов не много на самом деле. Я поищу работу по этой тематике. Что-то там было по поводу "избежать явной опасности " и как раз на транспорте. Вспомнить бы ещё где искать... Много лет назад где-то читал.

Хотя конечно, знать заранее нельзя. Как и в случае с ИИ.

А вот тут я с Вами полностью согласен. Поскольку даже судя по невнятному лепету разрабов, когда ИИ что-то отчебучивает - они сами чешут репу, на предмет того, "а как собсна он это родил?" Как в том случае, когда "особо умный среди слаборазвитых" беспилотник пытался прибить оператора, поскольку тот мешал выполнять боевую задачу.

Видимо, из этих соображений:

Во избежание...

 

[VirPil]

Если само по себе дообучение возможно впринципе, то вполне возможен вариант, что если я буду год, день в день поворачивать к примеру направо, под запрещающий сигнал светофора (что в некоторых странах европы разрешено), то рано или поздно тот вес связи, что был изначально обучен как неверный, но допустимый при определенных условиях (регион) - согласится с тем, что так можно делать.

Только АП не настроен учиться на вас.

А то, что там полосы строят и самолёты обслуживают дендрофекальным методом - для обучения в общем-то до лампочки.

Напротив, именно в сложных условиях и надо обучать. А то с исправными самолетами и опытными диспетчерами сделать АП несложно.

и эфиопы бы отремонтировали, если бы долетели.

В ЛионЭйр уже несколько полетов жаловались, что глючит, в итоге отказало полностью.

то-то не так сбоку - в противоположную сторону от опасности.

Но если под колесами пешеход, а навстречу фура - то что выберет конкретный мозг - убийство или самоубийство сказать сложно.

судя по невнятному лепету разрабов, когда ИИ что-то отчебучивает - они сами чешут репу, на предмет того, "а как собсна он это родил?"

Особого смысла чесать нет - никто не знает, почему так. Точнее механизм понятен - ну вот так вот подобрались значения коэффициентов нейронной сети. Далее можно либо дообучать эту, либо играться с ее структурой.

 

[Virus_KNet]

Только АП не настроен учиться на вас.

А на ком? Или я утратил нить.. Если возможно именно дообучение, а не апдейт на новую версию - то у кого ему ещё учится? Исключительно на пользователе. И я думаю это будет "фишкой, а не багом" мол индивидуальность и всё такое. Но покамест я не совсем понимаю возможные пути реализации. Как раз и проблема в том, что невозможно создать защищенные от изменений зоны нейросети. Т.е или учимся, или не учимся вообще.

Напротив, именно в сложных условиях и надо обучать. А то с исправными самолетами и опытными диспетчерами сделать АП несложно.

Да, но трафик. Очереди, диспы которые просят или плестись как улитка, или лететь как ракета. А в странах, ну скажем так, развивающихся - этого как раз не будет. Соответственно условия упрощаются. Я об этом.

В ЛионЭйр уже несколько полетов жаловались, что глючит, в итоге отказало полностью.

Насколько я помню, отказ был что раньше, что в том полете. Просто в последнем - экипаж тоже отказал.

Но если под колесами пешеход, а навстречу фура - то что выберет конкретный мозг - убийство или самоубийство сказать сложно.

Мозг в любом случае выбирает свою собственную ж... Жизнь. Это базовый рефлекс. Врожденный. Инстинкт самосохранения. Всё остальное "человеколюбие" это уже приобретенный. А в критической ситуации работает именно базовое.

Особого смысла чесать нет - никто не знает, почему так. Точнее механизм понятен - ну вот так вот подобрались значения коэффициентов нейронной сети. Далее можно либо дообучать эту, либо играться с ее структурой.

Ну вот собственно и я о том. Что если вдруг нейросеть выдаёт странные результаты, то верифицировать её ответы, найти где именно она неправильно поняла при глубоком обучении - нереально. Поэтому "всё фигня - переделывай". А с таким подходом к безопасности, как мне кажется подходить вообще не вариант. Поэтому похоже в обозримом будущем будут системы обходится без ИИ и прочего слабоверифицируемого. Но раз качественно новый уровень автоматики создать пока не получается, городить дальше костыли из конвенциональных систем - это те самые благие намерения, которыми вымощена дорога в ад

 

[VirPil]

Если возможно именно дообучение, а не апдейт на новую версию - то у кого ему ещё учится?

Дообучение производителем на основе данных с мест, но с фильтрацией, конечно. Никто не станет брать за образец нарушение правил.

Очереди, диспы которые просят или плестись как улитка, или лететь как ракета. А в странах, ну скажем так, развивающихся - этого как раз не будет

Зато будет больше отказов.

я думаю это будет "фишкой, а не багом" мол индивидуальность и всё такое.

А какая может быть индивидуальность у АП? Есть точка назначения - туда и едет строго по правилам.