Автоматика как фактор безопасности в современных транспортных средствах

Но если окажется, что сбил с превышением - тоже срок. В общем посадят в любом случае)))
 
И тут мы возвращаемся к самому началу темы - деградированию навыков и выпаданию из контура управления, если ведет АП, и руки на руле тут не помогут.
 
VirPil, проехав плюс/минус миллион километров за рулем деградации особо не боюсь, но АП функции в городе не пользую.
 
С одной стороны автоматика провоцирует потерю внимания.
Но с другой, она способна контролировать процесс "выпадения из контура."
 
Человек ко всему приспосабливается. Но не сразу конечно. Нужно время, усилия и желание.
 
она способна контролировать процесс "выпадения из контура."
Как? Можно смотреть в книгу, видеть фигу. Т.е. конечно, пилот/водитель смотрят вперед, моргают, но сознание летает в облаках. Какое уж тут "лететь впереди самолета/ехать впереди автомобиля".
 
Так же, как люди вычисляют тех, кто ведёт себя неадекватно.
Ситуация "автоматика не управляет самолётом; она управляет человеком, который управляет самолётом" позволит на какое-то время обойти противоречия между производителями, авиакомпаниями и пассажирами.
 
Реакции: WWs
Мда, вот совсем не в те дебри ушла тема.
Зачем обсуждать вопросы с автопилотами в автомобилях в теме про авиационную безопасность. Скажем так, это сильно разные сущности. И обсуждать их надо сильно отдельно.
В первом случае ключевой момент взаимодействие с окружающим миром - участниками движения и пр. И само по себе достаточно простой процесс управления с возможностью в случае чего остановиться.
В случае авиационной безопасности, ситуация с взаимодействием с окружающими объектами практические не стоит. Зато важны моменты погоды и контроля исправности авиационного средства.

Вот как тут можно говорить про одно и иметь ввиду другое? Надо оставить обсуждение автомобилей в этой теме
 
Лучше сразу определиться, кто главный. Человек или автоматика. Да, автоматика частенько ограничивает действия оператора. Но даже в этом случае ограничения задает и снимает другой оператор, с другим уровнем ответственности. Так что считаю, главным был и будет человек.
 
Не знаю, мне кажется, это в общем-то одно и тоже, с одними и теми же проблемами. Обсуждается как раз психология человека во взаимодействии с автоматикой, и пути ее развития, а не тонкости проектирования оных систем.

"Дети мадженты" становится актуальным и для автомобилей.
 
Ну, во первых я не нашёл подтверждения этой информации про "дообучение", и не уверен честно говоря, что оно вообще имеет место быть. ИИ или заморожен, или нет вроде как. Уважаемый Kit. может что-то поведать на эту тему? Но факт остаётся фактом. Он запоминает исправления.
Если дообучение все же существует - то при неоднократном нарушении "вес" нужной связи(нарушения) будет больше вбитого на разработке.
Не будет. Шарахнуться в сторону может, но до полосы. Не более. (кстати, не проверял при наличии прерывистой разметки. При случае попробую. Интересно стало) А про то, есть кто сзади, или нету - на данный момент всем системам которые мне удалось проверить - вообще побоку. Проблемы утопающих сзади - личное дело самих утопающих.
Угу. Именно. Могут прижаться к полосе. К примеру мерс GLC от байкера появившегося в слепой зоне на высокой скорости шарахнулся на несколько сантиметров левее. А с учётом того, что там металлический отбойник - шуганулся я некисло. Благо дурной привычки крутить руль нету. Но очень информативно. Машина сдвигается, на панели нарисован кузов машины, красным обведено место слишком близкого и быстрого движения, а на экране мультимедиа выскакивает изображение с камеры. Очень информативно. Но ОЧЕНЬ неожиданно, даже не в первый раз.
Они практически и взаимодействуют. У ауди/бмв есть функция, препятвующая открытию дверей при приближении авто/мото со стороны, при открытии двери. Она в случае приближения кого-то достаточно быстрого в этой зоне орёт, блокирует первую попытку открытия и на двери амбиентная подсветка вспыхивает ярко красным. Ну, и в зеркале тоже значок мёртвой зоны мигает. Короч, пока с первого раза дойдет, чего она "на кипише" - то, что приближалось - успеет домой доехать.
Это тренируемо. Что сильно возвращает нас к обсуждению утери навыков ручного пилотирования. Но это реально рефлекс. Точно такой-же, как отпустить педаль тормоза в некоторых ситуациях. Когда это НУЖНО сделать, а испугавшийся организм клинит ногу намертво. Очень много тренировок. Но выбивает по итогу эти вредные привычки. Но проблема возникает с неожиданной стороны. Автоматика, если видит препятствие, не даст снять свою виртуальную ногу с педали тормоза... И все твои навыки псу под хвост. Беда в том, что любая автоматика рассчитана на среднего пользователя, и настроена на минимизацию возможных последствий. Из расчёта, что 98% пользователей в такой ситуации попадут в дтп, значит нужно минимизировать риск. А те 2% которые умудрились бы в такой ситуации увернуться.... Ну чтож... "жаль этих добряков". И так во всём. Потому мне кажется, что боингисты за это и любят свои трактора, поскольку те их за дебилов не считают.
Не способна она это делать так, как нужно для принятия быстрого, а главное верного решения. Я уже описывал несколько ситуаций.
Тебе янтарным по черному пишут GEAR NOT DN, а ты сажаешь самолёт на двигатели. Зеленым по черному пишут FUEL FOB:xxxxx, и как-то там по поводу того, что мол "считай топливо сам, я всё" и ты сажаешь самолёт в поле... Человек существо достаточно бестолковое, судя по всему. И мысль о том, что его нужно вообще исключить из контура в подобных ситуациях в общем-то не на пустом месте взялась.
Суть в общем-то одна. Вводные будут разные. А концепция этих систем, и их механизм взаимодействия с человеком по-идее будут (ну или должны быть согласно эргономике) общие. Да и обработка отказа, коих ограниченное число (вот сколько деталей в самолёте, столько и максимум отказов) - сделать проще, чем заставить ездить беспилотный авто. Поэтому, мне кажется несмотря на консервативность отрасли - в первую очередь нормальные беспилотники, с хорошей статистикой появятся именно там. И часть наработок уйдёт в ГА. Что-то возможно в автомобилестроение. По крайней мере, мне так видится.
 
И кстати, еще одна возможная проблема для внедрения систем на основе ИИ в авиапром - треьовательность систем к вычислительным ресурсам, что в свою очередь потянет за собой новую, гораздо более сложную(и как следствие менее надёжную) элементную базу. Все эти новомодные обвязанные микросмд или ещё хуже BGA компонентами SoC, с техпроцессом на 3нм, "очень не очень" будут себя чувствовать в условиях повышенной радиации, вибраций и температур... Что сведёт к нулю весь профит безопасности от систем "повышенной сообразительности".
 
Сама ЧатЖПТ отрицает обучение, в том числе и режиме "бог":
О нарушении кем речь? Органическими водителями? Нарушения не будут задаваться как образец для подражания.

нормальные беспилотники, с хорошей статистикой появятся именно там.
Дело в том, что при нынешнем уровне безопасности полетов, надо набирать статистику со многих десятков миллионов полетов, причем желательно не в самых продвинутых странах. Мы так и не знает, были ли ложные срабатывания МКАС в американских компаниях, но можно предположить, что в США самолеты с дефектом датчика УА все же ремонтируют. Так что база данных с их авиакомпаний может и не содержать серьезных отказов.

Тут не вполне рефлекс. Я же не проходил никаких тренировок по лосиным тестам, так, чтобы независимо от окружения всегда объезжать. Да, это автоматически происходит, но не как отдернуть руку от горячего. Глаза поставляют информацию в мозг, он анализирует, и, пусть и не через рассуждения, принимает решения. Если есть встречная машина, или он знает, что сбоку кто-то едет, то, возможно, его решение будет другим. Хотя конечно, знать заранее нельзя. Как и в случае с ИИ.
 
Мат
Сама ЧатЖПТ отрицает обучение, в том числе и режиме "бог":
Где-то он врёт...только пока не совсем понятно где...
Ну почему-же? Если само по себе дообучение возможно впринципе, то вполне возможен вариант, что если я буду год, день в день поворачивать к примеру направо, под запрещающий сигнал светофора (что в некоторых странах европы разрешено), то рано или поздно тот вес связи, что был изначально обучен как неверный, но допустимый при определенных условиях (регион) - согласится с тем, что так можно делать. Это из серии как Китайцы взломали пентагон: каждый гражданин попробовал ввести пароль...
Почему не в самых продвинутых? У не самых как раз трафик меньше, насколько я себе представляю. Соответственно СВЖ тоже упрощается. А то, что там полосы строят и самолёты обслуживают дендрофекальным методом - для обучения в общем-то до лампочки. Имхо.
Ну так и эфиопы бы отремонтировали, если бы долетели. А база, насколько я понимаю обязана содержать все откащы, если они документированы в TCB.
Ну, я не психолог, но насколько я читал, это всё таки рефлекс. Не помню, как он называется, но что-то там связанное с безопасностью. Что-то не так - тормоз. Что-то не так сбоку - в противоположную сторону от опасности. Если на тебя бежит собака (явно не спросить как дела) то желание бежать от собаки - приходит непроизвольно. Реакция типа бей/беги. Вот тут что-то похожее.
Тем-же. Только амплитуда будет поменьше. Ну или ступор. Там вариантов не много на самом деле. Я поищу работу по этой тематике. Что-то там было по поводу "избежать явной опасности " и как раз на транспорте. Вспомнить бы ещё где искать... Много лет назад где-то читал.
Хотя конечно, знать заранее нельзя. Как и в случае с ИИ.
А вот тут я с Вами полностью согласен. Поскольку даже судя по невнятному лепету разрабов, когда ИИ что-то отчебучивает - они сами чешут репу, на предмет того, "а как собсна он это родил?" Как в том случае, когда "особо умный среди слаборазвитых" беспилотник пытался прибить оператора, поскольку тот мешал выполнять боевую задачу.

Видимо, из этих соображений:
 
Последнее редактирование модератором:
Только АП не настроен учиться на вас.

Напротив, именно в сложных условиях и надо обучать. А то с исправными самолетами и опытными диспетчерами сделать АП несложно.

и эфиопы бы отремонтировали, если бы долетели.
В ЛионЭйр уже несколько полетов жаловались, что глючит, в итоге отказало полностью.

то-то не так сбоку - в противоположную сторону от опасности.
Но если под колесами пешеход, а навстречу фура - то что выберет конкретный мозг - убийство или самоубийство сказать сложно.

Особого смысла чесать нет - никто не знает, почему так. Точнее механизм понятен - ну вот так вот подобрались значения коэффициентов нейронной сети. Далее можно либо дообучать эту, либо играться с ее структурой.
 
Только АП не настроен учиться на вас.
А на ком? Или я утратил нить.. Если возможно именно дообучение, а не апдейт на новую версию - то у кого ему ещё учится? Исключительно на пользователе. И я думаю это будет "фишкой, а не багом" мол индивидуальность и всё такое. Но покамест я не совсем понимаю возможные пути реализации. Как раз и проблема в том, что невозможно создать защищенные от изменений зоны нейросети. Т.е или учимся, или не учимся вообще.
Да, но трафик. Очереди, диспы которые просят или плестись как улитка, или лететь как ракета. А в странах, ну скажем так, развивающихся - этого как раз не будет. Соответственно условия упрощаются. Я об этом.
Насколько я помню, отказ был что раньше, что в том полете. Просто в последнем - экипаж тоже отказал.
Мозг в любом случае выбирает свою собственную ж... Жизнь. Это базовый рефлекс. Врожденный. Инстинкт самосохранения. Всё остальное "человеколюбие" это уже приобретенный. А в критической ситуации работает именно базовое.
Ну вот собственно и я о том. Что если вдруг нейросеть выдаёт странные результаты, то верифицировать её ответы, найти где именно она неправильно поняла при глубоком обучении - нереально. Поэтому "всё фигня - переделывай". А с таким подходом к безопасности, как мне кажется подходить вообще не вариант. Поэтому похоже в обозримом будущем будут системы обходится без ИИ и прочего слабоверифицируемого. Но раз качественно новый уровень автоматики создать пока не получается, городить дальше костыли из конвенциональных систем - это те самые благие намерения, которыми вымощена дорога в ад
 
Дообучение производителем на основе данных с мест, но с фильтрацией, конечно. Никто не станет брать за образец нарушение правил.

Зато будет больше отказов.

я думаю это будет "фишкой, а не багом" мол индивидуальность и всё такое.
А какая может быть индивидуальность у АП? Есть точка назначения - туда и едет строго по правилам.