Человеческий фактор vs искусственный интеллект

Напомню, что когда случилось это «вроде», пилотов было двое, а до этого вполне возможно, что втыкали осознанно и имея в кабине троих, а то и четверых
))) в момент втыкания вроде только один? Мне казалось потом появилось правило, что если один из пилотов вышел, то в кабину должна зайти стюардесса?
 
Реклама
Обычная машина может ошибаться
В том то и проблема, что машина ошибаться не может. У нее логика "если - то". Т.е. любая "ошибка" такой машины, это недоработка ее создателя.
В случае с ИИ мы, к неопределенности реакций "живого интеллекта", добавляем риски недоработанности конструкции. Очень грубо: по панелям кокпита пробежала какая-то странная вибрация. Человек заметит, а ИИ, если не догадались поставить соответствующий датчик, о ней даже не узнает...
 
))) в момент втыкания вроде только один? Мне казалось потом появилось правило, что если один из пилотов вышел, то в кабину должна зайти стюардесса?
Ваше вроде и настоящие вроде - не синонимы. Втыкали и у сингапурских и, чтоб далеко не ходить, вполне возможно и малазийский 777 и в Марокко, и в Японии и по пути в Египет из Нью Йорка. И это только за последние четверть века
 
Когда-то и на Марс будут летать как ныне через Атлантику. Сейчас делают первые шаги. Когда-то ведь и приборы в кабине считались фантастикой и предавались анафеме.
Как бы да. Процесс совершенствования техники идет. Так что основным новым этапом скорее будет отсутствие пилотов в кабине. Не во всех самолетах и не на всех рейсах, разумеется. Но в массовом сегменте перевозок автоматизируют, надо полагать.
 
В том то и проблема, что машина ошибаться не может. У нее логика "если - то". Т.е. любая "ошибка" такой машины, это недоработка ее создателя.
В случае с ИИ мы, к неопределенности реакций "живого интеллекта", добавляем риски недоработанности конструкции. Очень грубо: по панелям кокпита пробежала какая-то странная вибрация. Человек заметит, а ИИ, если не догадались поставить соответствующий датчик, о ней даже не узнает...
Ошибка ошибке рознь. Современная надежная техника всё же отказывает иногда, и ошибкой мы это не считаем. Ошибки разработчиков бывают, и их устраняют тщательным тестированием. Потом ещё есть ограничения на условия эксплуатации, и это весьма обширная область. Тут и погода, и отклонения в работе самолетных систем. Трудно и затратно предусмотреть все возможные варианты. Что до ИИ, так это очень сложная автоматика, не более. Ничего человеческого в ней нет. Она не склонна экспериментировать. Хотя, это может быть заложено в неё путем псевдослучайного выбора вариантов действий.
 
Как бы да. Процесс совершенствования техники идет. Так что основным новым этапом скорее будет отсутствие пилотов в кабине. Не во всех самолетах и не на всех рейсах, разумеется. Но в массовом сегменте перевозок автоматизируют, надо полагать.
Когда-то конечно да. Может юные участники форума до этого и доживут. Я, слава богу, нет-)
 
Вы не поняли. Я не говорю о физической надёжности. Я говорю именно о том, что нейросеть, как и человек умеет ошибаться и не понимать этого. Как и человек. И это принципиальное отличие от обычной машины, работающей на основе алгоритмов. Алгоритмы могут быть либо ошибочны, либо нет, из можно совершенствовать и проверять. Нейросеть будет ошибаться, как и человек, даже если сто раз до этого сработает нормально. Ошибки нейросети, как и человека, носят вероятностный, а не алгоритмический характер. И пока нет никакой уверенности, что чем "умнее" будет становиться сеть, тем безошибочнее она будет.
Все это совершенно понятно. Но нейросеть для управления самолётом не так уж и умна, думаю, сети, решающие прикладные задачи уже сейчас, не глупее нужной самолёту. Они вполне стабильно решают поставленные перед ними задачи. К таким сетям термин "не понимать, что она ошибается", совершенно неприменим. Наверное, можно представить, что может сложиться набор параметров в полете, с которыми такая сеть не справится и завалит самолёт. Дальше лишь вопрос, чаще ли она будет попадать в такие ситуации, чем люди. Думаю, почти наверняка реже, и проблема скорее в ее физическом отказе: провод где то отошёл от блока питания, и самолёту хана.
Ошибки разработчиков бывают, и их устраняют тщательным тестированием.
Их устраняют наличием пилота. Чуть что - вся автоматизация отрубается, извольте рулить руками)
Хотя, это может быть заложено в неё путем псевдослучайного выбора вариантов действий.
Не уверен, что в нейронке, управляющей самолетом или автомобилем, есть место случайному выбору вариантов. Это в лингвистических моделях для "творчества" закладывают
 
Что до ИИ, так это очень сложная автоматика, не более
Нейронка - это нейронка.она работает не так как автоматика.

Но нейросеть для управления самолётом не так уж и умна, думаю, сети, решающие прикладные задачи уже сейчас, не глупее нужной самолёту. Они вполне стабильно решают поставленные перед ними задачи
Да не то, чтобы много прикладных задач решают нейросети и не то, чтобы стабильно. Практически в каждом применении, от автомобилей и распознавания изображений, до медицины и языковых моделей на практике у нейросетей оказалась куча узких мест, из-за которых они жутко лажают и пока не очень понятно, что с этим делать. Нейросеть похожа на человека в том, что ты её учишь, учишь, она сдает экзамен, а потом бац и косячит хз почему 🤷

Не уверен, что в нейронке, управляющей самолетом или автомобилем, есть место случайному выбору вариантов
Ну тут вопрос терминологии. Решения нейросети имеют вероятностный характер и создатель никогда не знает и не может узнать как она поступит в следующий раз даже в похожей ситуации. Можно не называть это случайным повелением, но и детерминирован точно не назовешь )
 
Ну тут вопрос терминологии. Решения нейросети имеют вероятностный характер и создатель никогда не знает и не может узнать как она поступит в следующий раз даже в похожей ситуации. Можно не называть это случайным повелением, но и детерминирован точно не назовешь )
Не знает априори это да. Но ведь узнает апостериори. Для того сеть и делают, чтобы узнавать её реакцию.
 
Не знает априори это да. Но ведь узнает апостериори. Для того сеть и делают, чтобы узнавать её реакцию.
Но это ответ может быть другим в следующий раз (речь, конечно, о сложной ситуации), поэтому "экзамен"/тест никогда не гарантирует, что всякий раз вас устроит тот ответ, что вы услышите апостериори )
 
Реклама
Но это ответ может быть другим в следующий раз (речь, конечно, о сложной ситуации), поэтому "экзамен"/тест никогда не гарантирует, что всякий раз вас устроит тот ответ, что вы услышите апостериори )
Так и вот. Чем сложнее программа, тем больше требуется объем испытаний.
 
Так и вот. Чем сложнее программа, тем больше требуется объем испытаний.
Ну эт понятно. Это и с людьми так: чем круче учебный курс, тем больше экзаменов и они сложнее. Про тема же не в этом, а в том, что даже самый сложный экзамен не гарантирует ничего, потому что никто не знает из-за какой мелочи железный мешок начнет чудить в самый неподходящий момент. С человеком даже проще: во-первых, многое известно о том, почему люди ошибаются и как с этим бороться, плюс людей можно спрашивать и делать выводы улучшая безопасность. С нейросетью в этом аспекте все плохо: сказать о своих ошибках она ничего толкового не скажет, причины ее ошибок искать сложно и пока непонятно как.
 
100% надёжность требует бесконечных испытаний)
Или по другому говоря, 100% надежность недостижима. Но достижима какая-то достаточно высокая надежность, в основном определяется доступными средствами, временем.
 
Вопрос взлёт - посадка уже решен, все это делается автоматически. Вопрос диспетчеризации - общение с диспетчером, выполнение указаний. Таким образом и диспетчер должен быть в виде АИ. Человеку стало плохо в полёте, кто принимает решение об уходе в ближайший аэропорт? Думаю, одночленный экипаж дело ближайшего будущего.
 
Вопрос взлёт - посадка уже решен, все это делается автоматически. Вопрос диспетчеризации - общение с диспетчером, выполнение указаний. Таким образом и диспетчер должен быть в виде АИ. Человеку стало плохо в полёте, кто принимает решение об уходе в ближайший аэропорт? Думаю, одночленный экипаж дело ближайшего будущего.
С решением как раз вообще элементарно - на самолёте всегда будет капитан - но с чего он должен непременно быть пилотом? Кстати, на тех же 314-х капитан был капитаном, а 4 пилота занимались тем, что штурвал вертели. Капитан, разумеется, имел лётные навыки, но он собственно мог заменять практически всех членов экипажа. С тем же успехом может быть старшим бортпроводником. Общение с диспетчером - в принципе анахронизм, учитывая, что общаются на полупонятном для себя языке граждане, на английском знающие только тысячу слов. Заменить это общение компьютерным кодом пора давно - как минимум исключит сразу ошибки и отпадёт «великий навык» авиационного английского
 
Вставлю свои 5 копеек.
ИМХО вся тема вокруг ИИ, нейросетей и беспилотных самолетов в гражданской авиации этой хайп.
Когда мы говорим об их внедрении в ГА, надо понимать какую задачу мы решаем с помощью их внедрения и какой профит мы получим? Как тут выше правильно заметили разработка всего бортового ПО строится на заранее известных и сертифицированных алгоритмах. Под это написаны и одобрены стандарты разработки и методики проверки как ПО, так и в целом архитектуры самолетных систем, вся отказобезопасность построена на этом. Это понятно всем, все разработчики и сертификаторы по ним работают.

Внедрить нейронку это значит сломать все существующие стандарты и методики с непонятной целью. Огромные временные и финансовые затраты для разработчика ЛА, которые съедят все гипотетические преимущества от внедрения.

Я думаю ГА будет развиваться по пути повышения ситуационной осведомленности экипажей т.е. предоставления экипажу всей необходимой информации для повышения безопасности, снижения как экономических затрат на выполнения рейса так рабочей нагрузки на экипаж. Достигаться это будет через спутниковую связь ВС с компанейским ЦУПом, повсеместным внедрением ADS-B Inов и прочих LPV approach.
 
100% надёжность требует бесконечных испытаний)
Не совсем так. Любой отказ или ложная информация оценивается с точки зрения критичности этого события. Если отказ происходит в системе развлечений пассажиров это одна критичность и делать систему сверхнадежной не имеет смысла. Если это радиовысотомер, участвующий в автоматической посадке и выдающий данные в автомат тяги, то его отказ или ложняк приведет к катастрофе и требования к нему будут совершенно другие т.е. его отказ должен быть практически невероятным событием (10^-9) это достигается как архитектурно так и программно.
 
Вставлю свои 5 копеек.
ИМХО вся тема вокруг ИИ, нейросетей и беспилотных самолетов в гражданской авиации этой хайп.
Когда мы говорим об их внедрении в ГА, надо понимать какую задачу мы решаем с помощью их внедрения и какой профит мы получим? Как тут выше правильно заметили разработка всего бортового ПО строится на заранее известных и сертифицированных алгоритмах. Под это написаны и одобрены стандарты разработки и методики проверки как ПО, так и в целом архитектуры самолетных систем, вся отказобезопасность построена на этом. Это понятно всем, все разработчики и сертификаторы по ним работают.

Внедрить нейронку это значит сломать все существующие стандарты и методики с непонятной целью. Огромные временные и финансовые затраты для разработчика ЛА, которые съедят все гипотетические преимущества от внедрения.

Я думаю ГА будет развиваться по пути повышения ситуационной осведомленности экипажей т.е. предоставления экипажу всей необходимой информации для повышения безопасности, снижения как экономических затрат на выполнения рейса так рабочей нагрузки на экипаж. Достигаться это будет через спутниковую связь ВС с компанейским ЦУПом, повсеместным внедрением ADS-B Inов и прочих LPV approach.
Во все времена главными врагами гражданской авиации были пилоты. Ну вернее скажем так - примерно с 45 года. До того каждый рейс был, безусловно подвиг, а вот потом понеслось - профсоюзы, непомерные амбиции и готовность угробить авиакомпанию ради того, чтоб сохранить зарплаты. Так что о борьбе авиакомпаний с пилотами написаны тома. Причём хотя трудовые конфликты были у всех, но такого засилия профсоюзов, как в пилотской среде - лично мне на ум не приходит (может с умом что-то не так, буду рад если научите). Вторыми - шли диспетчеры, третьими - механики. Так что перспектива в конечном итоге избавиться сразу от двух атавизмов в авиации безусловно привлекает любого владельца авиакомпании. Это не к тому, что завтра избавятся, а к тому, что деньги в это вложить - святое
 
Реклама
Назад