То есть не проблемы, а задачи, уже более-менее решаемые автостроителями (и нет, Uber я автостроителем не считаю).
Можно научить программу писать чеклисты под ситуацию. То, насколько адекватно текущая версия прошивки "включает голову" на широкий набор незнакомых ей ситуаций, можно проверить на стенде. С пилотами-людьми так, к сожалению, не получится - люди столько не живут.
Не совсем. Мы полагаем (и пытаемся таким образом проектировать оборудование), что в тех условиях, в которые мы ставим подготовленного определённым образом пилота, у него будут достаточно высоки шансы справиться с тем, что мы от него хотим. И от автоматики мы поначалу не требуем сильно большего. Если нас устраивает то, что пилот не обязан на полосе стопроцентно визуально отличать карапуза от собаки, то и от автоматики этого не требуется.
А по сути - есть вопрос качества работы программеров или нет!?! Не с него ли в виде между прочим двух катастроф пассажирских авиалайнеров ни в одной из которых никто не выжил, возникла тема!?!
Воот! Именно об этом я и говорю. "Нас устраивает"- значит оставили на усмотрения/экспертизу пилота... Иба, подстпудно и ежу понятно, что при наличии чела на борту в такой ситуации у паксов есть хоть какой-то шанс. Не гарантии, а - шанс! Понимаете? А при отсутстви естественного интеллекта на борту у паксов никакого шанса не будет. Разницу чувствуете?
Нет такого вопроса. Есть вопрос качества менеджмента, который решает, что программеру делать, а что - не делать.
А что, програмисты запрограмировали что-то не то, что было в согласованном с заказчиком техзадании?
Нет. Возможно, это потому, что я не ёж, а разработчик систем автономного вождения, и вполне понимаю, что при неправильно спроектированной автоматике и/или неправильно обученном пилоте этот "хоть какой-то шанс" получается такой, который нас не устроит. И что автоматика тоже может основываться на нечёткой логике и в запутанных случаях стремиться к компромиссу.
На испытаниях почему не выявили?
Ничего он не видит дальше своего носа или полномочий.
С чего вы решили, что из ТЗ для программистов, писавших MCAS, видно, что MCAS "может загнать самолет в землю по отказу одного датчика"?
Не совсем так. Производители признают, что написать сценарии (чеклисты) на все случаи невозможно, и заявляют о том, что надеются на правильное решение со стороны пилотов. По-крайней мере так заявляет Боинг.
Тогда Вам придется доказать, что автомат будет находить компромиссные решения не хуже человека.
О! Наконец появилась возможность задать два вопроса. (1) Какова в Вашей отрасли норма вероятности функционального отказа, приводящего к катастрофической ситуации? (2) Какие методы определения соответствия Вы применяете, чтобы доказать, что отказ какой-либо функции системы автономного вождения (в т.ч. из-за ошибки в софте) не приведет к катастрофе с вероятностью, выше установленной нормы?
Здесь, похоже, Вы явно проецируете принятый в Вашей фирме порядок на другие отрасли. В авиации или, скажем, в атомной энергетике, так не бывает. Всегда указывается сколько каких датчиков используется для реализации функции, включая степень резервирования. Разработчик софта обязательно получает всю необходиму информацию об архитектуре системы, для которой делается софт. Как по части функционала, так и по части железа.