Например потому, что подобных прецедентов до того не было. Но т.к. ИИ – не пилот, которого "ждут дома", то нового положительного опыта может и не появиться... т.е. есть риск того, что ответ "пилот не справился" может трансформироваться в "за пределами возможностей ИИ". Дело закрыто, страховки выплачены...
В чём беда? Исчезло 100500 рисков пилотских косяков, появились несколько рисков, связанных с ии. Разбился самолёт. От этого мир что ли остановился? Одно землятресение вон убило 60 тысяч. Одна авиакатастрофа убивает 200. Серьёзно прям главная проблема человечества состоит в том чтоб ни один самолёт не упал?
Представим себе базу, которая содержит запись "обычно в районе часа дня на шоссе М234 мало машин" ))) И дополнение - "но сегодня Первомай, и сегодня все едут поучаствовать в демонстрации"...
Конкретный самолет, при вине экипажа, погубили 2/8-миллиардных жителей земли.
Представим себе, что самая примитивная камера, соединённая с компьютером, оперирует не терминами «много» или «мало», а вполне конкретно видит сколько там машин в данный момент, тем более, что легковушки под самолётом будут просто щёлкаться как орехи и оценить нужно наличие груженых самосвалов, фур или бензовозов - причём этих хватит и одного на пустом шоссе
И что? Вы прям не ездите на теслах принципиально? Я уж не говорю о том, что после очередного суицидника или идиота из саратовских, узнавая по мере расследования все чудеса, связанные с обучением и бэкграундом этого пилота - поводов опасаться повтора явно не становится меньше?
Хорошо. Машин мало, но нет варианта приземлиться, не задев ни одной из них. Вероятно, в задетой машине будут трупы. Решение ИИ? (Вспоминаем три закона робототехники)
На Tesla я не езжу по другим причинам...
Хаха-) если вы там про законы роботехники решили повспоминать, то уверяю вас, азимов вертится как белка в гробу с момента появления первого боевого беспилотника, а может и первого таймера на аппарате для эвтаназии. Так что давайте отложим гуманистов, марксов и фантастов в помойное ведро и поговорим о деле. Хотите нормальных аргументов против ии? Их есть у меня.
Через несколько лет - сможете. Сейчас же вы их можете посадить в беспилотный вагон метро
Это еще один уровень проблемы...
Вагон метро перемещается по абсолютно оцифрованному и понятному пути. По сути, вариант автоведения. При этом, при сбое, вся система может быть остановлена снятием напряжения с питающего рельса.
Для вас будет откровением тот факт, что на железных дорогах происходит кратно больше катастроф, аварий и нештатных ситуаций, чем в воздухе? Или вы считаете, что шоссе не преподносит сюрпризов? Тем не менее там уже не просто автопилот в виде дополнения, а вполне себе перспектива отсутствия водителей в близкой перспективе. Разговоры про великое небо, на которое не распространяются законы природы - как раз очень любят члены профсоюза пилотов. При этом даже некритический отказ мат части в очень значительном проценте случаев заканчивается катастрофой по вине пилота. Давайте раз вы так любите примеры, я вам задам пару вопросов:
Это из разряда "давайте представим, что завтра все люди решат застрелиться". Такого ни разу поди и не было, винт прям критично было оба борта в один миг посадить. Но ничто не мешает создать формализованную систему оценки приоритета - у кого майский день более майский. Сейчас этот вопрос решит диспетчер на уровне интуиции, а нейросеть не напрягаясь посчитает шансы. Да и диспетчера человека пока не обязательно убирать, он подтвердит решение.
Так это была классическая автоматика, у которой "в людей непонятной ситуации передавай руль пилоту". Очевидно, если мы отдаём руль нейросети, мы ожидаем, что она никогда не отключится
Так в том и разница, что классическое программирование, по сути, не может управлять самолётом. Слишком сложные алгоритмы поучаются. А нейросеть - это другой уровень и совсем другой подход. Ее не пишут люди в некотором смысле. И ответ на вопрос, можно ли создать нейросеть, которая по крайне мере лучше человека, скорее да, чем нет. Согласен с силедкой, что, весьма вероятно, лучше сеть, которая поглотила миллиард часов опыта американских пилотов, чем пилоты, которые завалили максы. Да и вы много рассказывали всякого про российских и не только пилотов
А не подскажете, где можно почитать кратенько про такие архитектуры?
Осталось только узнать, откуда у вас эта уверенность? Пока что имеющиеся примеры нейросетей показывают не очень хорошие результаты там, где ответ нужен не красивый, а стабильно правильный. И кстати, пока ещё не придумали способ непосредственно "поглощать миллиарды часов опыта", только опосредованно, на основе каким-либо образом кем-то размеченных данных. При этом вы не можете контролировать что и как она извлекает из этих данных: грубо говоря, вы пометили данные как хороший способ решения проблемы пожара двигателя потому, что на видео пилот четко нажимал кнопку "тушить", а нейросети почудилось, что главное в этих видео было то, что пилот закатил глаза к небу и при этом было семь утра. Поэтому когда пожар произойдет ровно в семь утра нейросеть вместо тушения пожара направит видеокамеру на потолок... Пример, конечно, утроированный, но хорошо отражает суть того, как "думают" нейросети, точнее того, как непредсказуемо они "поглощают опыт".
Пилоты и будут размечать данные. Есть информация с датчиков, есть информация от управляющих воздействий пилотов. Идеально для разметки. Дальше нужно "лишь" пометить, в каких случаях пилот действовал качественно, а в каких - не очень) это чуть более трудозатратно, но в крайнем случае можно начать с принципа пилот и матчасть целы - полет удался. То есть самолёт под управлением нейронки летит вслепую и в окошко не смотрит, только на приборы. Как я понимаю, уже есть аэропорты, в которых при текущих технологиях можно сажать самолёт при нулевой видимости, именно с таких и начнут наши автопилоты.
Основываясь на чем мы это ожидаем?
Кто и как будет проверять, что нейросеть научилась правильно?
Отмечу - цифровых. Не уверен, что данные с полетных регистраторов и видеоархив передачи Pilots Eye содержат всю достаточную для обучения информацию.
Скармливаем ей после обучения весь массив данных с датчиков с миллиардом часов реальных полетов плюс особо выдуманные хитрые случаи и заставляем на тренажёре слетать все эти полёты по этим данным, если ни разу самолёт не угробит и не будет к этому близка, экзамен сдан. Все как с человеком, только экзамен в миллиард раз более полный
Это да, реальная проблема, силедка о ней уже упомянул.