Человеческий фактор vs искусственный интеллект

Прочитал еще несколько страниц ветки...

Адепты нейронок забывают (или не знают) одну простую вещь, на которой держится приемлемый уровень БП в ГА. Это прослеживаемость всех действий и постоянные кросс чеки. Начиная от разработки, написания ПО, подготовки экипажей и т.д. Здесь предлагается сломать систему выстраиваемую почти 100 лет и совершить революцию в мировой ГА, только потому что ИИ это "стильно, модно, молодежно".

Какому бизнесу нужны эти революционные изменения? Только ради того, чтобы показать кукиш профсоюзам пилотов? Ну вместо них появятся профсоюзы тестировщиков-пилотов, программистов с теми же проблемами.
 
Реклама
-=YU=- сказал(а):
Прочитал еще несколько страниц ветки...

Адепты нейронок забывают (или не знают) одну простую вещь, на которой держится приемлемый уровень БП в ГА. Это прослеживаемость всех действий и постоянные кросс чеки. Начиная от разработки, написания ПО, подготовки экипажей и т.д. Здесь предлагается сломать систему выстраиваемую почти 100 лет и совершить революцию в мировой ГА, только потому что ИИ это "стильно, модно, молодежно".

Какому бизнесу нужны эти революционные изменения? Только ради того, чтобы показать кукиш профсоюзам пилотов? Ну вместо них появятся профсоюзы тестировщиков-пилотов, программистов с теми же проблемами.
Нажмите, чтобы раскрыть...
Не ставится целью уйти от проблем. Чисто экономика, ничего личного.
 
Dominicinio сказал(а):
А есть примеры таких нейрлсетей?
Нажмите, чтобы раскрыть...
Конечно. Яндекс-мобиль и аналоги. В принципе, они уже готовы ездить сами и в экспериментальных зонах даже едят. Другое дело, что нам неизвестен уровень отказов
-=YU=- сказал(а):
постоянные кросс чеки.
Нажмите, чтобы раскрыть...
Так кросс чеки нужны, потому что у людей память дрявая, для компа они не нужны. Но можно поставить три нейронки и лететь по итогам голосования. Правда, с нейронками этот вариант может оказаться не идеальным). Но и сейчас пилоты могут штурвал в разные стороны тянуть и даже тянут иногда
 
Siledka сказал(а):
Так процесс то ещё толком не начали и мы говорим о том, что будет через пару десятилетий
Нажмите, чтобы раскрыть...
Что будет через пару десятилетий предсказывать не берусь. Может быть мощный прогресс, а может быть как я и предположил: чем умнее будет становиться сеть, тем больше ей будут свойственны человеческие недостатки и ошибки.

Siledka сказал(а):
Но что до просчитывания - шахматная программа, например
Нажмите, чтобы раскрыть...
Шахматные программы обычно не используют нейронки, а используют алгоритмы. Есть алгоритм просчитывания последствий, можно и пилоту выдать результат расчетов на экран... Правда я сомневаюсь, что такой алгоритм есть, в отличие от шахмат.

dunch сказал(а):
Яндекс-мобильи аналоги. В принципе, они уже готовы ездить сами и в экспериментальных зонах даже едят. Другое дело, что нам неизвестен уровень отказов
Нажмите, чтобы раскрыть...
Всякие Яндекс-мобили, насколько мне известно, не рассчитывают математически последствия своих решений, а просто выбирают из каких-то вариантов с помощью весовых коэффициентов мулиона своих параметров.
Уровень отказов нам неизвестен, зато известно, что несмотря на множество оптимистических прогнозов, развитие идёт вяло, авто тупят и проблем полно.
Я вообще тоже был когда-то оптимистом полностью автономных автомобилей и считал, что за ними скорое будущее. Но потом я заинтересовался тем, как он работают и учатся, как вообще работают нейросети и стал автономо-мобиле-скептиком ) Не то, что "никогда, никогда им не стать хорошими", но я почти уверен, что нейросети в их текущем виде либо должны совершить ещё какой-то качественный скачок в "мышлении", либо вообще архитектура должна поменяться и нейросети должны играть не главную роль в работе таких систем (например, распознавание и разметка окружающей обстановки - нейросеть, а само вождение и соблюдение ПДД - алгоритм или что-то ещё не придуманное)
 
dunch сказал(а):
Так кросс чеки нужны, потому что у людей память дрявая, для компа они не нужны.
Нажмите, чтобы раскрыть...
Про принцип кворумирования, что-нибудь слышали?

dunch сказал(а):
Но можно поставить три нейронки и лететь по итогам голосования.
Нажмите, чтобы раскрыть...
Чтобы Сири, Алиса и какая-нибудь Авдотья договаривались между собой, а мы при этом не будем знать, что в их "мозгах" творится. Ага-ага....
dunch сказал(а):
Но и сейчас пилоты могут штурвал в разные стороны тянуть и даже тянут иногда
Нажмите, чтобы раскрыть...
На это есть какие физические защиты, так и процедурные. И те кто их соблюдают летают долго и безопасно.
 
Dominicinio сказал(а):
Шахматные программы обычно не используют нейронки, а используют алгоритмы. Есть алгоритм просчитывания последствий, можно и пилоту выдать результат расчетов на экран... Правда я сомневаюсь, что такой алгоритм есть, в отличие от шахмат.
Нажмите, чтобы раскрыть...
Чтоб выдать на экран - пилот должен громко подумать что он будет делать. В принципе после каждой катастрофы все дружно изумляются как глупости действий экипажа, так и тому, что производители не предусматривают ту или иную, часто элементарную, сигнализацию. Проблема с экранами в том, что у впавшего в ступор пилота тоннельное зрение и он не видит элементарных вещей. А если не формируется и в ступор он не впадает - то и так выводимого на экран довольно. В гражданской авиации вообще разложить борт нужно уметь, среднему пилоту это не под силу.
И мы уже рассматривали примеры. Давайте возьмём умозрительное чудо на гудзоне как его в каконической версии принято подавать: пилоты минуты полторы понимают что у них происходят, какой двигатель отказал, какой нет - за это время теряют возможность сесть на полосу и дальше чудом благодаря навыкам, хладнокровию и провидению божьему садятся на реку. Компьютер не потратит этих полутора минут - алгоритм его позволит не думать, а оценить состояние двигателей: стремительная потеря тяги равносильна её полной потери с точки зрения принятия решений. Далее в ту же секунду система передаёт мейдей и автоматический диспетчер не только может увидеть, что самолёт в критическом положении, но и моментально передаёт информацию другим бортам и всему, что движется, так что и тут экономятся минуты и те же пожарные получают сигнал тревоги через секунду после возникновения нештатной ситуации. Далее главное - система вполне может опять же за секунду оценить варианты возврата на все возможные полосы, выбрать лучший с учётом направления ветра и даже профиля местности с учётом строений, возможностей плюхнуться в поле если что-то пойдёт не так и прочее и прочее. И условный аирбас благополучно плюхается на полосу в лагуардии, а не в реку. Или в реку - но опять же при полном понимании, что опция полосы полностью исключена
 
Компьютер работает стабильно, но он ограничен заложенной программой. Что до качества работы и безопасности, то тут компьютер и человек соревнуются на равных, и результат в обоих случаях зависит от количества потраченных ресурсов. Ну и если компьютеры потом довольно легко тиражировать, то о пилотах этого не скажешь.
 
Dominicinio сказал(а):
Шахматные программы обычно не используют нейронки, а используют алгоритмы.
Нажмите, чтобы раскрыть...
В го точно сетка играет. Да и в шахматы тоже. Что интересно, сеть играет сама с собой до посинения, а потом уже с человеком или другой сетью
Dominicinio сказал(а):
например, распознавание и разметка окружающей обстановки - нейросеть
Нажмите, чтобы раскрыть...
Так длин самое сложное. Управление и соблюдение пдд можно хоть сейчас сделать, вопрос в том, куда рулить. И фишка как раз в том, что в самолёте можно лететь по приборам. То есть он куда ближе к шахматам, чем автомобиль, ему неформализуемые данные из внешнего мира не нужны, только цифровые вводные от приборов
 
Реклама
constructor сказал(а):
Компьютер работает стабильно, но он ограничен заложенной программой. Что до качества работы и безопасности, то тут компьютер и человек соревнуются на равных, и результат в обоих случаях зависит от количества потраченных ресурсов. Ну и если компьютеры потом довольно легко тиражировать, то о пилотах этого не скажешь.
Нажмите, чтобы раскрыть...
Пилот тоже ограничен - навыками, опытом, психологией, в конце концов неадекватными действиями второго пилота. Идеальной модели быть не может.
 
Siledka сказал(а):
. Компьютер не потратит этих полутора минут - алгоритм его позволит не думать, а оценить состояние двигателей: стремительная потеря тяги равносильна её полной потери с точки зрения принятия решений. Далее в ту же секунду система передаёт мейдей и автоматический диспетчер не только может увидеть, что самолёт в критическом положении, но и моментально передаёт информацию другим бортам и всему, что движется, так что и тут экономятся минуты и те же пожарные получают сигнал тревоги через секунду после возникновения нештатной ситуации. ...
Нажмите, чтобы раскрыть...
Все это красиво, однако если бы было возможно, то просто ваш алгоритм засунули бы в бортовой компьютер и он бы написал пилотам на экране большими буквами весь расклад: отказало то и то и ничего бы полторы минуты раздумывать не пришлось. Только вот беда: никто такой алгоритм придумать пока не смог, и все алгоритмы современного иногда не могут даже распознать глучность одного датчика. Так что это пока утопия.
Тут правда надеюстся, что раз алгоритм такой написать не могут, то может быть удастся сделать нейросеть, которая сама такой алгоритм как бы на ходу найдет. Ну я пока не очень верю в эту нейросеть...
 
Dominicinio сказал(а):
Все это красиво, однако если бы было возможно, то просто ваш алгоритм засунули бы в бортовой компьютер и он бы написал пилотам на экране большими буквами весь расклад: отказало то и то и ничего бы полторы минуты раздумывать не пришлось. Только вот беда: никто такой алгоритм придумать пока не смог, и все алгоритмы современного иногда не могут даже распознать глучность одного датчика. Так что это пока утопия.
Тут правда надеюстся, что раз алгоритм такой написать не могут, то может быть удастся сделать нейросеть, которая сама такой алгоритм как бы на ходу найдет. Ну я пока не очень верю в эту нейросеть...
Нажмите, чтобы раскрыть...
Всё возможно написать. Другой вопрос что это не заказывают. Именно потому что выкинуть пилота из кабины в действующей авиакомпании в штатах или европе нереально. А если этой цели не ставить, то зачем тратить время и деньги?
 
Dominicinio, где болит и что отказало современные ACMS системы уже достаточно точно определяют, но это делается внутренними тестами по заранее известным алгоритмам.
 
-=YU=- сказал(а):
Dominicinio, где болит и что отказало современные ACMS системы уже достаточно точно определяют, но это делается внутренними тестами по заранее известным алгоритмам.
Нажмите, чтобы раскрыть...
Ну поэтому самолёты нынче редко падают. Но чтобы вот так красиво как выше всё-таки все ещё нет: и отказы далеко не все автоматика выявляет и ложную тревогу подать может и распознавать отказы того, на чем она и строиттся (датчиков всяких там) не всегда сама распознает. Вот и падают не распознав: кто облединение, кто неисправность трубки Пито, кто ещё чего. И вот что интересно: перепутать двигатель, который нужно отключить автоматика не сможет, но вот и понять действительно ли двигатель нужно отключить автоматике пока не доверишь: на одни лишь датчики положиться пока недостаточно. Вот и получается: множество мелких фактов компьютер определить может, а то, что человек делает не всегда хорошо: оценить общую картину и выбрать правильную стратегию поведения, компьютер пока не умеет, потому что задача эта плохо алгоритмизируется (слишком много неизвестных в "уравнении"). Так и живём.
 
dunch, не всегда. Посадка в подавляющем большинстве случаев осуществляется вручную.
 
Siledka сказал(а):
Пилот тоже ограничен - навыками, опытом, психологией, в конце концов неадекватными действиями второго пилота. Идеальной модели быть не может.
Нажмите, чтобы раскрыть...
Имелось в виду что. Пилоту вдруг в критической ситуации приходит иногда вдохновение, озарение на основе всего его жизненного опыта. Компьютеру нет.
 
Реклама
Назад