Человеческий фактор vs искусственный интеллект

dunch, вспоминается случай, когда у японцев на 747 рванула гермоперегородка, и экипаж некоторое время держал машину в воздухе. Скорее всего, нейросеть быстрее бы нашла способ "рулить" и лучше с этим справилась. А может быть просто зависла бы...
Но, если правильно помню, японские пилоты не были первыми, кто лишился управления всего в хвосте, и не упал сразу.
 
Реклама
dunch, вспоминается случай, когда у японцев на 747 рванула гермоперегородка, и экипаж некоторое время держал машину в воздухе. Скорее всего, нейросеть быстрее бы нашла способ "рулить" и лучше с этим справилась. А может быть просто зависла бы...
Но, если правильно помню, японские пилоты не были первыми, кто лишился управления всего в хвосте, и не упал сразу.
Все равно все попадали в итоге, так что мы ничего не теряем. Очевидно, есть повреждения, при которых ничего не попишешь. Нейросеть как раз можно пытаться неспеша тренировать и на них, ища настоящий предел возможностей самолёта. У человека в голове все возможное не поместится
 
Вы идеализируете компьютер.

Программы пишут люди. И они горазды на ошибки
Нет, ошибки неизбежны. Но улучшая программу - ошибка исправляется системно, обучая пилота, увы, раз на раз не приходится. На одного Дениса или Салли приходится ведь по одному евдокимову
 
Последнее редактирование:
улучшая программу - ошибка исправляется системна
Как и вносится...
В случае с MCAS кто-то справился, а кто-то нет. При централизованной системе внесения ошибок, и их исправления будет что-то одно. И не обязательно "все справились".
 
Как и вносится...
В случае с MCAS кто-то справился, а кто-то нет. При централизованной системе внесения ошибок, и их исправления будет что-то одно. И не обязательно "все справились".
Не понял посыла? Как раз в данном случае комп будет или повторять ошибку, если её не исправить, или исправив раз - не повторит ошибочного действия никогда. А исправление ошибок в системе всегда будет централизованно производиться, хотя никто не исключает, что сами по себе системы могут быть на рынке разные, что создаст конкуренцию и, к слову, может ещё улучшить алгоритм
 
Siledka, в том-то и проблема... Речь же идет не об одной глобальной нейросети, а о тысячах локальных, "живущих" в конкретном самолете. И тут сразу встает вопрос их синхронизации.
Казалось-бы все красиво - прилетел, подрубился к интернету, рассказал некой центральной нейросети чему научился за выполненный полет, скачал новости "коллег"... Только вот, действия, давшие позитивный результат в одних условиях, могут стать катастрофичными в других. И кто-то должен эти рамки выставить. Кто-то, обладающий совершенно фантастической полнотой информации.
И второй вопрос. Можно ли разрешать ИИ отступать от РЛЭ? Если можно, то в каких пределах? Напомню, РЛЭ, априори, не является идеальным, отлитым в граните, документом. Он постоянно совершенствуется, в том числе и на основе нарушений - и удачных, и катастрофичных. Тот-же MCAS. Для борьбы с ним, как вроде-бы выяснено, помогает процедура Runaway Stabilizer. Но, судя по всему, успешно завершившие полет экипажи выполняли эту процедуру "творчески". Ни в одной редакции QRH до тех катастроф нет ни слова про "поставь стаб как тебе надо, а потом отрубай". Можно ли компьютеру доверять подобное творчество? Или РЛЭ вообще будет отсутствовать, заменившись на некий набор данных, основываясь на которых ИИ будет писать РЛЭ на ходу сам для себя?
 
Siledka, в том-то и проблема... Речь же идет не об одной глобальной нейросети, а о тысячах локальных, "живущих" в конкретном самолете. И тут сразу встает вопрос их синхронизации.
Казалось-бы все красиво - прилетел, подрубился к интернету, рассказал некой центральной нейросети чему научился за выполненный полет, скачал новости "коллег"... Только вот, действия, давшие позитивный результат в одних условиях, могут стать катастрофичными в других. И кто-то должен эти рамки выставить. Кто-то, обладающий совершенно фантастической полнотой информации.
И второй вопрос. Можно ли разрешать ИИ отступать от РЛЭ? Если можно, то в каких пределах? Напомню, РЛЭ, априори, не является идеальным, отлитым в граните, документом. Он постоянно совершенствуется, в том числе и на основе нарушений - и удачных, и катастрофичных. Тот-же MCAS. Для борьбы с ним, как вроде-бы выяснено, помогает процедура Runaway Stabilizer. Но, судя по всему, успешно завершившие полет экипажи выполняли эту процедуру "творчески". Ни в одной редакции QRH до тех катастроф нет ни слова про "поставь стаб как тебе надо, а потом отрубай". Можно ли компьютеру доверять подобное творчество? Или РЛЭ вообще будет отсутствовать, заменившись на некий набор данных, основываясь на которых ИИ будет писать РЛЭ на ходу сам для себя?
С чего вы взяли, что в каждом самолёте заведётся свой нанобот?-) система будет сертифицирована, стало быть она будет одинаковой на всех бортах и кто-то будет контролировать чему она учится. А то вы уж правда нам скайнет и нашествие машин рисуете-)

Конкретный мкас тащить сюда не нужно - ии вряд ли механической рукой будет вращать колесо управления стабилизатором. И убегать он не сможет, потому что система явно будет знать о намерении условного мкаса дать команду на отклонение стабилизатора до начала этого действия и понимать причины. Но конечно умный самолёт будет выглядеть с точки зрения сенсоров и датчиков не так, как 737. И да, некие базовые принципы, как то понимание, что скорость самолёта не может быть 200 км/час если двигатели работают нормально и самолёт уверено набирает высоту - в системе будет заложено. Как и вряд ли будет один датчик угла атаки, который сможет передавать критичный для срабатывания системы сигнал. Но к чему сие? Вот тут мы уже самолёт будущего начинаем по трубкам пито разбирать-))
 
И тут сразу встает вопрос их синхронизации.
Их не нужно синхронизировать. Фотки в телефоне обрабатывает нейросеть, она ничему не учится. Ее раз обучили и в неком обученном виде загрузили в миллион айфонов (самолётов). Дальше конкретный самолёт ничему не учится, его прошивка обновляется иногда по мере дообучения этой главной сети.
По сложным случаям типа мкас вопрос и правда сложный. Но в тм и фишка, что через сеть можно прогнать множество разных случаев (уж те, что были с мкасами, легко. И проверить реакцию)
 
Ее раз обучили и в неком обученном виде загрузили в миллион айфонов (самолётов).
Соответственно, имеем несколько тысяч идеальных пилотов, с налетом в миллионы часов каждый... При этом, они в процессе работы не продолжают изучать возможности машины и не могут поделиться "открытиями" с коллегами (или тем-же производителем самолетов).

через сеть можно прогнать множество разных случаев
Т.е. высока вероятность того, что встретившись с "непрогнанной" ситуацией ИИ сдастся, и начнет искать способ безопасно разбить борт, с минимальным ущербом "земле"?

Вот тут мы уже самолёт будущего начинаем по трубкам пито разбирать-))
Ага, без них лайнеры не летают...
 
Соответственно, имеем несколько тысяч идеальных пилотов, с налетом в миллионы часов каждый... При этом, они в процессе работы не продолжают изучать возможности машины и не могут поделиться "открытиями" с коллегами (или тем-же производителем самолетов).
Третий раз обсасываете то, что я вам предложил в качестве аргумента? Да, именно с такими вещами и есть серьёзная проблема, на старых типах меньше, на новых - больше. Но мы пока же говорим о появлении системы и её месте не первых порах в виде всего лишь 2п. Хотя я думаю, что появление новых типов вообще в будущем маловероятно станет - но оно в общем то и не особо нужно, от сверхзвука человечество отказалось, топливная экономичность существующих типов вполне достаточна.
Т.е. высока вероятность того, что встретившись с "непрогнанной" ситуацией ИИ сдастся, и начнет искать способ безопасно разбить борт, с минимальным ущербом "земле"?
Ну как и в случае пилота - есть сильно ненулевая вероятность, что он воткнёт борт в землю, столкнувшись с самой простой нештатной ситуацией. Ии хотя бы в истерику не впадёт и не оцепенеет.
 
Реклама
Соглашусь с Siledka, существующие современные самолёты подошли в техническим пределам своих возможностей. Таким образом, основной вопрос в сосуществовании старой системы и новой. Значительный период будут летать старые самолёты с живым экипажем и новые с AI. Конечно, 737 и ему подобное поколение шансов выжить в новом мире не имеет, и, по большому счёту все придет к одной условной модели в классе, как в автопроме, модель одна, но называется по разному у разных производителей.
 
При этом, они в процессе работы не продолжают изучать возможности машины и не могут поделиться "открытиями" с коллегами (или тем-же производителем самолетов).
Конечно. Открытия делает мощный компьютер, которому не место на каждом самолёте. А наблюдает за ним высококлассные высокооплачиваемые люди. Самолёты могут лишь быть источником данных для этого анализа. Ничто не мешает с каждого самолёта после каждого полёта сливать все данные в этот мегакомп, который их тоже проанализирует (хотя не думаю, что это так уж нужно).
е. высока вероятность того, что встретившись с "непрогнанной" ситуацией ИИ сдастся, и начнет искать способ безопасно разбить борт, с минимальным ущербом "земле"?
Если испытания на моделях пройдут успешно, такая вероятность не особо велика. В любом случае, если модель не построишь и не начнёшь испытывать, не выяснишь, лучше ИИ, чем человек, или хуже. Я думаю, что шансы, что ИИ будет лучше в обозримом будущем, вполне реальны. Впрочем, могу ошибаться. Dominicinio вот выше скепсис выражает по способности нейросетевых технологий в целом перенимать на себя критичные задачи, а не рисование картинок и потоков текста с нулевой ответственностью
 
Таким образом, основной вопрос в сосуществовании старой системы и новой.
А в чем вопрос. Критичная его часть решена текущими автоматами избегания столкновений. Дальше нужен лишь протокол для диспетчера, это элементарно. И его защита от взлома. Думаю, это решаемо
 
Насколько я понимаю, главное отличие нейросети от алгоритма в том, что она дает ответ "насколько это похоже на то, что я видела раньше". Алгоритм же всего-лишь отвечает либо "Да, это ровно оно", либо "Это не оно", либо "Фиг знает что это".
А что, есть проблема с написанием алгоритма, который даёт ответ
"насколько это похоже на то, что я видела раньше"
? :)

Насколько я понимаю, именно это и было сделано. :)
 
И еще один вопрос. Инженеры создают новую модель самолета, летчики-испытатели выясняют летает ли оно вообще, что с ним лучше не делать. Потом тип поступает в эксплуатацию, и уже сотни и тысячи рядовых пилотов осваиваются с ним, выясняют как на нем, в рамках ограничений РЛЭ, лучше летать. И вот примерно тут начинает появляться массив данных для анализа нейросетью. Только вот... не появляется... Мы же пилота в мечтах о нейросетях уже уволили... ну он и пошел в ларек торговать, теряя квалификацию и забывая знания.
Это ещё один аргумент в пользу традиционно созданных программ. Как аксиому приняли нейросеть за основу будущей автоматики. А это ещё пока неизвестно. Скорее будет создаваться самолет и программа управления и испытываться без человека в самолете во время полета.
А за пилотов не стоит сильно волноваться. Вручную будут управляться самолеты ещё очень очень долго.
 
Скорее будет создаваться самолет и программа управления и испытываться без человека в самолете во время полета.
Если бы это было реально, такую программу уже написали бы. Те же авто, например, до появления нейронок никто не думал автоматизировать. Думаю, без нейронки тут ничего заведомо не выйдет
 
комп будет или повторять ошибку, если её не исправить, или исправив раз - не повторит ошибочного действия никогда
Если комп - это нейросеть, то повторяемость результата под большим вопросом. В этом и проблема. И чем больше параметров обрабатывает нейросеть, тем, с одной стороны она "умнее", но тем меньше вы можете контролировать от каких параметров и насколько зависит ее решение...
 
Если бы это было реально, такую программу уже написали бы. Те же авто, например, до появления нейронок никто не думал автоматизировать. Думаю, без нейронки тут ничего заведомо не выйдет
Возможно. Как модули основной программы. Начинаем с того, что всё необходимое, в том числе нейросети, включаем и летим. Заканчиваем, разумеется, всё выключая.
 
Если комп - это нейросеть, то повторяемость результата под большим вопросом. В этом и проблема. И чем больше параметров обрабатывает нейросеть, тем, с одной стороны она "умнее", но тем меньше вы можете контролировать от каких параметров и насколько зависит ее решение...
Пилот то ведь тоже не бог и самолёт далеко не все знают очень глубоко, некоторые, как практика показала, вовсе не знают. Так что у нейросети большое преимущество, что помимо всего прочего она может математически просчитывать последствия своих решений
 
Реклама
Назад