Автоматика как фактор безопасности в современных транспортных средствах

joq сказал(а):
С компьютерной сетью такой номер не пройдёт. Или пройдёт?
Нажмите, чтобы раскрыть...
Процесс адаптации подразумевает как запоминание, так и забывание. Если адаптация есть в ТЗ, то да, будет забывать то, что не подтверждается регулярно.
 
Реклама
constructor сказал(а):
Процесс адаптации подразумевает как запоминание, так и забывание. Если адаптация есть в ТЗ, то да, будет забывать то, что не подтверждается регулярно.
Нажмите, чтобы раскрыть...
Dominicinio сказал(а):
Да запросто. Она может не посчитать эти случаи похожими, потому что, например , одно было в субботу, а другое в понедельник
Нажмите, чтобы раскрыть...
Вот ни разу не программист, но не является ли это следствием того, что сети тренируются на соответствие человеческим ожиданиям?
 
joq сказал(а):
Вот ни разу не программист, но не является ли это следствием того, что сети тренируются на соответствие человеческим ожиданиям?
Нажмите, чтобы раскрыть...

Последние полгода смотрю на это сравнительно изблизи, хоть и с опаской. Тренируют модели не совсем программисты, а результаты очень зависят от того, чем ты эти модели кормишь и как решения оцениваются, и этих данных должно быть много. Проблема в том, что мы точно не знаем что в результате окажется критерием принятия какого-то решения и играет ли понедельник или суббота в этом вообще какую-то роль. Видим только результат.
 
joq сказал(а):
Вот ни разу не программист, но не является ли это следствием того, что сети тренируются на соответствие человеческим ожиданиям?
Нажмите, чтобы раскрыть...
Человеческие ожидания могут быть очень разными, как в отношении человека, так и в отношении компьютера. Проблема скорее в самом способе "мышления" нейросети: она ищет вероятный ответ, но две аварии из тысяч не дают статистически значимого материала для ответа: они оба являются статистически маловероятными. Так что нынешний ИИ скорее сочинит ответ , который как бы "соответвует" ожиданиям: придумает ответ, который не сработает, но зато будет "ожидаемым": "сделайте так и вы выживете" (на самом деле нет) 🤷
Да, для нн-ного количества ситуаций вы научите его не делать так, показав ему что нет, это не хорошо. Но на что первый раз он все равно сделает "по своему", так как в такой ситуации ему не сказали, что он дурак и он снова начнет юзать свои "вероятности"
 
Dominicinio, и тысяча случаев в этом случае это очень мало. Другое дело, что модель можно накормить отказами и сочетаниями отказов по самое нехочу - ведь необязательно использовать только фактический материал?
 
Kwispel сказал(а):
Dominicinio, и тысяча случаев в этом случае это очень мало. Другое дело, что модель можно накормить отказами и сочетаниями отказов по самое нехочу - ведь необязательно использовать только фактический материал?
Нажмите, чтобы раскрыть...
Подкинуть большому выдумщику ещё больше фантазий.. что может пойти не так? 😁
 
Kwispel сказал(а):
Тренируют модели не совсем программисты, а результаты очень зависят от того, чем ты эти модели кормишь и как решения оцениваются, и этих данных должно быть много. Проблема в том, что мы точно не знаем что в результате окажется критерием принятия какого-то решения и играет ли понедельник или суббота в этом вообще какую-то роль. Видим только результат.
Нажмите, чтобы раскрыть...
Процесс человеческого "стереотипирования"...
Kwispel сказал(а):
Dominicinio, и тысяча случаев в этом случае это очень мало. Другое дело, что модель можно накормить отказами и сочетаниями отказов по самое нехочу - ведь необязательно использовать только фактический материал?
Нажмите, чтобы раскрыть...
Вот и опасаются, что ИИ сейчас тренирует в основном darknet... :eek:
 
WWs сказал(а):
робот должен был знать, что разбей он стекла - ситуация изменяется и вероятность тоже меняется.
Нажмите, чтобы раскрыть...
Если ему об этом сказали заранее.

joq сказал(а):
расплавили иллюминаторы Аэробуса киносветом
Нажмите, чтобы раскрыть...
??? Это вы о чем? o_O


Kwispel сказал(а):
Тренируют модели не совсем программисты,
Нажмите, чтобы раскрыть...
А программисты тут вообще не причем.

Kwispel сказал(а):
модель можно накормить отказами и сочетаниями отказов по самое нехочу - ведь необязательно использовать только фактический материал?
Нажмите, чтобы раскрыть...
В принципе да. Только вопрос откуда брать эти сочетания - случайным образом? И для большого числа таких сочетаний будет очень сложно проверить, что система справилась.

И как это все сертифицировать?
 
Реклама
joq сказал(а):
Кинолампами повредили А321 на островах.
Нажмите, чтобы раскрыть...
А, я думал специально, чтобы внутрь проникнуть.

joq сказал(а):
С компьютерной сетью такой номер не пройдёт. Или пройдёт?
Нажмите, чтобы раскрыть...
Если сеть программируемая - не пройдет, а нейронная сеть непредсказуема и неуправляема.
 
Kwispel сказал(а):
Прям хомосапиенс
Нажмите, чтобы раскрыть...
Если гомо, извиняюсь за выражение, сапиенс, подготовлен и психически здоров - то он более предсказуем.
Я так прикинул, для США для больших лайнеров даже невозможно подсчитать вероятность катастрофы - там с 2001 года (не 911, а после еще одной) не было ни одной катастрофы с американскими компаниями. Это где-то под 100М полетов. Как можно доказать, что полностью автономный борт (хоть нейронный, хоть какой), будет еще более безопасным?
 
Реклама
VirPil сказал(а):
для США для больших лайнеров даже невозможно подсчитать вероятность катастрофы - там с 2001 года (не 911, а после еще одной) не было ни одной катастрофы с американскими компаниями. Это где-то под 100М полетов.
Нажмите, чтобы раскрыть...
Грубую оценку можно сделать. Вероятность меньше 10 в степени минус восемь. Для сравнения, АП-25 требуют чтобы по техническим причинам катастрофическая ситуация не возникала вследствие единичного отказа. Вероятность единичного отказа (аварийная ситуация) должна быть не более 10 в степени минус шесть на один час полета. Соотношение человеческого фактора и технических причин везде разное, зависит от подготовки пилотов.
 
Последнее редактирование:
Назад