VirPil
Старожил
Была в ЧатЖПТ лазейка в виде режима бога. Вроде ее прикрыли, но сеть зато потупела.
Автоматика как фактор безопасности в современных транспортных средствах
Kit.
Старожил
"С компьютерной сетью" могло бы пройти, если её использовать безответственно.
С процедурой валидации компьютерной сети не пройдёт. Сеть, которая забудет что-то критичное для управления самолётом, не будет допущена до управления самолётом.
astoronny
Probatorem orbis terrarum
...в кабине все выглядит интересней...
Там всегда двое -- машинист и помощник -- и они все время обязаны коммуницировать по протоколу...
"Зеленый - зелёный... желтый - желтый..." и т.д.
Я не помню и не уверен, но может ту кнопку должны нажимать двое?
ШБЖ
Старожил
Я понимаю, что залезаю не в свое дело... Да и непосредственно валидацией (всего лишь схем захода на посадку) занимался уже лет пять назад. Но, сколько помню, в этом процессе кроме факта наличия атрибутики (всех необходимых элементов) проверялось их соответствие вполне определенным критериям, возможность достижения требуемого результата и т.п., где забыть оборудованием что-то критичное в принципе невозможно. Важно проверить способность методики в сочетании со штатно работающим конкретным оборудованием обеспечить ожидаемый раработчиком результат на заявленном аэродроме.
То есть компьютерная сеть выступает как бы в роли разработчика?
Kit.
Старожил
Отчасти.
Нейросеть - это методика тренировки коэффициентов функции - "универсального аппроксиматора". Результатом тренировки является некий "чёрный ящик" (на самом деле "серый", но это сейчас не принципиально), который на однозначные входные данные будет давать однозначный отклик. И соответствие этого отклика ожидаемому при заданных входных данных поддаётся валидации.
В "генеративных нейросетях" (вроде ChatGPT) в набор входных данных надо при этом включать текущее состояние используемого генератора псевдослучайных чисел.
astoronny
Probatorem orbis terrarum
Не будете ли столь любезны немного развернуть?
Kit.
Старожил
Генеративные нейросети аппроксимируют не некую однозначную функцию от параметра, а (тоже параметризуемую) функцию, которая преобразует элемент выборки заданного распределения случайной величины (обычно вектора заданной размерности с равномерно распределёнными независимыми компонентами) в элемент выборки случайной величины, распределённой по желаемому закону (например, равновероятных или даже разновероятных различных "правильных" ответов на заданый нейросети вопрос).
Заданный вопрос при этом является "внешним" параметром, а случайный вектор - техническим, "внутренним" параметром аппроксимируемой функции.
VirPil
Старожил
Только что произойдет, если входные данные будут чуть-чуть другими, предсказать невозможно. Что и доказывается случаями аварий автомобилей с АП.
Кстати, а там на каких принципах все устроенно?
Kit.
Старожил
Да возможно, конечно - именно так их и взламывают.
Другое дело, что кроме как взлома это малополезно, поскольку полную спецификацию того, что мы хотим увидеть при этом, мы не потянем по объему.
Можно подумать, будто до появления нейросетей аварий автомобилей с АП не было.
Движение автомобиля по своей природе чревато авариями.
Много разного. Автономное вождение существовало и до нынешнего бума нейросетей.
VirPil
Старожил
Наверное я не точно выразился. Если это просто алгоритм, его можно как-то формализовать, хотя если это очень сложный алгоритм, то он тоже работает на вероятностях, с вероятностным же результатом.
Virus_KNet
2D Pilot
Я в бытность свою студентом очной формы обучения, ставил будильник на шкаф, чтобы точно проснуться пока его выключаю. Как итог, за неполную неделю я научился его выключать в прыжке не просыпаясь и не открывая глаз)))
Робот роботу рознь. Я думаю Вы уже поняли по итогам обсуждения, что привычными алгоритмами в стиле
"если > то" в нейросетках не пахнет.
Вообще, я не могу сказать за китайцев и Tesla, но нормальные автопроизводители не используют нейросети в своих не то, что системах автоматического управления, но даже в модулях прикладного уровня типа мультимедиа. Алгоритмы автопилотирования всё таки конвенциональны, хотя и используют какую-то "нечеткую логику". Я точно не знаю, что это такое, но я так понимаю что-то связанное с массивами и аппроксимацией, но без возможности утверждения неверного результата как валидного. Они максимум обходятся интеграцией сторонних сервисов по распознаванию голоса. Что-то используют свое, но не много. Поскольку получить гарантированный результат от нейросети в процессе ее продолжительной работы практически невозможно. Ну, как пример - системы автопилота обкатывались на дорогах Еворпы, обкатали все ок, а потом расширили покрытие на страны СНГ. И тут понеслась... Через полгода все автопилоты перестанут держать разрешенную максимальную скорость в местах где нет камер, на красный нельзя, но если очень хочется и время близкое к началу рабочего дня, то можно и т.д... Придётся разработчикам с детства ей внушать "с ними не общайся! Они тебя плохому научат"
Virus_KNet
2D Pilot
Вот кстати, что по этому поводу думает сама нейросеть:
You
Нейросеть имеет какие-то безусловные алгоритмы?
ChatGPT
Нейронные сети не имеют "безусловных алгоритмов" в традиционном смысле. Вместо того чтобы работать по строго определенным шагам, они обучаются на данных и адаптируются к окружающей среде. Нейросети базируются на архитектуре, включающей слои нейронов и веса между ними, которые обновляются в процессе обучения.
В отличие от классических алгоритмов, нейросети способны обобщать на новые данные, что делает их мощными в решении сложных задач, таких как распознавание образов или обработка естественного языка. Однако их работа иногда может быть сложна для интерпретации, что представляет вызовы в контексте объяснимости и прозрачности принятия решений
Я: Возможно ли создание для нейросетей правил, которые невозможно нарушить при любых условиях?
ChatGPT:
Создание нейросети с абсолютно однозначными и непреломляемыми правилами представляет сложность из-за нескольких факторов. Нейронные сети обучаются на основе данных, и внешние воздействия, изменения в данных или окружающей среде могут повлиять на их поведение.
Поэтому получается что пешеходов давить нельзя! Но это не точно...
You
Нейросеть имеет какие-то безусловные алгоритмы?
ChatGPT
Нейронные сети не имеют "безусловных алгоритмов" в традиционном смысле. Вместо того чтобы работать по строго определенным шагам, они обучаются на данных и адаптируются к окружающей среде. Нейросети базируются на архитектуре, включающей слои нейронов и веса между ними, которые обновляются в процессе обучения.
В отличие от классических алгоритмов, нейросети способны обобщать на новые данные, что делает их мощными в решении сложных задач, таких как распознавание образов или обработка естественного языка. Однако их работа иногда может быть сложна для интерпретации, что представляет вызовы в контексте объяснимости и прозрачности принятия решений
Я: Возможно ли создание для нейросетей правил, которые невозможно нарушить при любых условиях?
ChatGPT:
Создание нейросети с абсолютно однозначными и непреломляемыми правилами представляет сложность из-за нескольких факторов. Нейронные сети обучаются на основе данных, и внешние воздействия, изменения в данных или окружающей среде могут повлиять на их поведение.
Поэтому получается что пешеходов давить нельзя! Но это не точно...
Последнее редактирование:
constructor
Старожил
Полагаю, там так. Если рассчитанные вероятности двух или нескольких вариантов решения близки друг к другу, эти варианты корректируют, умножая на псевдослучайную последовательность до тех пор, пока разница не превысит заданный порог. Примерно так делает человек, когда у него два равнозначных варианта, выбирает наугад.
joq
Всё, чему вы верите - ошибочно.
Так какая сеть нужна?
Максимально похожая на человека, или максимально похожая на светлый образ этого человека?
VirPil
Старожил
АП не будет обучаться в процессе езды, как производитель обучит, так и будет ездить.
ШБЖ
Старожил
То есть, АП - это своего рода набор решений (проходных и непроходных калибров) для определенного набора ситуаций. Проблема - в однозначности оценки каждой из них?
VirPil
Старожил
Да, хоть в самолете, хоть в машине.
Не очень понял вопрос. Проблема в непредсказуемости поведения, хоть нейронной сети, хоть и обычного очень сложного алгоритма. Это вам тут не
ШБЖ
Старожил
Под оценкой я имел ввиду "узнаваемость ситуации" АП-ом для сравнения ее с перечнем заложенных разработчиком поводов реагирования. То есть получается, что возможна ситуация: "это мы не проходили, это нам не задавали", на которую АП вообще не отреагирует?
joq
Всё, чему вы верите - ошибочно.
В случае радикального изменения шаблонов уличного движения (при переезде между странами, например) автомобиль с таким АП либо не тронется с места, либо очень быстро попадёт в аварию.