Например потому, что подобных прецедентов до того не было. Но т.к. ИИ – не пилот, которого "ждут дома", то нового положительного опыта может и не появиться... т.е. есть риск того, что ответ "пилот не справился" может трансформироваться в "за пределами возможностей ИИ". Дело закрыто, страховки выплачены...С чего вдруг не вложит?
В чём беда? Исчезло 100500 рисков пилотских косяков, появились несколько рисков, связанных с ии. Разбился самолёт. От этого мир что ли остановился? Одно землятресение вон убило 60 тысяч. Одна авиакатастрофа убивает 200. Серьёзно прям главная проблема человечества состоит в том чтоб ни один самолёт не упал?Например потому, что подобных прецедентов до того не было. Но т.к. ИИ – не пилот, которого "ждут дома", то нового положительного опыта может и не появиться... т.е. есть риск того, что ответ "пилот не справился" может трансформироваться в "за пределами возможностей ИИ". Дело закрыто, страховки выплачены...
Представим себе базу, которая содержит запись "обычно в районе часа дня на шоссе М234 мало машин" ))) И дополнение - "но сегодня Первомай, и сегодня все едут поучаствовать в демонстрации"...хоть на шоссе, хоть в кукурузу
Конкретный самолет, при вине экипажа, погубили 2/8-миллиардных жителей земли.Серьёзно прям главная проблема человечества состоит в том чтоб ни один самолёт не упал?
Представим себе, что самая примитивная камера, соединённая с компьютером, оперирует не терминами «много» или «мало», а вполне конкретно видит сколько там машин в данный момент, тем более, что легковушки под самолётом будут просто щёлкаться как орехи и оценить нужно наличие груженых самосвалов, фур или бензовозов - причём этих хватит и одного на пустом шоссеПредставим себе базу, которая содержит запись "обычно в районе часа дня на шоссе М234 мало машин" ))) И дополнение - "но сегодня Первомай, и сегодня все едут поучаствовать в демонстрации"...
И что? Вы прям не ездите на теслах принципиально? Я уж не говорю о том, что после очередного суицидника или идиота из саратовских, узнавая по мере расследования все чудеса, связанные с обучением и бэкграундом этого пилота - поводов опасаться повтора явно не становится меньше?Конкретный самолет, при вине экипажа, погубили 2/8-миллиардных жителей земли.
В случае с ИИ - он один единый.
Т.е. за штурвалом самолета, который везет тебя на юга, совершенно точно не экипаж погибшего борта. А вот в случае с ИИ - "тот-же самый компьютер, который на той неделе убил сотни людей"...
Хорошо. Машин мало, но нет варианта приземлиться, не задев ни одной из них. Вероятно, в задетой машине будут трупы. Решение ИИ? (Вспоминаем три закона робототехники)Представим себе, что самая примитивная камера, соединённая с компьютером, оперирует не терминами «много» или «мало», а вполне конкретно видит сколько там машин в данный момент
На Tesla я не езжу по другим причинам...И что? Вы прям не ездите на теслах принципиально?
Хаха-) если вы там про законы роботехники решили повспоминать, то уверяю вас, азимов вертится как белка в гробу с момента появления первого боевого беспилотника, а может и первого таймера на аппарате для эвтаназии. Так что давайте отложим гуманистов, марксов и фантастов в помойное ведро и поговорим о деле. Хотите нормальных аргументов против ии? Их есть у меня.Хорошо. Машин мало, но нет варианта приземлиться, не задев ни одной из них. Вероятно, в задетой машине будут трупы. Решение ИИ? (Вспоминаем три закона робототехники)
Через несколько лет - сможете. Сейчас же вы их можете посадить в беспилотный вагон метроНа Tesla я не езжу по другим причинам...
Но автопилот "Теслы" не является заменой водителя. Вы не можете отправить "Теслу" отвезти детей в школу, попивая сок у себя в квартале...
Это еще один уровень проблемы...Когда исчезнут коммерческие пилоты - не совсем понятно будет как собственно вводить в эксплуатацию новые типы
Вагон метро перемещается по абсолютно оцифрованному и понятному пути. По сути, вариант автоведения. При этом, при сбое, вся система может быть остановлена снятием напряжения с питающего рельса.Сейчас же вы их можете посадить в беспилотный вагон метро
Для вас будет откровением тот факт, что на железных дорогах происходит кратно больше катастроф, аварий и нештатных ситуаций, чем в воздухе? Или вы считаете, что шоссе не преподносит сюрпризов? Тем не менее там уже не просто автопилот в виде дополнения, а вполне себе перспектива отсутствия водителей в близкой перспективе. Разговоры про великое небо, на которое не распространяются законы природы - как раз очень любят члены профсоюза пилотов. При этом даже некритический отказ мат части в очень значительном проценте случаев заканчивается катастрофой по вине пилота. Давайте раз вы так любите примеры, я вам задам пару вопросов:Вагон метро перемещается по абсолютно оцифрованному и понятному пути. По сути, вариант автоведения. При этом, при сбое, вся система может быть остановлена снятием напряжения с питающего рельса.
Что автомобиль, что самолет передвигаются в заранее непредсказуемой среде.
Проще говоря, критерии для вагона метро понятны, и отклонения вычисляются внешними системами мгновенно. Примерно как в случае с обычным лифтом. В случае что с авиалайнером, что с автоматическим автомобилем, существует туча моментов, которые не видны из центра управления.
Вы идеализируете компьютер.Случая с ижмой просто не могло случиться будь это компьютер.
Это из разряда "давайте представим, что завтра все люди решат застрелиться". Такого ни разу поди и не было, винт прям критично было оба борта в один миг посадить. Но ничто не мешает создать формализованную систему оценки приоритета - у кого майский день более майский. Сейчас этот вопрос решит диспетчер на уровне интуиции, а нейросеть не напрягаясь посчитает шансы. Да и диспетчера человека пока не обязательно убирать, он подтвердит решение., представим себе, что двум терпящим бедствие бортам необходимо приземлиться одновременно
Так это была классическая автоматика, у которой "в людей непонятной ситуации передавай руль пилоту". Очевидно, если мы отдаём руль нейросети, мы ожидаем, что она никогда не отключитсяАварийная ситуация возникла ввиду отключения автоматики. Но таки выжившие были...
Так в том и разница, что классическое программирование, по сути, не может управлять самолётом. Слишком сложные алгоритмы поучаются. А нейросеть - это другой уровень и совсем другой подход. Ее не пишут люди в некотором смысле. И ответ на вопрос, можно ли создать нейросеть, которая по крайне мере лучше человека, скорее да, чем нет. Согласен с силедкой, что, весьма вероятно, лучше сеть, которая поглотила миллиард часов опыта американских пилотов, чем пилоты, которые завалили максы. Да и вы много рассказывали всякого про российских и не только пилотовВы идеализируете компьютер.
Программы пишут люди. И они горазды на ошибки
А не подскажете, где можно почитать кратенько про такие архитектуры?это достигается как архитектурно так и программно.
Осталось только узнать, откуда у вас эта уверенность? Пока что имеющиеся примеры нейросетей показывают не очень хорошие результаты там, где ответ нужен не красивый, а стабильно правильный. И кстати, пока ещё не придумали способ непосредственно "поглощать миллиарды часов опыта", только опосредованно, на основе каким-либо образом кем-то размеченных данных. При этом вы не можете контролировать что и как она извлекает из этих данных: грубо говоря, вы пометили данные как хороший способ решения проблемы пожара двигателя потому, что на видео пилот четко нажимал кнопку "тушить", а нейросети почудилось, что главное в этих видео было то, что пилот закатил глаза к небу и при этом было семь утра. Поэтому когда пожар произойдет ровно в семь утра нейросеть вместо тушения пожара направит видеокамеру на потолок... Пример, конечно, утроированный, но хорошо отражает суть того, как "думают" нейросети, точнее того, как непредсказуемо они "поглощают опыт".А нейросеть - это другой уровень и совсем другой подход. Ее не пишут люди в некотором смысле. И ответ на вопрос, можно ли создать нейросеть, которая по крайне мере лучше человека, скорее да, чем нет. Согласен с силедкой, что, весьма вероятно, лучше сеть, которая поглотила миллиард часов опыта американских пилотов, чем пилоты, которые завалили максы.
Пилоты и будут размечать данные. Есть информация с датчиков, есть информация от управляющих воздействий пилотов. Идеально для разметки. Дальше нужно "лишь" пометить, в каких случаях пилот действовал качественно, а в каких - не очень) это чуть более трудозатратно, но в крайнем случае можно начать с принципа пилот и матчасть целы - полет удался. То есть самолёт под управлением нейронки летит вслепую и в окошко не смотрит, только на приборы. Как я понимаю, уже есть аэропорты, в которых при текущих технологиях можно сажать самолёт при нулевой видимости, именно с таких и начнут наши автопилоты.а нейросети почудилось, что главное в этих видео было то, что пилот закатил глаза к небу и при этом было семь утра
Основываясь на чем мы это ожидаем?Очевидно, если мы отдаём руль нейросети, мы ожидаем, что она никогда не отключится
Кто и как будет проверять, что нейросеть научилась правильно?Ее не пишут люди в некотором смысле.
Отмечу - цифровых. Не уверен, что данные с полетных регистраторов и видеоархив передачи Pilots Eye содержат всю достаточную для обучения информацию.только опосредованно, на основе каким-либо образом кем-то размеченных данных
Скармливаем ей после обучения весь массив данных с датчиков с миллиардом часов реальных полетов плюс особо выдуманные хитрые случаи и заставляем на тренажёре слетать все эти полёты по этим данным, если ни разу самолёт не угробит и не будет к этому близка, экзамен сдан. Все как с человеком, только экзамен в миллиард раз более полныйКто и как будет проверять, что нейросеть научилась правильно?
Это да, реальная проблема, силедка о ней уже упомянул.И вот примерно тут начинает появляться массив данных для анализа нейросетью. Только вот...