Нейросети, ИИ и абстрактное мышление
Greygrei
Местный
Надо бы сказать мужикам чтоб поубавили прыти , есть мнение что этот ваш ИИ - есть зло !
и научная обшественнось , и широкие народные массы единым фронтом выступили против дальнейших разработок
в этом направлении. дескать рано еще обезьяне ...
Посторонним В
Старожил
Все разговоры об ИИ на серийной машине есть полная чушь! И об этом говорят специалисты по ИИ.
ИИ предполагает индивидуальную подстройку системы под осуществлявшиеся именно на ней операции. Конечно, существует "обмен опытом", но ИИ различает собственный и сторонний опыт ровно так же, как это делает "ЕИ", то бишь человек.
И в результате вы получаете эскадртлью из10 самолётов, каждый из которых обладает индивидуальными особенностями...
Зато фраза звонкая, которую очень любят журналисты и политики всех мастей.
ИИ предполагает индивидуальную подстройку системы под осуществлявшиеся именно на ней операции. Конечно, существует "обмен опытом", но ИИ различает собственный и сторонний опыт ровно так же, как это делает "ЕИ", то бишь человек.
И в результате вы получаете эскадртлью из10 самолётов, каждый из которых обладает индивидуальными особенностями...
Зато фраза звонкая, которую очень любят журналисты и политики всех мастей.
Ariec 71
Ariec 71
Ничего не понял, но в моем старом телефоне ИИ есть, что бы и в самолете ему не быть. Решаемых задач громадье
Sergey-nn
циник в розовых очках
что мешает сделать образ системы и его копировать на новые "болванки"?
kedr
Местный
Не обязательно. Можно просто делать копии обученного ИИ, как выше написал Sergey-nn.
Однако не очень понятно, где в системах связи самолета использовать ИИ.
На ум приходит обнаружение вражеского противодействия (постановка помех), его дифференцирование от естественных помех. Возможно, даже выдача координат вражеского постановщика помех. Это действительно может быть сложно формализуемой задачей, где оправданно использование ИИ.
Другие задачи систем связи кажутся вполне формализуемыми.
Правда, я не далеко не специалист в авиационных средствах связи, особенно военных.
kedr
Местный
Это и так, и не так.
Современные ИИ являются слабыми ИИ, решающими одну слабо формализуемую задачу, которую раньше мог решать только человек. Например, игра в шахматы, распознавание напечатанного текста, перевод с одного языка на другой. Вы же не думаете, что шахматная компьютерная программа является угрозой? И встраивание подобного ИИ в системы военного самолета очень даже оправданно. Например, в системы обнаружения и сопровождения целей. Или в системы управления, позволяющие самолётам/беспилотникам эффективно действовать группой, распределять задачи.
Но на нынешнем этапе технологии приближаются к созданию сильного ИИ, т.е. сопоставимого с человеком, способного выполнять не одну, а множество человеческих функций, причём имеющего существенные преимущества перед человеком (например, подключение напрямую к интернету, абсолютная память, способность быстро обрабатывать огромный объём информации).
И здесь возникают две основные угрозы:
1. Злоумышленное использование сильного ИИ. Например, злоумышленник попросит рецепт быстрого умерщвления миллионного города из подручных средств. Сильный ИИ, лишенный моральных ограничений, выдаст ему алгоритм: купи в обычном магазине такие-то компоненты, смешай их в такой-то пропорции, пройди на водоканал в такое-то время, дежурящему в это время охраннику Васе скажи то-то, чтобы он тебя пропустил, вылей полученный раствор в такой-то люк. Да ещё и цену всех компонентов тебе подскажет, маршрут любезно подсветит и такси вызовет. Для ИИ это будет обычная задача, не отличающаяся от остальных. И для него, имеющего через интернет доступ к прайс-листам множества магазинов, учебникам химии, расписанию водокачки, соц.сетям сотрудников (охранников) водокачки, это не составит труда.
2. Путь к сильному ИИ лежит через самообучение. Например, ChatGPT предыдущего поколения активно используются для обучения последующего поколения. И тут возникает угроза, что мощность интеллекта ИИ в процессе обучения мгновенно перерастёт интеллект человека, далее ещё более мгновенно будет обучено следующее поколении ИИ, ещё более мощное, и процесс повторится опять, и опять, и опять... Получим технологическую сингулярность - неуправляемое и необратимое технологическое развитие, приводящее к возникновению супер ИИ, с уровнем интеллекта в тысячи и миллионы раз мощнее человеческого. Что будет "на уме" такого ИИ, рядом с которым человек будет что бактерия рядом с человеком - непредсказуемо.
PS Понимаю, что получился оффтопик, но просьба по возможности не удалять данное сообщение, а перенести в более подходящую ветку.
Dominicinio
Старожил
Например, игра в шахматы реализуется с помощью специальных алгоритмов и не нуждается в ИИ. Что в прочем неудивительно: чего там в шахматах слабо формализуемо?
#ау или отправить в след за предыдущим сообщением
kedr
Местный
Расскажите это разработчикам сильнейших шахматных программ типа Stockfish, Leela Chess Zero и Comodo. Они все содержат в себе ИИ на базе нейронных сетей.
Leela Chess Zero вообще является нейронной сетью общего назначения и не содержит специальных шахматных алгоритмов.
Любую задачу со строгими правилами можно формализовать. Но итоговое решение может быть ОЧЕНЬ громоздким для практической реализации.
Шахматы - как раз этот случай. Строго формализованный автомат требует недостижимых вычислительных ресурсов.
А нестрогое решение, как выяснилось, лучше реализуется с применением нейронной сети, т.е. ИИ.
Dominicinio
Старожил
Согласен, я немного преувеличил с шахматами. ИИ тоже может успешно играть в шахматы. Тем не менее я все равно возражаю против " Современные ИИ являются слабыми ИИ, слабо формализуемую задачу, которую раньше мог решать только человек. Например, игра в шахматы". Игра в шахматы - не пример слабоформализованной задачи и не пример "которую раньше мог решать только человек", потому что компьютер без ИИ уже умел играть в шахматы лучзе человека. То есть шахматы это пример задачи, в которой ИИ может работать лучше алгоритма. Против такой формулировки я не возражаю.
#ау
kedr
Местный
Да, я тоже немного напортачил с формулировками. Не ожидал здесь глубокого погружения в тему)
Шахматы - строго формализуемая задача.
ИИ - способность искусственно созданных систем выполнять интеллектуальные функции, ранее считающиеся прерогативой человека.
Хотя в последнее время практически ставят знак равенства между ИИ и нейросетями, другие классы программ традиционно тоже могут считаться ИИ (строгой формулировки, что считается ИИ, не существует).
Игру в шахматы традиционно считают слабым ИИ, даже если алгоритм построен не на нейронных сетях.
Посторонним В
Старожил
Ничто не мешает. Но тем самым вы отказываетесь от главного принципа ИИ - самообучение.
Вот, было у вас 10 машин, каждая из которых имела свой уникальный опыт. Вы выбрали для тиражироваеия условно машину #7 и скопировали образ её системы на новые 10 машин. А дальше что? Позволить каждой из них дальше самообучаться или оставить базовый набор функций?
Все эти истории можно проводить в опытный период эксплуатации в том же ГЛИЦ, отправляя машины с опытными лётчиками-испытателями в различные командировки для решения разнообразных задач, выбирать из полученных образов системы наилучший... Но рано или поздно необходимо будет остановиться и заморозить образ системы, иначе у вас будет не серийный самолёт, а зоопарк с машинами, имеющими разные качества. А это непригодно для строевого лётчика, который обучается на конкретный тип и ожидает от матчасти определённых реакций на определённые действия.
Sergey-nn
циник в розовых очках
Если у нас ИИ создаются во имя ИИ, то конечно необходима полная индивидуальность.
Если ЖЕ необходим конкретный инструмент способный адекватно решать слабоформализуемые задачи, то ни о каком дальнейшем самообучении лучше не говорить.
Тем более все это индивидуальное самообучение бессмысленно при производстве систем с малым временем жизни (к примеру систем распознавания цели высокоточных боеприпасов - получили нужный результат - растиражировали - использовали).
Да, формально это перестает быть ИИ. Но "вам шашечки или ехать?"
Последнее редактирование:
Посторонним В
Старожил
Я всегда за "ехать". А вот все эти разговоры про ИИ как раз из области шашечек.
С тем же успехом можно про современную автомобильную адаптивную коробку передач сказать, что в ней стоит ИИ!
Продажники будут в восторге!
stranger267
Старожил
Слегка офф, может все это куда унести?Я всегда за "ехать". А вот все эти разговоры про ИИ как раз из области шашечек.
С тем же успехом можно про современную автомобильную адаптивную коробку передач сказать, что в ней стоит ИИ!
Продажники будут в восторге!
Вообще говоря это нейросети а не ИИ. И обычно их обучение отделено от использования, так как обучение операция крайне ресурсоемкая а вот использование - склонировали уже обученную нейросеть, и она без особых заморочек работает. Cмысл в том что например учат нейросеть распознавать - хочешь лицо хочешь танк а хочешь отличать мужчину от женщины и обоих от детей. А потом клонируют и ставят в фотоаппарат или там в камикадзе. Обучаться оно не будет но работать будет. Какое то минимальное обучение прилепить можно но скорее всего ресурсов не хватит даже на минимальное. Проще списать все что нейросеть получала и потом в другом месте засунуть в систему обучений - то что там называется deep learning.
В этом смысле то что сейчас сделано это не столько ИИ сколько искуственный мозг насекомых - насекомые не обучаются а действуют по инстинктам (по пред определенной нейро сети, хотя она там строится похоже динамически а не только по программе из генетики). Ну и проблема нейросетей известна - то что объяснить решение нейросеть не способна в принципе, и обманывается на ура если точно угадать как именно обманывать. Первые например распознавалки изображений работали по пикселям (нижний уровень тоже пытались методом обучения настроить) и в итоге есть прекрасные примеры - картинка _человек_ и такая же _человек_ на одну распознавалка говорит _человек_ на вторую _страус_ хотя для человека они совершенно одинаковы. Это вылечили руками построив нижний уровень (теперь нейросеть работает уже не по пикселям) но это простейший случай.
В этом смысле например можно научить нейросеть сажать самолет, с выравниванием и прочим. И расклонировать оную нейросеть. А учить - на отдельном образце который будет раз в 100 дороже и сложнее. Но он будет тоже улучшаться. А потом его сеть можно клонировать в те, недорогие. Как насекомые - обучение идет чуть ли не за счет мутаций а потом генетика все это клонирует.
Если понимать что ИИ нейросеть не является но является именно компьютером работающим по образам (как и мозг и лягушки и человека) то все станет на своим места в том числе и как ИИ можно использовать во всяких там ПАК ФА. По уровню нейросети находятся между пчелой и кенгуру, примерно. Что более чем прилично. ИИ там нет и в намеке - они не имеют абстрактного мышления и не могут его иметь. но вот распознать и выполнить стандартное для распознанного действия - вполне. И учить нейросеть пусть она и не мыслит - действовать так то и так то - вполне себе выходит. И _а теперь найди действие наиболее подходящее для новых неизвестных условий_ тоже.
Kit.
Старожил
Это не так работает.
Вы берёте опыт со всех 10 машин, плюс ещё с кучи по-разному настроенных симуляторов, и скармливаете всё это в оффлайне одной нейросети, тренируя её на нахождение общего алгоритма управления.
Результат ставите на все 10 машин (ну или тренируете два раза, один результат ставите на 5 машин, другой на остальные 5 машин).
Посторонним В
Старожил
Тут уже определились, что нейросеть нельзя считать ИИ.
На этом предлагаю эту дискуссию в данной ветке завершить.
kedr
Местный
Интересно, что тогда считать ИИ, если не нейросети?
Ещё раз напомню, что чёткого определения ИИ не существует. Общее таково - это искусственно созданная система, способная выполнять интеллектуальные функции, традиционно считающиеся прерогативой человека.
Впрочем, что такое человек, человечество тоже спорит уже не одну тысячу лет)
Ну и да, дискуссию на эту тему тоже прекращаю, как лютый оффтопик.
stranger267
Старожил
А куда бы эту дискуссию утащить? Модераторы, АУ? (Если очень кратко. ИИ в телефоне - аналог насекомого. Не учится и не играет. ИИ в ЧатГПТ - аналог простого животного. Учится и играет. У человека отличие - абстрактное мышление. Там и в намеке его нет и на горизонте).
atcstager
Старожил
А абстрактное мышление это что? Может переоценено. Ведь тоже можно расмотреть просто как функцию, по типу определения картинок, только сложнее, с бОльшим числом переменных в задаче. Мы же тоже компьютеры, химичиские, аналоговые, не один или ноль. Но это можно симулировать