Человеческий фактор vs искусственный интеллект

Реклама
pasajero сказал(а):
А LLM разве не обучающаяся нейросеть?
Нажмите, чтобы раскрыть...
pasajero сказал(а):
А LLM разве не обучающаяся нейросеть?
Нажмите, чтобы раскрыть...
Обучающаяся но чему? Сначала в нее тупо загоняют триллионы текстов, в режиме обучения _предскажи следующее слово_. Потом начинают дообучать рассуждать. Потом еще долго мучаются чтобы обучить не отвечать плохишам.

Но по сути все что ЛЛМ умеет это предсказать желательный ответ. По аналогии с тем что в нее загнали.

Потом еще добавляют RAG - ваши документы превращают в набор векторов, запрос к модели тоже в набор векторов и просят базу подобрать документы которые ближе всего к запросу, и добавляют их в запрос.

Все это не более чем иммитация мышления дрессированным медведем.
 
ogle сказал(а):
dunch, вряд ли релизы чаще, чем раз в месяц. Очень дорого это - обучать модель
Нажмите, чтобы раскрыть...
Да не то чтобы дорого. GPU стоят и часто простаивают, загрузи их дообучением. Плюс к тому конечно мало кто будет с полного нуля обучать автопилот, будут файн тюнить - дообучать имещийся. Или часто используют бегемотные модели для оценки результатов обучения без которых обучение невозможно.

Но я как то вижу тенденцию в то чтобы идти к специализированным моделям и уменьшать их размеры а не раздувать бегемотов на 600 биллионов нейронов. Прогресса у бегемотов уже почти не заметно (речь про NLM). А вот у специализированных моделей прогресс очень ощутим. Хотя и они обучались часто так что могут ответить как звали коня Цезаря например.
 
stranger267 сказал(а):
LLM на сегодня вообще недоразумение названное интелектом с бодуна.Но вот например автопилот теслы интересен. Что сделал Маск - вместо гигабайт кода он взял нейросеть загнал туда миллионы реальных поездок и ап стал имитировать хороших водителей. Код там остался, ряд ситуаций явно закодированы но общее поведение обучено. И такое же ожидается и в автопилотах.
.т
Нажмите, чтобы раскрыть...
LLM значит не AI. Вещи лучше называть своими именами.
 
dunch сказал(а):
Да, но для самолётовождения и раз в год сойдёт. А для корпоративной ЛЛМ и раз в месяц маловато
Нажмите, чтобы раскрыть...
В корпоративных масштабах БЯМ не обучают.
Если, конечно, ваша корпорация не Майкрософт или Гугл.
Но у них это продукт.
 
Реклама
stranger267 сказал(а):
Все это не более чем иммитация мышления дрессированным медведем.
Нажмите, чтобы раскрыть...
Человек обучается похожим образом. Читает много текстов по какой-то дисциплине (знания), параллельно учится рассуждать и применять эти знания. Причём тоже достаточно стандартно. И лишь очень немногие доходят до того, чтобы на основе имеющихся знаний создавать новые. Большинство же не доходят, а просто применяют то, что есть, часто доводя это до автоматизированного навыка. Чем наша естественная нейросеть в массе своей лучше искусственной?
 
pasajero сказал(а):
Человек обучается похожим образом.
Нажмите, чтобы раскрыть...
Нет, принципиально нет.
Человек не может запомнить все тексты мира.

Он читает что-то ограниченного объёма, запоминает оттуда концепции и идеи, причём только накладывающиеся на уже имеющуюся его базу.

А БЯМ оперируют с корпусом текстов статистическими методами. У них нет предзнания и знания. Нет и модели рассуждений, точнее, они могут имитировать рассуждения, т.к. многие тексты написаны в стиле рассуждений.
 
ogle сказал(а):
В корпоративных масштабах БЯМ не обучают.
Если, конечно, ваша корпорация не Майкрософт или Гугл.
Но у них это продукт.
Нажмите, чтобы раскрыть...
Странно, у нас прямо сейчас идет два процесса дообучения. И еще будет идти. Да, не с нуля, но именно DL - Deep Learning. Ресурсы - ну да, пока потратили на все это где то тысяч 15, сейчас еще около 100K добавляем, не супер великие деньги. Нам не нужны фабрики из 100 карточек, для обучения хватает даже и одной, так как модели уже научились сильно уменьшать в размерах, именно используя бегемотов для их обучения.
 
Назад