Нейросети, ИИ и абстрактное мышление

[constructor]

По большому счёту с точки зрения развития ИИ важно не столько ЧТО, сколько ЗАЧЕМ.
Ибо, ну разберёмся мы с устройством человеческого мозга, научимся полностью симулировать его поведение электронным способом - ну и зачем человечеству это? Воссоздать себе подобных мы и так умеем обычным биологическим способом)

Развитие электронного (точнее, программного) ИИ на достижении мощности человеческого мозга не остановится. В идеале мы должны получить всемогущего раба. Но зачем? Чтобы делать что?

Как зачем? Дешевле. ИИ дешевле человека, и более предсказуем.

 

[kedr]

Как зачем? Дешевле. ИИ дешевле человека, и более предсказуем.

Ну вот, мы тут о высоком, о целях развития человечества, и - "дешевле"

 

[Kwispel]

Как зачем? Дешевле. ИИ дешевле человека, и более предсказуем.

И часто лучше. ИИ уже сейчас распознает опухоли со сканов лучше и быстрее человека.
И прекрасно заменяет человеков, например, в написании тестов и стандартной техдокументации - задачи, которые никто не любит.

 

[joq]

... Воссоздать себе подобных мы и так умеем обычным биологическим способом)

Вернее сказать - пытаемся.
Спору нет, начало процесса довольно приятно. Сложности начинаются попозже, когда из получившегося неподобного часто пытаются вырастить чей-то клон.

... В идеале мы должны получить всемогущего раба.

... и наречь его Спартаком.

 

[Sergey-nn]

В идеале мы должны получить всемогущего раба. Но зачем? Чтобы делать что?

Всемогущий раб - мечта идиотов
Как только раб превосходит в могуществе господина они меняются местами

 

[Kit.]

Всемогущий раб - мечта идиотов
Как только раб превосходит в могуществе господина они меняются местами

Что-то у вас соответствие производственных отношений уровню развития производительных сил не по Марксу получается.

 

[kedr]

Всемогущий раб - мечта идиотов
Как только раб превосходит в могуществе господина они меняются местами

В этом и проблема.
Но надо понимать, что ИИ, в отличие от человека, это программа, изначально не имеющая самосознания и не обладающая свободой воли (т.е. не способная ставить себе цели). И тут критически важно, чтобы при развитии ИИ способность к самостоятельному целеполаганию не появилась вообще или как минимум - в жёстко установленных человеком рамках.

 

[joq]

Появление на Земле альтернативного разума имело бы смысл (за пределами использования его как супер-калькулятора), если бы он: был, насколько это теоретически и практически возможно, далёк от человеческого; был максимально независим от человека и знал бы об этом; и не знал бы о том, что он создан человеком.
Но поскольку от "большой красной кнопки" откажутся вряд ли, то...

 

[Sergey-nn]

В этом и проблема.
Но надо понимать, что ИИ, в отличие от человека, это программа, изначально не имеющая самосознания и не обладающая свободой воли (т.е. не способная ставить себе цели). И тут критически важно, чтобы при развитии ИИ способность к самостоятельному целеполаганию не появилась вообще или как минимум - в жёстко установленных человеком рамках.

тогда это не интеллект, а профанация

 

[Kit.]

В этом и проблема.
Но надо понимать, что ИИ, в отличие от человека, это программа, изначально не имеющая самосознания и не обладающая свободой воли (т.е. не способная ставить себе цели).

Нет в этом никакого отличия от человека.

И тут критически важно, чтобы при развитии ИИ способность к самостоятельному целеполаганию не появилась вообще или как минимум - в жёстко установленных человеком рамках.

Вам напомнить, что сделает капиталист за 300% прибыли?

 

[kl4gs]

Воссоздать себе подобных мы и так умеем обычным биологическим способом)

Ну как сказать) Знаете же анекдот про девять женщин и один месяц?
Чтобы из новорожденного человека сделать аналог ИИ, за месяц обученного находить признаки какого-то специфического заболевания, лет тридцать понадобится.

 

[kedr]

тогда это не интеллект, а профанация

Это искусственный интеллект, т.е. способный выполнять сложные функции человека, но вовсе не обязанный быть психологически похожим.
Если хотите, назовите его псевдоинтеллектом.

Нет в этом никакого отличия от человека.

?

Вам напомнить, что сделает капиталист за 300% прибыли?

Да, это проблема.
При повышении могущества ИИ станет способным уничтожить человечество. Чтобы этого не произошло, придётся либо остановить развитие ИИ (т.е. остановить научно-технический прогресс), либо радикально измениться самому человечеству.

Чтобы из новорожденного человека сделать аналог ИИ, за месяц обученного находить признаки какого-то специфического заболевания, лет тридцать понадобится.

Напомню, изначально дискуссия шла о том, что мы не можем воссоздать человеческий интеллект в машине, поскольку не разобрались в работе человеческого мозга.
Я и говорю, что нам это не нужно. Нам нужен умный раб, инструмент, а не искусственные люди.

Есть другой интересный вопрос (особенно любимый фантастами) - оцифровка сознания конкретных людей, воссоздание личностей в цифровой форме.
Но это ИМХО именно что фантастика, далеко пока не актуальная.

 

[constructor]

При повышении могущества ИИ станет способным уничтожить человечество.

Это не проблема создания ИИ. Это проблема его использования, то есть чисто человеческая. Аналогично атом работает как в электростанциях, так и в бомбе. Ничего нового.

 

[joq]

Это не проблема создания ИИ. Это проблема его использования...

И даже больше.
Создание полноценного ИИ под конкретные ограниченные задачи ничем не отличается от рождения "запасного" ребёнка "на запчасти."

 

[kedr]

Это не проблема создания ИИ. Это проблема его использования, то есть чисто человеческая. Аналогично атом работает как в электростанциях, так и в бомбе. Ничего нового.

Плохая аналогия.

Атомную бомбу в гараже ты не соберёшь, это дело требует огромных специфических ресурсов и жёстко зарегулировано.
Создать и обучить могущественный ИИ вполне способна небольшая группа энтузиастов, бесконтрольно.

Атомная бомба вещь конечная, она мало изменилась с момента создания. ИИ может развиваться едва ли не бесконечно.

ИИ, в отличие от атомной бомбы, способен к саморазвитию.

Впрочем, любые аналогии тут будут неудачны, так как с такой угрозой человечество никогда не сталкивалось.

 

[Kwispel]

Атомную бомбу в гараже ты не соберёшь, это дело требует огромных специфических ресурсов и жёстко зарегулировано.
Создать и обучить могущественный ИИ вполне способна небольшая группа энтузиастов, бесконтрольно.

Да, но энтузиастам потребуется большой объем данных, которые они будут скармливать ИИ и немалые денежные ресурсы.

 

[Kit.]

?

То, что вы написали, одинаково верно (или одинаково неверно) и для человека, и для современных методов обучения нейросетей. Тут нет отличий.

Да, это проблема.
При повышении могущества ИИ станет способным уничтожить человечество. Чтобы этого не произошло, придётся либо остановить развитие ИИ (т.е. остановить научно-технический прогресс), либо радикально измениться самому человечеству.

Человечество (как цивилизация) радикально изменится, тут альтернатив нет.

А вот как именно оно изменится - тут возможны варианты.

Да, но энтузиастам потребуется большой объем данных, которые они будут скармливать ИИ и немалые денежные ресурсы.

Или правильно поданное опенсорсное движение.

 

[kedr]

Да, но энтузиастам потребуется большой объем данных, которые они будут скармливать ИИ и немалые денежные ресурсы.

Но всё же это возможно, в отличие от "гаражного" создания атомной бомбы.
И это одна из проблем, которые несёт развитие ИИ.

 

[constructor]

Плохая аналогия.

Атомную бомбу в гараже ты не соберёшь, это дело требует огромных специфических ресурсов и жёстко зарегулировано.
Создать и обучить могущественный ИИ вполне способна небольшая группа энтузиастов, бесконтрольно.

Атомная бомба вещь конечная, она мало изменилась с момента создания. ИИ может развиваться едва ли не бесконечно.

ИИ, в отличие от атомной бомбы, способен к саморазвитию.

Впрочем, любые аналогии тут будут неудачны, так как с такой угрозой человечество никогда не сталкивалось.

Плохая или хорошая, но аналогия.
И каждый раз, когда появляется что-то новое, это в первый раз. И так много раз. Все достижения в первую очередь использовались как оружие. И используются. И будут использоваться в обозримом будущем. Компьютерная техника используется в военном деле довольно давно и довольно успешно. Что до гаражной техники, так против неё будут использовать заводскую.

 

[kedr]

То, что вы написали, одинаково верно (или одинаково неверно) и для человека, и для современных методов обучения нейросетей. Тут нет отличий.

Хм, у вас есть дети?
Просто я до рождения своих детей тоже думал о них, как о неких "пустых" нейросетях)
Но нет, в них очень многое заложено от рождения, они сильно отличаются друг от друга.
И самосознание, и свобода воли в здоровом человеке тоже заложены от природы.

Так что человек сильно отличается от современных нейросетей. Да, мощную нейросеть теоретически можно будет обучить полноценно имитировать человека, но внутри механизмы будут разные.

Человечество (как цивилизация) радикально изменится.
А вот как именно оно изменится - тут возможны варианты.

2030 - 2050 - футурологи примерно эти годы называют, когда человечество столкнётся с угрозой ИИ "в полный рост". Жутковато.

Или правильно поданное опенсорсное движение.

Доступ к чужим наработкам, скажем так.