Но на нынешнем этапе технологии приближаются к созданию сильного ИИ, т.е. сопоставимого с человеком, способного выполнять не одну, а множество человеческих функций, причём имеющего существенные преимущества перед человеком (например, подключение напрямую к интернету, абсолютная память, способность быстро обрабатывать огромный объём информации).
И здесь возникают две основные угрозы:
1. Злоумышленное использование сильного ИИ. Например, злоумышленник попросит рецепт быстрого умерщвления миллионного города из подручных средств. Сильный ИИ, лишенный моральных ограничений, выдаст ему алгоритм: ...