370. Алгоритмическая Суть Сверхразумного Искусственного Интеллекта «Smart-MES»

Илья Весенний в статье «Злой искусственный интеллект» пишет: «Настоящий риск ИИ не в его злобе, а в его компетентности. Сверхразумный ИИ будет потрясающе хорош в достижении целей. Но если цели ИИ не совпадут с нашими устремлениями, то мы в беде. Вероятно, вы не коварный ненавистник муравьёв, уничтожающий их из злобы, но если вы строите ГЭС, а в низине есть муравейник, то муравьям не повезло. Давайте не будем ставить человечество в положение тех муравьёв».

Компетентность Сверхразумного Искусственного Интеллекта (СИИ) полностью зависит от компетентности людей, что и определяет уровень мышления СИИ. Следует опасаться не создания злого СИИ, а равнодушия чиновников и пренебрежения учёных РАН. Здесь складывается парадоксальная картина, когда Правительство из-за понятного отсутствия своей компетентности в области СИИ обращаются к экспертам РАН, то они почему-то, даже не разобравшись в СИИ «Smart-MES», дают отрицательный отзыв.