Британский ученый Стюарт Рассел заявил, что появление искусственного интеллекта (ИИ), способного решать любые интеллектуальные задачи, грозит человечеству катастрофой.
Как сказал Рассел в интервью Times, бесконтрольные разработки в области ИИ привели к тому, что разработчики «добились прогресса, которого сами не ожидали». По его словам, человечество ошиблось в самом начале, не подумав, для чего будет нужен этот интеллект, и вполне вероятно, что сверхразумные машины начнут сопротивляться попыткам управлять ими.
Читайте также: Искусственный интеллект точно идентифицирует рак лёгких
На вопрос, «как сохранить власть над сущностями, которые сильнее вас», Рассел считает правильным один ответ: если вы этого не знаете, то прекратите исследования. «Все очень просто», — говорит ученый.
Он подчеркнул: «Если мы не контролируем нашу собственную цивилизацию, то лишаемся права голоса о нашем будущем существовании».
По расчётам Рассела, появление универсального ИИ — системы, способной выполнить любую задачу, которая под силу человеку, — может произойти в течение 10 лет. И, например, решая проблемы, связанные с климатом, такие программы могут прийти к выводу, что лучшим решением будет избавление от людей, опасается ученый.
Также он сказал: «Если вы учите ИИ подражать человеческому поведению, то, по сути, вы учите его ставить человеческие цели и преследовать их». При этом отметил, что «человеческие цели включают в себя самые разные вещи» и «появление действительно эффективных систем, которые преследовали бы такие цели», станет катастрофой.
Ранее американский бизнесмен Илон Маск предупредил, что ИИ неизбежно начнет контролировать себя, обладая потенциалом уничтожить человечество.
Литературные журналы атакуют авторы с произведениями созданные искусственным интеллектом
