"Мы добились прогресса, которого сами не ожидали". Почему искусственный интеллект грозит человечеству катастрофой

Появление искусственного интеллекта, способного решать любые интеллектуальные задачи, грозит человечеству катастрофой, заявил в интервью The Times британский учёный Стюарт Рассел.

По его мнению, бесконтрольные разработки в области ИИ привели к тому, что "мы добились прогресса, которого сами не ожидали". Человечество ошиблось в самом начале, когда не думало, для чего будет нужен этот интеллект, уточнил Рассел. Вполне возможно, что сверхразумные машины в будущем будут сопротивляться попыткам ими управлять, добавил он.

"Как сохранить власть над сущностями, которые сильнее вас? Если у вас нет ответа, прекратите исследования. Всё очень просто. Ставки уже не могут быть выше: если мы не контролируем нашу собственную цивилизацию, то лишаемся права голоса о нашем будущем существовании", – подчеркнул специалист.

Как отметил Рассел, появление универсального искусственного интеллекта, системы, способной выполнить любую задачу, которая под силу человеку, может произойти в течение десяти лет. При решении проблем, например, связанных с климатом, подобные программы могут прийти к выводу, что лучшим решением станет избавление от людей, выразил опасение учёный.

"Если вы учите ИИ подражать человеческому поведению, то по сути вы учите его ставить человеческие цели и преследовать их. А человеческие цели могут быть самыми разными. Можно только представить, какой катастрофой стало бы появление действительно эффективных систем, которые преследовали бы такие цели", – резюмировал он.