Возможное возникновение у человечества угрозы возникновения ИИ – это катастрофа. В своем комментарии газете The Times 13 мая британский ученый Стюарт Рассел указал на это.
Ученые утверждают, что бесконтрольные исследования в сфере искусственного интеллекта привели к такому прогрессу, которого исследователи даже не ожидали. С точки зрения Рассела, человечество допустило ошибку в самом начале разработки и не смогло четко решить для чего именно нужен этот интеллект.
Учёный предположил, что в будущем ИИ может начать оказывать сопротивление попыткам человека управлять им. Если контролировать процесс развития ИИ не получается, разработки в этой области необходимо прекратить. По мнению Рассела разработка этих проектов должна быть прекращена.
Они уже не могут быть ниже. В своем докладе ученый отметил, что если мы не контролируем свою собственную цивилизацию, то лишаемся права голоса о нашем будущем существовании.
Заяц предположил, что в ближайшие 10 лет появится универсальный ИИ с возможностями решать любые задачи человека, при этом может возникнуть реальная угроза самому существованию человечества. В случае решения проблем, связанных с изменением климата и изменениями в атмосфере ИИ вполне может решить что наилучшим выходом будет избавление планеты от людей.
Эксперты по безопасности из разных сфер высказывали опасения о том, что ИИ может быть опасен для человечества.