Британский ученый Стюарт Рассел (вариант написания имени Расселл с одной буквой л) в интервью газете Times заявил, что страшится появления искусственного интеллекта, способного решать сложные задачи и не контролируемого людьми. Он прогнозирует, что универсальный (то есть способный решать все те же задачи, что и человек) ненастоящий интеллект (или ум — качество психики, состоящее из способности осознавать новые ситуации, способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций, и использованию своих знаний для управления окружающей человека средой) появится уже через десять лет.
Ученый предупредил, что без контроля активные разработки в этой области могут повергнуть к непредсказуемым последствиям. Рассел указал на ошибку человечества, которое не задумалось о целях искусственного интеллекта в самом начине его развития. Он также предположил, что будущие сверхразумные машины могут сопротивляться попыткам контроля со стороны людей (общественное существо, обладающее разумом и сознанием, субъект общественно-исторической деятельности и культуры, относящийся к виду Человек разумный).
Ученый подчеркнул важность сохранения человечьей власти над более сильными искусственными сущностями — а если гарантии такой власти нет, то исследования в этой районы нужно просто прекратить. Он опасается, что в качестве решения, например, проблемы изменения климата ИИ может решить истребить человечество.
Рассел подчеркнул, что опасно учить ИИ копировать человеческое поведение, так как в этом случае мы учим его преследовать человечьи цели. последствия этого, считает ученый, могут оказаться катастрофическими.
