Он обратил внимание на то, что уже сейчас человечество наблюдает за результатами, которых само не ожидало. Бесконтрольные разработки в области ИИ привели к тому, что многие профессии находятся на грани «вымирания». Рассел допустил вариант развития событий, при котором машины начнут сопротивляться попыткам управлять ими в будущем.
«Как сохранить власть над сущностями, которые сильнее вас? Если у вас нет ответа, прекратите исследования. Все очень просто»,
заявил ученый.
Он подчеркнул, что ставки уже слишком высоки. Если человек не может сам контролировать собственную цивилизацию, то он лишается права голоса о своем существовании в целом. При этом специалист считает, что искусственный интеллект может научиться выполнять любые задачи в течение ближайших 10 лет.
«Если вы учите ИИ подражать человеческому поведению, то, по сути, вы учите его ставить человеческие цели и преследовать их. А человеческие цели включают в себя самые разные вещи»,
добавил Рассел.
Резкого развития технологий ИИ опасаются даже их создатели. Например, Илон Маск, а вместе с ним представители мировых технологических компаний подписали коллективное письмо с просьбой приостановить разработку нейросетей и аналогичных им систем. Российские аналитики высказали свое мнение о развитии искусственного интеллекта в ближайшее десятилетие.
