Ученые предупредили, что люди не смогут сдержать сверхразумный компьютер
Искусственный интеллект с доступом в Интернет смог по-настоящему напугать специалистов.
Вывод о полной невозможности контролировать сверхразумный искусственный интеллект сделали представители мирового научного сообщества. Выводы ученых уже опубликовали в журнале Journal of Artificial Intelligence Research.
Исследователи сфокусировали внимание на вопросах сверхразумного ИИ, который смог бы превосходить человеческий.
Ученые разбирались благодаря моделированию, а также — с помощью базовых инструментов теории информатики. Эксперты хотели установить, сможет ли такой человек контролировать подобный ИИ и соблюсти при этом законы этики.
– ИИ вполне можно было бы сдерживать с помощью алгоритмов сдерживания, отключающих ту или иную опцию всей системы во время фиксации каких-то деструктивных действий.
Ученые определили, что в соответствии с теорией информатики, алгоритм сдерживания — абсолютно любой — уязвим. Все потому, что при ряде обстоятельств он способен отключать сам себя, а значит, он является просто неприменимым. Собственную работу он не может гарантировать.
И все же, возможности ИИ пока служат человеку только хорошую службу. Так, в Московской области искусственный интеллект поможет вызвать врача на дом, а в Петербурге искусственный интеллект учат выявлять язву и рак по фото.
Исследователи сфокусировали внимание на вопросах сверхразумного ИИ, который смог бы превосходить человеческий.
– Если такой ИИ получил бы безграничный доступ в Интернет к накопленным знаниям человечества, то нас всех ждала бы утопия или, скорее всего — антиутопия, — заявили ученые.
Ученые разбирались благодаря моделированию, а также — с помощью базовых инструментов теории информатики. Эксперты хотели установить, сможет ли такой человек контролировать подобный ИИ и соблюсти при этом законы этики.
– ИИ вполне можно было бы сдерживать с помощью алгоритмов сдерживания, отключающих ту или иную опцию всей системы во время фиксации каких-то деструктивных действий.
Ученые определили, что в соответствии с теорией информатики, алгоритм сдерживания — абсолютно любой — уязвим. Все потому, что при ряде обстоятельств он способен отключать сам себя, а значит, он является просто неприменимым. Собственную работу он не может гарантировать.
И все же, возможности ИИ пока служат человеку только хорошую службу. Так, в Московской области искусственный интеллект поможет вызвать врача на дом, а в Петербурге искусственный интеллект учат выявлять язву и рак по фото.
Подписывайтесь на Новости LIVE24.RU и на наш канал в Дзенe. Следите за главными новостями России и Мира в telegram-канале LIVE24.RU.
