Почему опасно доверять искусственному интеллекту

Руководитель центра компетенций Big Data компании «Рексофт» Сергей Назаренко в беседе с агентством «Прайм» заявил, что на данный момент искусственному интеллекту (ИИ) доверять нельзя, так как он еще не появился. Сейчас ИИ люди называют алгоритмы машинного обучения. А если рассматривать вопросы доверия к алгоритмам машинного обучения, то ответ будет зависеть от совершенства технологий в конкретной отрасли, а также последствий, к которым может привести возможная ошибка.

Назаренко отметил, что люди доверяют искусственному интеллекту в вопросах обработки фото для соцсетей или умным фильтрам в Photoshop. К тому же никого не пугает передвижение на автомобилях с АБС и ESP. При этом в автомобильных помощниках ИИ используется довольно редко, но при этом задействованы сложные алгоритмы обработки сигналов с датчиков. Первичное решение о выдаче кредита и его условия тоже часто принимает искусственный интеллект.

Однако человечество еще не готово к тому, чтобы ИИ диагностировал заболевания, управлял атомной электростанцией или машиной на дороге.

Смещенная выборка (bias) оказывает влияние на людей, которые пользуются системами ИИ, и с этим уже ничего не поделать. Земля заселена неравномерно, доходы и деловая активность тоже распределены неравномерно. Эти факторы влияют на население: образ жизни, предпочтения и привычки людей, пояснил эксперт.

Он добавил, что ИИ вынужден учитывать большое количество объективных различий окружающей действительности при работе, но гиперперсонализация несет за собой большие риски формирования локальных «пузырей» вокруг индивида, а также его отрыва от социума и искажение реальности.

Ранее стало известно, что чипированная обезьяна Илона Маска продолжает делать успехи. На этот раз она показала, как управляет компьютерной игрой с помощью силы мысли. Во время игры к мозгу обезьяны подключили датчики. Они фиксировали активность мозговой деятельности. Одновременно с этим происходило наблюдение за движениями лап животного.