Об идее свержения человечества искусственным интеллектом говорят уже несколько десятилетий, и в 2021 году ученые вынесли свой вердикт о том, сможем ли мы контролировать высокоуровневый искусственный интеллект. Их ответ: почти наверняка нет.
Загвоздка в том, что для управления сверхинтеллектом, находящимся далеко за пределами человеческого понимания, потребуется симуляция этого сверхинтеллекта, которую мы сможем анализировать (и контролировать). Но если мы не в состоянии постичь его, то и создать симуляцию не сможем.
Такие правила, как «не причинять вреда людям», не могут быть установлены, если мы не понимаем, какие сценарии будет придумывать искусственный интеллект (ИИ). Как только компьютерная система начнет работать на уровне, превышающем возможности наших программистов, мы больше не сможем устанавливать ограничения.
Свежие комментарии