Об идее свержения человечества искусственным интеллектом говорят уже несколько десятилетий, и в 2021 году ученые вынесли свой вердикт о том, сможем ли мы контролировать высокоуровневый искусственный интеллект. Их ответ: почти наверняка нет.
Загвоздка в том, что для управления сверхинтеллектом, находящимся далеко за пределами человеческого понимания, потребуется симуляция этого сверхинтеллекта, которую мы сможем анализировать (и контролировать).
Но если мы не в состоянии постичь его, то и создать симуляцию не сможем.Такие правила, как “не причинять вреда людям”, не могут быть установлены, если мы не понимаем, какие сценарии будет придумывать искусственный интеллект (ИИ). Как только компьютерная система начнет работать на уровне, превышающем возможности наших программистов, мы больше не сможем устанавливать ограничения.
“Сверхинтеллект представляет собой принципиально иную проблему, чем те, которые обычно изучаются под вывеской “этики роботов”, – пишут исследователи. – Это связано с тем, что сверхинтеллект многогранен и, следовательно, потенциально способен мобилизовать разнообразные ресурсы для достижения целей, которые будут непостижимы для человека, не говоря уже о том, чтобы их можно было контролировать”.
Свежие комментарии