Чем на самом деле закончится война между искусственным интеллектом и человечеством?

Новый научно-фантастический фильм “Создатель” рассказывает о будущем, в котором человечество втянуто в конфликт с искусственным интеллектом (ИИ). Эта тема хорошо знакома фантастам, однако она отличается своей актуальностью, поскольку потенциальные угрозы ИИ становятся все более реалистичными.

В последнее время неоднократно звучали тревожные сигналы об “экзистенциальной угрозе” ИИ. Помимо того, что он способен превзойти человека в таких задачах, как письмо, все большее беспокойство вызывает роль ИИ в военных действиях, где возможны опасные и неконтролируемые подвижки.

Критическим поводом для беспокойства является автономное оружие, управляемое ИИ, которое заменит человеческий контроль. Пол Шарре, автор и эксперт, ссылается на проект DARPA AlphaDogfight, в котором ИИ превзошел пилота-человека по точности и тактике, превосходящей человеческие возможности.

В связи с этим возникают этические дилеммы, связанные с принятием ИИ критически важных решений, например, потенциальные ошибки в военное время, приводящие к жертвам среди гражданского населения. Ответственность в таких сценариях неясна.

Первоначально военное применение ИИ может быть сосредоточено на тактике и анализе, повышая эффективность. Однако это может спровоцировать гонку вооружений, подобную ядерному оружию, когда страны будут чувствовать давление, заставляющее их все больше полагаться на ИИ в принятии решений.

Шарре обсуждает теоретическую “сингулярность на поле боя” – момент, когда принятие решений ИИ превзойдет человеческое понимание, что приведет к необходимости полной автономии систем ИИ в бою.

Возможность того, что ИИ выйдет из-под контроля человека или станет враждебным, не является надуманной. В то время как США настаивают на человеческом контроле при принятии ядерных решений, другие страны, такие как Россия и Китай, могут не придерживаться подобной политики, что создает реальные проблемы.

Шарре сравнивает потенциальное превосходство ИИ над человеком с различиями между людьми и шимпанзе. Он подчеркивает стремительное развитие возможностей ИИ, превосходящего человеческих экспертов в таких областях, как шахматы.

В заключение можно сказать, что по мере разработки и внедрения мощных и непонятных систем ИИ реальное беспокойство вызывает наша способность управлять этими более умными, чем мы, существами, что может привести к серьезным проблемам.