Основатели OpenAI призывают к жёсткому международному контролю ИИ

В своей статье на странице OpenAI отцы-основатели OpenAI: Sam Altman, Greg Brockman, Ilya Sutskever обратились к миру с призывом к жёсткому международному контролю над ИИ.

В статье Governance of superintelligence они пишут (вступление): 

«Сейчас самое время задуматься об управлении сверхразумом — будущими системами ИИ.

С учетом текущей ситуации можно предположить, что в течение следующих десяти лет системы искусственного интеллекта достигнут уровня экспертных навыков во многих областях и смогут выполнять такую же продуктивную деятельность, как одна из сегодняшних крупнейших корпораций.

Сверхразумность, с точки зрения преимуществ и недостатков, будет превосходить другие технологии, с которыми человечество сталкивалось в прошлом. Это может привести к более благоприятному будущему, но при этом мы должны управлять рисками, чтобы достичь такого состояния. Учитывая возможность существенных угроз, мы не можем просто реагировать. Примерами технологий с подобными свойствами в истории могут служить ядерная энергия и синтетическая биология.

Мы также должны сократить риски, связанные с текущими технологиями искусственного интеллекта, но сверхразум требует особого внимания и координации…»