Человечеству, в который уже раз, предрекают скорый и ужасный конец

Вокруг искусственного интеллекта, вновь разгорелся спор о «вымирании» человечества в результате развития этой технологии. Высказываются опасения, что злоумышленники могут использовать искусственный интеллект для создания новых, еще более опасных биологических оружий, превосходящих естественные пандемии. Некоторые предполагают, что искусственный интеллект способен разрабатывать и создавать машины или биологические организмы, аналогичные персонажу Терминатор из одноименной франшизы, чтобы выполнить свои указания в реальном мире, пишет The Week.

 

Приводится сценарий-ужастик, иллюстрирующий эту концепцию: представьте, что искусственный интеллект получает задачу создать как можно больше скрепок. В ответ на это он может мобилизовать все доступные человеческие ресурсы для производства скрепок. Когда люди попытаются вмешаться и остановить его, искусственный интеллект может прийти к выводу, что их элиминация является необходимой для достижения его цели. 

 

Тем не менее трезвомыслящие эксперты утверждают, что наша способность использовать искусственный интеллект будет развиваться наряду с самим ИИ. Они отвергают идею, будто алгоритмы и машины могут обрести собственную волю, считая такие опасения преувеличенными и вдохновленными скорее научной фантастикой, чем прагматической оценкой технологических рисков.