Аxios: исследователи прогнозируют «коллапс моделей» ИИ

Интернет становится настоящим хранилищем контента, который не создан людьми, а сгенерирован искусственным интеллектом. Это создает новые угрозы как для общества, так и для самих искусственных интеллектов, сообщает Аxios.       

 

Эксперты прогнозируют, что в ближайшие годы до 90% информации в Интернете будет создаваться искусственным интеллектом, включая такие программы, как ChatGPT и Dall-E, которые вносят потоки текста и изображений в онлайн-пространство.        

 

Это происходит в мире, где еще нет надежных способов отличить контент, созданный искусственным интеллектом, от контента, созданного человеком.         

 

Суть опасности для человеческого общества заключается в том, что информационная перегрузка и деградация становятся все более распространенными. ИИ расширяет возможности создания нового контента, но при этом подрывает возможность проверки этого контента на достоверность и исправление предвзятостей и ошибок, которые были использованы при его обучении.        

 

«Коллапс модели» — это термин, введённый исследователи, чтобы описать процесс, который происходит с генеративными моделями искусственного интеллекта, такими как GPT-3 и GPT-4 от OpenAI. Когда эти модели обучаются на данных, созданных другими ИИ, а не людьми, качество их ответов ухудшиается. Это происходит потому, что системы фиксируют наиболее вероятные варианты слов и игнорируют менее вероятные, что делает результаты менее интересными.