Учёные предрекают крах нейросетей из-за обучения ИИ на собственном контенте
Чемпионат.com14 июня, 14:49
За последний год нейросети плотно вошли в жизнь человечества. Люди используют возможности искусственного интеллекта для написания текстов, программирования, генерации изображений и много другого. Однако дальнейшее развитие ИИ, кажется, находится под угрозой.
© Чемпионат.com
Дело в том, нейросети обучаются на человеческих произведениях — книгах, статьях, фотографиях и другом контенте. Однако чем дальше, тем больше в интернете становится сгенерированной информации, на котором ИИ обучаться уже не может. Обработка такого контента приводит к полной деградации ИИ, сообщает группа независимых учёных из Великобритании и Канады.
Исследователи отмечают, что чем больше нейросети обучаются на сгенерированном контенте, чем более искажённую информацию они выдают. Проведя небольшой эксперимент, учёные очень удивились тому, насколько неназванный ИИ отдалился от объективной реальности, обучаясь на машинных данных. Более того, нейросеть и вовсе «забыла» практически весь контент из энциклопедий и других объективных источников информации.
Учёные отмечают, что потенциальную деградацию ИИ можно остановить двумя способами. Первый: обучать нейросети исключительно на человеческом контенте, периодически прогоняя один и тот же объективный набор данных во избежание деградации. Второй способ — время от времени использовать проверенный набор данных, маркируя его как более приоритетный источник для ИИ по сравнению с другой информацией.
Так или иначе, исследователи призывают более пристально следить за развитием отрасли и внимательно изучать возможные последствия работы ИИ.
Наука и техника1Чемпионат.com: главные новости
