Читать iz.ru в
Человек не способен отличить до 25–27% звуковых дипфейков, созданных при помощи нейросетей, от реальных аудиозаписей голосов людей. К такому выводу пришли сотрудники Университетского колледжа Лондона (UCL), чья научная работа опубликована в издании PLoS ONE.
По словам профессора UCL Льюиса Гриффина, из-за высокой динамики, с которой развивается медиаконтент, созданный с помощью искусственного интеллекта, человечество может столкнуться с новыми рисками.
«Для правительств и коммерческих организаций было бы разумным разработать стратегии и инструменты, позволяющие бороться с неправомерным использованием этих технологий и при этом не ограничивающие перспективы их легального применения», ― отметил профессор Гриффин.
К такому выводу ученые пришли по результатам эксперимента, в котором приняли участие две группы испытуемых общей численностью 500 человек: все они были носителями английского и китайского языков. Одна группа участников долгое время училась распознавать аудиодипфейки, в то время как вторая половина испытуемых никак не готовилась к эксперименту.
Ученые записали образцы голосов нескольких мужчин и женщин, говоривших на этих языках, и использовали их для обучения генерирующей нейросети VITS.
Ученые подготовили 50 коротких аудиозаписей, сгенерированных при помощи нейросети VITS, которые они предложили прослушать участникам эксперимента, чтобы те попытались ответить, является ли запись настоящей или синтезированной искусственным интеллектом.
Те же 50 аудиодорожек авторы эксперимента загрузили в нейросетевой алгоритм LFCC-LCNN, специально созданный для выявления дипфейков.
Как оказалось, и подготовленные участники эксперимента, и простые обыватели смогли корректно выявить три четверти дипфейков. Такие результаты были примерно одинаковыми как для англоязычных испытуемых, так и для носителей китайского языка. Тем временем алгоритм LFCC-LCNN смог корректно распознать все синтезированные искусственным интеллектом аудиодорожки.
Авторы исследования уверены, что проведенная ими работа указывает на необходимость создания новых подходов и инструментов для распознавания сгенерированного нейросетями контента, а также для предотвращения их неправомерного использования.
Ранее, 20 июля, стало известно, что в Московском городском педагогическом университете (МГПУ) применяют возможности искусственного интеллекта для прогноза будущих оценок студентов. Компьютерная система самостоятельно анализирует множество данных об учащемся и на их основе предсказывает результаты предстоящих экзаменов.
Искусственный интеллект высчитывает точное количество баллов, которое, вероятно, получит учащийся, а разделяет образовательные результаты по четырем группам: высокие, средние, удовлетворительные и группа риска на отчисление. По словам создателей, благодаря применению системы число отчисленных уменьшилось в два раза (с 5 до 2,5%).
