Платформа YouTube столкнулась с масштабным распространением низкокачественного сгенерированного контента, получившего название «ИИ-мусор». Согласно исследованию компании Kapwing, проанализировавшей 15 000 самых популярных каналов в разных странах, как минимум 278 из них публикуют исключительно такой контент, созданный с помощью генеративных нейросетей для накрутки просмотров и монетизации. Суммарно эти каналы собрали свыше 63 миллиардов просмотров и 221 миллион подписчиков, что, по оценкам, приносит их владельцам около 117 миллионов долларов годового дохода.
Особую тревогу вызывает алгоритм рекомендаций YouTube. Исследователи создали чистый аккаунт и обнаружили, что 104 из первых 500 рекомендованных платформой видео были «ИИ-мусором». Для новых пользователей доля такого контента в ленте может превышать 20%. Анализ The Guardian также показал, что около 10% самых быстрорастущих каналов заполнены этим низкокачественным контентом, который набирает миллионы просмотров, несмотря на политику платформы. Аудитория у таких каналов огромна: в Испании за ними следят 20 миллионов человек, в Египте — 18 миллионов, в США — 14,5 миллионов.
Ярким примером является индийский канал Bandar Apna Dost, который попал в исследование и уже набрал 2,4 миллиарда просмотров. Он публикует абсурдные видео о приключениях антропоморфной обезьяны и мускулистого человека, смоделированного по образу Халка. По оценке Kapwing, такой канал может зарабатывать до 4,25 миллионов долларов в год. За этим явлением стоит целая индустрия: в Telegram, WhatsApp и на форумах существуют сообщества, где люди обмениваются советами и продают курсы по созданию «мусорного» ИИ-контента, способного приносить деньги. Как отмечает журналист Макс Рид, активно этим часто занимаются жители стран с более низким уровнем дохода, таких как Индия, Кения или Нигерия, видя в этом возможность заработка.
Представитель YouTube в ответ на запрос подчеркнул, что генеративный ИИ — это инструмент, который можно использовать как для создания качественного, так и низкокачественного контента. Платформа заявила о своем стремлении предоставлять пользователям доступ к высококачественному контенту и удаляет материалы, нарушающие её правила. Однако текущие масштабы распространения «ИИ-мусора» показывают, что алгоритмы рекомендаций по-прежнему легко продвигают низкопробный, но кликабельный контент, что ставит под вопрос эффективность существующих мер.
