Призрачные ссылки: как ИИ-галлюцинации подорвали доверие к австралийскому отчету о запрете соцсетей
В правительственном отчете, который стал краеугольным камнем для введения в Австралии запрета на соцсети для подростков, обнаружены следы системных ошибок, характерных для генеративных нейросетей. Речь идет о ключевом документе по тестированию технологий возрастной верификации, подготовленном британской организацией Age Check Certification Scheme (ACCS). Мой анализ вскрыл серьезные расхождения в библиографии, что ставит под вопрос качество всей доказательной базы.
Испытания обошлись австралийскому бюджету в 3,48 млн австралийских долларов (~$2,5 млн). Специалисты ACCS проверили более 60 решений от 48 поставщиков, а итоговый документ объемом около тысячи страниц в десяти томах был передан правительству в августе 2025 года. Тогда министр связи Аника Уэллс заявила, что данные подтверждают наличие «множества эффективных инструментов» для верификации возраста. Сам запрет для пользователей младше 16 лет вступил в силу 10 декабря 2025 года.
Системные сбои в библиографии
Основная часть отчета посвящена практическим испытаниям, однако проблемы вскрылись в главе о перспективных разработках, где авторы обращаются к научной литературе. Мной выявлено как минимум шесть нарушений, которые группируются в четыре категории: фиктивные DOI, ссылки, ведущие на посторонние работы, несуществующие комбинации «автор-журнал-год» и корректные ссылки, но с искаженными утверждениями.
Например, одна статья датирована мартом 2025 года, хотя реально вышла только в июле. В другом случае ссылка на Weber et al. 2011 никуда не ведет — ее нет ни в указанном журнале, ни в исследовании Университета Монаша. Это классические признаки «галлюцинаций» ИИ, а не добросовестной работы исследователя.
ChatGPT в метаданных
Представители ACCS первоначально категорически отрицали использование ИИ. Однако после обнаружения в метаданных четырех ссылок, прямо указывающих на ChatGPT, позиция изменилась. В организации признали, что нейросеть переписывала отдельные фрагменты для краткости, но настаивают, что само исследование создано без участия чат-бота OpenAI. При этом проверка исправленного списка источников выявила новые нестыковки: годы, авторы и названия журналов расходятся с оригинальными цитатами.
В Департаменте инфраструктуры и связи заявили, что изучают претензии. Чиновники пересказали версию ACCS о том, что ссылки «сломались» после публикации, но признали, что самостоятельно эту версию не проверяли, считая проверку «трудоемкой». Профессор Австралийского национального университета Кристиан Дауни предупреждает: ложные ссылки в правительственных документах ведут к ошибочным решениям и разрушают доверие к институтам. Независимый сенатор Фатима Пейман требует извинений и возврата средств, напоминая о недавнем инциденте с Deloitte, которая уже возвращала часть выплат за использование ИИ в отчете с ошибками.
Мой комментарий: Эта ситуация — яркий симптом кризиса доверия в эпоху ИИ. Когда подрядчики экономят на экспертизе, перекладывая работу на нейросети, страдает не только репутация конкретной компании, но и качество государственных решений. Индустрии срочно нужны стандарты верификации источников и жесткие санкции за их нарушение, иначе мы рискуем строить политику на фундаменте из выдуманных данных.