Ключевой документ, который австралийские власти использовали как обоснование для запрета соцсетей подросткам, оказался пронизан следами искусственного интеллекта. Речь идёт об отчёте британской организации Age Check Certification Scheme (ACCS), посвящённом тестированию технологий возрастной верификации. В результате проверки я обнаружил, что документ содержит ссылки на несуществующие научные публикации — классический признак «галлюцинаций» нейросетей.
Испытания обошлись в 3,48 млн австралийских долларов (~$2,5 млн). Специалисты ACCS протестировали более 60 решений от 48 поставщиков и в августе 2025 года передали правительству итоговый отчёт объёмом около тысячи страниц в десяти томах. Министр связи Аника Уэллс тогда заявила, что данные подтверждают наличие «множества эффективных инструментов» для возрастной верификации. Сам запрет для пользователей младше 16 лет вступил в силу 10 декабря 2025 года.
Системные ошибки в научной главе
Основная часть отчёта посвящена практическим испытаниям существующих решений, и там проблем нет. Однако в главе о перспективных разработках, где авторы обращаются к научной литературе, вскрылись серьёзные несоответствия. Я насчитал шесть нарушений, которые группируются в четыре категории: фиктивные DOI, DOI, ведущие на посторонние работы, комбинации «автор-журнал-год», не подтверждённые ни одной публикацией, и корректные ссылки, но без тех утверждений, которые им приписывает отчёт.
Например, одну статью ACCS датировала мартом 2025 года, хотя на самом деле она вышла только в июле. В другом случае ссылка на Weber et al. 2011 никуда не вела — её не нашли ни в указанном журнале, ни в исследовании Университета Монаша, куда отсылали авторы.
ChatGPT в метаданных
Представители ACCS сначала категорически отрицали использование ИИ, утверждая, что каждая ссылка была тщательно проверена. Однако после обнаружения в некоторых частях отчёта четырёх ссылок с метаданными, прямо указывающими на ChatGPT, позицию пришлось смягчить. В ACCS признали, что нейросеть переписывала отдельные фрагменты для краткости, но настаивали: само исследование и итоговый текст созданы без участия чат-бота OpenAI.
Примечательно, что проверка исправленного списка источников, который ACCS передала дополнительно, выявила новые нестыковки: годы, авторы и названия журналов расходились с оригинальными цитатами из отчёта.
«Горстка ошибок» или системная проблема?
В Департаменте инфраструктуры и связи заявили, что изучают претензии. На сенатских слушаниях чиновники пересказали версию ACCS: ссылки были рабочими на момент публикации, а «сломались» позже. Первый помощник секретаря Сара Ванденбрук признала, что ведомство эту версию самостоятельно не проверяло, считая проверку «трудоемкой». При этом в департаменте подчеркнули, что речь идёт лишь о «горстке ошибок» на 26 страницах с библиографией.
Профессор Австралийского национального университета Кристиан Дауни предупредил, что ложные ссылки в правительственных документах ведут к ошибочным решениям и разрушают доверие к институтам. Независимый сенатор Фатима Пейман потребовала официальных извинений и возврата средств от подрядчика, напомнив о недавнем инциденте с Deloitte, которая в октябре 2025 года возвращала часть выплат по контракту на 440 000 австралийских долларов за использование ИИ в отчёте с ошибками.
Мой анализ: Эта ситуация — тревожный сигнал для всей индустрии. Когда государственные решения, затрагивающие миллионы граждан, основываются на данных, которые не прошли элементарную проверку на достоверность, мы наблюдаем не просто халатность, а системный сбой в управлении. Требование сенатора Пейман о возврате средств — минимальная мера. Критически важно закрепить в контрактах с подрядчиками юридическую ответственность за использование ИИ и обязательную валидацию каждого источника. Иначе «галлюцинации» нейросетей могут лечь в основу не только отчётов, но и законов.