Мой детальный анализ документации, лежащей в основе австралийского запрета соцсетей для несовершеннолетних, вскрыл системную проблему, которая ставит под сомнение качество государственных решений, принимаемых на основе «экспертных» заключений. Речь идёт о тысячестраничном отчёте, подготовленном британской организацией Age Check Certification Scheme (ACCS) за 3,48 млн австралийских долларов (~$2,5 млн). Именно этот документ стал формальным обоснованием для закона, вступившего в силу 10 декабря 2025 года и ограничивающего доступ к платформам для пользователей младше 16 лет.
Шесть «галлюцинаций» в научной главе
Основной массив отчёта посвящён практическим тестам более чем 60 решений от 48 вендоров. Однако именно вторичный раздел, где авторы обращаются к научной литературе для описания перспективных разработок, оказался «минным полем». При проверке я выявил как минимум шесть нарушений, которые группируются в четыре чёткие категории: фиктивные DOI, ссылки, ведущие на посторонние работы, несуществующие комбинации «автор-журнал-год» и корректные ссылки, которым приписаны несуществующие утверждения.
Например, одна из цитируемых статей датирована мартом 2025 года, хотя реально была опубликована лишь в июле. В другом случае ссылка на работу Weber et al. 2011 ведёт в никуда — её нет ни в указанном журнале, ни в материалах Университета Монаша, на которые ссылаются авторы. Это не просто опечатки, а классические признаки генеративного ИИ, который «додумывает» источники.
ChatGPT в метаданных: отрицание и признание
Первоначально представители ACCS категорически отрицали использование нейросетей, утверждая, что каждая ссылка прошла ручную проверку. Однако после обнаружения в метаданных четырёх фрагментов отчёта прямых следов ChatGPT, позиция изменилась. В ACCS признали, что ИИ использовался для «сокращения» отдельных частей текста, но настаивают, что само исследование и финальные формулировки созданы без участия чат-бота OpenAI. Более того, они заявили, что метаданные ChatGPT сами по себе являются «достаточным уведомлением» об использовании ИИ. Это, мягко говоря, спорное утверждение, которое не выдерживает критики с точки зрения академической и государственной прозрачности.
«Горстка ошибок» или системный сбой?
В Департаменте инфраструктуры и связи Австралии признали, что не проверяли версию подрядчика о «сломавшихся» ссылках, назвав подобную проверку «трудоемкой». Чиновники пытаются списать всё на «горстку ошибок» на 26 страницах библиографии, но это опасный прецедент. Профессор Кристиан Дауни из Австралийского национального университета абсолютно прав: ложные ссылки в правительственных документах ведут к ошибочным решениям и разрушают доверие к институтам. Требование независимого сенатора Фатимы Пейман о возврате средств и официальных извинениях выглядит более чем обоснованным, особенно на фоне недавнего скандала с Deloitte, которая уже возвращала часть выплат за отчёт с ИИ-ошибками.
Мой вывод: Этот инцидент — не просто история про невнимательных подрядчиков. Это сигнал о том, что правительства по всему миру должны немедленно внедрять жёсткие стандарты верификации источников и контрактные санкции за использование ИИ без раскрытия. Иначе мы рискуем строить цифровую политику на фундаменте из «галлюцинаций» нейросетей, а не реальных данных.