Новости криптомира

Ключевой документ, который австралийские власти использовали как обоснование для запрета соцсетей для подростков, оказался пронизан ссылками на несуществующие научные работы. Это тревожный сигнал для всей индустрии: когда регуляторные решения опираются на данные, сгенерированные нейросетями, под удар попадает не только репутация конкретного отчёта, но и доверие к самому процессу принятия законов.

Испытания технологий возрастной верификации проводила британская организация Age Check Certification Scheme (ACCS). На эти цели было потрачено 3,48 млн австралийских долларов (~$2,5 млн). Специалисты проверили более 60 решений от 48 поставщиков и в августе 2025 года передали правительству итоговый документ объёмом около тысячи страниц в десяти томах. Тогда министр связи Аника Уэллс заявила, что данные подтверждают наличие «множества эффективных инструментов» для возрастной верификации. Сам запрет для пользователей младше 16 лет вступил в силу 10 декабря 2025 года.

Шесть ссылок с ошибками

Основная часть отчёта посвящена практическим испытаниям существующих решений. Проблемы вскрылись в главе о перспективных разработках, где авторы обращаются к научной литературе. Первым на несоответствия указал автор обращения в сенатский комитет, который рассматривает поправки об ужесточении запрета. В документе утверждается, что как минимум две ссылки выглядят как типичные «галлюцинации» ИИ.

Моя проверка выявила в той же главе шесть нарушений, которые группируются в четыре категории:

• фиктивные DOI;
• DOI, переадресующие на посторонние работы;
• комбинации «автор-журнал-год», не подтверждённые ни одной публикацией;
• корректные ссылки на статьи, но без тех утверждений, которые им приписывает отчёт.

Например, одну статью ACCS датировала мартом 2025 года, но на самом деле она вышла только в июле. В другом случае ссылка на Weber et al. 2011 никуда не вела — её не нашли ни в указанном журнале, ни в исследовании Университета Монаша.

ChatGPT в метаданных

Представитель ACCS категорически отрицал использование ИИ при подготовке документа. Однако после того, как в некоторых частях отчёта обнаружились четыре ссылки с метаданными, прямо указывающими на ChatGPT, позицию пришлось смягчить. В ACCS признали, что искусственный интеллект переписывал отдельные фрагменты для краткости, но настаивали: само исследование создано без участия чат-бота OpenAI. Представители организации заявили, что метаданные ChatGPT сами по себе являются достаточным уведомлением о применении ИИ.

Однако проверка исправленного списка источников обнаружила новые нестыковки: годы, авторы и названия журналов в нём расходились с оригинальными цитатами из отчёта.

«Горстка ошибок» на тысячу страниц

В Департаменте инфраструктуры и связи сообщили, что изучают претензии. На сенатских слушаниях чиновники пересказали версию ACCS: по их словам, ссылки были рабочими на момент публикации, а «сломались» позже. Первый помощник секретаря Сара Ванденбрук уточнила, что ведомство эту версию самостоятельно не проверяло и считает подобную проверку «трудоёмкой».

Профессор Австралийского национального университета Кристиан Дауни предупредил, что ложные ссылки ведут к ошибочным решениям и разрушают доверие к институтам. Независимый сенатор Фатима Пейман потребовала официальных извинений и возврата средств от подрядчика. Она напомнила, что аналогичный инцидент с Deloitte год назад должен был научить власти внимательнее относиться к источникам. В октябре 2025 года консалтинговая компания уже возвращала часть выплат по контракту на 440 000 австралийских долларов, признав использование ИИ.

Моя экспертная оценка: Эта ситуация — лишь верхушка айсберга. Когда государственные структуры принимают решения на основе отчётов, где ИИ используется без надлежащего контроля, мы рискуем получить целый пласт регуляторных актов, построенных на фиктивных данных. Индустрии нужны жёсткие стандарты верификации источников, иначе доверие к цифровым инициативам будет подорвано окончательно.