Искусственный интеллект в своих ответах предсказывает наиболее вероятное продолжение текста, а не сверяется с базой актуальных нормативных актов, предупреждает эксперт Алексей Мартыненко. Если формулировка нормы звучит правдоподобно и статистически похожа на реальные тексты законов, модель выдаст ее с той же уверенностью, что и точную цитату.

«Особенно опасно это в бухгалтерии и налогах, где нормы меняются датами вступления в силу, а модель обучена на срезе данных определенного момента и не знает, что появилось после него», — предупредил Мартыненко.

Устаревшие правовые акты в ответах ИИ – это не редкость, а системная особенность.

«Был случай, когда при подготовке текста про новый закон модель уверенно указала, что одна из норм действует с общей даты вступления закона в силу, а при независимой проверке по первоисточнику выяснилось, что именно эта норма отложена отдельно, на несколько месяцев позже», — рассказал эксперт.

Главный риск для бизнеса, который уже использует ИИ для планирования налогов, в том, что ошибка выглядит убедительно и специалист без соответствующей квалификации может ее не заметить. Модель никогда не мнется и не говорит «кажется», у нее один и тот же уверенный тон что для верной ставки, что для придуманной.

Решение, принятое на основе устаревшей нормы, выглядит для не-финансиста так же надежно, как и верное, разница обычно обнаруживается уже на выездной проверке, а не в момент подготовки отчета.

Золотой стандарт проверки простой: любая дата, ставка, лимит или правовая формулировка от ИИ перед использованием сверяется с первоисточником, а не с другой генерацией той же или другой модели. Проверка одной моделью через другую модель не защищает: обе модели могут унаследовать одну и ту же устаревшую информацию из похожих обучающих данных. Финальное решение и подпись под финансовым документом должны оставаться за человеком, который провел эту сверку лично.