У нейросети нет мозга, нет критического мышления и нет чувства «я этого не знаю». Она просто собирает наиболее вероятные комбинации слов на основе того, что видела в интернете. А в интернете, как вы знаете, пишут разное. Иногда – откровенную ерунду. Иногда – устаревшие данные. Иногда – просто шутки, которые модель приняла за чистую монету.
Поэтому всё, что содержит цифры, даты, имена, названия компаний, законы, цитаты и статистику, нужно проверять. И хорошо бы делать это с помощью самой нейросети – просто правильно её попросив.