Потому что это «писатель», а не «справочник». Он создан, чтобы сочинять связные и красивые ответы, а правда для него — лишь частный случай связности. Именно поэтому всё, что пишет нейросеть (цифры, даты, имена), нужно проверять. Доверяй, но проверяй.