Нейросеть галлюцинирует, потому что она не база данных с правильными ответами, а вероятностная система. Если в её обучающих данных нет точной информации, она сгенерирует наиболее правдоподобно звучащий, но фактически выдуманный текст. Особенно часто это происходит с цифрами, ссылками на законы и свежими событиями.