Стоимость одного цикла обучения GPT-4 оценивается в $500 млн — $1 млрд: чипы NVIDIA — ~$400 млн, команда — ~$300 млн, электричество — ~$150 млн, данные и инфраструктура — ~$150 млн. Это дороже Манхэттенского проекта в пересчёте на сегодняшние деньги, и таких циклов — несколько в год. Обучение крупной LLM идёт неделями на тысячах GPU и требует огромных объёмов электроэнергии, систем охлаждения и сложной инфраструктуры.