500-1000行的程序,這是gpt的伊利亞自己透露的。
什麽概念?一個初級的入門的馬工的一個星期的工作量。
GPT 3,0後不開源了。它的程序不可能超過5000行。
大模型說來說去就一個字, GPU.