microgpt：200行Python代码打造GPT模型

Andrej Karpathy发布了一个名为microgpt的艺术项目，该项目包含200行纯Python代码，无需依赖即可训练和推理GPT模型。该文件包含了所需的所有算法内容，包括文档数据集、分词器、自动微分引擎、类似GPT-2的神经网络架构、Adam优化器、训练循环和推理循环。该项目是Karpathy多年简化LLMs到其基本要素的成果。