Redian新闻
>
在 Git 仓库中,文件究竟被存储在哪里? | Linux 中国

在 Git 仓库中,文件究竟被存储在哪里? | Linux 中国

科技
 
导读:我们知道它存储在 .git 目录中,但具体到 .git 中的哪个位置,各个版本的历史文件又被存储在哪里呢?
本文字数:9855,阅读时长大约:12分钟

https://linux.cn/article-16198-1.html
作者:Julia Evans
译者:ChatGPT

大家好!今天我和一个朋友讨论 Git 的工作原理,我们感到奇怪,Git 是如何存储你的文件的?我们知道它存储在 .git 目录中,但具体到 .git 中的哪个位置,各个版本的历史文件又被存储在哪里呢?

以这个博客为例,其文件存储在一个 Git 仓库中,其中有一个文件名为 content/post/2019-06-28-brag-doc.markdown。这个文件在我的 .git 文件夹中具体的位置在哪里?过去的文件版本又被存储在哪里?那么,就让我们通过编写一些简短的 Python 代码来探寻答案吧。

Git 把文件存储在 .git/objects 之中

你的仓库中,每一个文件的历史版本都被储存在 .git/objects 中。比如,对于这个博客,.git/objects 包含了 2700 多个文件。

  1. $ find .git/objects/ -type f | wc -l
  2. 2761

注意:.git/objects 包含的信息,不仅仅是 “仓库中每一个文件的所有先前版本”,但我们暂不详细讨论这一内容。

这里是一个简短的 Python 程序(find-git-object.py🔗 gist.github.com),它可以帮助我们定位在 .git/objects 中的特定文件的具体位置。

  1. import hashlib
  2. import sys
  3. def object_path(content):
  4. header = f"blob {len(content)}\0"
  5. data = header.encode() + content
  6. sha1 = hashlib.sha1()
  7. sha1.update(data)
  8. digest = sha1.hexdigest()
  9. return f".git/objects/{digest[:2]}/{digest[2:]}"
  10. with open(sys.argv[1], "rb") as f:
  11. print(object_path(f.read()))

此程序的主要操作如下:

◈ 读取文件内容
◈ 计算一个头部(blob 16673\0),并将其与文件内容合并
◈ 计算出文件的 sha1 校验和(此处为 e33121a9af82dd99d6d706d037204251d41d54
◈ 将这个 sha1 校验和转换为路径(如 .git/objects/e3/3121a9af82dd99d6d706d037204251d41d54

运行的方法如下:

  1. $ python3 find-git-object.py content/post/2019-06-28-brag-doc.markdown
  2. .git/objects/8a/e33121a9af82dd99d6d706d037204251d41d54

术语解释:“内容寻址存储”

这种存储策略的术语为“内容寻址存储(content addressed storage)”,它指的是对象在数据库中的文件名与文件内容的哈希值相同。

内容寻址存储的有趣之处就是,假设我有两份或许多份内容完全相同的文件,在 Git 的数据库中,并不会因此占用额外空间。如果内容的哈希值是 aabbbbbbbbbbbbbbbbbbbbbbbbb,它们都会被存储在 .git/objects/aa/bbbbbbbbbbbbbbbbbbbbb 中。

这些对象是如何进行编码的?

如果我尝试在 .git/objects 目录下查看这个文件,显示的内容似乎有一些奇怪:

  1. $ cat .git/objects/8a/e33121a9af82dd99d6d706d037204251d41d54
  2. x^A<8D><9B>}s<E3>Ƒ<C6><EF>o|<8A>^Q<9D><EC>ju<92><E8><DD><9C><9C>*<89>j<FD>^...

这是怎么回事呢?让我们来运行 file 命令检查一下:

  1. $ file .git/objects/8a/e33121a9af82dd99d6d706d037204251d41d54
  2. .git/objects/8a/e33121a9af82dd99d6d706d037204251d41d54: zlib compressed data

原来,它是压缩的!我们可以编写一个小巧的 Python 程序—— decompress.py,然后用 zlib 模块去解压这些数据:

  1. import zlib
  2. import sys
  3. with open(sys.argv[1], "rb") as f:
  4. content = f.read()
  5. print(zlib.decompress(content).decode())

让我们来解压一下看看结果:

  1. $ python3 decompress.py .git/objects/8a/e33121a9af82dd99d6d706d037204251d41d54
  2. blob 16673---
  3. title: "Get your work recognized: write a brag document"
  4. date: 2019-06-28T18:46:02Z
  5. url: /blog/brag-documents/
  6. categories: []
  7. ---
  8. ... the entire blog post ...

结果显示,这些数据的编码方式非常简单:首先有 blob 16673\0 标识,其后就是文件的全部内容。

这里并没有差异性数据(diff)

这里有一件我第一次知道时让我感到惊讶的事:这里并没有任何差异性数据!那个文件是该篇博客文章的第 9 个版本,但 Git 在 .git/objects 目录中存储的版本是完整文件内容,而并非与前一版本的差异。

尽管 Git 实际上有时候会以差异性数据存储文件(例如,当你运行 git gc 时,为了提升效率,它可能会将多个不同的文件封装成 “打包文件”),但在我个人经验中,我从未需要关注这个细节,所以我们不在此深入讨论。然而,关于这种格式如何工作,Aditya Mukerjee 有篇优秀的文章 《拆解 Git 的打包文件🔗 codewords.recurse.com》。

博客文章的旧版本在哪?

你可能会好奇:如果在我修复了一些错别字之前,这篇博文已经存在了 8 个版本,那它们在 .git/objects 目录中的位置是哪里?我们如何找到它们呢?

首先,我们来使用 git log 命令来查找改动过这个文件的每一个提交:

  1. $ git log --oneline content/post/2019-06-28-brag-doc.markdown
  2. c6d4db2d
  3. 423cd76a
  4. 7e91d7d0
  5. f105905a
  6. b6d23643
  7. 998a46dd
  8. 67a26b04
  9. d9999f17
  10. 026c0f52
  11. 72442b67

然后,我们选择一个之前的提交,比如 026c0f52。提交也被存储在 .git/objects 中,我们可以尝试在那里找到它。但是失败了!因为 ls .git/objects/02/6c* 没有显示任何内容!如果有人告诉你,“我们知道有时 Git 会打包对象来节省空间,我们并不需过多关心它”,但现在,我们需要去面对这个问题了。

那就让我们去解决它吧。

让我们开始解包一些对象

现在我们需要从打包文件中解包出一些对象。我在 Stack Overflow 上查找了一下,看起来我们可以这样进行操作:

  1. $ mv .git/objects/pack/pack-adeb3c14576443e593a3161e7e1b202faba73f54.pack .
  2. $ git unpack-objects < pack-adeb3c14576443e593a3161e7e1b202faba73f54.pack

这种直接对库进行手术式的做法让人有些紧张,但如果我误操作了,我还可以从 Github 上重新克隆这个库,所以我并不太担心。

解包所有的对象文件后,我们得到了更多的对象:大约有 20000 个,而不是原来的大约 2700 个。看起来很酷。

  1. find .git/objects/ -type f | wc -l
  2. 20138

我们回头再看看提交

现在我们可以继续看看我们的提交 026c0f52。我们之前说过 .git/objects 中并不都是文件,其中一部分是提交!为了弄清楚我们的旧文章 content/post/2019-06-28-brag-doc.markdown 是在哪里被保存的,我们需要深入查看这个提交。

首先,我们需要在 .git/objects 中查看这个提交。

查看提交的第一步:找到提交

经过解包后,我们现在可以在 .git/objects/02/6c0f5208c5ea10608afc9252c4a56c1ac1d7e4 中找到提交 026c0f52,我们可以用下面的方法去查看它:

  1. $ python3 decompress.py .git/objects/02/6c0f5208c5ea10608afc9252c4a56c1ac1d7e4
  2. commit 211tree 01832a9109ab738dac78ee4e95024c74b9b71c27
  3. parent 72442b67590ae1fcbfe05883a351d822454e3826
  4. author Julia Evans <julia@jvns.ca> 1561998673 -0400
  5. committer Julia Evans <julia@jvns.ca> 1561998673 -0400
  6. brag doc

我们也可以用 git cat-file -p 026c0f52 命令来获取相同的信息,这个命令能起到相同的作用,但是它在格式化数据时做得更好一些。(-p 选项意味着它能够以更友好的方式进行格式化)

查看提交的第二步:找到树

这个提交包含一个。树是什么呢?让我们看一下。树的 ID 是 01832a9109ab738dac78ee4e95024c74b9b71c27,我们可以使用先前的 decompress.py 脚本查看这个 Git 对象,尽管我不得不移除 .decode() 才能避免脚本崩溃。

  1. $ python3 decompress.py .git/objects/01/832a9109ab738dac78ee4e95024c74b9b71c27

这个输出的格式有些难以阅读。主要的问题在于,该提交的哈希(\xc3\xf7$8\x9b\x8dO\x19/\x18\xb7}|\xc7\xce\x8e…)是原始字节,而没有进行十六进制的编码,因此我们看到 \xc3\xf7$8\x9b\x8d 而非 c3f76024389b8d。我打算切换至 git cat-file -p 命令,它能以更友好的方式显示数据,我不想自己编写一个解析器。

  1. $ git cat-file -p 01832a9109ab738dac78ee4e95024c74b9b71c27
  2. 100644 blob c3f76024389b8d4f192f18b77d7cc7ce8e3a68ad .gitignore
  3. 100644 blob 7ebaecb311a05e1ca9a43f1eb90f1c6647960bc1 README.md
  4. 100644 blob 0f21dc9bf1a73afc89634bac586271384e24b2c9 Rakefile
  5. 100644 blob 00b9d54abd71119737d33ee5d29d81ebdcea5a37 config.yaml
  6. 040000 tree 61ad34108a327a163cdd66fa1a86342dcef4518e content <-- 这是我们接下来的目标
  7. 040000 tree 6d8543e9eeba67748ded7b5f88b781016200db6f layouts
  8. 100644 blob 22a321a88157293c81e4ddcfef4844c6c698c26f mystery.rb
  9. 040000 tree 8157dc84a37fca4cb13e1257f37a7dd35cfe391e scripts
  10. 040000 tree 84fe9c4cb9cef83e78e90a7fbf33a9a799d7be60 static
  11. 040000 tree 34fd3aa2625ba784bced4a95db6154806ae1d9ee themes

这是我在这次提交时库的根目录中所有的文件。看起来我曾经不小心提交了一个名为 mystery.rb 的文件,后来我删除了它。

我们的文件在 content 目录中,接下来让我们看看那个树:61ad34108a327a163cdd66fa1a86342dcef4518e

查看提交的第三步:又一棵树

  1. $ git cat-file -p 61ad34108a327a163cdd66fa1a86342dcef4518e
  2. 040000 tree 1168078878f9d500ea4e7462a9cd29cbdf4f9a56 about
  3. 100644 blob e06d03f28d58982a5b8282a61c4d3cd5ca793005 newsletter.markdown
  4. 040000 tree 1f94b8103ca9b6714614614ed79254feb1d9676c post <-- 我们接下来的目标!
  5. 100644 blob 2d7d22581e64ef9077455d834d18c209a8f05302 profiler-project.markdown
  6. 040000 tree 06bd3cee1ed46cf403d9d5a201232af5697527bb projects
  7. 040000 tree 65e9357973f0cc60bedaa511489a9c2eeab73c29 talks
  8. 040000 tree 8a9d561d536b955209def58f5255fc7fe9523efd zines

还未结束……

查看提交的第四步:更多的树……

我们要寻找的文件位于 post/ 目录,因此我们需要进一步探索:

  1. $ git cat-file -p 1f94b8103ca9b6714614614ed79254feb1d9676c
  2. .... 省略了大量行 ...
  3. 100644 blob 170da7b0e607c4fd6fb4e921d76307397ab89c1e 2019-02-17-organizing-this-blog-into-categories.markdown
  4. 100644 blob 7d4f27e9804e3dc80ab3a3912b4f1c890c4d2432 2019-03-15-new-zine--bite-size-networking-.markdown
  5. 100644 blob 0d1b9fbc7896e47da6166e9386347f9ff58856aa 2019-03-26-what-are-monoidal-categories.markdown
  6. 100644 blob d6949755c3dadbc6fcbdd20cc0d919809d754e56 2019-06-23-a-few-debugging-resources.markdown
  7. 100644 blob 3105bdd067f7db16436d2ea85463755c8a772046 2019-06-28-brag-doc.markdown <-- 我们找到了!!!

在此,2019-06-28-brag-doc.markdown 之所以位于列表最后,是因为在发布时它是最新的博文。

查看提交的第五步:我们终于找到它!

经过努力,我们找到了博文历史版本所在的对象文件!太棒了!它的哈希值是 3105bdd067f7db16436d2ea85463755c8a772046,因此它位于 git/objects/31/05bdd067f7db16436d2ea85463755c8a772046

我们可以使用 decompress.py 来查看它:

  1. $ python3 decompress.py .git/objects/31/05bdd067f7db16436d2ea85463755c8a772046 | head
  2. blob 15924---
  3. title: "Get your work recognized: write a brag document"
  4. date: 2019-06-28T18:46:02Z
  5. url: /blog/brag-documents/
  6. categories: []
  7. ---
  8. ... 文件的剩余部分在此 ...

这就是博文的旧版本!如果我执行命令 git checkout 026c0f52 content/post/2019-06-28-brag-doc.markdown 或者 git restore --source 026c0f52 content/post/2019-06-28-brag-doc.markdown,我就会获取到这个版本。

这样遍历树就是 git log 的运行机制

我们刚刚经历的整个过程(找到提交、逐层遍历目录树、搜索所需文件名)看似繁琐,但实际上当我们执行 git log content/post/2019-06-28-brag-doc.markdown 时,背后就是这样在运行。它需要逐个检查你历史记录中的每一个提交,在每个提交中核查 content/post/2019-06-28-brag-doc.markdown 的版本(例如在这个案例中为 3105bdd067f7db16436d2ea85463755c8a772046),并查看它是否自上一提交以来有所改变。

这就是为什么有时 git log FILENAME 会执行的有些缓慢 —— 我的这个仓库中有 3000 个提交,它需要对每个提交做大量的工作,来判断该文件是否在该提交中发生过变化。

我有多少个历史版本的文件?

目前,我在我的博客仓库中跟踪了 1530 个文件:

  1. $ git ls-files | wc -l
  2. 1530

但历史文件有多少呢?我们可以列出 .git/objects 中所有的内容,看看有多少对象文件:

  1. $ find .git/objects/ -type f | grep -v pack | awk -F/ '{print $3 $4}' | wc -l
  2. 20135

但并不是所有这些都代表过去版本的文件 —— 正如我们之前所见,许多都是提交和目录树。不过,我们可以编写一个小小的 Python 脚本 find-blobs.py,遍历所有对象并检查是否以 blob 开头:

  1. import zlib
  2. import sys
  3. for line in sys.stdin:
  4. line = line.strip()
  5. filename = f".git/objects/{line[0:2]}/{line[2:]}"
  6. with open(filename, "rb") as f:
  7. contents = zlib.decompress(f.read())
  8. if contents.startswith(b"blob"):
  9. print(line)
  1. $ find .git/objects/ -type f | grep -v pack | awk -F/ '{print $3 $4}' | python3 find-blobs.py | wc -l
  2. 6713

于是,看起来在我的 Git 仓库中存放的旧文件版本有 6713 - 1530 = 5183 个,Git 会为我保存这些文件,以备我想着要恢复它们时使用。太好了!

就这些啦!

在 这个 gist🔗 gist.github.com 中附上了全部的此篇文章所用代码,其实没多少。

我以为我已经对 Git 的工作方式了如指掌,但我以前从未真正涉及过打包文件,所以这次探索很有趣。我也很少思考当我让 git log 跟踪一个文件的历史时,它实际上有多大的工作量,因此也很开心能深入研究这个。

作为一个有趣的后续:我提交这篇博文后,Git 就警告我仓库中的对象太多(我猜 20,000 太多了!),并运行 git gc 将它们全部压缩成打包文件。所以现在我的 .git/objects 目录已经被压缩得十分小了:

  1. $ find .git/objects/ -type f | wc -l
  2. 14

(题图:MJ/319a396c-6f3f-4891-b051-261312c8ea9a)


via: https://jvns.ca/blog/2023/09/14/in-a-git-repository--where-do-your-files-live-/

作者:Julia Evans 选题:lujun9972 译者:ChatGPT 校对:wxy

本文由 LCTT 原创编译,Linux中国 荣誉推出

欢迎遵照 CC-BY-SA 协议规定转载,
如需转载,请在文章下留言 “转载:公众号名称”,
我们将为您添加白名单,授权“转载文章时可以修改”。


微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
米兰·昆德拉:承诺在哪里 ,背叛就在哪里如何在 Linux 主机和 KVM 中的 Windows 客户机之间共享文件夹 | Linux 中国1250亿的AI商机在应用层?红杉合伙人:GPU在哪里,AI的机会就在哪里“患者在哪里,我的战场就在哪里”如何在 Linux 中扩展 Veritas 文件系统(VxFS) | Linux 中国你好,我是筚(bì)篥( lì)!终端基础:在 Linux 中复制文件和目录 | Linux 中国真相阿里系APP出现集体罢工?阿里云回应;比亚迪经营车险资质正式获批;中国最大闪存芯片制造商长江存储在美起诉美光,涉专利侵权丨邦早报Linux 窗口管理器 Compiz 简史 | Linux 中国特斯拉:已在中国建立数据中心,所有中国大陆市场车辆数据存储在境内Linux Shell 介绍:Bash、Zsh 和 Fish | Linux 中国美国霸权究竟指什么,又霸在哪里?Fedora Linux 的家族(四):替代下载 | Linux 中国将 Linux 终端与 Nautilus 文件管理器结合起来 | Linux 中国5 个专注于隐私保护的 Linux 发行版 | Linux 中国Fedora Linux 的家族(一):官方版本 | Linux 中国Linux 桌面上的 Firefox 面临着大问题 | Linux 中国在 Linux 中使用 cp 命令 | Linux 中国Linux 中退出码的含义 | Linux 中国在 Linux 文件系统中使用 attr 添加扩展属性 | Linux 中国长江存储在美控告美光侵犯8项3D NAND美国专利,欲以战止战?你的旧电脑是 “过时” 了,还是使用 Linux 的机会? | Linux 中国AI:matter, energy, structure, and time/Schr?dinger, Turing, and开源朗读者 | Linux 只是一个内核:这是什么意思? | Linux 中国穷人为难穷人,生活在最底层的人总是以命想搏如何在 Linux 中映射 SAN LUN、磁盘和文件系统 | Linux 中国在 Linux 中使用 cat 命令 | Linux 中国Fedora Linux 的家族(二):定制版 | Linux 中国游纽芬兰散记:我的新发现市场分析:分布式存储、软件定义存储、超融合存储(2023)2023 年最佳 Linux 视频编辑软件 | Linux 中国Fedora Linux 的家族(三):实验室 | Linux 中国轻薄的人世特斯拉:所有中国大陆市场车辆数据存储在境内丨大公司动态
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。