手写 FIFO 缓存

用哈希索引和插入顺序队列实现 FIFO 淘汰，建立所有缓存策略的统一接口和测试方法。

本系列代码使用 C++20 和 oc::handmade 命名空间，目标是解释实现机制、复杂度和工程边界，不是替代标准库。普通容器与缓存核心不内置互斥锁；这不代表 lock-free。

一、学习目标

实现 O(1) 查找与淘汰
区分写入顺序和访问顺序
定义容量为 0 与更新键的语义

二、前置条件

完成 list 与 unordered_map 篇。

Linux/macOS：

cmake -S . -B build -DCMAKE_BUILD_TYPE=Debug
cmake --build build -j
ctest --test-dir build --output-on-failure

Windows PowerShell：

cmake -S . -B build -DCMAKE_BUILD_TYPE=Debug
cmake --build build --config Debug
ctest --test-dir build -C Debug --output-on-failure

三、问题与设计选择

链表从旧到新保存键，哈希表定位值和链表节点。更新已有键只更新值，不改变首次进入队列的顺序。

这里刻意保留一条边界：教学实现覆盖构造、复制移动、核心修改、查找和迭代契约，但不复刻标准库全部重载、ABI、constexpr、异构查找或节点句柄。

四、内存布局与核心不变量

链表与哈希表包含完全相同的键且数量不超过 capacity；链表头是最早进入的键。

每个修改操作都按“准备资源 → 构造新状态 → 提交连接或指针 → 清理旧状态”的顺序设计。提交点之前发生异常，应保持原对象可继续使用；无法提供强保证时，会在接口说明中明确基本保证。

五、核心实现

void put(Key key, Value value) {
    if (capacity_ == 0) return;
    if (auto it = entries_.find(key); it != entries_.end()) {
        it->second.value = std::move(value);
        return;
    }
    order_.push_back(key);
    entries_.emplace(key, entry{std::move(value), std::prev(order_.end())});
    if (entries_.size() > capacity_) erase(order_.front());
}

上面先聚焦最容易写错的核心步骤；若本篇对应一个独立组件，下一节给出统一工程中的完整教学实现。代码没有放入 std 命名空间，避免未定义行为和名称冲突。

六、完整教学实现

下面是统一工程中经过 GCC、Clang、GoogleTest 和 Sanitizer 验证的完整组件。它依赖前序文章已经实现的公共类型以及头文件中的标准库 #include。

namespace oc::handmade {

template<class T>
class synchronized {
    T value_;
    mutable std::mutex mutex_;
public:
    template<class... Args>
    explicit synchronized(Args&&... args) : value_(std::forward<Args>(args)...) {}
    template<class F>
    decltype(auto) with_lock(F&& callback) {
        std::scoped_lock lock(mutex_);
        return std::invoke(std::forward<F>(callback), value_);
    }
    template<class F>
    decltype(auto) with_lock(F&& callback) const {
        std::scoped_lock lock(mutex_);
        return std::invoke(std::forward<F>(callback), std::as_const(value_));
    }
};

template<class Key, class Value, class Hash = std::hash<Key>>
class fifo_cache {
    struct entry {
        Value value;
        typename std::list<Key>::iterator order;
    };
    std::size_t capacity_;
    std::list<Key> order_;
    std::unordered_map<Key, entry, Hash> entries_;
public:
    explicit fifo_cache(std::size_t capacity) : capacity_(capacity) {}
    std::size_t size() const noexcept { return entries_.size(); }
    std::size_t capacity() const noexcept { return capacity_; }
    bool contains(const Key& key) const { return entries_.contains(key); }
    std::optional<Value> get(const Key& key) const {
        auto found = entries_.find(key);
        if (found == entries_.end()) return std::nullopt;
        return found->second.value;
    }
    bool erase(const Key& key) {
        auto found = entries_.find(key);
        if (found == entries_.end()) return false;
        order_.erase(found->second.order);
        entries_.erase(found);
        return true;
    }
    void put(Key key, Value value) {
        if (capacity_ == 0) return;
        if (auto found = entries_.find(key); found != entries_.end()) {
            found->second.value = std::move(value);
            return;
        }
        order_.push_back(key);
        auto order = std::prev(order_.end());
        entries_.emplace(std::move(key), entry{std::move(value), order});
        if (entries_.size() > capacity_) erase(order_.front());
    }
};

}  // namespace oc::handmade

生产级标准库还要处理完整 allocator 传播、全部重载、ABI、调试迭代器和平台特化；这里保留的是能够独立推导核心数据结构的教学边界。

七、使用示例与输出

预期输出或状态：

容量 2，put A、B、get A、put C 后淘汰 A；访问不会改变 FIFO 顺序。

示例必须在文章对应的测试目标中实际编译。涉及顺序的输出只依赖接口明确承诺的顺序；无序容器不会把某次桶顺序写成稳定结果。

八、复杂度与失效规则

操作	复杂度	说明
get/contains	平均 O(1)	不改变顺序
put	平均 O(1)	超容淘汰表头
erase	平均 O(1)	同时删两处
evict	O(1)	最老插入

复杂度中的 O(1) 若标记为“平均”或“摊还”，不能在面试中省略限定词。任何重新分配、节点删除、rehash 或缓存淘汰都必须单独说明迭代器、引用与指针是否失效。

九、异常安全与资源管理

获取资源后立即交给 RAII 对象或明确记录已构造数量。
用户类型构造、复制、移动、比较器和哈希器都可能抛异常。
只有在所有后续步骤不会失败时才修改不可回滚的链接。
析构、释放和关闭路径不得抛异常。
并发包装通过回调在锁内访问，避免返回保护对象的裸引用。

十、常见错误

1. 把 get 当成更新顺序的操作

把 get 当成更新顺序的操作会破坏本篇建立的契约。调试时先检查核心不变量，再缩小到触发该状态的最短操作序列。

2. 更新已有键时重复插入顺序节点

更新已有键时重复插入顺序节点会破坏本篇建立的契约。调试时先检查核心不变量，再缩小到触发该状态的最短操作序列。

3. 容量 0 时仍解引用队首

容量 0 时仍解引用队首会破坏本篇建立的契约。调试时先检查核心不变量，再缩小到触发该状态的最短操作序列。

十一、面试追问

FIFO 在什么访问模式下表现差？
缓存命中是否应更新插入时间？
怎样用同一访问轨迹比较策略？

回答时先说数据结构不变量，再给复杂度，最后说明异常、迭代器或并发边界，通常比背诵结论更有说服力。

十二、练习与自测

实现 resize
统计命中率
加入 synchronized 包装并验证引用不逃逸

自测标准：能够不看代码画出内存或节点关系，解释一次成功操作和一次失败回滚，并写出至少一个会击穿错误实现的测试。

十三、官方资料与延伸阅读

上一篇：手写线程池｜下一篇：手写 LRU 缓存