缓存
作用
缓存是一种提高数据读取性能的技术,在硬件设计、软件开发中都有着非常广泛的应用,比如常见的 CPU 缓存、数据库缓存、浏览器缓存等等。
淘汰策略
常见的策略有三种:先进先出策略 FIFO(First In,First Out)、最少使用策略 LFU(Least Frequently Used)、最近最少使用策略 LRU(Least Recently Used)。
链表
不需要一块连续的内存空间,它通过“指针”将一组零散的内存块串联起来使用。三种最常见的链表结构,它们分别是:单链表、双向链表和循环链表
链表通过指针将一组零散的内存块串联在一起。其中,我们把内存块称为链表的“结点”。为了将所有的结点串起来,每个链表的结点除了存储数据之外,还需要记录链上的下一个结点的地址。如图所示,我们把这个记录下个结点地址的指针叫作后继指针 next。
单链表
两个结点是比较特殊的,它们分别是第一个结点和最后一个结点。我们习惯性地把第一个结点叫作头结点,把最后一个结点叫作尾结点。其中,头结点用来记录链表的基地址。有了它,我们就可以遍历得到整条链表。而尾结点特殊的地方是:指针不是指向下一个结点,而是指向一个空地址 NULL,表示这是链表上最后一个结点。
循环链表
循环链表是一种特殊的单链表。实际上,循环链表也很简单。它跟单链表唯一的区别就在尾结点。我们知道,单链表的尾结点指针指向空地址,表示这就是最后的结点了。而循环链表的尾结点指针是指向链表的头结点
双向链表
单向链表只有一个方向,结点只有一个后继指针 next 指向后面的结点。而双向链表,顾名思义,它支持两个方向,每个结点不止有一个后继指针 next 指向后面的结点,还有一个前驱指针 prev 指向前面的结点
从结构上来看,双向链表可以支持 O(1) 时间复杂度的情况下找到前驱结点,正是这样的特点,也使双向链表在某些情况下的插入、删除等操作都要比单链表简单、高效。
删除给定指针指向的结点:
单链表并不支持直接获取前驱结点,所以,为了找到前驱结点,我们还是要从头结点开始遍历链表,直到 p->next=q,说明 p 是 q 的前驱结点
双向链表来说,这种情况就比较有优势了。因为双向链表中的结点已经保存了前驱结点的指针,不需要像单链表那样遍历。所以,针对第二种情况,单链表删除操作需要 O(n) 的时间复杂度,而双向链表只需要在 O(1) 的时间复杂度内就搞定了
对于一个有序链表,双向链表的按值查询的效率也要比单链表高一些。因为,我们可以记录上次查找的位置 p,每次查询时,根据要查找的值与 p 的大小关系,决定是往前还是往后查找,所以平均只需要查找一半的数据。
实际的软件开发中,双向链表尽管比较费内存,但还是比单链表的应用更加广泛的原因。如果你熟悉 Java 语言,你肯定用过 LinkedHashMap 这个容器。如果你深入研究 LinkedHashMap 的实现原理,就会发现其中就用到了双向链表这种数据结构。
总结:当内存空间充足的时候,如果我们更加追求代码的执行速度,我们就可以选择空间复杂度相对较高、但时间复杂度相对很低的算法或者数据结构。相反,如果内存比较紧缺,比如代码跑在手机或者单片机上,这个时候,就要反过来用时间换空间的设计思路。
思考
如何基于链表实现 LRU 缓存淘汰算法?
维护一个有序单链表,越靠近链表尾部的结点是越早之前访问的。当有一个新的数据被访问时,我们从链表头开始顺序遍历链表。
1. 如果此数据之前已经被缓存在链表中了,我们遍历得到这个数据对应的结点,并将其从原来的位置删除,然后再插入到链表的头部。
2. 如果此数据没有在缓存链表中,又可以分为两种情况:如果此时缓存未满,则将此结点直接插入到链表的头部;如果此时缓存已满,则链表尾结点删除,将新的数据结点插入链表的头部。
提供一个基于数组实现的LRU缓存淘汰算法,上代码
public class ArrLRU<T> {//默认容量private static final int DEFALUT_CAPACITY = (1 << 3);private T[] holder;//存储元素的数组private int count;//元素个数//存储元素及其位置的对应关系private Map<T, Integer> cache;public ArrLRU() {this.holder = (T[]) new Object[DEFALUT_CAPACITY];this.count = 0;this.cache = new HashMap<>(DEFALUT_CAPACITY);}private void offer(T target) {Integer location = cache.get(target);if (location == null) {//缓存不存在该元素if (count == DEFALUT_CAPACITY) {//缓存已满,移除缓存元素,加入数组更新缓存T t = holder[--count];cache.remove(t);removeAndCache(t, count);} else {//不存在该元素、缓存未满putAbsentInCache(target,count);}} else {//已存在update(target,location);}}private void update(T target, Integer location) {Integer index = cache.get(target);rightShift(index);holder[0] = target;cache.put(target,0);}private void putAbsentInCache(T t, int end) {rightShift(count);holder[0] = t;cache.put(t, 0);count++;}private void removeAndCache(T t, int count) {rightShift(count);//t位置之前元素向右移动holder[0] = t;cache.put(t, 0);count++;}private void rightShift(int count) {for (int i = count - 1; i >= 0; i--) {holder[i + 1] = holder[i];cache.put(holder[i], i + 1);}}public static void main(String[] args) {ArrLRU lru = new ArrLRU<Integer>();lru.offer(Integer.valueOf(1));lru.offer(Integer.valueOf(2));lru.offer(Integer.valueOf(3));lru.offer(Integer.valueOf(4));lru.offer(Integer.valueOf(3));System.out.println(Arrays.toString(lru.holder));}}
通过链表实现LRU缓存淘汰算法如下
public class NodeLRU<T> {public static class Node<T> {private T data;private Node next;public Node(Node next) {this.next = next;}public Node(T data, Node next) {this.data = data;this.next = next;}public T getData() {return data;}public void setData(T data) {this.data = data;}public Node getNext() {return next;}public void setNext(Node next) {this.next = next;}}//默认链表容量private int DEFAULT_CAPACITY = 10;//链表长度private int count;//链表头结点private Node head;//链表容量private int capacity;public NodeLRU() {this.count = 0;this.head = new Node(null);this.capacity = DEFAULT_CAPACITY;}public NodeLRU(int capacity) {this.capacity = capacity;this.count = 0;this.head = new Node(null);}public int getDEFAULT_CAPACITY() {return DEFAULT_CAPACITY;}public void setDEFAULT_CAPACITY(int DEFAULT_CAPACITY) {this.DEFAULT_CAPACITY = DEFAULT_CAPACITY;}public Node getHead() {return head;}public void add(T data) {//找到元素的前一个结点Node prevNode = findPrevNode(data);if (prevNode != null) {remove(prevNode);insertNodeAtHead(data);} else {if (count >= capacity) {deleteNodeAtEnd();}insertNodeAtHead(data);}}//头插法private void insertNodeAtHead(T data) {Node node = head.getNext();head.setNext(new Node(data, node));count++;}//删除prevNode结点的下一个元素private void remove(Node prevNode) {Node node = prevNode.getNext();prevNode.setNext(node.getNext());node = null;count--;}//删除链表中最后一个元素private void deleteNodeAtEnd() {Node node = head;if (node.getNext() == null) {return;}while (node.getNext().getNext() != null) {node = node.getNext();}Node endNode = node.getNext();node.setNext(null);endNode = null;count--;}//查找元素的前一个节点private Node findPrevNode(T data) {Node node = head;while (node.getNext() != null) {if (head.getNext().getData().equals(data)) {return node;}node = node.getNext();}return null;}public boolean isEmpty() {return count == 0;}public int size() {return count;}public static void main(String[] args) {NodeLRU lru = new NodeLRU();for (int i = 1; i < 11; i++) {lru.add(i);}printLinkElement(lru);lru.add(5);printLinkElement(lru);}public static void printLinkElement(NodeLRU lru) {Node head = lru.getHead();StringBuilder stringBuilder = new StringBuilder();while (head.getNext().getNext() != null) {stringBuilder.append(head.getNext().getData()).append("->");head = head.getNext();}stringBuilder.append(head.getNext().getData());System.out.println(stringBuilder.toString());}}
输出结果