【数据结构】哈希思想详解

前言
1. unordered系列关联式容器
- 1.1 unordered_map
- - 1.1.1 unordered_map介绍
  - 1.1.2 接口说明
- 1.2 unordered_set
2. 哈希概念
3. 哈希冲突
4. 哈希函数
5. 哈希冲突解决
- 5.1 闭散列
- - 5.1.1 闭散列的概念
  - 5.1.2 闭散列代码实现
- 5.2 开散列
- - 5.2.1 开散列概念
  - 5.2.2 开散列代码实现
  - 5.2.3 开散列的增容
  - 5.2.4 开散列的思考
- 5.3 开散列与闭散列的比较
6. 总结

前言

在C++98中，STL提供了底层为红黑树结构的一系列关联式容器，在查询时效率可达到 $log_2N$ ，即最差情况下需要比较红黑树的高度次，当树中的节点非常多时，查询效率也不理想。最好的查询是，进行很少的比较次数就能够将元素找到，因此在C++11中，STL又提供了4个unordered系列的关联式容器，这四个容器与红黑树结构的关联式容器使用方式基本类似，只是其底层结构不同。

1. unordered系列关联式容器

1.1 unordered_map

1.1.1 unordered_map介绍

unordered_map文档介绍

unordered_map是存储<key, value>键值对的关联式容器，其允许通过keys快速的索引到与其对应的value。
在unordered_map中，键值通常用于惟一地标识元素，而映射值是一个对象，其内容与此键关联。键和映射值的类型可能不同。
在内部,unordered_map没有对<kye, value>按照任何特定的顺序排序, 为了能在常数范围内找到key所对应的value，unordered_map将相同哈希值的键值对放在相同的桶中。
unordered_map容器通过key访问单个元素要比map快，但它通常在遍历元素子集的范围迭代方面效率较低。
unordered_maps实现了直接访问操作符(operator[])，它允许使用key作为参数直接访问value。
它的迭代器至少是前向迭代器。

1.1.2 接口说明

unordered_map的构造

函数声明	功能介绍
unordered_map	构造不同格式的unordered_map对象

unordered_map的容量

函数声明	功能介绍
bool empty() const	检测unordered_map是否为空
size_t size() const	获取unordered_map的有效元素个数

unordered_map的迭代器

函数声明	功能介绍
begin	返回unordered_map第一个元素的迭代器
end	返回unordered_map最后一个元素下一个位置的迭代器
cbegin	返回unordered_map第一个元素的const迭代器
cend	返回unordered_map最后一个元素下一个位置的const迭代器

unordered_map的元素访问

函数声明	功能介绍
operator[]	返回与key对应的value，没有一个默认值

注意：该函数中实际调用哈希桶的插入操作，用参数key与V()构造一个默认值往底层哈希桶中插入，如果key不在哈希桶中，插入成功，返回V()，插入失败，说明key已经在哈希桶中，将key对应的value返回

unordered_map的查询

函数声明	功能介绍
iterator find(const K& key)	返回key在哈希桶中的位置
size_t count(const K& key)	返回哈希桶中关键码为key的键值对的个数

注意：unordered_map中key是不能重复的，因此count函数的返回值最大为1

unordered_map的修改操作

函数声明	功能介绍
insert	向容器中插入键值对
erase	删除容器中的键值对
void clear()	清空容器中有效元素个数
void swap(unordered_map&)	交换两个容器中的元素

unordered_map的桶操作

函数声明	功能介绍
size_t bucket_count()const	返回哈希桶中桶的总个数
size_t bucket_size(size_t n)const	返回n号桶中有效元素的总个数
size_t bucket(const K& key)	返回元素key所在的桶号

1.2 unordered_set

接口与set和unordered_map类似
参见参见 unordered_set在线文档说明

unordered系列的关联式容器之所以效率比较高，是因为其底层使用了哈希结构

2. 哈希概念

顺序结构以及平衡树中，元素关键码与其存储位置之间没有对应的关系，因此在查找一个元素时，必须要经过关键码的多次比较。顺序查找时间复杂度为O(N)，平衡树中为树的高度，即O( $log_2 N$ )，搜索的效率取决于搜索过程中元素的比较次数。

理想的搜索方法：可以不经过任何比较，一次直接从表中得到要搜索的元素。 如果构造一种存储结构，通过某种函数(hashFunc)使元素的存储位置与它的关键码之间能够建立一一映射的关系，那么在查找时通过该函数可以很快找到该元素。

当向该结构中：

插入元素
根据待插入元素的关键码，以此函数计算出该元素的存储位置并按此位置进行存放
搜索元素
对元素的关键码进行同样的计算，把求得的函数值当做元素的存储位置，在结构中按此位置取元素比较，若关键码相等，则搜索成功

该方式即为哈希(散列)方法，哈希方法中使用的转换函数称为哈希(散列)函数，构造出来的结构称为哈希表(Hash Table)(或者称散列表)

例如：数据集合{1，7，6，4，5，9}；
哈希函数设置为：hash(key) = key % capacity; capacity为存储元素底层空间总的大小。
在这里插入图片描述
用该方法进行搜索不必进行多次关键码的比较，因此搜索的速度比较快

按照上述方法向表中插入44会不会出现问题？
会，因为44映射的地址4已有元素，会发生冲突，这种情况称为哈希冲突

3. 哈希冲突

对于两个数据元素的关键字 $k_i$ 和 $k_j$ (i != j)，有 $k_i$ != $k_j$ ，但有：Hash( $k_i$ ) ==Hash( $k_j$ )，
即：不同关键字通过相同哈希哈数计算出相同的哈希地址，该种现象称为哈希冲突或哈希碰撞。

把具有不同关键码而具有相同哈希地址的数据元素称为“同义词”。
发生哈希冲突该如何处理呢？

4. 哈希函数

引起哈希冲突的一个原因可能是：哈希函数设计不够合理
哈希函数设计原则：

哈希函数的定义域必须包括需要存储的全部关键码，而如果散列表允许有m个地址时，其值域必须在0到m-1之间
哈希函数计算出来的地址能均匀分布在整个空间中
哈希函数应该比较简单

常见哈希函数：

直接定址法–(常用)
取关键字的某个线性函数为散列地址：Hash（Key）= A*Key + B
优点：简单、均匀
缺点：需要事先知道关键字的分布情况
使用场景：适合查找比较小且连续的情况
除留余数法–(常用)
设散列表中允许的地址数为m，取一个不大于m，但最接近或者等于m的质数p作为除数，按照哈希函数：Hash(key) = key% p(p<=m),将关键码转换成哈希地址
平方取中法
假设关键字为1234，对它平方就是1522756，抽取中间的3位227作为哈希地址；
再比如关键字为4321，对它平方就是18671041，抽取中间的3位671(或710)作为哈希地址
平方取中法比较适合：不知道关键字的分布，而位数又不是很大的情况
折叠法
折叠法是将关键字从左到右分割成位数相等的几部分(最后一部分位数可以短些)，然后将这几部分叠加求和，并按散列表表长，取后几位作为散列地址。
折叠法适合事先不需要知道关键字的分布，适合关键字位数比较多的情况
随机数法
选择一个随机函数，取关键字的随机函数值为它的哈希地址，即H(key) = random(key),其中random为随机数函数。
通常应用于关键字长度不等时采用此法
数学分析法
设有n个d位数，每一位可能有r种不同的符号，这r种不同的符号在各位上出现的频率不一定相同，可能在某些位上分布比较均匀，每种符号出现的机会均等，在某些位上分布不均匀只有某几种符号经常出现。可根据散列表的大小，选择其中各种符号分布均匀的若干位作为散列地址。

假设要存储某家公司员工登记表，如果用手机号作为关键字，那么极有可能前7位都是相同的，那么我们可以选择后面的四位作为散列地址，如果这样的抽取工作还容易出现冲突，还可以对抽取出来的数字进行反转(如1234改成4321)、右环位移(如1234改成4123)、左环移位、前两数与后两数叠加(如1234改成12+34=46)等方法。
数字分析法通常适合处理关键字位数比较大的情况，如果事先知道关键字的分布且关键字的若干位分布较均匀的情况

注意：哈希函数设计的越精妙，产生哈希冲突的可能性就越低，但是无法避免哈希冲突

5. 哈希冲突解决

解决哈希冲突两种常见的方法是：闭散列和开散列

5.1 闭散列

5.1.1 闭散列的概念

闭散列：也叫开放定址法，当发生哈希冲突时，如果哈希表未被装满，说明在哈希表中必然还有空位置，那么可以把key存放到冲突位置中的“下一个” 空位置中去。
那如何寻找下一个空位置呢？

线性探测

现在需要插入元素44，先通过哈希函数计算哈希地址，hashAddr为4，因此44理论上应该插在该位置，但是该位置已经放了值为4的元素，即发生哈希冲突。
线性探测：从发生冲突的位置开始，依次向后探测，直到寻找到下一个空位置为止

插入
- 通过哈希函数获取待插入元素在哈希表中的位置
- 如果该位置中没有元素则直接插入新元素，如果该位置中有元素发生哈希冲突，使用线性探测找到下一个空位置，插入新元素
删除
采用闭散列处理哈希冲突时，不能随便物理删除哈希表中已有的元素，若直接删除元素会影响其他元素的搜索。比如删除元素4，如果直接删除掉，44查找起来可能会受影响。因此线性探测采用标记的伪删除法来删除一个元素。

线性探测优点：实现非常简单，
线性探测缺点：一旦发生哈希冲突，所有的冲突连在一起，容易产生数据“堆积”，即：不同关键码占据了可利用的空位置，使得寻找某关键码的位置需要许多次比较，导致搜索效率降低。 如何缓解呢？

二次探测
线性探测的缺陷是产生冲突的数据堆积在一块，这与其找下一个空位置有关系，因为找空位置的方式就是挨着往后逐个去找，因此二次探测为了避免该问题，找下一个空位置的方法为： $H_i$ = ( $H_0$ + $i^2$ )% m, 或者： $H_i$ = ( $H_0$ - $i^2$ )% m。其中：i =1,2,3…， $H_0$ 是通过散列函数Hash(x)对元素的关键码 key 进行计算得到的位置，m是表的大小。
即：线性探测是基于映射的位置+1，+2，… +n，而二次探测是基于映射的位置+ $1^2$ ，+ $2^2$ ，… ，+ $n^2$

研究表明：当表的长度为质数且表装载因子a不超过0.5时，新的表项一定能够插入，而且任何一个位置都不会被探查两次。因此只要表中有一半的空位置，就不会存在表满的问题。在搜索时可以不考虑表装满的情况，但在插入时必须确保表的装载因子a不超过0.5，如果超出必须考虑增容。

5.1.2 闭散列代码实现

思考：哈希表什么情况下进行扩容？如何扩容？
在这里插入图片描述

本次采用线性探测的方法

数据项的定义

//元素状态
//DELETE：表中有一段连续存在的元素时，不能判断他们是探测找到的位置还是直接映射的
//如果在它们中间删除一个元素，将它设置位EMPTY，会导致探测不到后面的元素，
//因为线性探测是找到EMPTY为止
enum State {DELETE,EMPTY,EXIST
};template<class K,class V>
struct HashData{HashData(const std::pair<K,V>& kv = std::pair<K,V>(), State st = EMPTY):_kv(kv),_st(st){}std::pair<K,V> _kv; //数据State _st; //状态
};

哈希函数：将Key值转换为整型

	template<class K>struct HashFunc {size_t operator()(const K& key){return (size_t)key;}};template<>struct HashFunc<std::string>{size_t operator()(const std::string& s){size_t val = 0;for (auto e : s){val *= 131;val += e;}return val;}};

哈希表

	template <class K,class V,class Hash = HashFunc<K>>class HashTable {public:bool Insert(const std::pair<K,V>& kv){//如果表为空，则初始化表空间if (_table.size() == 0){_table.resize(10);}//负载因子为0.7，当已存数据/表大小 >= 7时扩容else if(_size*10 / _table.size() >= 7) {//老板思维，创建一个新的哈希表，//由于提前设置好表大小，所以新的哈希表不会扩容//然后调用Insert(),复用了代码HashTable<K, V> new_hash;new_hash._table.resize(_table.size() * 2);for (size_t i = 0; i < _table.size(); i++){if (_table[i]._st == EXIST){new_hash.Insert(_table[i]._kv);}}std::swap(_table, new_hash._table);}size_t pos = Hash()(kv.first) % _table.size();size_t i = pos;//寻找不存在数据的位置while (_table[i]._st == EXIST){//如果已有此key值，表明违反key值唯一规则if (_table[i]._kv.first == kv.first){return false;}i = (i + 1) % _table.size();}_size++;_table[i]._kv = kv;_table[i]._st = EXIST;return true;}std::pair<K, V>* Find(const K& key){if (_size == 0) return nullptr;size_t pos = Hash()(key) % _table.size();size_t i = pos;//从映射位置找到第一个为空位置//如果元素值匹配且存在，则找到，否则找不到while (_table[i]._st != EMPTY){if (_table[i]._kv.first == key && _table[i]._st == EXIST){return &_table[i]._kv;}i = (i + 1) % _table.size();//有可能整个表没有空，只有存在和删除//这里有一个坑，有可能表中所有项都是EXIST或者DELETE,则会死循环，需要特判if (i == pos) return nullptr;}return nullptr;}bool Erase(const K& key){//如果哈希表里没有值，则直接返回if (_size == 0)return false;//找到映射位置size_t pos = Hash()(key) % _table.size();//线性探测size_t i = pos;while(_table[i]._st != EMPTY){if (_table[i]._kv.first == key){if (_table[i]._st == DELETE) return false;else{_size--;_table[i]._st = DELETE;}}i = (i + 1) % _table.size();//如果遍历一遍都没找到，说明没有if (i == pos)return false;}return false;}private:std::vector<HashData<K,V>> _table;size_t _size = 0;};

5.2 开散列

5.2.1 开散列概念

开散列法又叫链地址法(拉链法)，首先对关键码集合用散列函数计算散列地址，具有相同地址的关键码归于同一子集合，每一个子集合称为一个桶，各个桶中的元素通过一个单链表链接起来，各链表的头结点存储在哈希表中。
在这里插入图片描述

从上图可以看出，开散列中每个桶中放的都是发生哈希冲突的元素。

5.2.2 开散列代码实现

数据项

template<class K,class V>
struct HashNode {HashNode* _next;std::pair<K,V> _kv;HashNode(const std::pair<K,V>& kv, HashNode* next = nullptr):_kv(kv),_next(next){}
};

哈希表

template<class K,class V>
class HashTable {typedef HashNode<K, V> Node;public:~HashTable(){//遍历每个桶，删除所连所有节点for (size_t i = 0; i < _table.size(); i++){if (_table[i] == nullptr) continue;Node* cur = _table[i];while (cur){Node* next = cur->_next;delete cur;cur = next;}_table[i] = nullptr;}}bool Insert(const std::pair<K, V>& kv){//如果值已存在，则返回if (Find(kv.first) != nullptr) return false;//初始化表大小if (_table.size() == 0){_table.resize(10,nullptr);}else if (_size == _table.size()) //节点数等于桶数时需要扩容{//老板思维，构造新表，复用Insert()来新增节点，析构来释放旧节点HashTable new_hash;new_hash._table.resize(_table.size() * 2);for (size_t i = 0; i < _table.size(); i++){if (_table[i] == nullptr) continue;Node* cur = _table[i];while (cur){new_hash.Insert(cur->_kv);cur = cur->_next;}}_table.swap(new_hash._table);}size_t pos = kv.first % _table.size();//如果有节点，则将新节点头插（也可以尾插，但是头插效率更高）Node* new_node = new Node(kv);new_node->_next = _table[pos];_table[pos] = new_node;_size++;return true;}std::pair<K, V>* Find(const K& key){if (_size == 0) return nullptr;size_t pos = key % _table.size();Node* cur = _table[pos];while (cur){if (cur->_kv.first == key) return &cur->_kv;cur = cur->_next;}return nullptr;}bool Erase(const K& key){if (_size == 0) return false;size_t pos = key % _table.size();Node* prev = nullptr;Node* cur = _table[pos];while (cur){if (cur->_kv.first == key){if (prev == nullptr){_table[pos] = nullptr;}else{prev->_next = cur->_next;}delete cur;_size--;return true;}prev = cur;cur = cur->_next;}return false;}
private:std::vector<Node*> _table;		size_t _size = 0;// 存储有效数据个数
};

5.2.3 开散列的增容

桶的个数是一定的，随着元素的不断插入，每个桶中元素的个数不断增多，极端情况下，可能会导致一个桶中链表节点非常多，会影响的哈希表的性能，因此在一定条件下需要对哈希表进行增容，那该条件怎么确认呢？开散列最好的情况是：每个哈希桶中刚好挂一个节点，再继续插入元素时，每一次都会发生哈希冲突，因此，在元素个数刚好等于桶的个数时，可以给哈希表增容。（STL就是这么设置的）

5.2.4 开散列的思考

只能存储key为整形的元素，其他类型怎么解决？
哈希函数采用处理余数法，被模的key必须要为整形才可以处理，此处提供将key转化为整形的方法，整形数据不需要转化
例如：字符串转整型的哈希函数：

// key为字符串类型，需要将其转化为整形
class Str2Int
{
public:size_t operator()(const string& s){const char* str = s.c_str();unsigned int seed = 131; // 31 131 1313 13131 131313unsigned int hash = 0;while (*str){hash = hash * seed + (*str++);}return (hash & 0x7FFFFFFF);}
};

除留余数法，最好模一个素数，如何每次快速取一个类似两倍关系的素数？

size_t GetNextPrime(size_t prime)
{const int PRIMECOUNT = 28;static const size_t primeList[PRIMECOUNT] ={53ul, 97ul, 193ul, 389ul, 769ul,1543ul, 3079ul, 6151ul, 12289ul, 24593ul,49157ul, 98317ul, 196613ul, 393241ul, 786433ul,1572869ul, 3145739ul, 6291469ul, 12582917ul,25165843ul,50331653ul, 100663319ul, 201326611ul, 402653189ul,805306457ul,1610612741ul, 3221225473ul, 4294967291ul};size_t i = 0;for (; i < PRIMECOUNT; ++i){if (primeList[i] > prime)return primeList[i];}return primeList[i];
}