哈夫曼樹
1.1基本介紹
給定n個權值作為n個葉子結點，構造一棵二叉樹，若該樹的帶權路徑長度(wpl)達到最小，稱這樣的二叉樹為最優(yōu)二叉樹，也稱為哈夫曼樹(Huffman Tree), 還有的書翻譯為霍夫曼樹。
赫夫曼樹是帶權路徑長度最短的樹，權值較大的結點離根較近。
1.2赫夫曼樹幾個重要概念和舉例說明
- 路徑和路徑長度：在一棵樹中，從一個結點往下可以達到的孩子或?qū)O子結點之間的通路，稱為路徑。通路中分支的數(shù)目稱為路徑長度。若規(guī)定根結點的層數(shù)為1，則從根結點到第L層結點的路徑長度為L-1
- 結點的權及帶權路徑長度：若將樹中結點賦給一個有著某種含義的數(shù)值，則這個數(shù)值稱為該結點的權。結點的帶權路徑長度為：從根結點到該結點之間的路徑長度與該結點的權的乘積
1560947862231.png
1.3赫夫曼樹創(chuàng)建思路圖解
構成赫夫曼樹的步驟：
- 從小到大進行排序, 將每一個數(shù)據(jù)，每個數(shù)據(jù)都是一個節(jié)點 ， 每個節(jié)點可以看成是一顆最簡單的二叉樹
- 取出根節(jié)點權值最小的兩顆二叉樹
- 組成一顆新的二叉樹, 該新的二叉樹的根節(jié)點的權值是前面兩顆二叉樹根節(jié)點權值的和
- 再將這顆新的二叉樹，以根節(jié)點的權值大小 再次排序， 不斷重復 1-2-3-4 的步驟，直到數(shù)列中，所有的數(shù)據(jù)都被處理，就得到一顆赫夫曼樹
1.4編碼
package cn.smallmartial.huffmanTree;
import java.util.ArrayList;
import java.util.Collections;
import java.util.List;
/**
* @Author smallmartial
* @Date 2019/6/19
* @Email smallmarital@qq.com
*/
public class HuffmanTree {
public static void main(String[] args) {
int arr[] = {13,7,8,3,29,6,1};
Node root = createHuffmanTree(arr);
preOrder(root);
}
//編寫一個前序遍歷方法
public static void preOrder(Node root){
if(root != null){
root.proOrder();
}else {
System.out.println("是空樹，不能遍歷");
}
}
//創(chuàng)建哈夫曼樹
public static Node createHuffmanTree(int[] arr){
//遍歷 arr 數(shù)組
List<Node> nodes = new ArrayList<Node>();
for (int value : arr) {
nodes.add(new Node(value));
}
while (nodes.size() >1) {
//排序從小到大
Collections.sort(nodes);
System.out.println("nodes=" + nodes);
//取出權值最小的節(jié)點
Node leftNode = nodes.get(0);
//取出權值第二小的節(jié)點
Node rightNode = nodes.get(1);
//構建一顆新的二叉樹
Node parent = new Node(leftNode.value + rightNode.value);
//將parent加入nodes
parent.left = leftNode;
parent.rigtht = rightNode;
nodes.remove(leftNode);
nodes.remove(rightNode);
nodes.add(parent);
}
return nodes.get(0);
}
}
//創(chuàng)建節(jié)點
class Node implements Comparable<Node>{
int value;
Node left;
Node rigtht;
//前序遍歷
public void proOrder(){
System.out.println(this);
if (this.left != null){
this.left.proOrder();
}
if (this.rigtht != null){
this.rigtht.proOrder();
}
}
public Node(int value) {
this.value = value;
}
@Override
public String toString() {
return "Node{" +
"value=" + value +
'}';
}
@Override
public int compareTo(Node o) {
//從小到大排序
return this.value - o.value;
}
}
運行結果：
1561011415659.png
1.5哈夫曼樹編碼
基本介紹
赫夫曼編碼也翻譯為 哈夫曼編碼(Huffman Coding)，又稱霍夫曼編碼，是一種編碼方式, 屬于一種程序算法赫夫曼編碼是赫哈夫曼樹在電訊通信中的經(jīng)典的應用之一。
赫夫曼編碼廣泛地用于數(shù)據(jù)文件壓縮。其壓縮率通常在20%～90%之間赫夫曼碼是可變字長編碼(VLC)的一種。Huffman于1952年提出一種編碼方法，稱之為最佳編碼
1561011799322.png
-
通信領域中信息的處理方式3-赫夫曼編碼
i like like like java do you like a java // 共40個字符(包括空格)
d:1 y:1 u:1 j:2 v:2 o:2 l:4 k:4 e:4 i:5 a:5 :9 // 各個字符對應的個數(shù)
按照上面字符出現(xiàn)的次數(shù)構建一顆赫夫曼樹, 次數(shù)作為權值.(圖后)?
-
步驟：
構成赫夫曼樹的步驟：- 從小到大進行排序, 將每一個數(shù)據(jù)，每個數(shù)據(jù)都是一個節(jié)點 ， 每個節(jié)點可以看成是一顆最簡單的二叉樹
- 取出根節(jié)點權值最小的兩顆二叉樹
- 組成一顆新的二叉樹, 該新的二叉樹的根節(jié)點的權值是前面兩顆二叉樹根節(jié)點權值的和
- 再將這顆新的二叉樹，以根節(jié)點的權值大小 再次排序， 不斷重復 1-2-3-4 的步驟，直到數(shù)列中，所有的數(shù)據(jù)都被處理，就得到一顆赫夫曼樹
1561011861248.png
- 根據(jù)赫夫曼樹，給各個字符,規(guī)定編碼 (前綴編碼)， 向左的路徑為0 向右的路徑為1 ， 編碼如下:
? o: 1000 u: 10010 d: 100110 y: 100111 i: 101
? a : 110 k: 1110 e: 1111 j: 0000 v: 0001
? l: 001 : 01
- 按照上面的赫夫曼編碼，我們的"i like like like java do you like a java" 字符串對應的編碼為 (注意這里我們使用的無損壓縮)
1010100110111101111010011011110111101001101111011110100001100001110011001111000011001111000100100100110111101111011100100001100001110 通過赫夫曼編碼處理 長度為 133
6） 長度為 ： 133
說明:原來長度是 359 , 壓縮了 (359-133) / 359 = 62.9%
此編碼滿足前綴編碼, 即字符的編碼都不能是其他字符編碼的前綴。不會造成匹配的多義性赫夫曼編碼是無損處理方案
注意, 這個赫夫曼樹根據(jù)排序方法不同，也可能不太一樣，這樣對應的赫夫曼編碼也不完全一樣，但是wpl 是一樣的，都是最小的, 比如: 如果我們讓每次生成的新的二叉樹總是排在權值相同的二叉樹的最后一個
1.6最佳實踐-數(shù)據(jù)壓縮(創(chuàng)建赫夫曼樹)
將給出的一段文本，比如 "i like like like java do you like a java" ， 根據(jù)前面的講的赫夫曼編碼原理，對其進行數(shù)據(jù)壓縮處理 ，形式如 "1010100110111101111010011011110111101001101111011110100001100001110011001111000011001111000100100100110111101111011100100001100001110
"
1561012847247.png
1.7代碼
package cn.smallmartial.huffmancode;
import java.util.ArrayList;
import java.util.HashMap;
import java.util.List;
import java.util.Map;
/**
* @Author smallmartial
* @Date 2019/6/20
* @Email smallmarital@qq.com
*/
import java.io.FileInputStream;
import java.io.FileOutputStream;
import java.io.InputStream;
import java.io.ObjectInputStream;
import java.io.ObjectOutputStream;
import java.io.OutputStream;
import java.util.ArrayList;
import java.util.Arrays;
import java.util.Collections;
import java.util.HashMap;
import java.util.List;
import java.util.Map;
public class HuffmanCode {
public static void main(String[] args) {
//測試壓縮文件
// String srcFile = "d://Uninstall.xml";
// String dstFile = "d://Uninstall.zip";
//
// zipFile(srcFile, dstFile);
// System.out.println("壓縮文件ok~~");
// //測試解壓文件
// String zipFile = "d://Uninstall.zip";
// String dstFile = "d://Uninstall2.xml";
// unZipFile(zipFile, dstFile);
// System.out.println("解壓成功!");
String content = "i like like like java do you like a java";
byte[] contentBytes = content.getBytes();
System.out.println(contentBytes.length); //40
byte[] huffmanCodesBytes= huffmanZip(contentBytes);
System.out.println("壓縮后的結果是:" + Arrays.toString(huffmanCodesBytes) + " 長度= " + huffmanCodesBytes.length);
//測試一把byteToBitString方法
//System.out.println(byteToBitString((byte)1));
byte[] sourceBytes = decode(huffmanCodes, huffmanCodesBytes);
System.out.println("原來的字符串=" + new String(sourceBytes)); // "i like like like java do you like a java"
//如何將 數(shù)據(jù)進行解壓(解碼)
//分步過程
List<Node> nodes = getNodes(contentBytes);
System.out.println("nodes=" + nodes);
//測試一把，創(chuàng)建的赫夫曼樹
System.out.println("赫夫曼樹");
Node huffmanTreeRoot = createHuffmanTree(nodes);
System.out.println("前序遍歷");
huffmanTreeRoot.preOrder();
//測試一把是否生成了對應的赫夫曼編碼
Map<Byte, String> huffmanCodes = getCodes(huffmanTreeRoot);
System.out.println("~生成的赫夫曼編碼表= " + huffmanCodes);
//測試
byte[] huffmanCodeBytes = zip(contentBytes, huffmanCodes);
System.out.println("huffmanCodeBytes=" + Arrays.toString(huffmanCodeBytes));//17
//發(fā)送huffmanCodeBytes 數(shù)組
}
//編寫一個方法，完成對壓縮文件的解壓
/**
*
* @param zipFile 準備解壓的文件
* @param dstFile 將文件解壓到哪個路徑
*/
public static void unZipFile(String zipFile, String dstFile) {
//定義文件輸入流
InputStream is = null;
//定義一個對象輸入流
ObjectInputStream ois = null;
//定義文件的輸出流
OutputStream os = null;
try {
//創(chuàng)建文件輸入流
is = new FileInputStream(zipFile);
//創(chuàng)建一個和 is關聯(lián)的對象輸入流
ois = new ObjectInputStream(is);
//讀取byte數(shù)組 huffmanBytes
byte[] huffmanBytes = (byte[])ois.readObject();
//讀取赫夫曼編碼表
Map<Byte,String> huffmanCodes = (Map<Byte,String>)ois.readObject();
//解碼
byte[] bytes = decode(huffmanCodes, huffmanBytes);
//將bytes 數(shù)組寫入到目標文件
os = new FileOutputStream(dstFile);
//寫數(shù)據(jù)到 dstFile 文件
os.write(bytes);
} catch (Exception e) {
// TODO: handle exception
System.out.println(e.getMessage());
} finally {
try {
os.close();
ois.close();
is.close();
} catch (Exception e2) {
// TODO: handle exception
System.out.println(e2.getMessage());
}
}
}
//編寫方法，將一個文件進行壓縮
/**
*
* @param srcFile 你傳入的希望壓縮的文件的全路徑
* @param dstFile 我們壓縮后將壓縮文件放到哪個目錄
*/
public static void zipFile(String srcFile, String dstFile) {
//創(chuàng)建輸出流
OutputStream os = null;
ObjectOutputStream oos = null;
//創(chuàng)建文件的輸入流
FileInputStream is = null;
try {
//創(chuàng)建文件的輸入流
is = new FileInputStream(srcFile);
//創(chuàng)建一個和源文件大小一樣的byte[]
byte[] b = new byte[is.available()];
//讀取文件
is.read(b);
//直接對源文件壓縮
byte[] huffmanBytes = huffmanZip(b);
//創(chuàng)建文件的輸出流, 存放壓縮文件
os = new FileOutputStream(dstFile);
//創(chuàng)建一個和文件輸出流關聯(lián)的ObjectOutputStream
oos = new ObjectOutputStream(os);
//把 赫夫曼編碼后的字節(jié)數(shù)組寫入壓縮文件
oos.writeObject(huffmanBytes); //我們是把
//這里我們以對象流的方式寫入 赫夫曼編碼，是為了以后我們恢復源文件時使用
//注意一定要把赫夫曼編碼 寫入壓縮文件
oos.writeObject(huffmanCodes);
}catch (Exception e) {
// TODO: handle exception
System.out.println(e.getMessage());
}finally {
try {
is.close();
oos.close();
os.close();
}catch (Exception e) {
// TODO: handle exception
System.out.println(e.getMessage());
}
}
}
//完成數(shù)據(jù)的解壓
//思路
//1. 將huffmanCodeBytes [-88, -65, -56, -65, -56, -65, -55, 77, -57, 6, -24, -14, -117, -4, -60, -90, 28]
// 重寫先轉(zhuǎn)成 赫夫曼編碼對應的二進制的字符串 "1010100010111..."
//2. 赫夫曼編碼對應的二進制的字符串 "1010100010111..." =》 對照 赫夫曼編碼 =》 "i like like like ?java do you like a java"
//編寫一個方法，完成對壓縮數(shù)據(jù)的解碼
/**
*
* @param huffmanCodes 赫夫曼編碼表 map
* @param huffmanBytes 赫夫曼編碼得到的字節(jié)數(shù)組
* @return 就是原來的字符串對應的數(shù)組
*/
private static byte[] decode(Map<Byte,String> huffmanCodes, byte[] huffmanBytes) {
//1. 先得到 huffmanBytes 對應的 二進制的字符串 ， 形式 1010100010111...
StringBuilder stringBuilder = new StringBuilder();
//將byte數(shù)組轉(zhuǎn)成二進制的字符串
for(int i = 0; i < huffmanBytes.length; i++) {
byte b = huffmanBytes[i];
//判斷是不是最后一個字節(jié)
boolean flag = (i == huffmanBytes.length - 1);
stringBuilder.append(byteToBitString(!flag, b));
}
//把字符串安裝指定的赫夫曼編碼進行解碼
//把赫夫曼編碼表進行調(diào)換，因為反向查詢 a->100 100->a
Map<String, Byte> map = new HashMap<String,Byte>();
for(Map.Entry<Byte, String> entry: huffmanCodes.entrySet()) {
map.put(entry.getValue(), entry.getKey());
}
//創(chuàng)建要給集合，存放byte
List<Byte> list = new ArrayList<>();
//i 可以理解成就是索引,掃描 stringBuilder
for(int i = 0; i < stringBuilder.length(); ) {
int count = 1; // 小的計數(shù)器
boolean flag = true;
Byte b = null;
while(flag) {
//1010100010111...
//遞增的取出 key 1
String key = stringBuilder.substring(i, i+count);//i 不動，讓count移動，指定匹配到一個字符
b = map.get(key);
if(b == null) {//說明沒有匹配到
count++;
}else {
//匹配到
flag = false;
}
}
list.add(b);
i += count;//i 直接移動到 count
}
//當for循環(huán)結束后，我們list中就存放了所有的字符 "i like like like java do you like a java"
//把list 中的數(shù)據(jù)放入到byte[] 并返回
byte b[] = new byte[list.size()];
for(int i = 0;i < b.length; i++) {
b[i] = list.get(i);
}
return b;
}
/**
* 將一個byte 轉(zhuǎn)成一個二進制的字符串, 如果看不懂，可以參考我講的Java基礎 二進制的原碼，反碼，補碼
* @param b 傳入的 byte
* @param flag 標志是否需要補高位如果是true ，表示需要補高位，如果是false表示不補, 如果是最后一個字節(jié)，無需補高位
* @return 是該b 對應的二進制的字符串，（注意是按補碼返回）
*/
private static String byteToBitString(boolean flag, byte b) {
//使用變量保存 b
int temp = b; //將 b 轉(zhuǎn)成 int
//如果是正數(shù)我們還存在補高位
if(flag) {
temp |= 256; //按位與 256 1 0000 0000 | 0000 0001 => 1 0000 0001
}
String str = Integer.toBinaryString(temp); //返回的是temp對應的二進制的補碼
if(flag) {
return str.substring(str.length() - 8);
} else {
return str;
}
}
//使用一個方法，將前面的方法封裝起來，便于我們的調(diào)用.
/**
*
* @param bytes 原始的字符串對應的字節(jié)數(shù)組
* @return 是經(jīng)過 赫夫曼編碼處理后的字節(jié)數(shù)組(壓縮后的數(shù)組)
*/
private static byte[] huffmanZip(byte[] bytes) {
List<Node> nodes = getNodes(bytes);
//根據(jù) nodes 創(chuàng)建的赫夫曼樹
Node huffmanTreeRoot = createHuffmanTree(nodes);
//對應的赫夫曼編碼(根據(jù) 赫夫曼樹)
Map<Byte, String> huffmanCodes = getCodes(huffmanTreeRoot);
//根據(jù)生成的赫夫曼編碼，壓縮得到壓縮后的赫夫曼編碼字節(jié)數(shù)組
byte[] huffmanCodeBytes = zip(bytes, huffmanCodes);
return huffmanCodeBytes;
}
//編寫一個方法，將字符串對應的byte[] 數(shù)組，通過生成的赫夫曼編碼表，返回一個赫夫曼編碼 壓縮后的byte[]
/**
*
* @param bytes 這時原始的字符串對應的 byte[]
* @param huffmanCodes 生成的赫夫曼編碼map
* @return 返回赫夫曼編碼處理后的 byte[]
* 舉例： String content = "i like like like java do you like a java"; =》 byte[] contentBytes = content.getBytes();
* 返回的是 字符串 "1010100010111111110010001011111111001000101111111100100101001101110001110000011011101000111100101000101111111100110001001010011011100"
* => 對應的 byte[] huffmanCodeBytes ，即 8位對應一個 byte,放入到 huffmanCodeBytes
* huffmanCodeBytes[0] = 10101000(補碼) => byte [推導 10101000=> 10101000 - 1 => 10100111(反碼)=> 11011000= -88 ]
* huffmanCodeBytes[1] = -88
*/
private static byte[] zip(byte[] bytes, Map<Byte, String> huffmanCodes) {
//1.利用 huffmanCodes 將 bytes 轉(zhuǎn)成 赫夫曼編碼對應的字符串
StringBuilder stringBuilder = new StringBuilder();
//遍歷bytes 數(shù)組
for(byte b: bytes) {
stringBuilder.append(huffmanCodes.get(b));
}
//System.out.println("測試 stringBuilder~~~=" + stringBuilder.toString());
//將 "1010100010111111110..." 轉(zhuǎn)成 byte[]
//統(tǒng)計返回 byte[] huffmanCodeBytes 長度
//一句話 int len = (stringBuilder.length() + 7) / 8;
int len;
if(stringBuilder.length() % 8 == 0) {
len = stringBuilder.length() / 8;
} else {
len = stringBuilder.length() / 8 + 1;
}
//創(chuàng)建 存儲壓縮后的 byte數(shù)組
byte[] huffmanCodeBytes = new byte[len];
int index = 0;//記錄是第幾個byte
for (int i = 0; i < stringBuilder.length(); i += 8) { //因為是每8位對應一個byte,所以步長 +8
String strByte;
if(i+8 > stringBuilder.length()) {//不夠8位
strByte = stringBuilder.substring(i);
}else{
strByte = stringBuilder.substring(i, i + 8);
}
//將strByte 轉(zhuǎn)成一個byte,放入到 huffmanCodeBytes
huffmanCodeBytes[index] = (byte)Integer.parseInt(strByte, 2);
index++;
}
return huffmanCodeBytes;
}
//生成赫夫曼樹對應的赫夫曼編碼
//思路:
//1. 將赫夫曼編碼表存放在 Map<Byte,String> 形式
// 生成的赫夫曼編碼表{32=01, 97=100, 100=11000, 117=11001, 101=1110, 118=11011, 105=101, 121=11010, 106=0010, 107=1111, 108=000, 111=0011}
static Map<Byte, String> huffmanCodes = new HashMap<Byte,String>();
//2. 在生成赫夫曼編碼表示，需要去拼接路徑, 定義一個StringBuilder 存儲某個葉子結點的路徑
static StringBuilder stringBuilder = new StringBuilder();
//為了調(diào)用方便，我們重載 getCodes
private static Map<Byte, String> getCodes(Node root) {
if(root == null) {
return null;
}
//處理root的左子樹
getCodes(root.left, "0", stringBuilder);
//處理root的右子樹
getCodes(root.right, "1", stringBuilder);
return huffmanCodes;
}
/**
* 功能：將傳入的node結點的所有葉子結點的赫夫曼編碼得到，并放入到huffmanCodes集合
* @param node 傳入結點
* @param code 路徑： 左子結點是 0, 右子結點 1
* @param stringBuilder 用于拼接路徑
*/
private static void getCodes(Node node, String code, StringBuilder stringBuilder) {
StringBuilder stringBuilder2 = new StringBuilder(stringBuilder);
//將code 加入到 stringBuilder2
stringBuilder2.append(code);
if(node != null) { //如果node == null不處理
//判斷當前node 是葉子結點還是非葉子結點
if(node.data == null) { //非葉子結點
//遞歸處理
//向左遞歸
getCodes(node.left, "0", stringBuilder2);
//向右遞歸
getCodes(node.right, "1", stringBuilder2);
} else { //說明是一個葉子結點
//就表示找到某個葉子結點的最后
huffmanCodes.put(node.data, stringBuilder2.toString());
}
}
}
//前序遍歷的方法
private static void preOrder(Node root) {
if(root != null) {
root.preOrder();
}else {
System.out.println("赫夫曼樹為空");
}
}
/**
*
* @param bytes 接收字節(jié)數(shù)組
* @return 返回的就是 List 形式 [Node[date=97 ,weight = 5], Node[]date=32,weight = 9]......],
*/
private static List<Node> getNodes(byte[] bytes) {
//1創(chuàng)建一個ArrayList
ArrayList<Node> nodes = new ArrayList<Node>();
//遍歷 bytes , 統(tǒng)計 每一個byte出現(xiàn)的次數(shù)->map[key,value]
Map<Byte, Integer> counts = new HashMap<>();
for (byte b : bytes) {
Integer count = counts.get(b);
if (count == null) { // Map還沒有這個字符數(shù)據(jù),第一次
counts.put(b, 1);
} else {
counts.put(b, count + 1);
}
}
//把每一個鍵值對轉(zhuǎn)成一個Node 對象，并加入到nodes集合
//遍歷map
for(Map.Entry<Byte, Integer> entry: counts.entrySet()) {
nodes.add(new Node(entry.getKey(), entry.getValue()));
}
return nodes;
}
//可以通過List 創(chuàng)建對應的赫夫曼樹
private static Node createHuffmanTree(List<Node> nodes) {
while(nodes.size() > 1) {
//排序, 從小到大
Collections.sort(nodes);
//取出第一顆最小的二叉樹
Node leftNode = nodes.get(0);
//取出第二顆最小的二叉樹
Node rightNode = nodes.get(1);
//創(chuàng)建一顆新的二叉樹,它的根節(jié)點 沒有data, 只有權值
Node parent = new Node(null, leftNode.weight + rightNode.weight);
parent.left = leftNode;
parent.right = rightNode;
//將已經(jīng)處理的兩顆二叉樹從nodes刪除
nodes.remove(leftNode);
nodes.remove(rightNode);
//將新的二叉樹，加入到nodes
nodes.add(parent);
}
//nodes 最后的結點，就是赫夫曼樹的根結點
return nodes.get(0);
}
}
//創(chuàng)建Node ,待數(shù)據(jù)和權值
class Node implements Comparable<Node> {
Byte data; // 存放數(shù)據(jù)(字符)本身，比如'a' => 97 ' ' => 32
int weight; //權值, 表示字符出現(xiàn)的次數(shù)
Node left;//
Node right;
public Node(Byte data, int weight) {
this.data = data;
this.weight = weight;
}
@Override
public int compareTo(Node o) {
// 從小到大排序
return this.weight - o.weight;
}
public String toString() {
return "Node [data = " + data + " weight=" + weight + "]";
}
//前序遍歷
public void preOrder() {
System.out.println(this);
if(this.left != null) {
this.left.preOrder();
}
if(this.right != null) {
this.right.preOrder();
}
}
}
