

# 信息理论导论

## 1. 什么是信息？
- 信息理论从不同的角度定义信息，通常涉及信息的量化、编码和传输。

## 2. 如何测量信息？
- 测量信息通常通过“熵”来表示。熵度量了一个信源的不确定性，或者说消息的平均信息量。香农提出的熵定义是信息理论的基石。

## 3. 如何在空间（通信信道）和时间（存储媒介）中表示信息？
- 信息传输和存储不仅仅是关于数据本身，而是如何有效地编码和解码。信息需要通过合适的信道进行传输，并且需要使用合适的存储介质来存储和恢复。

## 相关定理

### 1. **源编码定理（Source Coding Theorem）**
- 这是信息理论中的一个重要定理，指出源信息可以通过最小化冗余来有效地进行编码。该定理为数据压缩提供了理论基础，强调了每个信息源的最小码长。

### 2. **香农第一编码定理（Shannon’s First Coding Theorem）**
- 该定理描述了如何将信息通过信道传输而不发生信息丢失。它提出了在给定信道容量的情况下，编码方案的有效性，并解释了编码如何在传输过程中最大化信息的传输。

### 3. **信道编码定理（Channel Coding Theorem）**
- 该定理提供了理论支持，说明在带有噪声的信道中，信息可以被有效地编码，使得传输可靠性最大化，尽管噪声存在。它提供了错误更正的框架，确保在信道中传输的信息能够正确无误地被接收。

### 4. **香农第二编码定理（Shannon’s Second Coding Theorem）**
- 该定理深入探讨了如何在有限的信道容量和噪声干扰下进行有效编码。它表明，给定一个信道的容量，存在某种编码方式可以达到零误差传输的概率。

# Shannon 熵的四个公理

## **Axiom 1（归一性，单位熵）**  
当只有两个等概率事件（如抛硬币）时，熵取 1 比特：
$$
H\left(\frac{1}{2}, \frac{1}{2} \right) = 1
$$
这规定了熵的单位，通常以比特（bit）为单位。

---

## **Axiom 2（单调性）**  
设有 $n$ 个等概率事件，则熵是关于 $n$ 的单调非减函数：
$$
h(n) = H\left(\frac{1}{n}, \frac{1}{n}, \dots, \frac{1}{n} \right)
$$
其中 $H(n)$ 随着 $n$ 递增，即：
$$
H\left(\frac{1}{3}, \frac{1}{3}, \frac{1}{3}\right) > H\left(\frac{1}{2}, \frac{1}{2}\right)
$$
这表明，当可能的状态数增加时，不确定性也增加。

---

## **Axiom 3（连续性）**  
如果概率分布发生微小变化，则熵的变化也应当是连续的，即：
$$
\lim_{p \to q} H(p) = H(q)
$$
这确保熵函数不会发生突变或不连续的跳变。

---

## **Axiom 4（分支性/递归性）**  
熵满足如下递归性质：
$$
H(P(x_{ij})) \quad \text{for} \quad 1 \leq i \leq k, \quad 1 \leq j \leq m.
$$
$$
= H\left(\sum_{j=1}^{m} P(x_{ij}) \quad \text{for} \quad 1 \leq i \leq k\right)  
$$
$$
+ \sum_{i=1}^{k} \left(\sum_{j=1}^{m} P(x_{ij})\right) H\left(\frac{P(x_{ij})}{\sum_{j=1}^{m} P(x_{ij})} \quad \text{for} \quad 1 \leq j \leq m\right)
$$
这意味着，如果一个系统可以分成多个部分，则其总熵可以拆分为部分熵和条件熵的加权和。

---
# 引理 1: 

 $$ h(nm) = h(n) + h(m) $$

## 证明步骤：

1. 设有 $$ nm $$ 个事件，假定这些事件的概率分布是均匀的，即每个事件的概率为：
   $$
   P(X_{ij}) = \frac{1}{nm}, \quad 1 \leq i \leq n, \quad 1 \leq j \leq m.
   $$

2. 我们可以将这 $$ nm $$ 个事件分成 $$ n $$ 组，每组包含 $$ m $$ 个事件。每组的总概率为：
   $$
   P(X_i) = \sum_{j=1}^{m} P(X_{ij}) = \frac{m}{nm} = \frac{1}{n}.
   $$

3. 根据信息熵的递归性（公理 4），总熵可以拆分为以下两部分：
   - 组之间的熵：$$ h(n) $$
   - 组内的条件熵：$$ h(m) $$

4. 因此，系统的总熵为：
   $$
   h(nm) = h(n) + h(m).
   $$

## 结论：
我们得到了总熵的分解公式：
$$
h(nm) = h(n) + h(m).
$$


# 引理2: 
$$ h(n) = \log_2n $$

## 证明

1. 根据引理一：
   $$
   h(2 \cdot 2) = h(2) + h(2) = 2h(2)
   $$
   推导出：
   $$
   h(2^2) = 2h(2)
   $$
   同样可得：
   $$
   h(2^3) = 3h(2)
   $$
   $$
   h(2^4) = 4h(2)
   $$
   


   一般地：
   $$
   h(2^k) = k \cdot h(2) = k
   $$

2. 对任意 $ n $，存在 $ k $，使得：
   $$
   2^k \leq n \leq 2^{k+1}
   $$

3. 根据公理 A2（单调性），有：
   $$
   h(2^k) \leq h(n) \leq h(2^{k+1})
   $$
   即：
   $$
   k \leq h(n) \leq k+1
   $$

4. 注意到：
   $$
   k \leq \log_2 n \leq k+1
   $$
   但并不能确定 $h(n) = log_2 n $
 











这些四个公理唯一地确定了 Shannon 熵的数学形式：
$$
H(P) = -\sum_{i} p_i \log p_i
$$





信息论

最近用到Burp，于是找了下吾爱破解上的注册机的原版，也就是没有后门的版本。顺带贴一个教程。

  
仅供学习交流使用！！  
1. BurpSuite 1.7 原版+注册机 下载地址：

链接：https://pan.baidu.com/s/140urNno09ErkSH0gZB4Xhw  
提取码：k187

  
2.注册机使用方法：  
首先需要完成安装java及环境变量配置。  
打开注册机：burp-loader-keygen.jar，然后点击run，license text 随便填，然后将生成的license 复制粘贴到打开的burp里，点击next

![image.png](https://www.futuremind.icu/static/img/e4b31508b9ff4e8320a4f70365780e2b.image.webp)


![](https://i-blog.csdnimg.cn/blog_migrate/c5bbf92af3080c7d16d4b5b730cdb195.png)

![image.png](https://www.futuremind.icu/static/img/462021112e7e70f11020e0cd27c4b968.image.webp)
点击manual activation 手动激活  


![image.png](https://www.futuremind.icu/static/img/bb872c4d837ea14a1f46a3ddb36a5dc9.image.webp)
将request 粘贴到activation request ，将自动生成response，再粘贴到burp里最下面的response中，点击下一步
  
![image.png](https://www.futuremind.icu/static/img/adee1fc6c003dfb4c152a133cf7a2388.image.webp)
. 激活成功

【重点！！】第二次打开burp 要先打开burp-loader-keygen.jar ，再点击一下run，打开软件，否则直接打开主程序还是提示输入 license key。  
也就是可以新建一个burp-loader-keygen.jar的快捷方式，在burp-loader-keygen.jar中打开burp。  
比如

![image.png](https://www.futuremind.icu/static/img/6a43ec25a0d88c126cb9ab1fb7618efb.image.webp)

BurpSuitepro



## 前言

续上篇搭建怀旧模拟器（参见文章：[使用docker基于emulatorjs部署web端怀旧游戏模拟器](https://blog.tangwudi.com/technology/docker2650/)）之后，我又继续寻找类似的用docker搭建的有趣项目来丰富我博客的"游戏世界"版块，一番搜索，在github上发现了这个项目：rwv/chinese-dos-games，有网友将其做成了docker镜像:oldiy/dosgame-web-docker，这次就以此搭建docker。

## 部署dosgame

因为该docker内置了42款游戏，存放在容器内的/app/static/games目录里，所以第一次启动，不能直接用-v参数来挂载宿主机的文件夹到/app/static/games目录，因为宿主机文件夹是空的，直接挂载这些游戏就没了（其实也不是不可以，只是这样一来就需要手动添加每个游戏了）。所以正确的步骤是先不加-v参数部署，等docker成功运行之后，将/app/static/games里的内容复制到宿主机的挂载文件夹，删除docker，然后再用-v参数部署容器，这样以后要添加游戏就可以直接在宿主机的挂载目录操作即可。

1、不加-v参数直接部署

```
docker run -d --name dosgame -p 262:262 oldiy/dosgame-web-docker:latest
```

2、将容器内部的/app/static/games文件夹拷贝到宿主机的/docker/dosgame/games

```
mkdir -p /docker/dosgame
docker cp dosgame:/app/static/games /docker/dosgame
```

3、删除创建的容器

```
docker stop dosgame
docker rm dosgame
```

4、重新用-v参数部署

```
docker run --name dosgame -d --restart=always \
  -p 262:262 \ #映射端口根据自己实际情况修改
  -v /docker/dosgame/games:/app/static/games \ #将宿主机的对应文件夹挂载到容器
  oldiy/dosgame-web-docker:latest
```

## 访问游戏

使用`http://宿主机IP:262`访问游戏：  
有些游戏不支持鼠标，比如仙剑奇侠传；有些支持，比如大富翁3，这些就等大家自己探索了。一般的键盘按键：enter确认，shift选择，↑ ↓ ← →是方向，Z和X对应手柄B和A，有时候space又是选择，大家可以多试试。

对于我只是体验怀旧一下，42款游戏已经足够多了，实际体验请访问博客的："游戏世界"-"无敌的DOS游戏库"，也可以直接点击：[无敌的DOS游戏库](https://dosgame.tangwudi.com/)。

## 配置公网访问

如果要发布到公网上的，大家需要根据实际环境和自己使用的反向代理选择最适合自己的发布方式，可以参考我以前的几篇文章：  
1、[docker系列 使用docker基于NPM搭建自己的反向代理](https://blog.tangwudi.com/technology/docker8875/)  
2、[linux面板系列 配置反向代理并使用非443端口进行发布](https://blog.tangwudi.com/technology/linuxpanel1086/)  
3、[家庭数据中心系列 通过国内备案云主机白嫖cloudflare实现国外快速访问国内站点](https://blog.tangwudi.com/technology/skill3911/)  
4、[家庭数据中心系列 通过无公网IP的家庭宽带白嫖cloudflare实现快速建站(通用)](https://blog.tangwudi.com/technology/skill6719/)

其中第1,2种方式适合有公网ip却没有合法443端口的环境(家庭宽带、未备案的云主机)，需要在url后面加非标端口(如果使用cloudflare建站的不需要加端口，但是需要自定义源站端口，这个可以参考：[家庭数据中心系列 通过cloudflare的Origin Rules解决建站有公网IP却没有合法的80、443端口的问题](https://blog.tangwudi.com/technology/skill7416/))。第3种方式适合有备案的云主机，第4种方式适合所有环境(包括没有公网IP的环境)，也是我建议的方式(不管你的环境有没有公网IP，因为这种方式不需要直接在公网上跑https流量)。



怀旧模拟器

:::info{title="chatgptplus"}
https://sharedchat.fun

https://chatgptplus.cn/

公益4.0站点：https://sharedchat.fun

三元站点：https://rawchat.biz

付费站点：https://sharedchat.top

claude公益站点：https://kelaode.ai



:::


:::info{title="菜鸟教程"}
https://www.runoob.com/
:::

chatgpt镜像站点



 ## 免费白嫖perplexity一年pro会员



首先[注册perplexity账号 (opens new window)](https://perplexity.ai/pro?referral_code=IQ4KQRLC)，然后下载Moj Telekom HR，通过Google PLAY或者Apple store都可以。 注册账号用同样的邮箱，之后

![image](https://oss.datehoer.com/blog/imgs/2025030710043144-20250307100430.png)

![image](https://oss.datehoer.com/blog/imgs/2025030710054210-20250307100541.png)

![image](https://oss.datehoer.com/blog/imgs/2025030710060945-20250307100609.png)

如果出现Something went wrong！等待刷新即可。 ![image](https://oss.datehoer.com/blog/imgs/2025030710082780-20250307100827.png)

不过实测也可以在Moments页面，点击get 350来获取点数，随便填点信息就行。

然后打开你的perplexity，订阅。

选择年付，然后在下方输入优惠码即可，记得选年付！然后绑个卡就行，我这里绑的是paywithmoon，可以参考这个文章[各大AI付款方式及流程总结 (opens new window)](https://www.datehoer.com/blogs/other/payAi.html)

![image](https://oss.datehoer.com/blog/imgs/2025030710111720-20250307101116.png)