Bit与Byte的区别?

冷若冰 · 发表于 2007-7-5 11:08:25

楼上的观点更深入了。
顶起来。

hellow · 发表于 2007-7-6 08:39:22

嗯，又增长知识了[em122]，谢谢zzzzzz的补充

lvvyv · 发表于 2007-7-6 11:24:23

<DIV class=quote>以下是引用 zzzzzz 在(2007-7-5 8:42:45)的发言 
1948年仙农造了一个新名词“比特(bit)”，后来被人们广泛地用作度量“信息”的基本单位．
个人理解：
bit不管在经典信息论中，还是在计算机领域，都表示“一个二进制码元所含的信息量”,也都可理解为“存贮数据的最小单位”。
只是在信息传输的信源定义中,加入了概率分布的概念。信息量的定义中，对数若以2为底，其单位被仙农称为比特。</DIV>
谢谢zzzzzz，总算有响应了，我还以为我那贴子废了呢，看来的确信息量大了点。
这里我得纠正zzzzzz一个概念，bit为单位的这个物理量即信息量，也叫信息熵，也有称信元等等，总之就是一个最基本的信息量单位。信息量的定义就是描述信息的不确定性，本身就是一种概率分布。不难理解，信息量只有在研究信源和信宿的对应关系时才有意义，信源信号本身是确定的（没有概率的问题），但对于接收方的信宿来说，信源信号有多种可能的结果，最简单的二进制编码也有两种结果存在（0或1），所以讨论信息量是离不开概率统计的。通信领域、计算机领域及其他学科研究信息处理与信息传输首先就得定义信息量，毫无疑问，所有学科关于信息量的定义都是基于香浓的侠义信息论（经典信息论）的理论。在计算机领域，bit表示“一个二进制码元所含的信息量”这是对的，大家都没有异议，只不过各位大虾叫法不同，有叫“位”的，有叫“基本计算单位”的，就那意思吧。关键在于：一个二进制码元所含的信息量其概率分布就是以2为底的对数关系，这个在我前面贴子里已经陈述，可不是“只是在信息传输的信源定义中,加入了概率分布的概念”哦。

zzzzzz · 发表于 2007-7-6 15:35:33

"只是在信息传输的信源定义中,加入了概率分布的概念。" 这是个人观点，是对于信息论的信源定义与我们常理解的信息源的定义而言的。
比如我们常理解的信息源就是一个有意义的值或状态，不会考虑此信息源本身的不肯定程度，不会考虑其传输的过程及后果的。
“仙农不把信息看作有意义的消息，而是当作信息源中各元素符号组合成消息时的自由度，即各元素符号相继出现的不肯定程度．用不肯定度(或自由度)来刻画信息量，成了经典信息论的基石。”
而信息论的信源的定义为：由一个消息符号表X和X上的概率分布p(x)表示．
“一个二进制码元所含的信息量其概率分布就是以2为底的对数关系”这没有错。但是，信息量的定义，并不是只能以2为底的对数关系。还包括以10为低的“迪西特(decit)”以及以e为底的“奈特(nat)”。
---------------------------------------------------------------------------------------------

<div style="color:#A48E7B;text-align:right">「该帖子被 zzzzzz 在 2007-7-6 15:42:24 编辑过」</div>

zzzzzz · 发表于 2007-7-6 15:48:09

实际上狭义信息论对于当代社会已经落后于时代的发展。“实际上，任何一种通信都不能完全排除信号的意义问题。经典信息理论中讨论的信息率失真问题就和信号的意义密切相关。没有意义，哪来失真？由于避免考虑意义，经典的信息率失真理论就注定了残缺不全。失真实际上就是主观信息损失，因为不考虑意义，它就只能来自人为定义，而不是由统计确定；强调统计却反而导致统计的忽视。控制系统中的预测质量本来就应该用预测提供的信息作为评价标准，因为排除意义，预测信息就无法度量。”
于是就有了广义信息论的出现及发展。

治学以诚 · 发表于 2007-7-6 17:23:25

提示: 作者被禁止或删除内容自动屏蔽

小虾米 · 发表于 2007-7-6 17:34:04

确实是高手，长见识了

冷若冰 · 发表于 2007-7-7 00:47:59

<DIV class=quote>以下是引用 治学以诚 在(2007-7-6 17:23:25)的发言 好深的学问，如入云雾中</DIV>
 哈哈哈哈，有同感。
信息理论好像是数学理论一种延伸，不是很好理解。
还有就是自动控制的理论，真是空对空的。
唉，本人数学不好的说。

lvvyv · 发表于 2007-7-9 08:59:57

<DIV class=quote>以下是引用 zzzzzz 在(2007-7-6 15:35:33)的发言 
"只是在信息传输的信源定义中,加入了概率分布的概念。" 这是个人观点，是对于信息论的信源定义与我们常理解的信息源的定义而言的。
比如我们常理解的信息源就是一个有意义的值或状态，不会考虑此信息源本身的不肯定程度，不会考虑其传输的过程及后果的。
对啊，如我之前所述：信源信号本身是确定的（没有概率的问题）<o:p></o:p>
“仙农不把信息看作有意义的消息，而是当作信息源中各元素符号组合成消息时的自由度，即各元素符号相继出现的不肯定程度．用不肯定度(或自由度)来刻画信息量，成了经典信息论的基石。”
不用绕来绕去，简言之：信息量即信息的不确定性<o:p></o:p>
而信息论的信源的定义为：由一个消息符号表X和X上的概率分布p(x)表示．
“一个二进制码元所含的信息量其概率分布就是以2为底的对数关系”这没有错。但是，信息量的定义，并不是只能以2为底的对数关系。还包括以10为低的“迪西特(decit)”以及以e为底的“奈特(nat)”。
请注意：我们在讨论bit 、二进制<o:p></o:p>
关于以10为低的“迪西特(decit)” 以e为底的“奈特(nat)”等等，我看就算了吧，咱们不是在这里比谁们知道得多吧。当初我跟进这个话题只是因为hellow转贴的文章一上来就说bit是计算机运算的….，我是想提醒各位同行bit是一个信息量单位，并且搜肠刮肚的回忆那点没有还给老师的可怜记忆，描述一个轮廓便于大家理解，仅此而已，完全没有炫耀的意思。<o:p></o:p>

---------------------------------------------------------------------------------------------
</DIV> 

<div style="color:#A48E7B;text-align:right">「该帖子被 lvvyv 在 2007-7-9 9:04:08 编辑过」</div>

lvvyv · 发表于 2007-7-9 09:02:08

<DIV class=quote>以下是引用 zzzzzz 在(2007-7-6 15:48:09)的发言 
实际上狭义信息论对于当代社会已经落后于时代的发展。“实际上，任何一种通信都不能完全排除信号的意义问题。经典信息理论中讨论的信息率失真问题就和信号的意义密切相关。没有意义，哪来失真？由于避免考虑意义，经典的信息率失真理论就注定了残缺不全。失真实际上就是主观信息损失，因为不考虑意义，它就只能来自人为定义，而不是由统计确定；强调统计却反而导致统计的忽视。控制系统中的预测质量本来就应该用预测提供的信息作为评价标准，因为排除意义，预测信息就无法度量。”
于是就有了广义信息论的出现及发展。</DIV>
<DIV style="BORDER-RIGHT: medium none; PADDING-RIGHT: 0cm; BORDER-TOP: medium none; PADDING-LEFT: 0cm; PADDING-BOTTOM: 1pt; BORDER-LEFT: medium none; PADDING-TOP: 0cm; BORDER-BOTTOM: windowtext 1pt solid; mso-element: para-border-div; mso-border-bottom-alt: solid windowtext .75pt">
<P style="BORDER-RIGHT: medium none; PADDING-RIGHT: 0cm; BORDER-TOP: medium none; PADDING-LEFT: 0cm; PADDING-BOTTOM: 0cm; BORDER-LEFT: medium none; WORD-BREAK: break-all; PADDING-TOP: 0cm; BORDER-BOTTOM: medium none; mso-border-bottom-alt: solid windowtext .75pt; mso-padding-alt: 0cm 0cm 1.0pt 0cm">这一段没看明白。是想说明侠义信息论落后了吗？但是您的论据可不怎么样。信息率失真问题就是我们前面也曾提到过的噪声问题，噪声理论这和我们讨论的完全不是一回事。至于侠义信息论落后的说法，本人不敢苟同。众所周知，侠义信息论作为一个基础理论被广泛用于诸多领域，之后在它基础上发展起来的广义信息论，更是继续在更广阔的范围内发挥重要作用。对于基础理论而言，要么被推翻、被替代或被闲置，否则就是活的。<o:p></o:p></DIV>

zzzzzz · 发表于 2007-7-9 10:31:34

到此为止吧，有争论的东西，大家还是自己多学习、多理解一下。

冷若冰 · 发表于 2007-7-9 10:34:08

楼上的 lvvyv ，你是不是学通信的？
你这套东西不是自控，也不是计算机的，是不是通信或者信息专业的？
你把这些理念分得很细了，建筑电气好像都不用这么深入的信息理念的。

lvvyv · 发表于 2007-7-9 13:33:51

<DIV class=quote>以下是引用 zzzzzz 在(2007-7-9 10:31:34)的发言 
到此为止吧，有争论的东西，大家还是自己多学习、多理解一下。</DIV> [em177]同意。[em105][em105][em105]

lvvyv · 发表于 2007-7-9 13:39:54

<DIV class=quote>以下是引用 冷若冰 在(2007-7-9 10:34:08)的发言 
楼上的 lvvyv ，你是不是学通信的？
你这套东西不是自控，也不是计算机的，是不是通信或者信息专业的？
你把这些理念分得很细了，建筑电气好像都不用这么深入的信息理念的。</DIV>
 [em111][em121][em126]唉，其实我原本没想弄这么深，谁不知道建筑电气主攻什么，被带进沟里了嘛。
拍吧！拍吧！
我看我还是该歇会儿了。天热了，好好想想哪里风景比较诱人，到时候上几张照片给各位养养眼。 

<div style="color:#A48E7B;text-align:right">「该帖子被 lvvyv 在 2007-7-9 13:46:17 编辑过」</div>

冷若冰 · 发表于 2007-7-9 15:30:47

楼上的，我们一起去逛逛？
我知道有一处地方，开满了桃花。[em5]

治学以诚治学以诚当前离线积分 215259 IP卡狗仔卡	发表于 2007-7-6 17:23:25 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽
治学以诚治学以诚当前离线积分 215259 IP卡狗仔卡	[文章介绍] 2020.6\|徐华:备用照明设计探讨
	回复鲜花鸡蛋使用道具举报显身卡

Bit与Byte的区别?

回复:Bit与Byte的区别?

回复:Bit与Byte的区别?

回复:Bit与Byte的区别?

回复:Bit与Byte的区别?

回复:Bit与Byte的区别?

回复:Bit与Byte的区别?

回复:Bit与Byte的区别?

回复:Bit与Byte的区别?

回复:Bit与Byte的区别?

回复:Bit与Byte的区别?

回复:Bit与Byte的区别?

回复:Bit与Byte的区别?

回复:Bit与Byte的区别?

回复:Bit与Byte的区别?

浏览过的版块

热帖推荐 /1

		自动登录	找回密码
密码			我要注册