网站建设的风险,浦东新区网站开发,网站备案几年备案一次,开发小程序流程通过把各种东西打上分数标签存起来。ai不花算力是不可能的#xff0c;需要巨大的算力#xff0c;需要要大量gpu芯片#xff0c;如果大大降低成本#xff0c;就需要蒸馏别人成果#xff0c;把这些参数偷偷弄过来。
比如”猫睡在石头上感觉很凉快#xff0c;很舒服#x…通过把各种东西打上分数标签存起来。ai不花算力是不可能的需要巨大的算力需要要大量gpu芯片如果大大降低成本就需要蒸馏别人成果把这些参数偷偷弄过来。
比如”猫睡在石头上感觉很凉快很舒服”
这些计算机是完全听不懂的。让计算机听懂你必须给每个单词扩张出无数属性给每个属性进行打分。他它不知到石头舒服还是猫舒服。
AI 想要真正**理解** 一句话必须将其中的每个概念如“猫”“石头”“凉快”“舒服”转化为可计算的参数。计算机的本质是数值计算它不可能直接“听懂”语言而是通过大量的属性建模打分结合大规模数据学习来模拟“理解”的效果。 AI 需要给每个单词无数扩展属性 打分
比如**“猫睡在石头上感觉很凉快很舒服”**如果 AI 要真正“理解”它需要拆解并量化其中的概念如
AI 想要真正**理解** 一句话必须将其中的每个概念如“猫”“石头”“凉快”“舒服”转化为可计算的参数。计算机的本质是数值计算它不可能直接“听懂”语言而是通过大量的属性建模打分结合大规模数据学习来模拟“理解”的效果。
AI 需要给每个名词扩展属性 打分
比如**“猫睡在石头上感觉很凉快很舒服”**如果 AI 要真正“理解”它需要拆解并量化其中的概念如 下面是一个用0-10 评分机制的表格来量化 石头、猫、狗、人 在不同属性上的差异
| **对象** | **情感** | **是否是动物** | **硬度** | **移动能力** | **智慧** | **生命力** | **温度感知** | **生长性** | **沟通能力** | |----------|--------|-------------|--------|--------|--------|--------|--------|--------|--------| | **石头** | 0 | 0 | **9** | 0 | 0 | 0 | 0 | 0 | 0 | | **猫** | **9** | **10** | 2 | **10** | **7** | **9** | **9** | **8** | **6** | | **狗** | **9** | **10** | 2 | **9** | **6** | **9** | **8** | **7** | **7** | | **人** | **10** | **10** | 3 | **8** | **10** | **10** | **10** | **10** | **10** |
评分解释
情感人10最复杂猫9和狗9都能表达情绪石头0无情感。是否是动物人、猫、狗都是10石头0。硬度石头9最硬人3有骨骼但不及石头猫狗2较软。移动能力猫10最灵活狗9稍逊人8较慢石头0不会动。智慧人10最高猫7比狗6更独立但都能学习石头0。生命力人10可活几十年猫狗9生命周期短石头0无生命。温度感知人10最敏感猫9比狗8略强石头0无感知。生长性人10成长周期长猫8和狗7生命周期较短石头0不生长。沟通能力人10语言最丰富狗7能理解指令猫6较独立但能传达需求石头0。 这个表格可以帮助直观地对比石头、猫、狗和人在不同方面的特性。AI理解人类语言的方式也基于这种原理。通过给不同概念打上属性标签并进行数值化处理AI可以模拟对语言的理解。
如果一个模型能够通过某种方式获取到已经花费大量资源训练的大模型的属性表格和参数它就可以大幅节省计算成本。这种方式虽然不属于创新某种程度上类似于“剽窃”。不过合法的剽窃通常需要得到他人的授权或同意而在某些情形下如果能够合法获取这些信息也可以看作是光明正大的借用已有的成果站在巨人的肩膀上合理发挥作用。
蒸馏大模型就是通过api调用不断取到大模型的标签属性的分数参数来避免自己也会投入大量资金来研发。
蒸馏别人的模型有什么后缺点
比如aaaa 大公司cccc小公司cccc蒸馏了aaaacccc介绍可能会说自己是aaaa如果没有移除相关属性的话。另外cccc上限可能就是aaaa。万一aaaa倒闭了cccc有可能需要寻找下一家.继续蒸馏。
