网站建设有什么系统,深圳微网站,南宁企业网站制作模板,龙泉驿网站建设序
本篇由来#xff0c;在COC上我当面感谢了组委会和姜宁老师#xff0c;随即被姜宁老师催稿#xff0c;本来当天晚上写了一个流水账#xff0c;感觉甚为不妥。于是决定慢慢写#xff0c;缓缓道来。要同时兼顾Show me the code#xff0c;Show me the vide。希望能形成一…序
本篇由来在COC上我当面感谢了组委会和姜宁老师随即被姜宁老师催稿本来当天晚上写了一个流水账感觉甚为不妥。于是决定慢慢写缓缓道来。要同时兼顾Show me the codeShow me the vide。希望能形成一个从不同侧面观测我自己Community Over Code 2025参会心的收获的内容集合。 感觉这个系列正慢慢变成一场开发过程的图文慢直播肯能有助于大家一步一步的从零开始构建自己的Agent。 我定了一个番茄钟每天写稿大概12个钟写到哪儿算哪儿。 今天也对内容进行了调整把前略改成附录了颇有一种写论文的感觉。 BTW知乎我一般隔一天发。插曲可以TLDR。
词汇表
异人智能我从KK和建忠老师的直播个人笔记了解到的词汇我很喜欢。大家请自行替换为大模型Agent就好了。
许可证更新
GPT-OSS模型采用了Apache 2.0开源许可证允许自由使用、修改和商业化与Qwen3等模型类似。通过明确区分两类模型开放权重 vs. 完全开源GPT-OSS选择以Apache 2.0许可证提供高自由度但未公开训练细节。这一方案平衡了商业灵活性与技术透明度。用户可自由将模型用于商业产品或蒸馏优化无需法律限制但需注意其技术黑箱性。Apache 2.0协议确保了低门槛的应用普及。
OpenAI发布了名为“GPT-OSS”的模型并明确将其定义为开放权重模型仅提供模型权重和推理代码不含训练代码或数据集。
GPT-OSS的其他趣闻
训练概览
GPT-OSS模型是先进的AI模型专注于STEM科学、技术、工程、数学、编程和通用知识。训练使用了210万H100 GPU小时的计算资源其中GPT-OSS-20B模型的计算量约为其他模型的十分之一。 目前缺乏关于训练数据集规模和具体算法的详细信息尤其是与其他模型如DeepSeek V3和Qwen3的比较数据不足。 通过监督微调和高计算强化学习阶段优化模型使其在英语文本任务中表现优异。尽管计算资源庞大但GPT-OSS-20B的效率显著更高。
GPT与DeepSeek模型的训练差异
GPT模型的训练时长估算同时包含监督学习用于指令跟随和强化学习用于推理而DeepSeek V3仅为基础预训练模型其后续的DeepSeek R1是单独训练的。 这种差异可能影响模型性能对比的公平性因为GPT的训练涵盖更全面的优化阶段而DeepSeek V3的基础模型未整合后续微调步骤。 DeepSeek选择分阶段训练先预训练V3再单独训练R1而非像GPT一样整合多阶段训练。这一方式可能提升模块化灵活性但需额外协调不同阶段的优化目标。 分阶段训练允许更专注的模型优化如V3专注通用能力R1强化特定任务同时降低单次训练的算力压力。但需权衡整体效率与最终性能的统一性。
GPT-OSS模型的推理能力控制
GPT-OSS模型是具备推理能力的AI模型其特点是用户可以通过调整推理时的参数如“推理力度低/中/高”直接控制模型的响应长度和准确性。 传统AI模型的推理能力通常是固定的用户无法灵活调整其输出深度或细节程度这限制了不同场景下的适用性。 通过引入“推理力度”指令用户可根据需求选择低、中、高三种模式
低力度生成简洁响应适合快速问答。中力度平衡响应长度与准确性适用于常规任务。高力度输出更详细的分析适合复杂问题。 这一设计提升了模型的灵活性让用户能按需优化效率低力度节省时间或精度高力度增强可靠性从而适应多样化应用场景。
GPT-OSS的响应长度与质量研究
OpenAI发布了GPT开源模型的性能分析重点研究了模型在不同推理努力reasoning effort下的响应长度与输出质量的关系相关数据标注于模型卡片中。 模型的响应长度和质量可能受推理计算量影响若未优化这一关系可能导致效率低下如生成长文本但质量不稳定或资源浪费如过度计算短响应。 通过调整模型的推理努力参数如计算步数或注意力机制实验显示
结果适当提升推理努力可平衡响应长度与质量避免冗余或低效输出。益处用户能更高效地获得符合需求的回答同时节省计算资源。 简单任务如回答基础问题或修正小错误若采用复杂推理会浪费资源并导致冗长响应。通过动态调整推理层级系统可跳过不必要的深度分析。
OpenAI未像Qwen3或OLMo那样在强化学习训练前公开基础模型而Qwen3团队近期放弃了混合推理模式改为单独训练不同功能的模型如Instruct/Thinking/Coder。 OpenAI的选择可能更偏向工业和生产需求而非研究用途Qwen3的混合模式虽灵活通过标签切换推理行为但性能低于独立模型。
OpenAI推出MXFP4优化技术提升大模型运行效率
OpenAI发布了采用MXFP4量化方案的gpt-oss模型该技术专门针对混合专家MoE模型中的专家模块进行优化。传统量化技术主要用于移动端或嵌入式AI但大模型如120B参数规模需要更高计算资源通常依赖多GPU设备导致成本高且部署复杂。MXFP4量化技术使大模型能在单块高端GPU如80GB显存的H100或AMD MI300X上运行。
优势
降低成本无需多GPU设备单卡即可部署节省算力租赁费用。简化部署避免跨GPU通信开销提升运行效率。兼容性广支持最新硬件如AMD MI300X扩展应用场景。
旧显卡无法支持MXFP4格式导致模型运行效率低下显存需求激增限制了普通用户的使用。 4. 硬件升级采用RTX 50系列及以上显卡启用MXFP4优化显著降低显存占用20B模型仅需16GB。 5. 兼容性取舍旧硬件仍可运行但需承受更高显存消耗如20B模型达48GB。
评分与表现
目前开源大模型如Qwen3-Instruct在LM Arena排行榜上表现领先但新模型如gpt-oss尚未被纳入评测。新模型因发布时间较短缺乏独立基准测试数据导致公众无法全面了解其实际性能。通过LM Arena等公开平台持续追踪模型表现例如Qwen3-Instruct凭借用户投票暂居榜首。 OpenAI发布了GPT-OSS模型的基准测试图表图23同时公开了未使用工具的GPT-OSS-120B数据来自官方模型卡论文而Qwen3的数据则来自其官方仓库。这类基准测试旨在量化大语言模型的性能但不同模型的测试数据和评估标准可能存在差异导致直接比较的难度。
开源大模型GPT-OSS-120B的性能与挑战
GPT-OSS-120B是一款开源大语言模型体积仅为同行模型如Qwen3 A235B-A22B-Thinking-2507的一半但能在单GPU上运行。测试显示其性能接近甚至部分超越同类模型尤其在数学、谜题和代码等推理任务上表现突出。该模型存在较高的“幻觉”倾向即生成不准确信息可能因其训练过度侧重推理任务导致通用知识遗忘。此外开源大模型的工具集成技术仍处于早期阶段限制了实际应用场景。
模型发展应更注重推理能力而非记忆
随着人工智能模型的成熟未来可能更依赖外部资源如搜索引擎来回答事实性或知识性问题。当前模型过度依赖记忆而非推理能力可能导致效率不足或灵活性受限类似于人类教育中死记硬背的局限性。 解决方案与效果
方案优先提升模型的推理能力而非单纯记忆事实。结果模型能更高效地动态获取信息减少对静态知识库的依赖。益处
更贴近人类学习模式注重解决问题而非记忆。增强应对复杂问题的灵活性适应实时信息变化。
OpenAI发布GPT-5与开源模型表现对比
OpenAI近期发布了备受期待的GPT-5模型紧随其开源项目gpt-oss之后。值得注意的是开源模型的基准性能表现如图24所示与OpenAI的最新产品GPT-5相比差距令人意外地小。这一现象引发疑问为何开源模型的性能能够接近商业旗舰产品这可能反映了技术开源的潜力或商业产品与开源项目在优化目标上的差异。OpenAI通过同时推进开源gpt-oss和商业产品GPT-5的策略既促进了技术共享又保持了竞争力。结果显示开源模型在基准测试中表现优异甚至逼近GPT-5的水平。这一进展为开发者社区提供了高性能的开源工具降低了技术门槛同时商业产品的持续迭代推动行业创新。用户既能享受开源模型的低成本优势也能选择更成熟的商业解决方案。
GPT-5与开源模型的性能对比分析
OpenAI发布了GPT-5的官方性能数据同时开源模型gpt-oss和Qwen3-Coder也公布了基准测试结果。这些数据来自各方的官方公告和技术文档。随着大语言模型的快速发展公众需要清晰了解不同模型的性能差异尤其是闭源商业模型如GPT-5与开源替代方案如gpt-oss、Qwen3的对比。通过整理官方发布的基准测试图表如GPT-5公告、gpt-oss模型卡、Qwen3-Coder仓库数据研究者可以横向比较各模型的性能表现。 附录
思考
Agent是作者个人或者团体的一些强烈的哲学表达 最近看到的提示词相关内容汇总 基于数据驱动来写提示词一
Strands Agent实战
Strands Agent 前文 Community Over Code 2025获得的花絮Strands Agent踩坑记录被AWS的speaker催更 ) 基于Strands Agent开发辅助阅读Agent
Agent从零开发
没用langchain什么的脚手架从DeepSeek官网的首次调用 API 开始一步一步面向DeepSeek开始对话的开发实战记录。 没有Vibe Coding IDE, 学生可以从这个过程看底层一步一步怎么做的为什么这么做。 如果想学习古法编程的朋友可以一步一步从零自学。 理解原理如果后续langchain全面收费的话大家可以知道什么部分为什么这么设计方便迁移。 是Conference还是HackathonCommunity Over Code 2025上践行自己的哲学感悟一 是Conference还是HackathonCommunity Over Code 2025上践行自己的哲学感悟二 是Conference还是HackathonCommunity Over Code 2025上践行自己的哲学感悟(三) 是Conference还是HackathonCommunity Over Code 2025上践行自己的哲学感悟插曲篇 是Conference还是HackathonCommunity Over Code 2025上践行自己的哲学感悟五 是Conference还是HackathonCommunity Over Code 2025上践行自己的哲学感悟六 是Conference还是HackathonCommunity Over Code 2025上践行自己的哲学感悟七
