Ollama融资8800万美元，一条命令本地跑大模型告别天价API

融资落地开源AI新基建

在七月九日的时候, 有一家公司宣布完成了八千八百万美元的融资, 这家公司专门致力于对本地大模型部署进行简化, 在此次融资过程中, 领投方涵盖了颇为知名的风险投资机构以及数位在行业内资历深厚的人士, 这样做的目的在于使技术能够更快更好地进行普及。

那笔资金会被运用来提高混合推理能力, 从而保证新模型发布当日就能得以支撑。与此同时, 公司打算增强云服务的部分, 使得开发者在不损害数据隐私的限定下, 能体验到更具效能的算力支援。

十年磨一剑的技术传承

创始人杰夫与迈克尔, 早在十年之前就开始着手去解决技术复杂性方面的问题, 他们曾经创立了一个能让系统运行达到极简化程度的项目, 该项目在二零一五年的时候被收购了, 其研究成果随后衍生出了广受欢迎的工具。

如今, 他们把同样的那种执念投放至人工智能领域, 其目标在于经由极简的操作, 使得开发者能够如安装平常软件那般, 轻易地启动并运行开源模型, 从而彻底打破技术方面的壁垒。

千万开发者的共同选择

当下, 该平台已然服务了八百九十万名开发者, 并且被财富五百强企业当中百分之八十五的企业所采用。这样的数据昭示, 开源模型正从实验室迈向主流商业应用, 进而成为企业基础设施的关键构成部分。

随着token用量, 以每月翻倍的速度增长, 用户不再仅仅局限于个人乐趣, 而是开始去挑战, 以往仅仅属于闭源模型的高难度任务。这种趋势标志着, 开源生态正在经历, 类似个人电脑普及那般的变革时刻。

三大原则重塑AI使用体验

产品是依照所有权、可负担性跟隐私这三大核心原则来构建的。所有权能保障模型由用户拥有, 能够在任何时候进行定制优化, 防止被特定应用束縛住, 给予开发者十足的控制权。

通过本地运行达成的可负担性, 消除了按token计费时存在的不可控账单风险。在隐私这一方面, 数据不必撤离本地机器, 就算是进行上云扩展之时, 也能够维持同一份信任体系哩, 以此保障信息安全。

告别API密钥与天价账单

曾几何时, 致使运用强大模型这件事, 要去面对繁杂的权限申请这一情况, 以及还需承担高昂的硬件成本。当下, 仅仅只需发出一条命令这个行为, 便能够在本地启动最为新颖的模型状态, 则是通过简单API方式予以构建运作, 并不需要另外的密钥或者是价格昂贵的服务器。

此种模式给予用户极为真切地把控自己的数据以及模型, 它化解了处于能力存在但访问遭遇困难的痛点, 把开源模型的运用门槛放到能够触及的最低境地, 促成了让不管什么样的人都能够持有、去定制以及构建涵盖自身的智能应用。

未来展望：空着的座位

当绝大多数世界五百强企业已然不动声色地引入开源模型, 这场变革才刚刚拉开帷幕, 公司宣称, 押注开放以及易用最终将会胜出, 就如同十年前对于计算普惠所抱有的信心那般。

随生态系统完善, 更多开发者会加入此列车。对那些未意识到本地部署优势之人而言, 这趟开源列车的下一节车厢, 明显还有不少座位空着, 待被填充。

你有没有试过于本地去运行开源的大模型, 欢迎在评论区域分享你的体会以及看法, 可别忘了点赞并且分享这篇文章，以便让更多的人知晓这一技术上的变革。