开源模型随着时间的推移,优势会越来越明显
有三个兄弟——长兄、中兄和幼弟。小时候,长兄总是第一个获得新东西。新的衣服、鞋子、游戏机等等。这就像OpenAI和Anthropic一样,它们是基于云的闭源人工智能,处在技术最前沿。
中兄虽然没有最先得到新东西的机会,但会先拿到手下的物品。他能得到稍微穿过的衣服、不是全新的鞋子,但仍能使用很久,并且上一代的游戏机。这就像Llama和Mistral一样,它们是开源的人工智能,性能不输于闭源的最好产品,而且成本更低。
幼弟最后才得到二手物品。这些可能是已经磨损的衣服、旧的鞋、玩过的游戏机。这就好比本地推理一样,在这种情况下,用户无需支付计算费用,对开发者来说也同样是免费的。
当兄弟们还年轻时,他们所拥有的东西在数量和质量上存在很大的差距,但随着时间的推移,这种差距变得越来越不明显。8K电视和4K电视之间的差别不大,而iPhone 16与iPhone 14之间也没有多大不同。
最重要的是,在长兄和中兄享受他们短暂的拥有权时,幼弟最终会得到几乎所有的东西。
Source: https://docs.google.com/document/d/14BBVzpSSFZkPS3ja3s2LbfFV_inpjsbxPezIV06O9s8/edit?tab=t.0
开源模型随着时间的推移,优势会越来越明显。
Ollama 现在支持直接运行 HuggingFace 的任意 GGUF 模型:Use Ollama with any GGUF Model on Hugging Face Hub