BOSS直聘发布3B小模型Nanbeige4.1,多项指标超越32B大模型

小模型的发展可能会改变AI的格局。以前,只有大公司才能玩得起AI,因为他们有足够的算力和数据。但是,小模型的出现降低了AI的门槛,让更多的中小企业和开发者能够参与进来。这样,AI的创新可能会更加多元化,涌现出更多意想不到的应用。

我觉得大家是不是忽略了一个点,那就是评测指标的选择问题。不同的评测集对模型有不同的偏好,Nanbeige4.1-3B可能只是在特定评测集上表现更好而已。要真正评价一个模型的能力,还是需要在更多更广泛的场景下进行测试,避免过拟合评测集。

我觉得小模型在搜索领域的最大潜力在于“轻量化”和“定制化”。可以针对不同场景定制不同的搜索模型,而且部署成本低,响应速度快。想象一下,每个企业都可以拥有自己的专属AI搜索引擎,多酷!

当然,挑战也不小。大厂在搜索领域积累了大量技术和数据,小模型要追赶,需要找到自己的独特优势才行。