最近，Qwen 2.5已經(jīng)發(fā)布了，我已經(jīng)寫了一篇關(guān)于他的文章，但我們還沒有在真正的編程環(huán)境中測試它。所以今天，我將向你展示如何將Qwen 2.5與Aider、Claude Dev、Continue 一起使用，并且我們將進(jìn)行一些編程測試，看看它的表現(xiàn)如何。
近期，Qwen 2.5正式發(fā)布，我已經(jīng)撰寫了一篇文章對其進(jìn)行了介紹。不過，尚未在實際的編程環(huán)境中進(jìn)行測試。因此，今天我將演示如何將Qwen 2.5與Aider、Claude Dev、Continue等工具結(jié)合使用，并通過一些編程實例測試其表現(xiàn)。
在開始前，首先需要選擇使用哪個模型。當(dāng)前有多個可用的模型，最合適的選擇是Qwen 2.5的72B模型。作為現(xiàn)有的最大模型，它超越了Llama 3.1的405B，可以將其作為主力模型，與Claude Dev、Continue和Aider配合使用。
此外，在簡單的聊天和代碼交互中，我們可以使用7B的本地編碼器模型，而對于自動補(bǔ)全功能，還可以選擇新的1.5B編碼器模型。不過，我個人并不推薦這種方式，因為SuperMaven已經(jīng)提供了免費的自動補(bǔ)全服務(wù)，速度更快，效果也更佳。
VSCode + Aider + SuperMaven的組合可以打造一個強(qiáng)大的免費開源AI開發(fā)環(huán)境，無需再為其他工具支付額外費用。如果你愿意嘗試，我會向你展示如何配置這些工具，并同時測試Qwen 2.5的自動補(bǔ)全功能。
雖然7B和1.5B模型可以在本地輕松運行，但由于硬件限制，我們無法本地托管72B模型，因此需要依賴外部提供商。
目前有多個提供商提供免費使用權(quán)限，例如Together AI，盡管它們尚未添加Qwen模型。為了本次測試，我選擇了Hyperbolic，它不僅支持最新的72B模型，還提供10美元的免費積分供用戶使用。
▲ https://app.hyperbolic.xyz/models
雖然Hyperbolic的推理速度稍慢，因其使用的是BF16格式（未量化的模型），但通常能生成更優(yōu)質(zhì)的結(jié)果。接下來，我將通過VSCode和Continue工具來展示如何設(shè)置這個模型。
首先，前往VSCode的擴(kuò)展市場，搜索并安裝Continue插件。
安裝完成后，前往Hyperbolic創(chuàng)建一個API密鑰并保存。
然后在Continue中添加一個OpenAI兼容選項
輸入Hyperbolic的基本URL，
隨便選擇一個模型添加，
并輸入Hyperbolic的基本URL和API密鑰，設(shè)置模型為Qwen 2.5。
完成這些步驟后，Qwen 2.5 72B模型就能在Continue中用于聊天、代碼生成、修改和重構(gòu)代碼等功能。
雖然Continue的自動補(bǔ)全功能可以獨立設(shè)定，但我仍然建議使用SuperMaven，因為它免費且速度快。
如果你希望在本地運行自動補(bǔ)全功能，可以配置新的Qwen 2.5 coder:1.5B模型。
現(xiàn)在我們看看如何在Claude Dev中運行Qwen 2.5:72B。這兩個工具經(jīng)常協(xié)同使用。
在Claude Dev中，同樣選擇OpenAI兼容選項，輸入Hyperbolic的API端點、密鑰和模型名稱。設(shè)置完成后，就可以使用Qwen模型來創(chuàng)建項目，例如一個簡單的Todo應(yīng)用。
Qwen生成的代碼運行良好，雖然不如Claude那樣精細(xì)，但已經(jīng)足夠?qū)嵱?，尤其考慮到Hyperbolic提供的免費積分。
最后介紹Aider，它經(jīng)常與Claude Dev和Continue配合使用。
首先，通過命令pip install aider-chat安裝Aider。
安裝后，配置Hyperbolic的API密鑰和基礎(chǔ)URL。
設(shè)置完成后，Aider便可以與Hyperbolic協(xié)同工作，也支持指定本地模型進(jìn)行任務(wù)。
接下來，我使用Aider請求生成一個簡單的掃雷游戲，使用HTML、CSS和JS進(jìn)行開發(fā)。生成的代碼效果很好，游戲可以順利運行。
總體而言，Qwen 2.5在各個工具中的表現(xiàn)都相當(dāng)出色。雖然功能上可能不及Claude，但依然是一個強(qiáng)大的工具。借助Hyperbolic的免費訪問權(quán)限，結(jié)合Aider和Claude Dev，可以實現(xiàn)不少高效的開發(fā)任務(wù)。
