若 Dify 為:
- Docker 部署,建議填寫局域網(wǎng) IP 地址,如:
http://192.168.1.100:11434或 Docker 容器的內(nèi)部 IP 地址,例如:http://host.docker.internal:11434 - 若為本地源碼部署,可填
http://localhost:11434 - 模型類型:
對(duì)話 - 模型上下文長(zhǎng)度:
4096模型的最大上下文長(zhǎng)度,若不清楚可填寫默認(rèn)值 4096。 - 最大 token 上限:
4096模型返回內(nèi)容的最大 token 數(shù)量,若模型無(wú)特別說(shuō)明,則可與模型上下文長(zhǎng)度保持一致。 - 是否支持 Vision:
是當(dāng)模型支持圖片理解(多模態(tài))勾選此項(xiàng),如llava。
點(diǎn)擊 “保存” 校驗(yàn)無(wú)誤后即可在應(yīng)用中使用該模型。
站LOGO-北京(新).jpg)
全關(guān)注
站關(guān)注導(dǎo)流2024.jpg)