基于ollama和streamlit的聊天机器人

基于ollama和streamlit的聊天机器人

利用deepseek蒸馏模型 model='deepseek-r1:1.5b'这个可以在client.chat里头自己定义会自动下载

import streamlit as st
import ollama
client=ollama.Client(host='http://localhost:11434')
st.title("my chat robot")
if "message" not in st.session_state:st.session_state["message"] = []
prompt=st.chat_input("请输入你要问的问题")
if prompt:st.session_state["message"].append({"role":"user","content":prompt})#输出历史记录for msg in st.session_state["message"]:st.chat_message(msg["role"]).markdown(msg["content"])with st.spinner("思考中"):# 回答问题response = client.chat(model='deepseek-r1:1.5b',messages=[{"role": "user", "content": prompt}])st.session_state["message"].append({"role":"assistant","content":response["message"]["content"]})st.chat_message("assistant").markdown(response["message"]["content"])

 结果：