大模型基本调用

.env

@@ -0,0 +1,8 @@
+DASHSCOPE_API_KEY=sk-7fa1f8cdfa2145db95c5be06e386bb94
+DASHSCOPE_BASE_URL=https://dashscope.aliyuncs.com/compatible-mode/v1
+
+
+OPENAI_API_KEY=sk-o0H5KfO57uO69NqCp0CFydBYkUjnQp8tge4fc4LcUyyKrtpL
+OPENAI_BASE_URL=https://api.openai-proxy.org/v1
+
+

.gitignore

@@ -0,0 +1,8 @@
+# created by virtualenv automatically
+.venv/
+
+.idea/
+
+
+__pycache__
+

01-大模型基本调用/01-调用阿里百炼.py

@@ -0,0 +1,20 @@
+from langchain_openai import ChatOpenAI
+
+from env_util import DASHSCOPE_API_KEY, DASHSCOPE_BASE_URL
+
+# llm对象就是调用大模型的对象
+llm = ChatOpenAI(
+    model = "qwen-plus",
+    base_url=DASHSCOPE_BASE_URL,
+    api_key=DASHSCOPE_API_KEY,
+    temperature=0.8,
+);
+# message是咱准备的问题信息
+message = [
+    ('system','你是一个智能助手'),
+    ('human','请介绍一下什么是深度学习？')
+]
+# 调用大模型
+resp = llm.invoke(message);
+# 输出结果
+print(resp)

01-大模型基本调用/02-基于代理调用国外大模型.py

@@ -0,0 +1,20 @@
+from langchain_openai import ChatOpenAI
+
+from env_util import OPENAI_API_KEY, OPENAI_BASE_URL
+
+# llm对象就是调用大模型的对象
+llm = ChatOpenAI(
+    model = "gpt-4.1-mini",
+    base_url=OPENAI_BASE_URL,
+    api_key=OPENAI_API_KEY,
+    temperature=0.8,
+);
+# message是咱准备的问题信息
+message = [
+    ('system','你是一个智能助手'),
+    ('human','请介绍一下什么是深度学习？')
+]
+# 调用大模型
+resp = llm.invoke(message);
+# 输出结果
+print(resp)

01-大模型基本调用/03-原生API私有化部署的大模型.py

@@ -0,0 +1,21 @@
+from openai import OpenAI
+
+# 路径指定对，同时api_key暂时随便给，参数不纠结，主要是跑通
+client = OpenAI(base_url="http://localhost:6006/v1",api_key="xxxx")
+
+# 这里采用的是原生的OpenAI的方式
+resp = client.chat.completions.create(
+    model = 'qwen3-8b',
+    # 传给大模型的提示词， 角色是普通用户，然后问一个问题
+    messages=[{'role': 'user','content': '请介绍一下什么是深度学习'}],
+    # 模型的温度？
+    temperature=0.8,
+    # 默认最大就是8k，模型部署的时候指定的
+    # max_tokens=
+    # 生成文本的参数…………
+    presence_penalty=1.5,
+    # qwen3 特有参数  , 表示是否开启深度思考
+    extra_body={'chat_template_kwargs': {'enable_thinking': True}}
+)
+
+print(resp);

01-大模型基本调用/04-langchain测试私有化部署的大模型.py

@@ -0,0 +1,19 @@
+from langchain_openai import ChatOpenAI
+
+
+# llm对象就是调用大模型的对象
+llm = ChatOpenAI(
+    model = "qwen3-8b",
+    base_url="http://localhost:6006/v1",
+    api_key="xxxx",
+    temperature=0.8,
+);
+# message是咱准备的问题信息
+message = [
+    ('system','你是一个智能助手'),
+    ('human','来个相声报幕词')
+]
+# 调用大模型
+resp = llm.invoke(message);
+# 输出结果
+print(resp)

env_util.py

@@ -0,0 +1,11 @@
+import  os
+
+import dotenv
+
+dotenv.load_dotenv(override=True);
+
+DASHSCOPE_API_KEY = os.getenv("DASHSCOPE_API_KEY");
+DASHSCOPE_BASE_URL = os.getenv("DASHSCOPE_BASE_URL");
+
+OPENAI_API_KEY = os.getenv("OPENAI_API_KEY");
+OPENAI_BASE_URL = os.getenv("OPENAI_BASE_URL");